Омбудсманът предупреди, че използването на изкуствен интелект от институции и работодатели може да доведе до дискриминация и нарушаване на права, ако липсва човешки контрол
Изкуственият интелект все по-често навлиза в работата на институциите и бизнеса, но решенията, които засягат живота и правата на гражданите, трябва да останат в човешки ръце. Това заяви омбудсманът Велислава Делчева пред НОВА.
По думите ѝ използването на AI от гражданите при изготвянето на жалби и сигнали само по себе си не е проблем. Рискът възниква, когато алгоритми започнат да участват пряко във вземането на решения.
"Проблемът не е в това, че гражданите използват AI, за да изпращат жалби към институциите. По-големият проблем ще възникне тогава, когато институциите или частният бизнес започнат да използват AI, за да вземат решения, свързани с живота на гражданите", посочи Делчева.
Тя даде пример с подбора на служители, където изкуственият интелект вече може да бъде използван при създаването на обяви, подготовката на тестове, провеждането на интервюта и оценяването на кандидатите.
Според омбудсмана проблем може да възникне, ако в системата предварително бъдат заложени критерии, които поставят определени групи в по-неблагоприятно положение.
"Когато става въпрос за вземане на решения, човекът, който е създал системата с AI, е задал определени критерии, които биха могли да бъдат дискриминационни. Следователно, когато взема решение, изкуственият интелект също може да наложи дискриминация", предупреди тя.
Делчева подчерта, че технологиите могат да бъдат изключително полезни при обработването и обобщаването на големи количества информация, но не трябва да заменят човешката преценка при решения с пряко отражение върху правата и свободите на гражданите.
По думите ѝ е необходима ясна правна рамка и ефективен контрол върху начина, по който системите с изкуствен интелект се използват от институциите и бизнеса.
"Най-важното, което трябва да направим като общество, е да използваме възможностите на AI. Но винаги, когато се вземат решения, те трябва да бъдат вземани от човек. Човекът трябва да остане в центъра на този процес", заяви омбудсманът.
Според Делчева развитието на изкуствения интелект ще поставя все повече предизвикателства пред институциите, които защитават гражданските права, като основната задача е технологиите да улесняват хората, без това да води до дискриминация или ограничаване на техните права.
