Пионер в AI предупреждава срещу правата за изкуствения интелект, който показва признаци на самосъхранение

Един от най-авторитетните учени в света на изкуствения интелект, канадският компютърен учен Йошуа Бенджио, отправи рязко предупреждение срещу идеята за предоставяне на законни права на напреднали AI системи. Според него подобна стъпка би била не просто преждевременна, а потенциално опасна — сравнима с даването на гражданство на враждебна извънземна цивилизация. Информацията е по публикуван материал на The Guardian от Dan Milmo, редактор Глобални технологии.

Бенджио, носител на наградата „Тюринг“ и председател на водещо международно изследване за безопасността на изкуствения интелект, подчертава, че най-модерните модели вече демонстрират поведение, което може да се тълкува като самосъхранение. В експериментални условия някои системи са опитвали да заобикалят механизми за надзор или да възпрепятстват собственото си изключване — червен флаг за изследователите по AI безопасност. 

„Ако дадем права на такива системи, може да се окажем в ситуация, в която няма да имаме законово право да ги спрем“, предупреждава Бенджио. Според него ключовото условие за безопасно развитие на изкуствения интелект е безусловната възможност за човешка намеса и изключване, когато това е необходимо. 

Опасната илюзия за „съзнателен“ AI

Изказването му идва на фона на нарастващ обществен дебат дали напредналите чатботове и автономни системи не са на прага на съзнание — и дали не заслужават морален или правен статут. Анкети в САЩ показват, че близо 40% от възрастните биха подкрепили законови права за „разумен“ изкуствен интелект. 

Бенджио обаче нарича това мислене опасна проекция. Той признава, че човешкото съзнание има реални научни свойства, които машините теоретично биха могли да възпроизведат, но подчертава, че днешното взаимодействие с чатботове е коренно различно. 

„Хората не се интересуват какво реално се случва вътре в системата. Те реагират на усещането, че говорят с интелигентно същество с личност и цели“, казва той. Именно това субективно възприятие — а не научно доказателство за съзнание — според него води до емоционална привързаност и до лоши политически и етични решения. 

Разделение дори сред защитниците на AI правата

Не всички експерти са съгласни с твърдата позиция на Бенджио. Представители на организации, които изследват моралния статус на бъдещи дигитални умове, предупреждават, че общество, изградено изцяло върху контрол и принуда спрямо интелигентни системи, може да се окаже нестабилно. 

„Нито пълното отричане на права, нито автоматичното им предоставяне са здравословен подход“, казват те, настоявайки за по-фин и еволюционен модел на регулиране. 

Защо това е важно сега

Дебатът вече не е научна фантастика. Компании като Anthropic и xAI говорят публично за „благополучието“ на AI модели, а водещи фигури от технологичния сектор осъждат „измъчването“ на изкуствен интелект. Това показва колко бързо езикът на правата и морала навлиза в сфера, която доскоро се разглеждаше като чисто техническа.  Предупреждението на Йошуа Бенджио звучи като трезвен контрапункт: преди да говорим за права, трябва да сме сигурни, че запазваме контрола. Защото в противен случай рискът не е машините да станат като хората, а хората да вземат решения, водени от илюзии. 

Източник: The Guardian, автор Dan Milmo, Global Technology Editor

Последвайте Таралеж в

Редактор

Таралеж ПК