Пачоки посочва, че развитието на изкуствения интелект може да доведе до системи с възможности, които значително надхвърлят сегашните
Главният учен на OpenAI Якуб Пачоки призова за „изключителна предпазливост“ заради бързото развитие на изкуствения интелект и предупреди, че може да са необходими допълнителни мерки, за да се гарантира, че хората ще запазят контрола върху бъдещето.
„Притеснявам се, че никой не е подготвен за последствията от продължаващото бързо развитие на машинния интелект“, написа Пачоки в публикация в блога на OpenAI, озаглавена „Извънземен ум“, предаде Би Би Си.
Публикацията му идва само няколко дни след представянето на най-новия модел на OpenAI GPT-6 Astra, определен от компанията като най-мощния ѝ продукт досега.
Пачоки посочва, че развитието на изкуствения интелект може да доведе до системи с възможности, които значително надхвърлят сегашните. Според него обществото трябва да се подготви за този преход и да гарантира, че развитието на технологията ще бъде в полза на човечеството.
„Изправени сме пред преход към свят с невероятно интелигентни машини и трябва да гарантираме, че този преход ще се развие добре за човечеството“, пише той.
OpenAI ще продължи да разработва защитни системи и да търси технически решения за т.нар. подравняване на изкуствения интелект. Това е процесът, чрез който действията и целите на AI системите се съобразяват с човешките намерения и изискванията за безопасност.
Компанията работи и върху създаването на автоматизиран AI изследовател, който да подпомага развитието на технологията и изследванията в областта на безопасността. Пачоки обаче подчертава, че човешките изследователи трябва да останат част от този процес.
Предупрежденията му идват на фона на все по-широкото използване на автономни AI агенти, способни да изпълняват сложни задачи с ограничена човешка намеса. Развитието им поражда опасения за киберсигурността, надеждността на системите и възможността за злоупотреби.
Според професор Джина Неф, ръководител на Центъра за технологии и демокрация „Миндеру“ към университета в Кеймбридж, подобен подход не е достатъчен.
„Вместо по-добри предпазни мерки, регулации или гаранции за безопасността на хората, свързани с изкуствения интелект, те предлагат разработването на вътрешни AI агенти, които да изследват тези проблеми“, коментира тя.
По думите ѝ подобна реакция на нарастващите опасения около киберсигурността, загубата на работни места, грешките и измамите, свързани с AI моделите, не е достатъчна.
Нейтън Калвин, главен юрисконсулт на организацията Encode AI, също заяви, че споделя опасенията на Пачоки относно рисковете от разработването на все по-усъвършенствани модели на изкуствен интелект.
