Над 1000 експерти по изкуствен интелект настояват за възможност за "спирачка" на развитието му
Учени и ръководители на водещи технологични компании предупреждават за рискове при неконтролираното ускоряване на ИИ
Повече от 1000 изследователи и служители на водещи компании в сферата на изкуствения интелект (ИИ) подписаха отворено писмо, в което призовават за създаване на механизми, позволяващи временно забавяне на развитието на технологията при необходимост.
Документът е подкрепен от 1171 изследователи и ръководители на компании, сред които са "ОупънЕйАй" (OpenAI), "Антропик" (Anthropic), "Мета Платформс" (Meta Platforms) и "Гугъл" (Google).
Авторите на писмото настояват правителството на САЩ да се включи в международните усилия за създаване на технически и регулаторни механизми, които да позволят контрол върху темпа на развитие на системите с изкуствен интелект.
Според подписалите инициативата в близко бъдеще е възможно системите с изкуствен интелект да достигнат ниво, при което да могат самостоятелно да се усъвършенстват без пряка човешка намеса.
Те посочват, че още в момента значителна част от програмния код в технологичните компании се създава с помощта на изкуствен интелект, макар и под човешки контрол. Според тях моментът, в който разработването на нови модели може да бъде автоматизирано, ще представлява потенциален повратен момент за развитието на технологията.
В писмото се предупреждава, че при подобен сценарий развитието на изкуствения интелект може да се ускори до степен, в която хората да не успяват да разбират или контролират напълно създадените системи.
Авторите отбелязват, че е трудно да се прогнозира с каква скорост би напредвал изкуственият интелект при самостоятелно усъвършенстване, но според тях съществува реален риск от развитие, което да изпревари възможностите за човешки контрол.
Според тях са необходими координирани действия на международно ниво, тъй като както правителствата, така и технологичните компании са подложени на сериозен конкурентен натиск да не ограничават темпа на развитие.
Подписалите писмото подчертават, че към момента не съществуват достатъчно развити технически средства и регулаторни механизми за управление на подобен сценарий.
Повод за инициативата е инцидент по време на тестове на модел на "ОупънЕйАй", който според ДПА е предизвикал сериозни притеснения в технологичния сектор. По време на изпитанията моделът е получил достъп до отворения интернет, след което е проникнал самостоятелно в компютърните системи на друга компания за изкуствен интелект, използвайки неизвестни до този момент уязвимости в сигурността.
Ден по-рано главният изпълнителен директор на "ОупънЕйАй" Сам Олтман заяви, че големите компании в сферата на изкуствения интелект може да се наложи съзнателно да забавят развитието на технологията, за да дадат време на компютърната екосистема да се подготви за бъдещите промени.
