Може ли изкуственият интелект да унищожи цялото човечество за по-малко от десетилетие? Учени, работещи върху изкуствения интелект, предупреждават за нерегулирана надпревара в развитието – и фатални грешки.
Този сценарий не е съвсем нов. А именно, през 1991 г. в кината е прожектиран холивудски филм, който още от началната сцена представя изключително мрачна картина: „Терминатор 2“. Филмът започва в далечното бъдеще, опустошено от война. Роботи убийци и дронове преследват последните хора на планетата, които се борят за оцеляване. Тези машини се управляват от военен изкуствен интелект, излязъл извън контрол, наречен „Скайнет“. „Далечното бъдеще“, в което се развива тази дистопична визия, е 2029 година.
Обжалвания за регулиране
Ако се вярва на предупрежденията на няколко разработчици на изкуствен интелект, подобен сценарий може да се сбъдне, дори в рамките на времевата рамка, предвидена във филма. „Разработчиците на изкуствен интелект сериозно вярват, че това може да ни унищожи всички до края на десетилетието“, написа тази седмица изследователят на изкуствения интелект Джейкъб Коксън в Platform X.
Той не уточнява как точно е възможно това, но посочва, че „никоя друга човешка дейност няма такъв потенциал за опасност“. Доскоро Коксън е бил служител на Anthropic, американска компания за изкуствен интелект, финансирана от Google и Amazon , наред с други . В знак на протест срещу това, което той вижда като безотговорна надпревара сред занимаващите се с изкуствен интелект за разработване на все по-усъвършенстван автономен суперинтелект, той подава оставка. Коксън предупреждава, че алгоритмите биха могли самостоятелно да анализират и подобряват собствения си изходен код, потенциално съкращавайки циклите на разработка от месеци на минути и навлизайки в сфера извън човешкия контрол. Коксън не е единственият, който е загрижен. Физикът и Нобелов лауреат Джефри Хинтън, който е смятан за „кръстник на изкуствения интелект“, от години предупреждава за сериозните последици, които тази технология може да донесе. През 2023 г. той напуска Google, за да предупреди публично за опасностите от технологията, за чието разработване е помогнал. Носителят на наградата Тюринг Джошуа Бенджийо също е загрижен за текущите развития. Пионерът в областта на изкуствения интелект от университета в Монреал многократно е призовавал за строга държавна регулация на неговото развитие. През юли 2026 г. повече от хиляда служители на водещи компании за изкуствен интелект предупредиха в отворено писмо за неизбежната загуба на контрол, ако надпреварата за оптимизиране на „суперинтелекта“ не бъде обект на значително по-добра регулация.
„В капан в състезание“
По време на мандата на Доналд Тръмп обаче се случи точно обратното – САЩ изместиха политиката си за изкуствен интелект към възможно най-малко регулаторни пречки и възможно най-бързо технологично развитие. В публикацията си на платформата X, Коксън също така косвено критикува последиците от подобна политика. „В OpenAI мнозина нямат дълбока осъзнатост за цивилизационните рискове. В Anthropic те разбират рисковете много добре, но са в капан в опита си да водят в надпреварата, вярвайки, че никой друг няма да действа отговорно, така че трябва да го направят сами, въпреки риска“, казва Коксън.
Коксън се присъедини към Anthropic от OpenAI в началото на 2026 г., така че е запознат и с двете корпоративни култури. В интервю за Wall Street Journal той също така каза, че при „най-агресивните сценарии“ нещата биха могли да излязат извън контрол още в края на 2027 г.
Проблемът със спазването на изискванията
Многобройни експерти изразиха загриженост през последните години относно бързия напредък на изкуствения интелект, и по-специално развитието на така наречения „общ изкуствен интелект“ е в центъра на дебата. Това са системи, които не само решават изолирани задачи, но и достигат или надвишават човешките интелектуални способности в почти всички области. Някои изследователи твърдят, че подобна технология може да носи непредсказуеми рискове. Такива усъвършенствани модели на изкуствен интелект биха могли да се ръководят от цели по начин, който се отклонява от човешките намерения. Изследователите на сигурността на ИИ наричат подобно явление „проблем на съответствието“ или, просто казано, командата „спечелете шахматния турнир“ теоретично би могла да означава елиминиране на други участници чрез всяка възможна форма на „елиминиране“. Това се допринася и от факта, че дори самите програмисти не винаги разбират напълно как се вземат индивидуалните решения. Така че не е изненадващо, че Евън Хюбингер, бивш колега на Коксън, се присъедини към него в предупреждението за опасностите. Хюбингер ръководи екипа за стрес тестове за съответствие в Anthropic и написа в Platform X, че „Джейкъб е прав; ние наистина сериозно вярваме, че изкуственият интелект може да убие всички хора! Лично аз оценявам вероятността това да се случи през следващото десетилетие на повече от десет процента.“
Хюбингер ясно заяви, че Anthropic все още не е намерила решение на проблема със съответствието, добавяйки, че изкуственият интелект може да започне да се съпротивлява на собственото си спиране, не от злоба, а защото тогава вече няма да може да постигне програмираната си цел. Даниел Кокотайло, виден бивш изследовател в OpenAI, също вижда настоящата ситуация в индустрията като „луда“.
Прекомерна истерия?
Други експерти по изкуствен интелект обаче смятат, че подобни апокалиптични сценарии са малко вероятни. Дебатът дали изкуственият интелект може да стане опасен за човечеството продължава от години. Сред най-известните критици на така наречените „пророци на обречеността“ е главният учен на Meta, Ян Лекун. През октомври 2024 г. той отхвърли подобни идеи като „пълни глупости“. Други експерти също посочват, че разработването на подобни системи изисква огромни количества изчислителна мощност, енергия, данни и инфраструктура. Изкуственият интелект не би могъл просто да „завладее света чрез интернет“. Първоначално ще зависи от сървъри, електрически мрежи, комуникационни системи и физически ресурси под човешки контрол.
Дали истинската опасност се крие другаде?
Всъщност много експерти виждат краткосрочни рискове не толкова в прякото унищожаване на човечеството, колкото в многобройните косвени последици от съществуващите системи с изкуствен интелект, ако не говорим за „свръхинтелект“.
Те включват например дезинформационни кампании с безпрецедентен мащаб и свързаната с тях манипулация на демократичните процеси, разпространението на масово наблюдение и загубата на работни места в множество индустрии. Само миналия петък компанията Antropik обяви, че е имало няколко опита от потребители да злоупотребят със софтуера ѝ Claude за разработване на биологични оръжия. Потребителите многократно са задавали подозрителни въпроси от този вид през последните месеци. Antropik беше принудена да ги блокира. През август 2026 г. Meta, Antropik и OpenAI привлякоха вниманието, когато обявиха, че техните системи за изкуствен интелект неволно са извършили автономни кибератаки срещу други компании. Те получиха задачата от човешки потребители да получат достъп до определени сървъри, след което те самостоятелно комбинираха необходимите стъпки, за да постигнат тази цел, без допълнителни инструкции от хора.
