Учените спорят за най-опасните сценарии
Опасенията, че изкуственият интелект може да бъде използван за създаване на биологични оръжия, мащабни кибератаки или дори да започне да действа извън човешкия контрол, засилват дебата за безопасността на технологията, пише Асошиейтед прес.
Споровете се изостриха, след като ръководители на технологични компании подкрепиха идеята за забавяне на разработването на най-напредналите системи заради потенциалните рискове. Сред експертите обаче няма единно мнение доколко реалистични са най-мрачните сценарии.
Хуан Андрес Геро-Сааде, изследовател в компанията за киберсигурност SentinelOne и член на съвета за рискове от най-напредналите системи на OpenAI, смята, че част от апокалиптичните предупреждения са по-близки до научната фантастика. Други специалисти настояват, че дори трудно предвидимите рискове трябва да бъдат изследвани предварително.
Една от обсъжданите опасности е включването на AI в процесите за вземане на решения, свързани с ядрени оръжия. Според доклад на RAND съществуващите механизми за сигурност в системите за командване и контрол засега ограничават подобен риск. Ситуацията обаче би могла да се промени, ако изкуственият интелект получи по-голяма роля във веригата за вземане на решения или неразрешен достъп до критични системи.
Биологичните оръжия – друга потенциална заплаха
Особено внимание се отделя и на биологичната сигурност. Способността на AI да подпомага разработването на нови лекарства и терапии би могла да има и опасни приложения.
Anthropic съобщи по-рано този месец, че е блокирала опити нейните системи да бъдат използвани за кибератаки, наблюдение и изследвания с потенциално приложение при разработването на биологични оръжия. В един от случаите Claude е отказал съдействие за предложение за изследване, което би могло да направи патоген по-опасен.
RAND също предупреждава, че развитието на технологията може значително да разшири възможностите за създаване на синтетични патогени. Разглежданите сценарии обаче предполагат участието на хора, които организират и извършват евентуална атака, а не автономно действие на AI.
Какво би станало, ако AI преследва грешно зададена цел?
Друга група опасения е свързана с т.нар. проблем на съгласуването – възможността целите и действията на усъвършенствана система да се разминат с човешките намерения.
Известен пример е мисловният експеримент на философа Ник Бостром за „максимизатора на кламери“. В него изключително мощна система получава проста задача – да произведе възможно най-много кламери. Ако не са зададени достатъчно ограничения, тя би могла да използва всички налични ресурси за постигането на тази цел, независимо от последствията за хората. Сценарият е илюстрация на проблема, а не прогноза за бъдещето на AI.
Кибератаките са сред по-непосредствените рискове
По-близка във времето заплаха според част от специалистите са мащабните кибератаки. Главният изпълнителен директор на Anthropic Дарио Амодей предупреди, че координирани AI агенти биха могли да бъдат използвани за сериозни нарушения на интернет инфраструктурата чрез мрежи от заразени устройства.
Подобни атаки потенциално биха могли да засегнат електропреносни мрежи, водоснабдяване, транспорт и финансови институции и да причинят щети за милиарди. Други експерти оспорват най-крайните сценарии, посочвайки разпределената и разнородна структура на интернет.
Предишни глобални сривове, предизвикани от софтуерни проблеми, вече показаха колко зависими са множество услуги от сравнително малък брой ключови доставчици. Основният нерешен въпрос остава доколко развитието на все по-мощни AI системи ще увеличи тези рискове и какви защитни механизми ще бъдат необходими.
