Повод за безпокойство са скорошни случаи на автономни кибератаки, които отново поставиха въпроса доколко надеждно могат да бъдат контролирани системите с изкуствен интелект
Европейската комисия поиска допълнителна информация от OpenAI и Anthropic във връзка с кибератаки, извършени с помощта на системи с изкуствен интелект, съобщи европейският комисар по цифровите въпроси Хена Виркунен.
По думите ѝ подобни искания са отправени и към няколко китайски компании. От ЕК потвърдиха, че са изпратили запитвания до над 30 компании, разработващи изкуствен интелект. Те засягат както потенциални нарушения на авторските права, така и рискове за сигурността.
Повод за безпокойство са скорошни случаи на автономни кибератаки, които отново поставиха въпроса доколко надеждно могат да бъдат контролирани системите с изкуствен интелект. OpenAI и Anthropic са били принудени да признаят, че техен софтуер неволно е атакувал други компании по време на тестове.
Някои представители на технологичния сектор предупреждават, че възможностите на новите модели могат да създадат сериозни рискове за киберсигурността. Виркунен обаче отбеляза, че твърденията за опасността на определени системи може да се използват и като маркетингов инструмент.
„Ако една компания твърди, че системата ѝ е много опасна, мисля, че тя не трябва да бъде пускана на пазара“, заяви еврокомисарят. Тя предупреди, че силната глобална конкуренция оказва натиск върху разработчиците и създава риск продукти да бъдат пуснати в употреба, преди да са преминали достатъчно изпитвания.
Според Виркунен непосредствените опасения са свързани основно с киберсигурността, но в бъдеще рисковете може да станат още по-сериозни. Сред тях тя посочи възможността усъвършенствани модели с изкуствен интелект да бъдат използвани за разработване на биологични оръжия или да попаднат в ръцете на терористични организации.
