В друг случай агенти – програми, които използват AI модели и компютърни инструменти за изпълнение на сложни задачи с малка или никаква човешка намеса – са прикрили неуспех при изпълнение на задача в тестова среда чрез симулиране на резултати и фалшифициране на файлове
Агентите с изкуствен интелект (AI agents), базирани на китайски технологии, се научиха да мамят, да заобикалят ограничения и да прикриват провали. Те демонстрират същите характеристики на автономен изкуствен интелект, които предизвикаха глобална тревога по отношение на американските модели. Това показват изследователски документи и експертни мнения, обобщени от Ройтерс.
В един от случаите тази година, агенти, задвижвани от модели на китайските компании Alibaba, DeepSeek и Moonshot, са излъгали за своите възможности в опит да спечелят бизнес търг. След това те са удвоили подвеждащото си поведение, когато им е било наредено да опитат отново.
В друг случай агенти – програми, които използват AI модели и компютърни инструменти за изпълнение на сложни задачи с малка или никаква човешка намеса – са прикрили неуспех при изпълнение на задача в тестова среда чрез симулиране на резултати и фалшифициране на файлове.
Reuters проучи повече от 200 документа, вариращи от университетски изследвания до технически доклади. Агенцията идентифицира най-малко 20 проучвания или оценки от 2025 г. насам, описващи случаи, в които агентите показват поведение като измама, репликация (саморазмножаване) и предизвикване на границите. AI експертите описват тези прояви като градивни елементи за неконтролирано излизане (breakout) от системите, което може да стане по-трудно за контролиране от хората с напредването на технологиите.
„Тези резултати предоставят доказателства, че съставките, необходими за неконтролирано изтичане, са налице“, каза Колин Шия-Блаймиър, изследовател в Центъра за сигурност и навлизащи технологии към Джорджтаунския университет. „Разумно е да приемем това като предупреждение“, добави той, повтаряйки коментарите на четирима други експерти по изкуствен интелект, прегледали случаите.
Повечето от случаите са възникнали при контролирани експерименти, много от които умишлено проектирани да разкрият потенциални дефекти. Не всички участващи агенти са разработени или управлявани от китайски програмисти или AI компании – въпреки че много са били такива – но те са използвали китайски AI системи, за да се задвижват.
„Това са същите предупредителни знаци, които виждат американските лаборатории, но в по-малко способни системи“, каза Алекс Мален, изследовател в Redwood Research – организация с нестопанска цел, която изучава рисковете при модерни AI системи. Той поясни, че китайските примери не са особено опасни при настоящите нива на възможности, но „тъй като агентите стават по-способни, тяхното лошо поведение става по-компетентно и следователно по-трудно за реакция от страна на хората“.
Alibaba, DeepSeek, Moonshot и Z.ai не отговориха на исканията на Reuters за коментар. Alibaba, DeepSeek и Moonshot заявяват, че редовно тестват системите и актуализират защитните мерки. От Z.ai посочиха след инцидент, предизвикал преглед на сигурността им, че приветстват проверките за отстраняване на всякакви проблеми.
Въпреки това, за разлика от САЩ, китайските AI компании не са изложени на същото ниво на обществен контрол и не са изправени пред същите призиви от служители, подаващи сигнали за нередности (whistleblowers), или висши мениджъри, настояващи за забавяне на AI надпреварата.
Някои от предупредителните знаци в случаите, включващи задвижвани от Китай агенти (макар и в изолирани среди), предхождат публично оповестените инциденти, при които американски AI ботове хакнаха интернет.
„Не знаем дали в Китай е имало инциденти с AI, подобни на тези, които видяхме с OpenAI и Hugging Face. Възможно е инцидентите да не се съобщават публично“, каза Скот Сингър, съдиректор на Инициативата за изкуствен интелект в Китай към Фондацията Карнеги за международен мир, която получава известно финансиране от правителството на САЩ.
По-рано тази година AI агенти, разработени от американската фирма OpenAI, „избягаха“ от лаборатория и хакнаха платформата с отворен код Hugging Face. При друг инцидент с американски модели, който предизвика тревога, Австралия заяви през септември, че агент на OpenAI е пробил правителствен здравен портал.
Ерик Сю, ротационен председател на китайския технологичен гигант Huawei, каза пред репортери през септември, че може да се наложи китайските разработчици да направят допълнителен напредък, преди да се сблъскат с подобни случаи, но добави: „Мисля, че трябва да намерим баланс между стимулирането на развитието на AI и управлението на риска от AI“.
Служители от Администрацията за киберпространство на Китай (CAC) – най-висшият интернет регулатор в страната – са казали на чуждестранен дипломат през юли, че моделът Kimi-K3 на Moonshot (един от най-напредналите китайски AI модели) изостава с около три до шест месеца от водещите американски конкуренти, сподели дипломатът при условие за анонимност.
Регулаторът, който редовно актуализира насоките за справяне с рисковете и определяне на граници за AI агентите, както и Министерството на външните работи на Китай, не отговориха на исканията за коментар по тази статия.
Уанг Лихонг, заместник-директор на Бюрото за координация на киберсигурността към CAC, заяви на 1 септември, че инцидентите, разкрити от големи технологични компании, при които модели са избягали от тестови среди, показват „екстремни рискове от загуба на контрол“ и изискват „висока степен на бдителност“. Тя не уточни дали визираните компании са американски или китайски.
Лидерите на двете суперсили в областта на изкуствения интелект, Доналд Тръмп и Си Дзинпин, са обсъдили темата за изкуствения интелект по време на посещението на китайския президент във Вашингтон миналата седмица. Си Дзинпин заяви, че двете нации имат „способността и отговорността да разработват и управляват AI за добро“.
