Обвинения в кражба на технологии, заплахи със санкции и опасения за сигурността поставят под въпрос бъдещето на диалога между Вашингтон и Пекин за развитието на изкуствения интелект
Заплахите на САЩ да санкционират китайски разработчици на изкуствен интелект заради предполагаема кражба на интелектуална собственост и нарушения на контрола върху износа рискуват да провалят усилията за установяване на двустранен диалог относно безопасността на изкуствения интелект, казват анализатори, точно когато все по-мощните модели пораждат опасения относно сериозни нарушения на сигурността, предаде Ройтерс.
В сряда американските власти обвиниха китайската лаборатория за изкуствен интелект Moonshot, че е дестилирала своя модел Kimi K3 от усъвършенствания модел Fable 5 на Anthropic, което накара министъра на финансите Скот Бесент да предупреди за потенциални санкции.
Дестилацията е процес на обучение на модели с изкуствен интелект чрез използване на изходни данни от по-напреднали модели, за да се намалят разходите за обучение на мощен нов инструмент с изкуствен интелект.
Бюрото за промишленост и сигурност към Министерството на търговията също разследва дали китайски фирми като Moonshot имат незаконен достъп до усъвършенствани американски чипове, за да обучават своите модели. Говорител на Moonshot не отговори на искането на Ройтерс за коментар.
Спорът разкрива нарастващо напрежение в основата на надпреварата за изкуствен интелект между САЩ и Китай. И двете страни все повече разглеждат граничния изкуствен интелект като стратегически актив и риск за сигурността, но експертите твърдят, че сътрудничеството по отношение на стандартите за безопасност става все по-належащо, тъй като мощни модели биха могли да бъдат злоупотребени за кибератаки или други вредни приложения.
Анализатори казват, че обвиненията, съчетани с информации, че Вашингтон обмисля ограничения върху китайските модели с отворено тегло, биха могли да провокират ответни мерки и да застрашат планирания диалог между САЩ и Китай за изкуствения интелект през септември.
Напрежението идва на фона на години на американски контрол върху износа, целящ да ограничи достъпа на Китай до авангардни чипове - мерки, които все повече доминират в търговските преговори между двете страни.
"В зависимост от броя на китайските компании, към които са насочени, (и) от естеството на предприетите наказателни действия... ответните мерки имат потенциала да провалят както диалога за изкуствения интелект, така и срещата на 24 септември между президентите Тръмп и Си", каза Пол Триоло, партньор в DGA-Albright Stonebridge Group.
Междувременно Пекин обмисля дали да ограничи достъпа на чуждестранните потребители до своите модели като ответна мярка, съобщи по-рано Ройтерс.
Базираната в Ню Йорк компания Hugging Face миналата седмица използва китайския модел GLM-5.2 на Z.ai, за да ограничи кибератака от нелоялен OpenAI агент, който е избягал по време на тестове за безопасност, тъй като предпазните механизми на американските затворени модели, по ирония на съдбата, се оказаха твърде строги.
Тъй като китайските и американските гранични модели постигат рекурсивно самоусъвършенстване (RSI), при което системите могат автономно да подобряват собствените си възможности, изследователите казват, че и двете страни имат стимул да си сътрудничат по отношение на стандартите за безопасност, преди да възникне по-сериозен инцидент.
Експертите от индустрията също така подчертават рисковете, породени от моделите с отворено тегло, които могат да бъдат изтегляни, модифицирани и разпространявани с малък надзор, което ограничава ефективността на софтуерно базирания контрол върху износа.
"Кръстникът на изкуствения интелект" Йошуа Бенджио предупреди на водещия китайски форум за изкуствен интелект миналата седмица, че решенията за внедряване и споделяне на модели с отворено тегло са необратими и техните предпазни мерки са по-лесни за премахване.
"Логичното е да се намери добра оценка на тези модели, да се споделят моделите, които не са твърде опасни, и да не се споделят тези над прага на риск", каза той чрез видеовръзка.
Китайските модели с изкуствен интелект трябва да преминат през правителствени прегледи за безопасност и съдържание преди пускането им на пазара, въпреки че настоящите правила не обхващат модификации след това.
За разлика от американските гиганти OpenAI и Anthropic, много китайски лаборатории за изкуствен интелект не разполагат с изчислителни ресурси за обширно обучение по безопасност и вместо това се фокусират върху подобряване на възможностите на моделите, казват наблюдатели от индустрията.
"Вероятно е Китай да преразгледа разрешаването на пускания на пазара с отворено тегло за гранични модели в бъдеще, но летвата за това е висока", каза Кристи Локе, научен сътрудник на MATS, изучаващ управлението на изкуствения интелект в Китай.
Някои изследователи на безопасността на изкуствения интелект твърдят, че граничните модели както в САЩ, така и в Китай трябва да преминат през по-строги предварителни тестове и независими оценки от трети страни.
В САЩ фирмите могат доброволно да представят модели за тестване пред финансирания от държавата Център за стандарти и иновации в областта на изкуствения интелект (CAISI), въпреки че някои законодатели призоваха за задължителни федерални прегледи.
"В идеалния свят двете страни ще се обединят, за да работят върху по-безопасни модели... ще се споразумеят да изградят общи стандарти около предварителните тестове и да определят червени линии за най-модерните отворени модели", каза Локе.
Някои служители на американското правителство и представители на индустрията за изкуствен интелект остават разделени по въпроса как да реагират на китайските модели, които представляват около 60% от използването на токени от американски компании на платформата OpenRouter.
OpenAI и Anthropic лобираха във Вашингтон срещу по-евтините китайски модели, твърдейки, че те биха могли да подкопаят техните бизнес модели.
Водещият стратег на OpenAI Дийн Бол написа в X, че администрацията на Тръмп може да "създаде голям регулаторен риск около използването на китайски модели с отворено тегло", за да ограничи приемането им от американските фирми.
Съветникът по изкуствен интелект в Белия дом Дейвид Сакс възрази, че водещи американски лаборатории "искат правителството да елиминира конкуренцията им с отворен код" и пледира за лоялна конкуренция, добавяйки в друга публикация, че "паниката около Кими трябва да спре".
"Докато не се саботираме с ненужни правила, САЩ ще продължат да печелят", каза той.
