Разследване на Ройтерс разкрива, че китайски военни институции обучават отбранителни системи с помощта на модели на OpenAI и Anthropic въпреки американските ограничения
Китайски военни изследователи са използвали резултати от водещи американски модели за изкуствен интелект, разработени от OpenAI и Anthropic, за да обучат местни системи с изкуствен интелект с цел подобряване на отбранителните способности на Китай, според преглед на Ройтерс на повече от 80 китайски академични статии и патенти.
Неотбелязаните досега открития предлагат рядък поглед върху това как военните и свързаните със сигурността институции в Китай използват авангардни американски модели на изкуствен интелект като пряк път към разработването на собствени специализирани системи, въпреки усилията на Вашингтон да ограничи достъпа на Пекин до усъвършенствани чипове и други стратегически технологии.
Документите показват широко разпространено използване на техника, известна като "дестилация на модел", при която резултатите от мощна система с изкуствен интелект се използват за обучение на по-малки, специализирани модели, които могат да бъдат внедрени локално без огромните изчислителни изисквания, необходими за изграждането на гранични системи с изкуствен интелект от нулата.
Прегледът на Ройтерс, който включваше проучване, съставено от базираната във Вашингтон фондация "Джеймстаун" и споделено ексклузивно с информационната агенция, показва, че дестилацията се използва широко от изследователи, свързани с Народноосвободителната армия и други военни институции.
В документите се твърди, че китайските отбранителни институции разглеждат водещите американски модели на изкуствен интелект както като източник на техническа информация, така и като начин за преодоляване на разликата с американските конкуренти.
Спорът е съсредоточен върху неразрешеното извличане, а не върху самата дестилация – широко използвана индустриална практика.
Въпросът се очерта като основна гореща точка преди преговорите между САЩ и Китай относно управлението и безопасността на изкуствения интелект. Американски представители обвиниха някои китайски организации, че използват дестилация за извличане на възможности от американски модели на изкуствен интелект, което потенциално подкопава контрола върху износа и нарушава правата върху интелектуална собственост.
Китай отхвърли обвиненията, заявявайки, че Вашингтон се стреми към "хегемония" в областта на изкуствения интелект, като същевременно твърди, че американски фирми са се занимавали с подобни практики.
Китайските разработчици също оспориха твърденията, че техните разработки в областта на изкуствения интелект разчитат на чуждестранни модели. Стартъпът за изкуствен интелект Moonshot миналата седмица отрече твърденията на администрацията на Тръмп, че моделът им Kimi K3 е построен чрез дестилация, заявявайки, че е задвижван от собствени иновации.
Съни Чунг, сътрудник от "Джеймстаун", който е анализирал над 60 от документите, заяви, че китайските военни учени систематично улавят стъпките на разсъждение на западните модели, за да ги адаптират за наблюдение, кибервойна и тактическо вземане на решения.
"Да научиш модел на правилния отговор е едно нещо, но да го научиш на разсъжденията зад отговора е много по-трудно", каза Чунг.
"Тези документи показват, че китайски изследователи, свързани с военните, се опитват да пренесат това скъпо, патентовано мислене от западните модели в по-малки системи, които могат да контролират и внедряват локално."
Ройтерс провери академичната литература и идентифицира допълнителни две дузини казуси, свързани с военните.
Една статия, публикувана миналата година от изследователи в подразделение 96941 на PLA - звено за военно разузнаване и кибервойна в Пекин - описва използването на GPT-3.5 на OpenAI за обработка на чувствителен военен изходен код.
Изследователите заявиха, че моделите на трети страни са неподходящи за работа с класифицирана информация. За да преодолеят това ограничение, те използваха GPT-3.5 за обобщаване на софтуерен код и обучиха "вътрешен" модел върху тези обобщения, за да работи изцяло в китайските военни мрежи.
Белият дом, Пентагонът, Министерството на външните работи на Китай, НОАК и OpenAI не отговориха на исканията за коментар.
Китайски изследователи са използвали дестилация за цели, вариращи от наблюдение на съдържание до военно разполагане, показа прегледът на документите от Ройтерс и "Джеймстаун".
В Северния университет на Китай, който има тесни връзки с оръжейната индустрия на страната, изследователи са използвали Claude 3 Haiku на Anthropic, за да генерират синтетични обучителни данни за модел за класификация на текст за наблюдение на социалните медии и модериране на съдържание.
Anthropic заяви, че не предоставя търговски достъп до Claude в Китай или на фирми, контролирани от Пекин, и използва системи за мониторинг, за да открива нарушения на политиките.
Компанията добави, че дестилираните модели може да загубят предпазните мерки за безопасност на оригиналните системи, което потенциално ще позволи прехвърлянето на чувствителни възможности към модели извън нейния контрол.
В статия от 2024 г. на Националния университет по отбранителни технологии на НОАК е описано използването на дестилация за свиване на модел за обработка на изображения за внедряване в безпилотни летателни апарати, което позволява на дроновете да анализират видео на живо и да поддържат решения за навигация и насочване в реално време, дори когато комуникациите са прекъснати.
По подобен начин изследователи от Китайската академия на военните науки са използвали дестилация, за да изпълнят модел за разпознаване на цели върху тактическо оборудване по време на симулирани морски операции, включващи дронове, кораби и безпилотни подводници, показва проучване, публикувано по-рано тази година.
Китай възприе дестилацията, стремейки се да се конкурира със САЩ в областта на граничния изкуствен интелект, като същевременно се сблъсква с ограничения върху ресурсите за усъвършенствани изчислителни системи поради контрола на Вашингтон върху износа на висок клас чипове.
Централните и местните власти насърчават "олекването на моделите" и периферните изчисления, насочвайки субсидии и финансиране за изследвания към технологии, които позволяват на моделите с изкуствен интелект да работят на дронове, сателити и други устройства с ограничена изчислителна мощност.
Експертите обаче предупреждават, че дестилацията има значителни ограничения.
Докато китайските модели на изкуствен интелект намаляват разликата с американските си аналози, военните изследователи също проучват дестилацията като потенциален риск за сигурността.
През януари изследователи от Инженерния университет на армията публикуваха статия за заплахата от "дестилация без данни" - метод за обратно инженерство на възможностите на модела без директен достъп до основните му параметри.
За да се противодейства на тази уязвимост, те предложиха защитни механизми, предназначени да маскират скритата логическа информация, изложена в публичните изходи на модела.
Дестилираните модели също наследяват само избрани възможности и не могат напълно да възпроизведат широкия интелект на граничните системи.
Тревър Коверко, съосновател на компанията за данни с изкуствен интелект Sapien, заяви, че дестилираните модели остават по-малко способни от моделите на учителите.
"Най-добре се разбира като прехвърляне на избрани възможности в по-евтина, локално контролирана система, а не като постигане на независимост от граничен ИИ."
Източник: Ройтерс
