Американската компания за изкуствен интелект Anthropic обяви, че три китайски AI фирми са използвали чатбота ѝ Claude в мащабна схема за извличане на способности. Според компанията става дума за DeepSeek, Moonshot AI и MiniMax.
По твърдения на Anthropic компаниите са създали около 24 000 фалшиви акаунта и чрез тях са генерирали над 16 милиона взаимодействия с Claude. Целта – да използват отговорите на по-мощния модел, за да обучават собствените си системи.
Методът е известен като „дестилация“. Това означава по-слаб модел да бъде трениран върху изходите на по-силен – чрез масово задаване на въпроси и анализ на получените отговори. В технологичния свят това е сива зона: техниката е позната и легитимна, но използването ѝ чрез фалшиви акаунти и заобикаляне на ограниченията нарушава правилата на платформата.
Anthropic твърди, че целта е била извличане на най-силните способности на Claude – логическо разсъждение, писане на код, работа с инструменти и анализ на данни. Компанията предупреждава, че ако подобно „копиране“ доведе до създаване на модели без същите защитни механизми, това може да увеличи рисковете от злоупотреби.
Случаят идва само дни след като OpenAI информира американски законодатели, че китайски компании се опитват да репликират възможностите на водещи американски AI модели чрез сходни техники. Темата вече се вписва в по-широкия дебат за експортния контрол върху високопроизводителните AI чипове и технологичното съперничество между САЩ и Китай.
Важно уточнение: към момента става дума за твърдения на Anthropic. Засегнатите компании не са дали официална позиция в първите публикации по случая.
Скандалът обаче очертава нещо по-голямо от корпоративен конфликт. В надпреварата за изкуствен интелект вече не става дума само за иновации, а за това кой контролира знанието, изчислителната мощ и правилата на играта.
След години, в които изкуственият интелект служеше главно за автоматизация и оптимизация, технологичният сектор говори за нова фаза – ера, в която AI създава продукти, преживявания и пазари, които до вчера просто не съществуваха
Без целенасочени политики ИИ рискува да създаде ново „Голямо разделение“ между държави, компании и работници
От карнавала в Рио до домовете ни – машините вече не просто работят, а заемат централно място в културата и ежедневието ни
Калина Рилева (Кали) е независим автор с фокус върху обществено значими теми, свързани с развитието на обществото, социалните процеси и влиянието на публичните политики върху хората. Има опит в работата по теми с обществено и икономическо значение, като в последните години насочва вниманието си към въпроси, свързани със здравето, образованието, културната среда и ценностите, които оформят обществените нагласи. В публикациите си поставя въпроси и разглежда процеси в дълбочина, като проследява реалните последици от решенията, които често остават извън публичния фокус. Авторът публикува под псевдоним. | Общество | Здраве | Анализ
Коментари (0)