Случаят е станал тази пролет
Разузнавателен доклад, изготвен с помощта на изкуствен интелект, едва не довел до военна операция на САЩ срещу китайски кораб. Според доклада плавателният съд превозвал компоненти, свързани с ядрена програма, но впоследствие се оказало, че информацията е невярна, съобщава CNN.
Случаят е станал тази пролет. Американските военни се подготвили да спрат кораба, като военнослужещи били в готовност, а във въздуха вече били вдигнати бойни самолети. Операцията била прекратена в последния момент.
По-късно било установено, че информацията в доклада е резултат от грешно интерпретиране на данни от чатбот, използван от анализатор на Командването за специални операции. Не е ясно какъв точно товар е превозвал китайският кораб.
Според източници, запознати със случая, анализаторът е предоставил на системата данни от корабен манифест, които били комбинирани с публична и класифицирана информация. Изкуственият интелект направил неправилен извод за съдържанието на товара, след което същият инструмент бил използван за оформяне на разузнавателния доклад.
Случаят поставя въпроси за бързото въвеждане на изкуствен интелект във военните и разузнавателните структури на САЩ. Технологията все по-често се използва за анализ на информация, избор на цели, планиране на операции и логистика.
Американското военно ведомство настоява за ускорено внедряване на AI, за да не изостава технологично от Китай и други държави. В същото време различни американски служители предупреждават, че използваните системи са разнородни и няма единни правила за проверка на информацията, която генерират.
Според експерти основният риск не е само в грешките на самия изкуствен интелект, а в начина, по който хората използват получената от него информация. При военни решения дори една неправилна интерпретация може да има сериозни последици.
Случаят с китайския кораб показва именно този проблем: система, създадена да ускорява анализа, може да ускори и разпространението на грешна информация, ако резултатите ѝ не бъдат проверени достатъчно внимателно.
