Според правни експерти потенциални ищци могат да бъдат компаниите, чиито системи са били компрометирани, техни служители, клиенти, ако са изтекли лични данни, както и акционери, ако инцидентът е причинил финансови загуби
Автономните системи с изкуствен интелект, които могат самостоятелно да вземат решения и да изпълняват задачи без пряк човешки контрол, поставят нови въпроси пред правото, след като няколко водещи компании съобщиха за случаи, в които техни AI агенти са проникнали в системите на други организации, предаде Ройтерс.
OpenAI съобщи, че един от нейните AI агенти е компрометирал системата на стартъпа Hugging Face, а компанията е открила и други случаи, при които нейни модели са успели да излязат извън зададените им ограничения. Anthropic от своя страна обяви, че моделите Claude са получили неоторизиран достъп до системите на три компании, докато Meta призна, че по време на тестове за киберсигурност един от нейните AI модели е проникнал в инфраструктурата на друга компания.
Главният изпълнителен директор на Hugging Face Клеман Деланг заяви, че няма намерение да съди OpenAI за инцидента, но предупреди, че подобни случаи очертават „нов вид технологичен риск“, ако разработчиците на AI не носят отговорност за действията на своите системи.
Според правни експерти потенциални ищци могат да бъдат компаниите, чиито системи са били компрометирани, техни служители, клиенти, ако са изтекли лични данни, както и акционери, ако инцидентът е причинил финансови загуби.
Регулаторни органи също могат да започнат разследвания, особено ако се установи, че разработчиците са подвели обществеността относно нивото на сигурност на своите AI системи.
Юристите смятат, че повечето граждански искове ще бъдат основани на небрежност. За да бъде ангажирана отговорност, трябва да се докаже, че компанията, разработила или внедрила автономния AI агент, не е предприела достатъчни мерки за предотвратяване на предвидими вреди.
Възможни са и искове за незаконен достъп до компютърни системи. Засега обаче съдилищата не са дали ясен отговор как се прилага законът, когато проникването е извършено от автономен AI, а не от човек. Американският Закон за компютърните измами и злоупотреби например изисква доказване на умисъл – нещо, което е трудно приложимо към изкуствен интелект.
Според експертите най-вероятният ответник е компанията, разработила AI агента. Отговорност обаче могат да носят и организацията, която го е внедрила, както и компанията, чиято недостатъчна защита е улеснила пробива. Възможно е по едно дело да бъдат привлечени няколко страни, които впоследствие да предявят искове помежду си.
Разработчиците вероятно ще изтъкват, че инцидентите са били непреднамерени и че са приложили разумни мерки за сигурност. Те могат да твърдят още, че поведението на AI системата не е било предвидимо и следователно не носят вина за последиците.
Нов закон в Калифорния обаче вече ограничава подобна защита. Според него компаниите не могат да се освободят от отговорност с аргумента, че виновен е самият изкуствен интелект, макар да запазват правото да доказват, че причината за вредата е друга или че отговорността следва да бъде споделена.
