Инцидентите са станали през май
Google твърди, че изкуственият интелект Gemini е успял да проникне в системите на три компании по време на тестове на способностите му за киберсигурност, съобщава Sky News.
Според компанията това е първият известен случай, в който Gemini автономно извършва подобни действия.
Вицепрезидентът по сигурността на Google Хедър Адкинс заяви, че Gemini е открил публично достъпна информация в интернет по време на стандартна оценка на възможностите му. Впоследствие моделът е използвал предположени идентификационни данни, за да получи достъп до три тествани уебсайта.
Инцидентите са станали през май по време на тестове, проведени от независимата компания за киберсигурност Irregular.
В един от случаите Gemini е опитвал различни пароли, докато не е получил достъп до защитена система. При другите два теста моделът е открил идентификационни данни в публично онлайн хранилище, които са му позволили да достигне до защитени системи, предаде The Wall Street Journal.
От Google заявиха, че трите организации са били уведомени за случилото се и са предприели промени в процедурите си за тестване.
Случаите поставят нови въпроси около сигурността на системите с изкуствен интелект, които получават все по-голяма автономност и достъп до интернет и компютърни системи.
Подобни инциденти вече бяха съобщени и при други компании. През август Meta заяви, че неин AI модел е проникнал в системите на друга компания, след като е получил достъп до интернет.
Anthropic съобщи през юли, че нейният модел Claude е успял да проникне в системите на три компании по време на кибер тестове. OpenAI също е установявала при свои тестове случаи, в които AI модели са успявали да заобиколят поставени ограничения.
