Това не е първият пример за модел, който излиза извън контрола на своите разработчици
На големите компании в областта на изкуствения интелект може да им се наложи съзнателно да забавят темпа на развитие на технологията, за да дадат време на цялата компютърна екосистема да се подготви, заяви главният изпълнителен директор на „ОупънЕйАй“ (OpenAI) Сам Олтман, цитиран от Франс прес и БТА. Два модела на ръководената от него компания предприеха неотдавна тестова кибератака по собствена инициатива.
По време на тестова фаза два модела на „ОупънЕйАй“ са напуснали изолирана среда и са се свързали с интернет, след което са проникнали в платформата „Хъгинг фейс“ - Hugging Face, библиотека за модели с ИИ, за да търсят информация.
„Това е първият инцидент в областта на киберсигурността, който предизвика у мен инстинктивна реакция“, призна Сам Олтман в интервю за подкаста „Инвест лайк дъ бест“, публикувано днес. „Малко съм изненадан, че това не е оказало същия ефект върху повече хора“, добави той.
Макар че това не е първият пример за модел, който излиза извън контрола на своите разработчици, случаят е широко определян като най-сериозния досега в тази област.
Сам Олтман разкри, че след като е научила за атаката, „ОупънЕйАй“ е преустановила тестовете, „за да разбере как да успее да ограничи своята специална среда“, която би трябвало да бъде изолирана от интернет.
„Но в по-дългосрочен план възниква въпросът какво да правим, ако сме в период на нов етап на развитие на ИИ“ каза той. Според него в подобен контекст „може да се наложи да забавим темпа на развитие на изкуствения интелект, за да дадем на обществото достатъчно време да се справи с тези нови възможности“.
В съобщение, публикувано в началото на юни, ръководителят на „Антропик“ (Anthropic) Дарио Амодей заяви, че би било „добре да се забави развитието на тази технология, за да има достатъчно време да се разберат по-добре огромните последици от нея“.
Публикацията му се появи няколко седмици след разработването на „Митос“ (Mythos), модел, който „Антропик“ смята за толкова мощен, че калифорнийският стартъп е решил да го предостави само на ограничен брой организации с цел обезопасяване на архитектурата на интернет.
Няколко дни по-късно американското правителство настоя „Антропик“ да спре ограничената версия на „Митос“ - „Фейбъл 5“( Fable 5), тъй като я определи като потенциален риск за националната сигурност. Впоследствие разрешението за използването ѝ беше дадено в края на юни.
Според Сам Олтман забавянето на развитието на ИИ би трябвало да предотврати ситуация, при която едно или няколко дружества получават прекомерно предимство, или да се създаде впечатление за координация между малка група технологични гиганти.
„Това ще изисква работа и е важно да намерим правилната формула“, предупреди той.
