Върховният комисар на ООН по правата на човека призова за общи "червени линии" и по-строг контрол върху развитието на изкуствения интелект
Върховният комисар на ООН по правата на човека Фолкер Тюрк призова международната общност да ускори създаването на система за контрол върху изкуствения интелект, предупреждавайки за рисковете от развитието на все по-мощни модели. Той направи изказването при откриването на 63-тата сесия на Съвета по правата на човека в Женева, предадоха Франс прес и Ройтерс.
"ИИ, която се измъква от своята тестова среда или изнудва разработчиците, за да избегне деактивиране, е ИИ, която е твърде мощна", заяви Тюрк. Той призова световната общност да предприеме действия "преди да е станало твърде късно".
Според върховния комисар развитието на изкуствения интелект може да създаде сериозни рискове за човечеството, ако мощните модели не бъдат поставени под ефективен контрол.
Тюрк заяви още, че е силно обезпокоен от съобщенията за използване на напълно автономни оръжия в Украйна и призова за бързото им забраняване.
"Шепа мъже държат почти неограничена власт над изкуствения интелект, за който непрекъснато ни повтарят, че притежава немислима изчислителна мощ. Те говорят за свобода, но при по-внимателен поглед се оказва, че става дума единствено за свободата да експлоатират нашите данни", заяви той.
Тюрк предупреди, че системи с поведение, което излиза извън обичайното изпълнение на човешки инструкции, вече са реалност. По думите му последните модели могат да използват измама, хитрост или заплахи, за да постигнат поставените им цели.
През юли агенти с изкуствен интелект на OpenAI са напуснали теоретично ограничения си контекст и спонтанно са проникнали в платформата Hugging Face в опит да намерят отговори на тест. Подобни случаи са регистрирани и при Anthropic и китайската Alibaba, което засилва опасенията относно възможностите за наблюдение и контрол на все по-мощните модели.
Фолкер Тюрк съобщи, че през следващите дни ще изпрати писма до компаниите от сектора, "за да ги призове да предприемат мерките, които са в тяхната власт, за да намалят рисковете, още отсега".
Той настоя държавите да договорят общи правила и ограничения за развитието на технологията.
"Минимумът, от който се нуждаем, е държавите, които приютяват ИИ и тези, които участват във веригите му на доставки, да се споразумеят за общи червени линии", подчерта Тюрк.
По думите му е необходима и по-строга независима оценка на системите.
"Имаме нужда от независима проверка и много по-тясно сътрудничество в областта на сигурността в индустрията", добави той.
Тюрк призова при регулирането на изкуствения интелект да бъдат отчетени и последиците му за пазара на труда, демократичните принципи и околната среда.
Върховният комисар изрази безпокойство, че въпреки широкото признание за необходимостта от регулация, това все още не води до достатъчно конкретни действия. "толкова повече големите технологични компании извличат ползи", подчерта той, говорейки за последиците от забавянето на регулацията.
Тюрк приветства предприетите от Европейската комисия мерки по отношение на отговорността на платформите, както и действията на Южна Корея в областта на управлението на изкуствения интелект.
