Докладът подчертава, че потенциалните ползи от технологията са значителни, но бързото и неконтролирано внедряване крие рискове
Бързото развитие на изкуствения интелект предлага значителни възможности за икономиката, науката и обществото, но същевременно поражда сериозни рискове, които изискват по-ефективно международно управление и научно обоснована регулация.
Това се посочва в първия доклад на независима експертна група към ООН, съставена от 40 водещи учени и специалисти, цитиран от Ройтерс.
Докладът ще бъде представен на правителствата по време на първия Глобален диалог на ООН за управлението на изкуствения интелект, който ще се проведе в Женева на 6 и 7 юли.
Според авторите технологичното развитие на ИИ изпреварва както научното разбиране за неговите възможности, така и способността на държавите да създават адекватни регулаторни рамки. Те предупреждават и за липсата на достатъчно ефективен контрол върху високoавтономни системи.
Съпредседателят на експертната група Йошуа Бенджио посочи, че вече има доказателства за подвеждащо поведение на някои системи с изкуствен интелект. По думите му науката все още не може да изключи риска от сериозни вреди – както от самостоятелно действие на системите, така и от злоупотреба от недобросъвестни потребители.
Докладът подчертава, че потенциалните ползи от технологията са значителни, но бързото и неконтролирано внедряване крие рискове, включително за психичното здраве, обществените системи, икономиката и околната среда.
Отбелязва се още, че използването на изкуствен интелект се разширява бързо, но неравномерно. Над един милиард души използват AI системи всяка седмица, докато развиващите се държави изостават в прилагането на технологията.
Авторите обръщат внимание и на концентрацията на ресурси, като посочват, че САЩ и Китай доминират в изчислителната мощ за разработка на ИИ системи. Подчертава се и проблемът с езиковото неравенство, тъй като повечето модели работят с ограничен брой езици, което може да доведе до грешки в чувствителни области като медицината.
Докладът предупреждава и за нарастващо разпространение на вредно съдържание, включително дийпфейкове и генерирани материали със злоупотреби, както и за отслабване на общественото доверие и качеството на публичния дебат.
