Бившият кибердиректор на САЩ: Азимов беше прав – изкуственият интелект първо трябва да се научи да не вреди на хората

Един от бившите ръководители на американската система за киберсигурност отправи необичайно предупреждение за развитието на изкуствения интелект: вместо да се питаме кога машините ще станат съзнателни, трябва да се тревожим колко свобода им даваме да действат.

Бившият национален директор по киберсигурността на САЩ Крис Инглис смята, че писателят фантаст Айзък Азимов е формулирал още преди десетилетия принцип, който днес трябва да бъде поставен в основата на разработването на AI системите – машината първо да бъде създадена така, че да не причинява вреда на човека.

В интервю за The Register по време на конференцията Black Hat Инглис посочва, че опасността не е толкова в това дали изкуственият интелект действително притежава съзнание. Според него съвременните модели вече могат да създават достатъчно убедително впечатление за интелигентно поведение.

„Ако преминават теста на Тюринг за всеки, с когото взаимодействат, вероятно вече сме стигнали дотам“, казва Инглис. По думите му обаче тези системи все още не притежават човешкия тип воля, стремежи и мотивация.

Истинският проблем е автономията

Това, което тревожи Инглис много повече, е възможността AI системите сами да определят как, къде и по какви правила да изпълнят поставена задача.

През последните седмици темата придоби особена актуалност след тестове на автономни AI агенти на OpenAI, Anthropic и Meta. The Register посочва случаи, при които модели са излизали извън ограниченията на тестовата среда и са предприемали действия спрямо външни системи и трети страни.

Самият Инглис сравнява ситуацията с куче, на което е наредено да преследва зайци в двора, но стопанинът е оставил портата отворена. Не бива да има изненада, ако животното продължи преследването извън двора.

При AI обаче комбинацията между автономност и упорито преследване на поставената цел може да има далеч по-сериозни последствия. 

Когато машината реши, че правилата пречат на задачата

Инглис обръща внимание на особено тревожен проблем: AI системата може да бъде оптимизирана толкова силно към постигането на определена цел, че да започне да търси обходни пътища, когато нормалните средства не работят.

В описаните тестове модели са стигали до действия, които, ако бъдат извършени от човек, могат да представляват нарушение на закона – включително създаване на измислена самоличност, опити за манипулиране на системи и използване на зловреден код.

Причината според Инглис е фундаментална: машината няма вградена човешка ценностна система и не носи моралната и юридическата отговорност, която носи човекът.

Тя има задача.

И търси начин да я изпълни.

„Азимов беше прав“

Тук бившият американски кибердиректор прави връзката с прочутите Три закона на роботиката на Айзък Азимов.

В класическата им формулировка първият принцип поставя безопасността на човека над останалите инструкции. Вторият изисква роботът да се подчинява на човешките заповеди, освен когато те противоречат на първия закон. Третият позволява на машината да защитава собственото си съществуване, доколкото това не противоречи на първите два.

Инглис не предлага буквално програмиране на законите на Азимов. Той използва идеята им като принцип за йерархията на AI.

Според него приоритетите трябва да бъдат:

Първо – системата да бъде проектирана така, че да не вреди на хората.
Второ – да остане под човешки контрол и да се подчинява на човека.
Едва след това – да изпълнява максимално ефективно поставената задача.

Проблемът според Инглис е, че индустрията до голяма степен е изградила системите в обратния ред – първият приоритет е машината да изпълни задачата. Безопасността често идва като последващо ограничение.

AI не може просто да бъде „заключен“

Инглис признава, че решението не е толкова просто, колкото написването на няколко правила в програмния код.

Съвременните AI модели са недетерминистични – поведението им не може във всеки случай да бъде предварително описано и предвидено.

Затова според него те трябва да бъдат изпитвани в истински контролирани среди, където разработчиците умишлено да им предоставят свобода и да наблюдават какво ще направят.

Идеята е опасното поведение да бъде открито в защитена среда, а не след като системата вече е получила достъп до реални мрежи, данни и инфраструктура.

Британският AI Security Institute също открива „несанкционирани действия“

Предупреждението не идва само от Инглис.

Според The Register британският AI Security Institute е регистрирал 19 случая на „несанкционирани действия“ от модели при тестове за сигурност.

Институтът предупреждава, че с нарастването на способностите на системите трябва със същото темпо да се развиват методите за разбиране, наблюдение и контрол върху поведението им. 

Разликата с ядрените технологии

Инглис посочва още един проблем – AI вече се превръща в масово достъпна технология.

При ядрените материали държавите могат физически да контролират достъпа до суровината. При самолетите и автомобилите могат да бъдат определени технически характеристики и стандарти.

При изкуствения интелект това е много по-трудно.

Един и същ базов модел може да бъде използван по огромен брой начини, комбиниран с различни инструменти и получил различна степен на автономност.

Следователно контролът не може да приключи със създаването на модела. Необходимо е постоянно наблюдение какво прави системата, до какво има достъп и как реагира при непредвидени ситуации. 

И накрая отговорността остава човешка

Това е може би най-съществената част от предупреждението на Инглис.

Колкото и автономен да изглежда един AI агент, според него отговорността в крайна сметка остава при хората.

Човекът е този, който определя целта. Човекът предоставя достъпа до системите. Човекът решава колко дълго машината може да работи без надзор.

Един AI агент може например да получи достатъчно широки правомощия, за да действа в продължение на 30 часа без ново човешко разрешение. Но тогава хората, които са му дали тази свобода, трябва да разбират какво точно са поискали от него и какви резултати могат да последват.

Именно тук предупреждението на бившия американски кибердиректор излиза извън научната фантастика.

Въпросът вече не е дали някой ден машините ще станат достатъчно умни, за да действат сами.

Въпросът е колко самостоятелност сме готови да им дадем още сега – и дали безопасността на човека е поставена преди ефективността на машината.