NYT: Изкуственият интелект може да ни направи по-богати от всякога. Готови ли сме да му предадем контрола над света?

Представете си, че на американците бъде предложена следната сделка: натискат голям червен бутон и Китай се превръща в първата свръхсила в света, превъзхождаща всички останали. Страната изпреварва стремително Съединените щати по технологично развитие, производствен капацитет и способност да създава богатство. Китай достига толкова високо технологично равнище, а човешката и роботизираната му работна сила става толкова многобройна, че американците вече почти не могат да проумеят какво се случва на предната линия на икономическия, научния и дори геополитическия прогрес.

Наградата за доброволния отказ от собственото ни могъщество обаче е великолепна. Световната икономика процъфтява, а американците стават по-богати от всякога. Получаваме нови лекарства, евтина енергия и невероятни развлечения. Машините вършат работата ни, а медикаменти, подобряващи настроението, се грижат за психическото ни благополучие. Вече не е необходимо да се борим за оцеляването си. Може би дори няма да се налага да работим, за да живеем дълго, в лукс и безгрижие.

Ето каква е сделката: отказваме се от контрола и получаваме голяма част от всичко, за което някога сме се борили. Но веднъж предаден, контролът е изгубен завинаги.

Бихте ли натиснали бутона?

Разговорът за изкуствения интелект е съсредоточен предимно върху опасността от катастрофа. Аз обаче искам да поставя в центъра друг въпрос: какво ще стане, ако изкуственият интелект не се развие по начина, от който се страхуват неговите създатели, а по начина, на който се надяват изобретателите и инвеститорите му?

Ако оставим настрана обсъжданата в Силициевата долина вероятност изкуственият интелект да унищожи човечеството, обозначавана като p(doom), ще забележим, че представите за утопичното му бъдеще, или p(utopia), също крият сериозни проблеми.

Технологичните визионери си представят свят, подобен на описания по-горе, но още по-краен, в който ролята на Китай е поверена на изкуствения интелект.

Любопитен сблъсък между тези две представи се получи, когато 27-годишният Джейкъб Коксън, подал сигнали за нередности в „OpenAI“ и „Антропик“, гостува на Джон Стюарт в предаването „Дейли шоу“.

Коксън беше дошъл, за да предупреди, че изкуственият интелект може да унищожи човечеството. Когато обаче Стюарт иронизира „бъдещата утопия“, обещавана от създателите на технологията, гостът му го прекъсна.

„Всъщност аз вярвам в тази бъдеща утопия“, заяви Коксън. Следващите му думи обаче прозвучаха далеч по-мрачно: „Чух ви да говорите за работните места. Мисля, че работни места изобщо няма да има.“

Коксън описа света, който си представят създателите на тази технология, като общество „без работни места, с универсални високи доходи, в което печалбите от напълно автоматизираното икономическо производство могат да бъдат разпределяни между истинските хора“.

Подобна визия, в една или друга разновидност, е широко разпространена сред компаниите за изкуствен интелект. Чувал съм я многократно. Повечето хора обаче реагират с недоверие, когато чуят определението „утопия“ за свят, в който практически цялата сложна интелектуална работа се извършва от машини.

Стюарт също не беше убеден.

„Значи всички просто ще играем в някаква пиеса?“, попита той.

По принцип подхождам скептично към идеята за бъдеще без работа. Ако има нещо, в което хората са особено добри, то е да си намират занимания. Кой би могъл да си представи в тежкото ни земеделско минало, че един ден създаването на подкасти ще се превърне в професия на пълен работен ден?

Много по-лесно обаче мога да си представя как контролът и разбирането на хората за голяма част от обществения живот постепенно преминават в ръцете на машините.

Няколко скорошни събития показват, че този процес вече е започнал. Едни разкриват границите на възможностите на най-напредналия изкуствен интелект, а други демонстрират нарастващата му полезност в ежедневието.

Изкуственият интелект решава за часове проблеми, непосилни за поколения математици

Преди няколко седмици „OpenAI“ публикува наведнъж над 700 научни ръкописа, предлагащи решения на близо 400 сложни математически задачи.

Ако не сте математик и не познавате хора, занимаващи се професионално с математика, вероятно това събитие е останало незабелязано за вас. В математическите среди обаче то предизвика истинско земетресение.

Аз не съм математик, но баща ми е. Неговата научна работа е свързана с движението на електроните през кристали с неупорядочена структура.

В центъра на изследователската му област стояха два проблема, които не просто оставаха нерешени. Както той самият казва, те бяха „напълно недостижими - никой нямаше никаква представа как да ги реши“.

Системите на „OpenAI“ ги решиха за един следобед.

„Това е краят на математиката, каквато я познаваме“, написа ми баща ми. „За първи път се радвам, че съм се пенсионирал.“

Наскоро създадената Асоциация за човешка математика, която има около 1000 членове, бързо излезе с позиция: „Математиците не са искали тази работа да бъде свършена.“

Интересно изречение. Трябва ли математиците да имат право да решават кои математически проблеми да бъдат разрешавани и кои не? Как да претеглим ползите и разходите от свят, в който математическото познание напредва стремително, но хората вече не могат да го разберат?

Представете си, че процесът, започнат от „OpenAI“, се повтаря непрекъснато в продължение на години.

Множество системи за изкуствен интелект решават проблеми, с които никой човек не е успял да се справи. След това използват решенията, за да формулират нови задачи. Други системи, усвоили откритията на своите предшественици, решават и тях, което позволява да бъдат поставяни още по-сложни въпроси.

И така до безкрай.

Новата математика става толкова обширна, че хората вече не могат да я осмислят. Изкуственият интелект обаче я усвоява с лекота и продължава напред, стимулирайки пробиви в материалознанието и производството на енергия.

Човечеството не разбира тази нова наука, но се възползва от нейните постижения.

Толкова различен ли е този свят от настоящия?

Малцина от нас разбират какво се случва на границата на човешкото познание. Аз дори не мога да проумея математиката, с която се занимаваше баща ми. Каква тогава е разликата, ако никой от нас не може да разбере математиката на изкуствения интелект?

И все пак свят, в който най-далечните хоризонти на знанието и прогреса принадлежат на алгоритмични системи, а не на човешкия разум, ми изглежда фундаментално различен.

Човешкият контрол, който според мен е неразривно свързан с човешкото разбиране, все пак има някаква стойност, нали?

Докато пишех тези редове, попаднах на изследване, в което физици теоретици поставили 50 сложни, непубликувани задачи пред усъвършенствани системи за изкуствен интелект.

Задачите били трудни, но разрешими. На физик, специализиран в съответната област, би бил необходим приблизително един ден, за да реши всяка от тях.

Най-добрата система с изкуствен интелект решила 98% от задачите при разход под 3 долара за всяка.

Първоначално физиците смятали, че системата се е справила по-зле. Моделът обаче настоял, че грешките са допуснати от хората, а не от него. И се оказал прав.

„Откровено казано, не очаквах този ден да настъпи толкова скоро“, написа Суврат Раджу, един от физиците, участвали в изследването. „След като получихме тези резултати, няколко нощи не можах да спя нормално.“

Най-голямата опасност може да не е бунтът на машините

Най-мрачните сценарии за изкуствения интелект обикновено се съсредоточават върху конкретен момент, в който свръхинтелигентна система излиза извън човешки контрол и започва да планира унищожението ни.

Сценарият, който ми изглежда по-вероятен и по-труден за избягване, носи името „постепенна загуба на контрол“.

При него няма един-единствен момент, в който човечеството изгубва властта над собственото си бъдеще. Вместо това следва поредица от малки решения, при които доброволно отстъпваме контрола, защото това изглежда най-разумният избор.

Компаниите постепенно възлагат на усъвършенствани системи за изкуствен интелект все повече работа, а впоследствие и все повече управленски решения, защото така получават конкурентно предимство.

Правителствата поверяват на изкуствения интелект все повече решения на бойното поле, защото това прави въоръжените им сили по-бързи и по-смъртоносни.

Компаниите за изкуствен интелект преминават към рекурсивно самоусъвършенстване, при което една система самостоятелно разработва следващото поколение модели, защото това им позволява да изпреварват конкурентите си.

Ключовият двигател на целия процес е конкурентният натиск.

Компаниите, правителствата и лабораториите, които се съпротивляват, постепенно изостават от конкурентите си, предоставящи на изкуствения интелект повече автономия и контрол.

Напредъкът на алгоритмичните системи, а впоследствие и на управляваните от тях дронове и роботи, непрекъснато разширява обхвата на дейностите, които машините могат да извършват по-добре от хората.

Дори да приемем, че изкуственият интелект ще остане добронамерен и ще изпълнява човешките желания, все по-голяма част от основните функции на обществото ще излизат извън непосредствения човешки контрол.

Как доброволно предаваме живота си на алгоритмите

Това ме отвежда до друга, далеч по-обикновена история за изкуствения интелект.

Дигиталният асистент „Мюз“ на „Мета“ вече седмици наред оглавява класациите за приложения на „Епъл“.

В основата си „Мюз“ е сравнително прост модел на изкуствен интелект. Полезността му обаче произтича от възможността да получи достъп до много по-голяма част от дигиталния ви живот: електронната поща, календара, социалните мрежи, банковите сметки и облачното пространство за съхранение на файлове.

След това системата може автоматично да предприема действия от ваше име.

Идеята да предоставя на изкуствения интелект толкова широк достъп до личния си живот ме кара да се чувствам неспокойно.

Приятелите ми, които използват приложението, обаче твърдят, че то им дава почти свръхчовешки способности. Те реагират по-бързо и се справят с отговорностите си по-добре от всякога.

Причината е постоянно действащият дигитален помощник, който следи живота им онлайн, открива проблеми, отговаря на електронни писма, прави резервации и им напомня за приоритетите им.

Разбира се, има една уловка: от другата страна на всички тези действия също стои някой.

Още сега чуваме за компании, затрупани от автоматизирани телефонни обаждания и електронни съобщения.

С разпространението на асистенти като „Мюз“ тези компании ще започнат да използват собствени системи за изкуствен интелект, за да отговарят на нарастващия поток от запитвания.

Колкото по-масово става използването на подобни агенти, толкова по-голям е рискът хората, които не разполагат с тях, да започнат да изостават.

Ще реагираме по-бавно от онези, които използват автоматизирани помощници, или просто ще бъдем затрупани от необходимостта да отговаряме на чуждите алгоритми.

В крайна сметка нашите системи ще преговарят с други системи. Личният ни изкуствен интелект ще се обажда на изкуствения интелект на ресторанта, за да резервира маса. Ще изпраща електронни писма до дигиталните помощници на колегите ни.

Предимство ще имат хората, които предоставят на своите системи по-широк достъп до личния си живот и по-голяма автономия.

Логиката на конкуренцията ще продължи да действа. Онова, което през една година изглежда абсурдно, през следващата ще се превърне в нещо съвсем обичайно.

Голяма част от света ни ще бъде поверена на изкуствения интелект.

Вече сме преживявали подобна промяна.

Имаше време, когато можехме да откажем да използваме електронна поща или смартфони. За повечето от нас това време отмина.

Отказът от тези технологии днес би ни поставил в твърде неизгодно положение в съвременното общество, дори когато съжаляваме за влиянието им върху живота ни.

Вероятно същото ще се случи и с изкуствения интелект.

Може би така е било винаги. Не представлява ли историята на съвременното общество непрекъсната размяна на човешкото разбиране и контрол срещу технологичен и икономически напредък?

Не бих разменил живота си с този на предците си, макар днешното общество да ми е далеч по-трудно за разбиране, отколкото тяхното е било за тях.

Достатъчно ми е да знам, че климатиците и апаратите за ядрено-магнитен резонанс работят. Не е необходимо да разбирам фундаменталните принципи на функционирането им.

Досега обаче тази история си оставаше преди всичко човешка история.

Възможно е тази епоха да е към края си.

Искаме ли свят, в който изкуственият интелект ни прави богати, но ни отнема контрола?

Лесно е да отговорим на въпроса дали искаме изкуствен интелект, който ще унищожи човечеството.

Не, не искаме.

Но искаме ли изкуствен интелект, който ще направи всички ни по-богати, ако цената е да изгубим контрола и разбирането за света, в който живеем?

Каква стойност има за човека запазването на водещата роля в собствената му борба за напредък и как да я съпоставим с обещанието тази борба да стане по-лека?

Искам новите лекарства, математическите теореми и дори, донякъде, способните дигитални помощници.

Същевременно вярвам, че борбата за човешкия прогрес е съществена част от историята на човечеството и дори от самата човешка душа.

Не намирам лесни отговори на тези въпроси. Дори не ми е лесно да ги формулирам ясно.

В момента обаче вървим по път, при който отговорите могат да бъдат дадени вместо нас - чрез безброй малки, почти незабележими решения, в които от икономическа, лична или политическа гледна точка ще изглежда разумно хората да отстъпят назад и да позволят на машините да заемат мястото им.

Предупреждението на Фукуяма за човешката природа

В своята често погрешно разбирана книга „Краят на историята и последният човек“ Франсис Фукуяма поставя сходен въпрос.

Той смята, че е малко вероятно някаква политическа или икономическа система да надмине капитализма и либералната демокрация в способността им да създават материално благополучие.

Основният въпрос обаче е дали съществуват човешки стремежи, които либералната демокрация не само не може да удовлетвори, но и в основата си предава.

Фукуяма вярва, че такива стремежи съществуват.

Човекът не иска единствено заплата и жилище. Той желае признание и борба. Иска да бъде възприеман не просто като равен на останалите в духовен или политически смисъл, а като по-добър от тях.

Борбата за признание е фундаментален човешки стремеж. Неспособността на технократичните либерални общества дори да разберат този стремеж може да ги дестабилизира.

„Ние, жителите на либералнодемократичните държави, дотолкова сме свикнали с обясненията на съвременните събития, които свеждат човешките мотиви до икономически причини, и сме станали толкова буржоазни в собствените си възприятия, че често се изненадваме, когато открием колко напълно неикономически е характерът на по-голямата част от политическия живот“, пише Фукуяма.

„Всъщност дори не разполагаме с общ речник, чрез който да говорим за гордата и самоутвърждаваща се страна на човешката природа, която стои зад повечето войни и политически конфликти.“

Струва ми се, че изкуственият интелект поставя въпроса на Фукуяма в още по-остра форма.

Ако се развие по начина, на който се надяват неговите привърженици, технологията обещава равнища на благосъстояние и възможности, които традиционните политически системи никога не са могли да си представят.

Това обаче може да стане с цената на предателство спрямо човешката потребност от признание и борба.

Фукуяма се тревожеше за либералната демокрация, защото обещанието ѝ за равенство, дори когато бъде постигнато, няма да бъде достатъчно.

Той смяташе, че либералната демокрация се основава на непълна представа за истинските човешки желания.

Изкуственият интелект отива още по-далеч: той обещава благоденствие при условие, че приемем собствената си непълноценност спрямо машините.

Джон Стюарт веднага забеляза този проблем.

„Ако мога да посоча един недостатък на тази утопия“, каза той на Коксън, „мисля, че в повечето случаи, дори когато вършим работа, която не харесваме особено, хората обичат да чувстват, че имат значение. Когато хората на моята възраст се пенсионират, те често умират, защото вече нямат връзка с някаква цел.“

За негова чест Коксън не избегна въпроса. Той отбеляза, че много хора мразят работата си.

Бих добавил, че много хора обичат пенсионирането, макар да ненавиждат безработицата.

Не мисля обаче, че проблемът може да бъде разбран най-добре единствено през работните места.

Хората ще продължат да предпочитат да правят много неща един за друг и заедно, дори когато изкуственият интелект може да ги извършва по-добре.

Фактът, че машина може да победи световен шампион по шахмат, не означава, че хората са престанали да играят шах.

Но усещането на човечеството за смисъл, контрол и водеща роля е нещо много по-трудно за заместване.

Обществото на удоволствието и изгубения смисъл

„Щом веднъж започнеш да допускаш обяснения, свързани с целта, вече не знаеш какъв може да бъде резултатът“, пише Олдъс Хъксли в „Прекрасният нов свят“.

Романът описва общество, в което всички желания са удовлетворени, но борбата отсъства.

Във въображаемия свят на Хъксли разсъжденията за смисъла на съществуването се възприемат като подривна дейност.

Те биха могли да накарат хората да повярват, че „целта на живота не е поддържането на благополучието, а някакво усилване и усъвършенстване на съзнанието, някакво разширяване на познанието“.

Владетелят в романа допуска, че това вероятно е вярно, но подобна истина не може да бъде позволена при съществуващите обстоятелства.

Днес либералните демокрации са застрашени не защото не са успели да осигурят благосъстояние, немислимо за нашите предци, а защото са позволили сред това благосъстояние да се задълбочат неравенството, отчуждението и чувството за безсилие.

Искаме богатство, но го желаем отчасти защото вярваме, че то ще ни донесе достойнство.

Гневът на политически радикализираните богати хора показва колко недостатъчно е материалното благополучие, когато не е съпроводено от признанието, което те са очаквали да получат чрез него.

Не твърдя, че изкуственият интелект непременно ще създаде подобен свят или дори че е способен да го направи.

Това обаче е светът, който много от неговите създатели си представят.

Тяхната визия не се ограничава до заместването на офисната и интелектуалната работа. Те си представят технология, която изпреварва дори най-блестящите човешки умове.

С всеки изминал ден, с всеки нов модел и с всяко ново доказателство, че изкуственият интелект може да решава проблеми, непосилни за човека, този сценарий изглежда все по-правдоподобен.

Хората, които изграждат изкуствения интелект, „изглежда не разбират особено добре човешката природа“, каза Стюарт.

Ако им се предостави възможност, почти всички те биха натиснали бутона.

А вие?