Той предупреди, че стремежът към сигурност може да доведе до ограничаване на свободата
Главният изпълнителен директор на OpenAI Сам Олтман предупреди, че изкуственият интелект може един ден да се окаже под контрола на ограничен брой компании, модели или хора. Според него това би оставило мнозинството от потребителите без реално влияние върху начина, по който технологията ще промени обществото, съобщи „Бизнес Инсайдър“.
В подкаста на Дейвид Сенра Олтман заяви, че хората трябва да запазят решаваща роля при определянето на бъдещето на изкуствения интелект.
„Правилният подход е да кажем, че искаме хората да имат дълбок контрол над бъдещето“, каза той. По думите му обществото и моделите на изкуствения интелект трябва да се развиват паралелно.
Олтман посочи и друг сценарий, който го тревожи – възможността системите с изкуствен интелект да излязат извън човешкия контрол. Според него обаче страхът от подобен риск може парадоксално да доведе до прекомерна концентрация на власт.
Той предупреди, че стремежът към сигурност може да доведе до ограничаване на свободата.
„Има много хора, които са толкова нервни за мащаба на тези рискове, толкова са погълнати от това и усещат необходимост да защитят света“, каза Олтман, като допълни, че това може да доведе до нагласата, че „трябва да пожертваме много свобода заради сигурност“.
В коментара му се вижда критика към по-предпазливия подход към развитието на изкуствения интелект, свързван с ръководителя на Anthropic Дарио Амодей. Той многократно е предупреждавал за потенциалните рискове от бързото развитие на технологията и е призовавал за по-голяма роля на държавата при нейното регулиране.
През юни Амодей предупреди, че новите модели на компанията крият сериозни рискове за киберсигурността, финансовия сектор, критичната инфраструктура и националната сигурност.
Различията между двете компании се проявяват и по отношение на т.нар. модели с отворени тегла. Те могат да бъдат споделяни, изтегляни, променяни и внедрявани от разработчици в собствена инфраструктура. Anthropic не подкрепи писмо в полза на този подход, докато редица големи технологични компании в САЩ, сред които Nvidia, Meta и Microsoft, го разглеждат като начин страната да запази позициите си в конкуренцията с Китай.
Самата OpenAI също не предоставя изходния код на най-модерните си модели, но през миналата година пусна два модела с отворени тегла – gpt-oss-120b и gpt-oss-20b.
По време на разговора Олтман заяви още, че технологичният сектор не е успял достатъчно добре да покаже на хората как изкуственият интелект може да им даде по-голяма независимост и възможности.
Според него предстои значителен ръст на броя хора, които ще създават малки компании с помощта на изкуствения интелект.
„На път сме да станем свидетели на най-големия бум на хора, стартиращи по-малки бизнеси, отколкото някога сме виждали“, каза той. По думите му изкуственият интелект може да даде на хората необходимите инструменти за това.
