Microsoft с предупреждение: ИИ може да се превърне в „нов силициев вид“, конкуриращ се с хората

Развитието на изкуствения интелект може да създаде системи, които в бъдеще да се конкурират с хората за ресурси, ако технологиите получат прекалено голяма автономност. За това предупреди Мустафа Сюлейман, ръководителят на отдела за изкуствен интелект на Microsoft, в интервю за BBC.

Според него компаниите трябва да бъдат особено внимателни с разработването на системи, които могат самостоятелно да си поставят цели, да генерират приходи и да притежават активи.

Сюлейман определи подобен сценарий като своеобразно създаване на „нов силициев вид“, който потенциално би могъл да се конкурира с човечеството за ресурси.

Той същевременно заяви, че опасенията около развитието на изкуствения интелект са основателни, но подчерта, че съществуват практически механизми за ограничаване на рисковете. Сред тях той посочи по-голяма прозрачност при обучението и оценяването на системите, независимо наблюдение на поведението им и по-ефективни инструменти за контрол.

Спорът за човешките характеристики на ИИ

Коментарите на Сюлейман са свързани и с критиките му към подхода на Anthropic при разработването на модела Claude.

В свое по-рано публикувано есе той поставя под въпрос практиката изкуственият интелект да бъде представян чрез човешки характеристики. Според него това може да създаде погрешна представа, че подобни системи имат собствени желания, ценности или мотиви.

Сюлейман настоява, че настоящите системи с изкуствен интелект не трябва да бъдат разглеждани като хора. По думите му те не притежават чувства и лични предпочитания, а са създадени да изпълняват зададени от хората инструкции и цели.

Той предупреждава, че прекомерното антропоморфизиране може да затрудни контрола върху технологията.

Microsoft залага на „хуманистичен“ суперинтелект

Microsoft също работи върху развитието на по-напреднали системи с изкуствен интелект. Компанията създаде специален екип за суперинтелект, а паралелно с това представи концепция за „хуманистичен суперинтелект“.

Идеята е бъдещите високоефективни системи да бъдат насочени към работа в интерес на хората, да функционират в определени граници и да останат под човешки контрол.

Според Сюлейман именно това трябва да бъде основният принцип при развитието на технологията – изкуственият интелект да става по-мощен, без да получава независимост, която би могла да го превърне в неконтролируем фактор.

Темата за автономността на ИИ вече разделя технологичната индустрия. Част от специалистите настояват за по-строги ограничения и контрол, докато други компании продължават да развиват системи с все по-широки способности.