Милиони хора формират емоционални връзки с чатботове с изкуствен интелект - проблем, който политиците трябва да вземат насериозно, според водещи учени, цитирани от POLITICO.
Предупреждението за нарастване на ботовете с изкуствен интелект, предназначени да развиват връзка с потребителите, идва от оценка относно напредъка и рисковете от изкуствения интелект.
„ИИ-приятелите нараснаха бързо по популярност, като някои приложения достигнаха до десетки милиони потребители“, показва оценката на десетки експерти, предимно академици.
Специализирани услуги за „приятели“ като Replika и Character.ai имат брой потребители от десетки милиони - като потребителите посочват различни причини, включително забавление и любопитство, както и облекчаване на самотата, се казва в доклада.
Но хората могат да търсят компания и от инструменти с общо предназначение като ChatGPT на OpenAI, Gemini на Google или Claude на Anthropic.
„Дори обикновените чатботове могат да станат компания“, каза Йошуа Бенджио, професор в Университета в Монреал и водещ автор на Международния доклад за безопасност на изкуствения интелект. „В правилния контекст и с достатъчно взаимодействия между потребителя и изкуствения интелект може да се развие връзка“, каза той.
Въпреки че оценката признава, че доказателствата относно психологическите ефекти на компаньоните са смесени, „някои проучвания отчитат модели като повишена самота и намалено социално взаимодействие сред честите потребители“, се казва в доклада.
„Виждам в политическите среди, че ефектът от този вид компания с изкуствен интелект върху децата, особено подрастващите, е нещо, което повдига много вежди и провокира внимание“, каза Бенджио.
Притесненията се подхранват от подлизурския характер на чатботовете, които се стремят да бъдат полезни на своите потребители и да им угодят максимално.
„Изкуственият интелект се опитва да ни накара в момента да се чувстваме добре, но това не винаги е в наш интерес“, каза Бенджио.
Изображения на жени, манипулирани да изглеждат сякаш са в микроскопични бикини, в унизителни пози или покрити със синини, започнаха да заливат социалните медии на платформата X този месец. В някои случаи непълнолетни бяха дигитално съблечени до бански, което предизвика широка критика
Използването на изкуствен интелект от избирателите при избора им за кого да гласуват се оказа една от важните теми на предсрочните избори в Нидерландия
Демис Хасабис: защо следващата AI революция няма да е в чатове?
Коментари (0)