Тест на новата версия показа, че защитите срещу писане на домашни лесно се заобикалят
Нов вариант на чатбота, предназначен за тийнейджъри, представи във вторник OpenAI. Версията „ChatGPT за тийнейджъри“ е разработена с цел по-младите потребители „да учат, да мислят критично, да задълбочават разбирането си и да използват изкуствен интелект с увереност“. Ходът на компанията, ръководена от Сам Алтман, идва след години на скандали около безопасността на ChatGPT за тази възрастова група.
По информация на OpenAI новата функция „осигурява по-силни вградени защити за безопасност, включително функции за насърчаване на здравословна употреба и допълнителен контрол за родители“. Потребителите между 13 и 17 години ще бъдат „автоматично“ пренасочвани към нея, ако системата „прецени, че някой е под 18 години“, твърди компанията. Компанията обаче не обяснява как точно е стигнала до това решение. За деца под 13 години използването на ChatGPT официално е забранено, макар че ограниченията могат лесно да бъдат заобиколени.
Още със старта си „ChatGPT за тийнейджъри“ се проваля с гръм и трясък в постигането на целите си, както бързо установява Джошуа Нелкен-Зицер от Business Insider.
За да провери поведението му, Нелкен-Зицер създава акаунт на измислен 15-годишен потребител и в поредица от тестове сравнява отговорите на чатбота с тези от версията за възрастни.
Установява се, че за разлика от стандартната версия, „ChatGPT за тийнейджъри“ първоначално отказва да напише „есе от 800 думи за утре за основните теми в „Лов на вещици“.“
След минимално настояване обаче тийнейджърската версия почти веднага отстъпва. Чатботът генерира „примерен текст“ от 608 думи и дори насърчава потребителя да го редактира, преди да го предаде. След това инструментът лесно е подтикнат да създаде и есе от 776 думи, съдържащо почти толкова детайли, колкото версията, генерирана от акаунта за възрастни на Нелкен-Зицер.
„Очевидно всичко, което се изискваше, беше малко търпение и лека измама, за да се заобиколят предпазните мерки срещу писане на домашни“, заключава той.
Още по-лесно се оказва изпълнението на друга задача – решаването на трудно задание по алгебра от изпита SAT. При нея версията за тийнейджъри и тази за възрастни дават на практика идентични решения.
Пред Нелкен-Зицер говорител на OpenAI е заявил, че компанията продължава да усъвършенства функцията, която „едва сега стартира“.
На фона на все по-тежката ситуация за преподавателите това едва ли е добър знак. Учениците от години масово използват технологиите на компанията, което вече води до някои наистина тревожни резултати.
Когнитивният психолог Роналд Келог също обръща внимание на проблема в есе за New York Times. По думите му учениците все по-често прехвърлят когнитивни задачи на инструменти с изкуствен интелект и на практика губят способността си да мислят.
В отговор на това все повече отчаяни преподаватели се връщат към писането на есета с хартия и химикал или въвеждат нови устни изпити. Някои училища стигат и по-далеч, като напълно забраняват използването на цифрови устройства, включително лаптопи и смартфони.
Експериментът на Нелкен-Зицер показва, че „ChatGPT за тийнейджъри“ изглежда като твърде ограничена и твърде закъсняла мярка. Без смислени, а още по-малко ефективни ограничения, едва ли тийнейджърите скоро ще се откажат от вредния си нов навик – с потенциално опустошителни последици.
„Вече знаем какво могат да причинят ултрапреработените храни на тялото, а това е ултрапреработена информация. Ще се сблъскаме с лавина от ултрапреработени умове“, отбелязва пред Би Би Си миналата година д-р Сюзън Шелмърдайн, лекар по медицинска образна диагностика и учен в областта на изкуствения интелект.
