Край на анонимния изкуствен интелект? От днес ЕС затяга контрола над AI – започва нова ера за ChatGPT, дийпфейковете и дигиталния свят

От днес, 2 август, Европейският съюз поставя началото на нова ера в развитието на изкуствения интелект. Влизат в сила едни от най-важните разпоредби на европейския Закон за изкуствения интелект (AI Act) – първата в света цялостна правна рамка, която регулира разработването и използването на AI технологии. След години на почти свободно развитие на изкуствения интелект Брюксел вече поставя ясни правила, които трябва да гарантират, че иновациите ще продължат, но без да застрашават сигурността, личните права и доверието на обществото.

Новите изисквания засягат едновременно разработчиците на най-мощните AI системи, големите технологични компании, онлайн платформите и всички организации, които използват изкуствен интелект в своята дейност. Практически това означава, че промените ще се отразят върху популярни услуги като ChatGPT, Gemini, Claude, Microsoft Copilot и десетки други генеративни AI модели, които вече ежедневно се използват от стотици милиони хора по света.

Една от основните цели на закона е потребителите винаги да знаят кога взаимодействат с изкуствен интелект и кога съдържанието, което виждат, е създадено от машина. Ако човек разговаря с чатбот или виртуален асистент, той трябва да бъде ясно информиран, че отсреща не стои реален човек. По същия начин снимки, видеоклипове, аудиозаписи или текстове, генерирани или значително променени чрез изкуствен интелект, ще трябва да бъдат обозначавани по ясен и разбираем начин.

Причината е, че през последните две години генеративният AI се разви с изключително бързи темпове. Само за секунди вече могат да бъдат създадени напълно реалистични снимки на несъществуващи хора, видеоклипове, в които известни личности изглеждат сякаш казват или правят нещо, което никога не се е случвало, както и убедителни текстове, които трудно могат да бъдат различени от написаните от журналист или експерт. Това създаде сериозни опасения за разпространението на дезинформация, политически манипулации, финансови измами и злоупотреби с чужда самоличност.

Затова новите правила поставят специален акцент върху така наречените дийпфейкове. Когато реалистично изображение, видео или звук са създадени чрез изкуствен интелект и могат да заблудят обществото, те трябва да бъдат ясно обозначени. Целта не е да се забрани използването на технологията, а хората да могат лесно да разпознават кога виждат автентично съдържание и кога – дигитално създадена симулация.

Европейският закон обаче не се ограничава само до обозначаването на съдържанието. За първи път разработчиците на най-мощните AI модели ще бъдат задължени да извършват оценки на риска, да документират начина, по който функционират техните системи, да въвеждат механизми срещу злоупотреби и да сътрудничат на европейските регулаторни органи. Компаниите ще трябва да показват, че са предприели мерки срещу използването на техните модели за кибератаки, измами, създаване на опасно съдържание или други дейности, които могат да представляват риск за обществото.

Специално внимание се отделя и на авторските права. Разработчиците на генеративни AI модели вече ще трябва да бъдат значително по-прозрачни относно използването на защитено съдържание при обучението на своите системи. Това е една от най-оспорваните теми през последните години, след като редица издатели, медии, музиканти и автори обвиниха технологичните компании, че техни произведения са били използвани за обучение на AI модели без изрично разрешение.

За обикновения потребител промените няма да означават, че ChatGPT или други популярни AI услуги ще спрат да работят. Напротив – те ще продължат да бъдат достъпни, но ще бъдат подложени на значително по-строг контрол. Все по-често хората ще виждат предупреждения, че дадено съдържание е генерирано с помощта на изкуствен интелект, а компаниите ще трябва да бъдат много по-открити относно начина, по който използват тези технологии.

Европейската комисия подчертава, че целта на закона не е да спира иновациите или да ограничава развитието на AI, а да създаде доверие в технологията. Според Брюксел именно липсата на прозрачност и ясни правила може да се превърне в най-голямата заплаха за бъдещето на изкуствения интелект, ако обществото започне да губи доверие в съдържанието, което вижда онлайн.

Наред с новите задължения идват и сериозни санкции. Компаниите, които нарушават правилата, могат да бъдат глобени с до 15 милиона евро или 3% от световния си годишен оборот за определени нарушения, а при най-тежките случаи санкциите могат да достигнат 35 милиона евро или 7% от глобалния годишен оборот – което ги прави едни от най-суровите финансови наказания в света на технологичните регулации.

Влизането в сила на тези разпоредби бележи исторически момент не само за Европа, но и за световната технологична индустрия. Много анализатори очакват, че правилата на Европейския съюз ще се превърнат в глобален стандарт, подобно на Общия регламент за защита на личните данни (GDPR), който промени начина, по който компаниите по целия свят обработват лична информация.

Докато изкуственият интелект става все по-мощен и навлиза във всяка сфера на живота – от медицината и образованието до финансите, медиите и държавната администрация – Европа изпраща ясно послание: бъдещето принадлежи на AI, но само ако неговото развитие върви ръка за ръка с прозрачност, сигурност и ясна отговорност към обществото.