Адв. Георги Кънев пред Таралеж: В България още няма орган, който да регулира ползването на ИИ

Използването на изкуствения интелект навлиза все по-мащабно в живота и бита ни. В САЩ името на този софтуер беше променено на "супер интелект". Преди седмици канадско-хаитянският писател Телисон Орелиен беше изключен от надпреварата за наградата "Гонкур" заради използване на ИИ в написването на книгата "Или това, или смърт" (C'etait ca ou mourir), което той отрича. За творенията, създадени с помощта на Изкуствения интелект и рисковете за хората говори адвокат Георги Канев в интервю на Весела Веселинова.

Георги Кънев е адвокат, специализирал в областта на технологиите. Практиката му обхваща областите на интелектуалната собственост, изкуствения интелект, защитата на личните данни, регулациите в цифровата сфера, защитата на потребителите, онлайн безопасността. Той ще бъде един от лекторите на CreaTech South-East Europe Summit – международният форум, посветен на пресечната точка между креативност, технологии и бизнес, който ще се състой на 16 октомври в Топлоцентрала, гр. София.

Господин Кънев, как се контролира съдържание, създадено с Изкуствен интелект? Кой отговаря за творбите и проектите, създадени по този начин? 

По-общият отговор е, че никой не проверява всеки един видеоклип, музикално произведение, филм или книга, за да установи дали при създаването му е използвана система с ИИ. По-детайлният отговор е, че принципно съществуват регулаторни органи, които съблюдават за спазването на, например, Акта за изкуствения интелект на ЕС. Заради все по-мащабното навлизане на ИИ в креативните индустрии, се оказва, че все повече клипове, картини, текстове са генерирани със системи с Изкуствен интелект, и поради качеството им става все по-трудно да бъдат разпознати. Има и лица, които опитват и генерират „произведения“, с помощта на системи с ИИ, за да разберат дали биха били разкрити и как тези „творения“ биха се конкурирали с творчеството на реални автори. В тази посока е и едно от законодателните решения – в определени случаи резултатите, генерирани със системи с ИИ да бъдат изрично обозначени като изкуствено генерирани или обработени. Сега, например, на някои телевизионни реклами вече има означение, че са генерирани от Изкуствен интелект. Ако говорим, например, за аудио-визуален продукт -до скоро можехме да видим липса на синхрон между движението на устните и звука, но подобни малки детайли, които разкриваха намесата на ИИ в създаването на това видео, вече постепенно изчезват. Все повече се подобрява качеството на системите с ИИ и, съответно, на резултатите, които генерират. Именно това изискването за прозрачност, т.е. да бъде посочено, че нещо е генерирано по този начин, помага да се наложи разграничението.

Казахте законови органи – български, европейски или световни?

Комбинация от органи е. Макар да сме в глобален свят, той има граници, държави, закони. Има органи в Щатите, има органи в Китай, в ЕС и на ниво държави. Например, на ниво ЕС имаме Европейски съвет по изкуствен интелект. В България към момента още няма определени национални компетентни органи, който да следят за спазването на изискванията за изкуствения интелект.

Законодателството в страната ни дали обхваща тези въпроси?

Преди седмица беше внесен нов законопроект от една опозиционна партия за създаване на нов закон за използването и развитието на ИИ. Говори се, че се подготвя подобен законопроект и от страна на управляващата партия. Съответно, към момента конкретен закон в България, който да регулира дейности, свързани с ИИ няма. На европейско ниво съществува Актът за Изкуствения интелект – (AI Act), който е под формата на регламент. Това означава, че той има пряка приложимост за всички държави-членки на ЕС, включително и в България. От българското законодателство не може да очакваме много драматични разлики за същината как подхожда Акта за ИИ към самата регулация, класифицирането на системите с ИИ на база на рисковете, например, за здравето и безопасността, които са свързани с използването на системи с ИИ. По-голямата картина идва на ниво ЕС. САЩ имат свой подход, Китай също, а ЕС се опитва да има единен подход на ниво ЕС.

Всяка държава има своя идентичност и народопсихология. До каква степен законодателството в тази сфера може да бъде съобразено с българската специфика?

Европейският акт за ИИ е факт от две години насам – от юни 2024 г. За тези само две години вече претърпя някои изменения, които станаха факт само преди два месеца. Имаме законодателство, което би трябвало да е съгласувано с всички държави-членки. Дали то съобразява различните специфики на народопсихологията на всички държави-членки е въпрос за процеса на законотворчеството. В регламента виждаме, че се търси цялостна защита на индивидите, безопасност и ненарушаване на техните права, както и съобразяване с техните интереси при създаването на системи и модели с изкуствен интелект и съответно при тяхното използване. Затова е, например, идеята за обозначаване на резултатите, създадени със системи с изкуствен интелект - не винаги, не във всяка една ситуация, но, примерно при deep fake (убедителен фалшификат), които могат да подведат хората, или при системи с ИИ, които взаимодействат пряко с потребителите, с физическите лица. Например - чатботовете, с които общуваме. Трябва да знаем, че говорим с чатбот.

Какви други примери бихте дал от световната практика, които са интересни и събуждат доста въпроси?

Примерите на световно ниво са много разнообразни, защото темата за ИИ е всеобхватна. Може да разгледаме какви различни видове  системи и модели с Изкуствен интелект имаме и с кои от тях общуваме директно, с кои не съзнаваме, че общуваме.

В последните години, в които нашумя развитието на системите и моделите с ИИ, имаше опити за регистрация на резултатите, генерирани със системи с ИИ, за да могат да запазят авторски права върху тези резултати, за да могат, например, да ги монетизират в бъдеще. Например, през март 2025 г. в САЩ окончателно се реши случай с картина, озаглавена: "A Recent Entrance to Paradise" – ("Скорошно влизане в Рая"), генерирана изцяло от система с изкуствен интелект. Създателят е разработил системата с ИИ, с която създава тази картина и след това се опитва да я регистрира като обект на авторско право. Регистрацията му е отказана, а отказът е потвърден на две съдебни инстанции, въпреки, че той е собственик на системата с ИИ, генерирала тази картина. Причината за отказа е липсата на човешка творческа дейност в създаването на резултата. Моето впечатление е, че това решение заинтригува обществеността, особено хората, които създават произведения в рамките на креативните индустрии.
Връщайки се по-назад, през 2023 г. в САЩ беше направен друг опит за придобиване на авторско право върху комикс, създаден с помощта на система с изкуствен интелект. Визуалните елементи са били генерирани с помощта на система с ИИ, а текстът и селекцията, подредбата на комикса е била създаден от неговия автор – физическо лице. При опита за регистрация на това произведение, отново беше отказано да се регистрира, но този път – частично. Авторката получи защита за текстовете, които тя самата е създала, но визуалната част, която е генерирана със система с ИИ, не беше защитена. Компетентният орган в САЩ тогава направи разграничение и отвари вратата да се погледне, че едно произведение може да се състои, както от елементи, генерирани със системи с ИИ, така и от такива, създадени от човек. Това, че произведението е създадено и с помощта на система с ИИ, не лишава автора от възможността да търси защита за нещата, за които може да докаже творчество.

В България нямаме такива примери. Най-вече защото при нас няма изискване за регистрация на едно произведение на изкуството или архитектурата, за да може да бъде защитено като такова, ако отговаря на съответните законови изисквания. Подобни случаи в нашата реалност, включително на ниво ЕС, по-скоро биха се появили, ако започнат спорове. Може да стане при създаването на музикално произведение, например, изцяло генерирано със система с ИИ и тогава могат да започнат спорове за неговата защита.

Един от ключовите въпроси за защита на авторството, когато е използвана система или модел с ИИ за създаването на някаква творба, е дали тази „творба“ може да бъде обект на защита като обект на авторско право. Ако дадена творба е създадена с комерсиална цел – дали онлайн съдържание, видеоклип с идеята да генерира повече трафик, оттам да се получат повече договори за реклама, дали ще бъде видеоигра, която да бъде създадена с ИИ, за да бъде пусната отново през платформа за разпространение на видеоигри, за да може да я свалят все повече играчи, да я ползват и да плащат за свалянето - за заинтересованите лица ще е важно да могат да защитят „произведението“ си. Това може да е, примерно, забрана на други компании да копират основния им герой от играта или да копират текста от песента и да го използват с друг аранжимент. Ако няма защита, това може да повлияе на търговските интереси. В дългосрочен план това може да повлияе на начина на използване на системите с ИИ от бизнеса. Ако тези бизнеси не могат да защитят „произведенията“ си, може да потърсят други варианти за създаване на такива „произведения“ и/или за използване на системите с ИИ.

Сякаш надничаме в изцяло нов свят. Какви са рисковете в този нов свят, където ще се разширява употребата на Изкуствения интелект?

Рисковете са най-разнообразни, защото индустрията за създаване, използване и внедряване на системи с ИИ се развива много бързо и динамично. Те започват да навлизат в най-различни сфери – медицината, управлението на човешки ресурси, киберсигурност и други. Те все повече стават част от нашето ежедневие, дори да не съзнаваме, че са там. Това увеличава и рисковете. Представете си, че една компания инвестира много в разработването на свой продукт, които в последствие не може да защити.
Друг риск е когато ИИ навлиза в сфера, където има сериозна обработка на лични данни. Последните седмици имаше случаи на неочаквана автономност на различни системи с ИИ от световен мащаб, които правят неочаквани неща. Сега започва проверка до каква степен тези системи с ИИ могат да бъдат контролирани, дали не трябва да се промени подходът към такива системи. Става дума за киберсигурност и достъп до информация – в САЩ системите са събирали информация, която не би трябвало да събират, влизали са в бази данни, в които не е трябвало да влизат.
Към момента случаите са основно в САЩ. Европа и Китай са след тях. Това е логично, защото много средства се инвестират в системите и моделите с ИИ в САЩ. Там са най-големите компании – Open AI, Anthropic. Ще споделим някои примери на събитието на CreaTech South-East Europe Summit. Този форум се организира за четвърта поредна година. На него се разглежда взаимовръзката между технологиите, иновациите и изкуството. Тазгодишният форум ще е посветен на състоянието и развитието на креативните индустрии в ерата на изкуствения интелект. Ще имаме и тема, която ще разглежда авторството върху резултати, генерирани с ИИ.