Той участва в създаването и усъвършенстването на технология за воден знак при текстове, генерирани от изкуствен интелект
Мартин Вечев е сред малцината водещи световни изследователи, поканени от OpenAI да участват в разработването и усъвършенстването на нова технология за воден знак (watermarking) при текстове, създадени от изкуствен интелект. Това съобщиха от Министерството на образованието.
Технологията добавя невидим статистически сигнал към начина, по който моделът генерира текста. Впоследствие специален детектор може да установи дали в него е наличен такъв сигнал.
Вместо да се анализира стилът на текста, както правят традиционните инструменти за разпознаване на съдържание, създадено от изкуствен интелект, новият подход разчита на откриването на предварително вградена индикация за неговия произход.
Разработването на технологията се случва на фона на въвеждането на европейските изисквания за прозрачност на съдържанието. Европейският акт за изкуствения интелект дава на съществуващите системи преходен период до 2 декември 2026 г., в който те трябва да изпълнят изискванията за машинно четимо маркиране и откриване на съдържание, генерирано с изкуствен интелект. Така технологиите, позволяващи установяването на произхода на подобно съдържание, се превръщат във важна тема за AI индустрията.
На този етап детекторът за текст не е достъпен публично. OpenAI е предоставила достъп до него на ограничен кръг изследователи, сред които е проф. Вечев, които проучват технологията и участват в работата по нейното усъвършенстване.
