OpenAI привлече български учен за усъвършенстване на невидимия знак в AI текстовете

Изборът на българския учен е свързан и с изследванията на неговия екип върху надеждността на водните знаци при големите езикови модели

Основателят на INSAIT проф. Мартин Вечев, който е и преподавател в ETH Zurich, е сред избраните изследователи, с които OpenAI ще работи по технология за откриване на текстове, създадени от изкуствен интелект. Разработката използва невидим воден знак, който се вгражда в текста още при генерирането му.

OpenAI привлича българския учен проф. Мартин Вечев в работата по усъвършенстването на технология, която може да помогне за разпознаването на съдържание, генерирано от изкуствен интелект (AI). Той е сред ограничен кръг изследователски партньори, които ще помагат на компанията да оцени възможностите и ограниченията на системата, пише Forbes.

Вечев е основател и научен директор на Института за компютърни науки, изкуствен интелект и технологии INSAIT, както и професор по компютърни науки в швейцарския ETH Zurich. Сред останалите партньори на OpenAI са проф. Джон Тикстън от Cornell University и изследователи от Kempelen Institute of Intelligent Technologies.

Разработката идва на фона на новите европейски изисквания за разпознаваемост на съдържанието, създадено или манипулирано с помощта на AI.

Българи разработиха инструмент за проверка на надеждността на изкуствения интелект за ЕС

Българският INSAIT с пробив в регулацията на ЕС за изкуствен интелект

Как работи технологията на OpenAI?

Системата, наречена textGrain, използва невидим цифров воден знак, който се добавя към текста още докато езиковият модел го генерира. Вместо да вмъква специални символи, необичайна пунктуация или други видими белези, технологията прави контролирани промени във вероятността моделът да избира определени думи и части от думи. Така в текста се оформя статистически сигнал, който специализиран детектор може впоследствие да разпознае.

Това е различен подход от този на много съществуващи AI детектори, които анализират вече написан текст и търсят езикови особености, характерни за машинно генерираното съдържание.

OpenAI започва поетапно да въвежда текстовия воден знак за отговарящите на условията потребители на ChatGPT и Codex в Европейския съюз. Предвижда се технологията да обхване всички абонаментни планове. Клиентите, които използват API на компанията в световен мащаб, вече могат доброволно да активират маркирането за поддържаните модели.

Детекторът обаче засега няма да бъде достъпен публично. OpenAI планира да предоставя достъп на одобрени изследователи и експертни организации, докато технологията продължава да се развива. Едно от ограниченията е, че сигналът може да стане по-труден за откриване при кратки текстове, сериозно редактиране, перифразиране или превод.

Защо OpenAI работи с Мартин Вечев?

Изборът на българския учен е свързан и с изследванията на неговия екип върху надеждността на водните знаци при големите езикови модели. През 2026 г. Вечев и негови колеги публикуват разработки за създаването на по-устойчиви водни знаци, включително методи, които запазват сигнала и след последващи промени в AI моделите.

Друго тяхно изследване предлага обща рамка за оценка и сравнение на различни технологии за маркиране. Проектът AutoMark пък използва AI модели за автоматично откриване на нови и по-ефективни методи за поставяне на водни знаци.

Тези разработки са насочени към един от основните проблеми пред технологията: как произходът на дадено съдържание да може да бъде установен по-надеждно, дори когато текстът е бил допълнително обработен.

Водният знак не доказва кой е авторът

Дори когато детекторът открие воден знак, това не означава, че може със сигурност да установи кой е написал текста или какъв е приносът на човека. Наличието на сигнал може да покаже, че съдържанието вероятно е генерирано или обработено от система на OpenAI. То обаче не разкрива кой е използвал системата, дали човек е променил текста, кой притежава авторските права или дали информацията в него е вярна.

Обратното също е валидно - липсата на открит воден знак не доказва, че текстът е написан от човек. Сигналът може да бъде отслабен или загубен при редактиране и превод.

Какво изисква Европейският съюз?

Развитието на технологията има значение и заради европейския Акт за изкуствения интелект. Член 50 предвижда доставчиците на системи, които генерират синтетично аудио, изображения, видео или текст, да гарантират, доколкото това е технически възможно, че резултатите могат да бъдат разпознавани като създадени или манипулирани с AI.

Изискванията по член 50 започнаха да се прилагат на 2 август 2026 г. За определени системи, пуснати на пазара преди тази дата, е предвиден преходен период до 2 декември 2026 г. При нарушения на изискванията на член 50 санкциите могат да достигнат 15 млн. евро или 3% от общия годишен световен оборот на компанията.