AI вече може да „разкрие“ собственото си мислене: Нов метод повдига въпроси

Защо откритието е важно?

Изследователи са открили начин да извличат части от скритите разсъждения на едни от най-мощните модели с изкуствен интелект, включително Claude, GPT и Gemini. Според тях методът може да даде нови доказателства за това как се обучават конкурентни AI системи, включително дали китайски модели са използвали знания от водещи американски разработки, пише Wired.

Компютърни учени от Университета в Тюбинген, Института „Макс Планк“, MATS Research и компанията за киберсигурност Snyk са установили, че „следите от разсъждения“ на големите езикови модели не са толкова недостъпни, колкото се смяташе досега.

Тези следи представляват междинните стъпки, през които AI моделът преминава, докато решава сложен проблем. Компаниите обикновено не ги показват на потребителите, тъй като те могат да разкрият информация за начина, по който е изграден и обучен моделът. Изследователите обаче са открили начин да използват по-малка версия на същия модел, за да възстановят част от скритото му разсъждение.

Как работи трикът?

Снимка: Getty Images/iStock

Големите AI модели често имат по-малки версии, които са по-евтини и по-бързи за използване. Именно това се оказва ключово за новата техника. Изследователите подават криптирани следи от разсъжденията на големия модел към по-малка версия на същия модел. Тя е по-слабо „обучена да се въздържа“ от разкриване на вътрешните си процеси и в определени случаи може да възстанови част от тях.

При тестовете методът е работил при модели на OpenAI, Anthropic и Google, достъпвани през техните API. Още по-притеснителното е, че изследователите са успели да открият и чувствителна информация, включително пароли и API ключове, съдържащи се в следите от разсъжденията. Тази конкретна уязвимост вече е отстранена от компаниите.

Kimi K3 показва изненадващи прилики с американски модели

Снимка: Getty Images/iStock

Един от най-интересните резултати е свързан с китайския модел Kimi K3 на Moonshot AI. Изследователите са сравнили начина, по който различни AI модели разсъждават при решаването на 90 задачи. При Kimi K3 те са открили забележителни сходства с поведението на Claude Opus и GPT при определени въпроси.

Това повдига въпроса дали Kimi K3 може да е бил обучаван чрез т.нар. дестилация – техника, при която възможностите на един по-мощен модел се използват за обучение на друг. Важно е обаче, че учените са категорични: резултатите не доказват, че Kimi K3 е обучаван чрез дестилация от американски модели.

Други модели с отворени тегла, включително китайският DeepSeek и американският модел Inkling, не са показали същото ниво на сходство с Claude. Moonshot AI и Z.ai не са коментирали резултатите преди публикуването на изследването.

Една причина обяснява защо Google Maps не е еднакво точен навсякъде

Защо се появава този проблем?

Какво всъщност е „дестилация“?

Дестилацията е широко използвана техника в развитието на изкуствения интелект. Най-просто казано, при нея по-малък модел се учи от поведението и отговорите на по-голям и по-мощен модел.

Това позволява създаването на по-евтини и по-ефективни системи, които могат да постигат част от възможностите на оригинала. Именно заради това техниката се превърна и в геополитически въпрос.

Американски компании вече са обвинявали китайски разработчици, че използват дестилация, за да ускорят създаването на свои модели. OpenAI например заяви пред американски законодатели, че DeepSeek изглежда е използвал подобен подход при разработването на своя модел R1. Anthropic също обвини Alibaba в систематично дестилиране на негови модели. Новото изследване обаче не показва, че китайски компании са използвали точно този метод.

Защо откритието е важно?

Според учените резултатите показват, че затворените AI модели може да разкриват повече информация за вътрешната си работа, отколкото разработчиците им предполагат.

Това има два сериозни аспекта.

От една страна, съществува риск от изтичане на чувствителни данни. От друга – ако скритите разсъждения могат да бъдат възстановявани, теоретично те могат да бъдат използвани и за обучение на конкурентни модели.

Именно тук се появява проблемът с дестилацията.

Ако дадена компания успее да получи достъп до достатъчно информация за начина, по който работи водещ AI модел, тя може да използва тези данни, за да подобри собствената си система, без да изгражда всичко от нулата.

Изследователите са предупредили OpenAI, Anthropic и Google за откритата уязвимост. Компаниите са направили промени в своите API, за да ограничат възможността за извличане на лична информация.

Anthropic потвърди, че разработва допълнителни мерки срещу описаното поведение. Компанията подчерта, че изследването не е довело до възстановяване на нейни криптографски ключове или достъп до вътрешната ѝ инфраструктура.

Името на технология, която всички използват, идва от викинг и неговия мъртъв зъб

Какво означава символът?

Нов фронт в битката между САЩ и Китай

Откритието идва в момент, когато американски и китайски компании се състезават за лидерство в развитието на изкуствения интелект. За едни дестилацията е форма на технологично копиране, която позволява на конкурентите да се възползват от чужди разработки. За други тя е естествена част от развитието на AI индустрията и един от механизмите, чрез които новите модели стават по-бързо по-ефективни.

Според някои експерти дори пълното ограничаване на дестилацията няма да промени драстично конкурентната среда. Китайските компании вече разполагат с достатъчно знания и специалисти, за да разработват собствени модели от нулата.

Затова големият въпрос вече не е само кой има най-мощния AI модел, а и колко информация за него може да бъде извлечена отвън. Новото изследване показва, че границата между „затворен“ и „отворен“ изкуствен интелект може да е много по-тънка, отколкото технологичните компании досега са предполагали.