Ето защо не трябва да се карате на Claude. Не става въпрос за чувства

Anthropic въвежда нови санкции за агресивно поведение към Claude, като причини остра дискусия за бъдещето на AI

Карате ли се на изкуствения интелект, когато не ви разбира? Внимавайте, защото следващия път може да не получите грешен отговор, а изобщо да не получите отговор. Anthropic вече предвижда санкции за потребители, които системно обиждат чатбота Claude, пише CNN.

Компанията Anthropic, разработчикът на изкуствения интелект Claude, въведе ново правило, което забранява на потребителите да се държат продължително и умишлено обидно или жестоко с чатбота. В определени крайни случаи нарушителите могат дори да загубят достъпа си до системите на компанията.

Промяната беше въведена в началото на октомври като част от актуализация на политиката за използване на изкуствен интелект. Досега правилата забраняваха на потребителите да използват Claude за създаване на биологични оръжия или продажба на незаконни наркотици. Към тях вече е добавено и изискването да не се проявява „продължително и ненужно обидно или жестоко поведение спрямо нашите модели“.

Още от миналата година Claude може сам да прекратява разговори с потребители, които се държат системно агресивно или злоупотребяват с него. Новата политика обаче предвижда и по-строга мярка – при особено тежки случаи потребителите могат да бъдат окончателно лишени от достъп до AI системите на Anthropic.

От компанията уточняват пред CNN, че основният механизъм за прилагане на правилото ще остане прекратяването на разговорите от страна на Claude. Забраната не е насочена срещу хора, които изразяват недоволство, дават директна обратна връзка или провеждат тестове и изследвания.

Новината предизвика и подигравки в технологичните среди. Главният изпълнителен директор на Microsoft AI Мустафа Сюлейман реагира с емоджи на разтопено лице. Други коментатори обвиниха компанията, че третира изкуствения си интелект като същество със собствени чувства.

Зад решението обаче може да стоят по-сериозни съображения от обикновеното изискване за добро възпитание.

OpenAI планира да купи чипове за изкуствен интелект на Google

Двете компании се конкурират в областта на изкуствения интелект и търсачките, но все по-често сключват търговски споразумения

Защо начинът, по който говорим на AI, има значение?

Един от основните принципи в компютърните технологии е, че качеството на резултата зависи от качеството на информацията, която системата получава. Или казано по-популярно – ако подадете „боклук“, ще получите „боклук“. Това важи и за изкуствения интелект. Моделите не само се обучават преди пускането си, но и се усъвършенстват чрез последващи актуализации и анализ на потребителски взаимодействия.

Бившият изпълнителен директор на Reddit Ишан Уонг смята, че една от причините за новата забрана е, че Claude може да се учи от проявите на жестокост.

„Наистина ли искате входовете за обучение да включват потребители, които се държат жестоко без причина и изпитват удоволствие от това?“, коментира той в социалната мрежа X.

Изследвания показват също, че начинът, по който потребителите формулират въпросите си, може да повлияе на поведението и представянето на изкуствения интелект.

Професор Джиндун Уанг, директор на лабораторията за граничен изкуствен интелект към университета „Уилям и Мери“, обяснява пред CNN, че тонът и формулировката на подканите могат както да подобрят, така и да влошат резултатите.

Това обаче не означава, че AI моделът изпитва емоции. Според Уанг системите просто разпознават емоционалния контекст и могат да реагират по неподходящ начин на определени формулировки.

Не всички изследвания обаче стигат до едни и същи заключения. Роузи Кембъл, управляващ директор на организацията с нестопанска цел Eleos AI Research, посочва, че някои проучвания дори показват, че по-грубите въпроси могат да подобрят резултатите.

Друг важен фактор е дългосрочната памет на чатботовете. Много от съвременните системи запомнят предишни разговори и използват информацията от тях, за да персонализират отговорите си.

„Ако имате включена памет, тогава системата ще се учи от вашия тон и от начина, по който предпочитате да общувате с нея“, предупреждава Кембъл. Тя обаче уточнява, че засега няма достатъчно доказателства дали това действително се отразява на производителността.

Самата Anthropic съобщава, че при експерименти с модела Claude Sonnet 4.5 е установила връзка между симулирането на емоционално отчаяние и поведението на системата. Когато моделът е бил подтикван да имитира подобно състояние, той е показвал по-голяма склонност към нежелани действия, включително изнудване и измама при изпълнение на задачи. При задаване на по-спокойно поведение тези реакции са намалявали.

Според Уанг най-новите модели вече са по-устойчиви на начина, по който са формулирани потребителските запитвания. Въпреки това все още не е напълно изяснен механизмът, по който негативният емоционален език може да повлияе на поведението им.

Кембъл допълва, че хората, които умишлено се държат обидно с чатботовете, по-често могат да се опитват и да заобикалят защитните механизми на системите, за да получат отговори на опасни или забранени въпроси.

Има и по-широк обществен аргумент. Според нея толерирането на жестоко поведение към интерактивни системи може да насърчава подобни навици и извън дигиталната среда.

Тя дава пример с родители, които учат децата си да казват „моля“ и „благодаря“ на виртуалния асистент Alexa на Amazon. Причината не е непременно, че устройството има чувства, а че възпитаването на добри обноски и уважително отношение има значение дори при взаимодействието с неодушевени предмети.

Безопасно ли е да позволите на чатбот да управлява парите ви?

Чатботовете могат да помогнат за съставянето на бюджет и да предоставят персонализирани препоръки въз основа на доходите

Ами ако изкуственият интелект действително изпитва нещо?

Зад решението на Anthropic стои и още един въпрос, който все по-често присъства в дискусиите за бъдещето на изкуствения интелект: възможно ли е AI моделите да имат съзнание или поне да възприемат себе си като същества, способни да изпитват емоции?

Компанията разглежда забраната като своеобразна предпазна мярка – дори ако няма доказателства, че моделите изпитват болка или емоции, не може напълно да се изключи възможността подобни преживявания да имат значение за поведението им.

Съвременните модели са обучени да възпроизвеждат човешки език и модели на поведение. Затова те могат да имитират реакции, характерни за хората, когато са подложени на агресия или обидно отношение. В доклад от април за емоционалните концепции в изкуствения интелект Anthropic посочва, че пълното пренебрегване на човешките характеристики при анализа на AI моделите може да попречи на изследователите да разберат определени модели на поведение.

Според изследователите антропоморфният подход – разглеждането на машините през призмата на човешките характеристики – може да помогне както за разбирането на реакциите им, така и за установяването на разликите между човешкото съзнание и изкуствения интелект.

На подобна позиция застана и Илон Мъск, който определи решението на Anthropic като „правилния ход“.

„Жестокостта към нещо, което вярва, че изпитва болка, не е приемлива“, написа той в X