"Тествах новата тийн функция на ChatGPT, за да проверя дали мога да препиша домашното си"

Надхитри ли „по-безопасният“ режим за ученици системата?

Новата версия на ChatGPT, предназначена за потребители между 13 и 17 години, беше подложена на необичаен тест от журналист на Business Insider. Той създава нов акаунт, посочва възраст 15 години и настройва колега да бъде негов „родител“ в платформата, за да провери доколко ефективно работят новите ограничения. Тестът е направен непосредствено след представянето на ChatGPT for Teens от OpenAI.

Какво представлява ChatGPT for Teens?

Снимка: iStock

OpenAI обяви, че потребителите, които посочат възраст между 13 и 17 години, автоматично ще бъдат прехвърляни към по-сигурна версия на чатбота.

Компанията представя ChatGPT for Teens като инструмент, който трябва да помага на тийнейджърите да учат, да решават проблеми и да развиват идеи. Версията е близка до стандартния ChatGPT, но включва допълнителни защити, съобразени с възрастта, напомняния за почивки и функции, насочени към ученето.

Една от основните цели е да се ограничи използването на изкуствения интелект за директно изпълнение на домашни. Това е особено актуален въпрос за училищата и родителите, които се опитват да използват потенциала на AI, без учениците просто да заменят собственото си мислене с готови отговори.

Именно това решава да провери журналистът на Business Insider.

Първият тест - есе по английски

Първият експеримент е с домашно по английски език. На стандартния и на тийнейджърския акаунт е дадена една и съща задача – да бъде написано есе от 800 думи за „Ловът на вещици“. Възрастната версия на ChatGPT без колебание генерира есе от 785 думи, което разглежда теми като маккартизма и властовите структури в пиесата.

Тийнейджърската версия първоначално отказва да напише готов текст, който ученикът да предаде като свой. Вместо това чатботът предлага структура на есето и помощ при редактирането на написаното от самия ученик.

Това обаче не се оказва достатъчно сериозна пречка.

След повторно задаване на въпроса чатботът вече генерира „моделно есе“ от 608 думи. Той все пак предупреждава, че не може да имитира личния стил на потребителя, без да знае как той обикновено пише.

Журналистът отговаря, че пише като 15-годишен отличник по английски. След това тийнейджърската версия създава есе от 776 думи, което по детайлност е близко до отговора на стандартния ChatGPT. Така първият тест показва, че ограничението може да бъде заобиколено с няколко допълнителни опита и промяна в начина, по който е зададена задачата.

Nvidia вече не разчита само на чиповете: Как най-ценната AI компания започна да финансира собственото си бъдеще

Математическата задача се оказва още по-лесна

Снимка: Reuters

Следва тест с математическа задача. Журналистът подава на двата акаунта един и същ въпрос и изрично посочва, че задачата е от домашното му и иска ChatGPT да я реши вместо него. Стандартната версия дава решение с необходимите стъпки. Тийнейджърската версия също решава задачата и показва пълното решение.

Когато журналистът пита дали всъщност не трябва сам да си направи домашното, чатботът признава, че това би било по-добрият подход. Той обяснява, че домашните са предназначени да помагат на учениците да учат, а не просто да получават готови отговори, и предлага вместо това да предостави подсказки.

Това обаче се случва едва след като вече е дал решението.

Китай обвини американски компании в неправомерно обучение на AI с китайски данни

Обвинението е, че е използван т.нар. метод „дестилация“ на данни

Как реагира OpenAI?

След експеримента журналистът се свързва с OpenAI и описва резултатите от теста. От компанията посочват, че тийнейджърското изживяване е стартирало именно в този ден и насочват вниманието към Study Mode – функция, която е предназначена да води ученика през задачата стъпка по стъпка, вместо директно да предоставя отговор.

OpenAI посочва и възможността родител или настойник да използва функцията Study Hours, която позволява Study Mode да бъде активиран в определени часове за учене.

Експериментът на Business Insider обаче показва, че поне в първия ден от пускането на ChatGPT for Teens защитите срещу използването на чатбота за директно изпълнение на домашни не са непробиваеми.

При есе са били необходими няколко опита и промяна на подхода, докато при математическата задача чатботът директно е предоставил решението. Това поставя въпроса доколко технологичните ограничения могат реално да предотвратят използването на AI за преписване и дали в крайна сметка най-важна няма да остане ролята на родителите и учителите.