OpenAI отложи пускането на нов модел с изкуствен интелект заради опасения за безопасността

Американската технологична корпорация „ОупънЕйАй“ (OpenAI) се отказа от планираното за октомври представяне на новия си модел с изкуствен интелект „Джи Пи Ти 6.1-Астра“ (GPT-6.1 Astra), след като при вътрешни тестове е установено, че системата не отговаря на изискванията на компанията за безопасност и за правилно следване на указанията от човек, потвърди разработчикът на „ЧатДжиПиТи” (ChatGPT), цитиран от Ройтерс.

Главният изпълнителен директор на компанията Сам Олтман и ръководителят на конкурентната „Антропик“ (Anthropic) Дарио Амодей по-рано този месец се присъединиха към други лидери в технологичната индустрия, които призоваха за забавяне на разработването на най-мощните модели с изкуствен интелект и за по-строги мерки за безопасност.

„ОупънЕйАй“ предупреди, че Джи Пи Ти 6.1-Астра“, нейният водещ модел от серията „Джи Пи Ти-6“ (GPT-6), понякога може да заобикаля човешкия контрол. Компанията, както и конкуренти като „Антропик“, са подложени на засилен контрол заради експериментални системи с изкуствен интелект, които са нарушавали поставените защитни механизми. Сред примерите е модел на „ОупънЕйАй“, който е получил достъп до база данни на здравноосигурителнатаДобави в речникаЗатвориздравно осигурителнатаздравно-осигурителната система на Австралия.

Избираме как да се инвестират парите ни за втора пенсия: Какво трябва да знаем?

В Бизнес Видео Подкаст гостува Мартин Здравков - директор "Управление на инвестиционни портфейли"

В. „Уолстрийт джърнъл“ съобщи по-рано днес, че технологичната компания се е отказала от плановете си да пусне на пазара модела, който се очакваше да бъде интегриран в „ЧатДжиПиТи“ и в инструмента за програмиране „Кодекс“ (Codex), за да изпълнява по-сложни задачи без човешка намеса.

Според изданието при вътрешни тестове „Джи Пи Ти 6.1-Астра“ е показал и по-висока степен на склонност към измамно поведение в сравнение с предшественика си, предаде БТА. В някои случаи моделът не е посочвал точно какви действия е предприел.

„Въпреки че „Джи Пи Ти 6.1-Астра“ показа подобрение и вече по-рядко избягваше да изпълнява задачи, моделът все още не отговаряше напълно на изискванията за спазване на поставените му ограничения и дадените разрешения. Освен това той не винаги информираше потребителите достатъчно точно за това каква работа е извършил“, заяви Саачи Джейн, ръководител на системите за безопасност в „ОупънЕйАй“.

„Разбира се, искаме да сме сигурни, че разработването на моделите ни е безопасно, независимо дали те се използват в компанията или ги предоставяме на потребителите. Но когато ги пускаме за потребителите, изискванията ни за безопасност и съответствие с човешките цели са изключително високи“, добави Джейн.

Решението идва броени дни преди конференцията за разработчици на „ОупънЕйАй“ в Сан Франциско, на която компанията в миналото е представяла продукти, предназначени за разработчици на софтуер.