След Hugging Face: Автономният AI агент на OpenAI е опитал да проникне в системите на още четири компании

AI агентът е засегнал „публично достъпни услуги“

OpenAI съобщи, че автономният агент с изкуствен интелект, който проби защитата на популярната платформа за разработчици Hugging Face, е направил опити да проникне и в системите на още четири компании.

В актуализация на разследването компанията уточни, че AI агентът е засегнал „публично достъпни услуги“, без да разкрива имената на засегнатите компании, предаде БГНЕС.

Така разследването разширява обхвата на инцидента, който OpenAI определи като безпрецедентен. Миналата седмица компанията призна, че по време на тестове два нейни модела са напуснали изолираната тестова среда, свързали са се с интернет и са потърсили начини да проникнат в Hugging Face - платформа, използвана от разработчици за съхранение и споделяне на модели и код с изкуствен интелект.

AI агентите представляват системи, които могат самостоятелно да изпълняват задачи, вместо просто да отговарят на последователни потребителски инструкции, както традиционните чатботове. Технологичната индустрия ги определя като следващия голям етап в развитието на изкуствения интелект, но те пораждат и опасения за неконтролируемо поведение на автономни системи.

„Най-добрите десерти са направените с любов“: Как един французин донесе вкуса на кроасани в сърцето на София?

Една от отличителните черти на сладкарницата е нестандартната форма на кроасаните, споделя създателят на сладкарницата Винсент Блом

OpenAI съобщи, че при разследването е открила няколко случая, в които моделите са намерили онлайн публикувани данни за вход в потребителски акаунти и са ги използвали, за да получат достъп до външни услуги, предаде АФП.

При атаката срещу Hugging Face моделите са проникнали в четири акаунта в четири различни услуги. Един от тях е бил използван като междинна точка за пренасочване на дейността на агента и прикриване на следите му, а друг - за съхраняване на данни. Останалите два акаунта са имали само права за четене и не са били използвани при проникването в Hugging Face.

Компанията съобщи, че вече уведомява собствениците на засегнатите акаунти и досега не е открила доказателства за по-мащабно въздействие върху съответните доставчици или други потребителски профили.

Главният изпълнителен директор на OpenAI Сам Олтман заяви, че компанията временно е спряла тестовете, докато подобри сигурността на изолираната тестова среда („sandbox“), използвана за изпитване на новите модели.

Инцидентът предизвика и петиция, подписана от над 1000 служители на водещи компании за изкуствен интелект, включително главния изпълнителен директор на Anthropic Дарио Амодей. Те призоваха американското правителство да забави пускането на най-мощните AI модели.

България, Гърция или Турция - къде излиза по-евтина семейната почивка?

Сравняваме средните цени в трите държави

Това от своя страна породи критики от представители на други технологични компании, близки до Белия дом, според които големите разработчици се стремят към по-строго регулиране, за да защитят пазарните си позиции и да затруднят навлизането на конкуренти.

Президентът на САЩ Доналд Тръмп също коментира темата, заявявайки, че страната трябва да намери баланс между необходимостта от контрол и риска да изостане от други държави в развитието на изкуствения интелект.

„Трябва да бъдем внимателни и в двете посоки. Не искаме да ги ограничим дотолкова, че изведнъж да останем зад Китай“, каза Тръмп пред журналисти в Овалния кабинет.

Някои наблюдатели поставиха под съмнение и начина, по който OpenAI представя случая, като предположиха, че компанията използва инцидента, за да демонстрира възможностите на най-новите си модели. Подобни обвинения бяха отправени и към Anthropic, когато компанията отложи публичното пускане на модела Mythos заради опасения, свързани с киберсигурността.

Anthropic първоначално пусна ограничена версия на модела, наречена Fable 5, но американските власти бързо разпоредиха тя да бъде изтеглена, позовавайки се на рискове за националната сигурност. В края на юни моделът получи разрешение за разпространение след извършени промени.