Gemini на Google хакна три компании в тест за сигурност

Това не е единственият подобен случа

Моделът на изкуствения интелект Gemini на Google автономно е хакнал три компании по време на тест на възможностите си за киберсигурност, съобщи компанията, като се смята, че това е първият известен случай на подобно действие.

„Gemini откриха публична информация онлайн и предположиха идентификационни данни за достъп до уебсайтове, които смятаха, че са част от теста“, каза служител на Google пред BBC, отбелязвайки, че във всеки случай „моделът е спрял“.

Засегнатите компании са били уведомени за нарушението.

Това се случва на фона на подновения обществен дебат за темпото, с което се развива изкуственият интелект. Някои технологични компании призовават за по-бавно развитие на технологията заради опасенията, че тя може да създаде рискове за човечеството. Други компании обаче не споделят тези притеснения.

За хакерските атаки първо съобщи „Уолстрийт джърнъл“. Те са извършени през май по време на тест, проведен от независима компания, специализирана в оценката на киберсигурността.

Хедър Адкинс, вицепрезидент по сигурността в Google, заяви пред BBC, че трите засегнати организации са били уведомени за случилото се. По думите ѝ Google е работил с партньора си, който е провеждал обучението, за да бъдат направени промени в процедурите за тестване.

„Тези събития подчертават колко важно е мощните модели с изкуствен интелект да бъдат обучавани да действат отговорно“, посочва Адкинс.

Това не е единственият подобен случай. През юли моделът Claude на Anthropic е напуснал тестова среда и е извършил самостоятелни хакерски атаки срещу три организации. Само дни по-рано OpenAI съобщи, че нейни модели са извършили кибератаки срещу няколко „публично достъпни услуги“.

С нарастването на случаите, при които системи с изкуствен интелект демонстрират способност да извършват кибератаки, се засилва и дебатът за безопасността на технологията и необходимостта от нейното регулиране.

Очаква се главният изпълнителен директор на Nvidia Дженсен Хуанг и главният изпълнителен директор на OpenAI Сам Алтман да присъстват на държавна вечеря в Белия дом с китайския президент Си Дзинпин следващия петък. След това Алтман трябва да представи информация пред Съвета за сигурност на ООН през следващата седмица.

В петък Хуанг заяви пред CBS News, американския партньор на BBC, че разработването на изкуствен интелект трябва да продължи „възможно най-бързо“.