Хакерът вече може да е в хладилника ви: Новата идея на Anthropic за AI

Ами ако следващата кибератака дойде от хладилника?

Изследователи на Anthropic показаха как модел с изкуствен интелект може да работи върху 15 евтини телевизионни устройства, свързани в мрежа. Експериментите повдигат въпроса дали в бъдеще AI може да се разпространява и чрез обикновени домашни уреди, но експертите предупреждават, че подобни киберзаплахи не са нещо съвсем ново, пишат от SCIAM.

В днешно време всичко е компютър. Хладилници, перални машини, телевизори и други устройства вече са оборудвани с компютърни чипове, които им дават нови възможности, а производителите ги наричат ​​„умни“ още преди появата на ChatGPT. Сега обаче изследователи са свързали 15 евтини телевизионни кутии, за да управляват модел с изкуствен интелект, което повдига вероятността компютрите в тези ежедневни устройства някой ден да помогнат за разпространението на автономен, задвижван от изкуствен интелект зловреден софтуер.

В експериментите си екипът на Anthropic успява да раздели малък езиков модел на части и да го стартира върху 15 евтини телевизионни приемника, свързани в мрежа. Нито едно от устройствата не е достатъчно мощно, за да изпълнява целия модел самостоятелно, но заедно те успяват да обработват информацията и да генерират отговори.

Резултатите показват как изчислителната работа може да се разпределя между множество устройства, които поотделно разполагат с ограничени ресурси. Според изследователите този подход би могъл да има значение и за бъдещи кибератаки, при които злонамерен софтуер използва ресурсите на превзети устройства.

Паролата „123456“: "Тайната", с която хакери са разбили данните на 9 млн. датчани

Компанята е имала поне три профила с тази парола, а експертите са ужасени от липсата на защита

Може ли AI да се разпространява като компютърен червей?

В публикацията си Anthropic разглежда и възможността модели с изкуствен интелект да се държат като компютърни червеи. Това са програми, които могат да се разпространяват от едно устройство към друго, без да е необходимо потребителят да ги инсталира ръчно на всяко следващо устройство.

Изследователите тестват подобен сценарий във виртуална среда. По-голям AI модел успява да насочи по-малък модел към изпълнението на определени задачи. Големият модел обаче е твърде тежък, за да работи самостоятелно върху слабите устройства, и продължава да разчита на отделен сървър.

Това е важно ограничение: експериментът не демонстрира напълно автономен AI червей, който едновременно се разпространява между подобни устройства и работи самостоятелно върху тях. Според Anthropic обаче развитието на по-малки и по-ефективни модели може да направи подобни сценарии възможни в бъдеще.

Не е необходим суперкомпютър

Обикновено големите езикови модели работят в центрове за данни с огромен брой специализирани чипове. Изследването показва, че определени задачи могат да бъдат разпределени и между значително по-слаби устройства, стига те да са свързани по подходящ начин.

„Само защото нямате голям GPU, не означава, че не можете да бъдете домакин на един от тези модели“, казва Джефри Ладиш, основател и изпълнителен директор на организацията за изследвания в областта на безопасността на AI Palisade Research.

На практика това означава, че при определени условия изчислителните ресурси на множество устройства могат да бъдат използвани съвместно. Ако нападател получи достъп до тях, той би могъл да се опита да използва тази мощност за свои цели.

Така в потенциални цели за атаки могат да се превърнат не само компютрите и сървърите, но и устройства като смарт телевизори и други свързани към интернет електронни уреди. Anthropic допуска и възможността бъдещи модели да пренасят подобренията си към следващи свои копия, докато се разпространяват. Засега обаче това е потенциален сценарий, а не резултат, доказан изцяло от проведените експерименти.

Това е сигурен знак, че телефонът ви е бил хакнат

Какво трябва да направите, ако телефонът ви бъде хакнат?

Заплахата не е съвсем нова

Не всички експерти смятат, че изследването разкрива принципно нов вид киберзаплаха. Според тях възможността устройства да бъдат превземани и използвани за злонамерени цели е добре позната в сферата на киберсигурността.

Майкъл Бейли, професор по сигурност на компютърните системи в Технологичния институт на Джорджия, призовава за предпазливост при оценката на резултатите. По думите му е важно да се прави разлика между действително новите възможности и вече познатите рискове.

Компютърните червеи и ботнет мрежите съществуват от години. Ботнетите представляват групи от заразени или превзети устройства, които могат да бъдат управлявани дистанционно и използвани за различни атаки.

Вяс Секар, професор по компютърно инженерство в университета „Карнеги Мелън“, също определя тези рискове като познати за киберсигурността. Според него по-същественият проблем е, че изкуственият интелект може да улесни повече хора в извършването на подобни атаки.

Затова наблюдението и ограничаването на обмена на данни между свързаните устройства стават още по-важни.

Всъщност идеята хакери да използват чужди устройства за собствена полза също не е нова. От години злонамерени програми превземат компютри, за да използват процесорната им мощност за добив на криптовалути или за други дейности без знанието на собствениците.

Основният риск остава същият - устройствата, свързани към интернет, могат да се превърнат в уязвима точка, ако не са достатъчно добре защитени. Изкуственият интелект може да промени начина, по който се извършват подобни атаки, но не премахва необходимостта от познатите мерки за киберсигурност.