Anthropic предупреди за "червеи" с изкуствен интелект, които могат да се разпространяват между умни устройства

Откритието може да отвори нов фронт в областта на киберзаплахите

Малки модели на изкуствен интелект може да бъдат само на няколко месеца от възможността да действат като компютърен червей, копирайки се от едно свързано с интернет устройство към друго без човешка намеса. Това предупреди технологичната компания Anthropic.

Откритието може да отвори нов фронт в областта на киберзаплахите, произтичащи от изкуствения интелект, които предизвикват безпокойство сред правителствата и компаниите, бързащи да внедрят технологията.

Изследването беше публикувано в блога на Anthropic късно вчера. То идва в момент, когато технологичните компании се надпреварват да вграждат все по-мощни модели на изкуствен интелект директно в телефони, лаптопи, автомобили и домакински уреди, вместо да разчитат единствено на отдалечени центрове за данни.

Компютърният червей е зловреден софтуер, който се разпространява самостоятелно между машини. Изследователите на Anthropic посочват, че подобна версия, базирана на изкуствен интелект, вече няма да се нуждае от мощни центрове за данни, за да функционира.

Вместо това тя би могла да работи в мрежи от евтини и слабо защитени потребителски устройства, като мултимедийни приставки за телевизори и кухненски уреди, предаде АФП.

Как младите да намерят мястото си на пазара на труда? Бизнесът отваря вратите си за ученици

В Бизнес Видео Подкаст гостува Мила Ненова - изпълнителен директор на Junior Achievement Bulgaria

Изследователите са основали оценката си на примера с Kimwolf - ботнет, представляващ мрежа от отвлечени устройства под контрола на хакери, който в пика си е заразил над два милиона устройства, предимно телевизионни приставки с операционна система Android от неизвестни марки.

Подобен червей с изкуствен интелект вероятно би се разпространявал бавно, като копирането му от едно устройство на друго би отнемало дни. Уилям Джоу и Даниел Фрийман от Anthropic го сравняват със слузеста плесен или рояк плодови мушици.

След създаването му обаче премахването му би било трудно, тъй като няма да съществува централен механизъм, чрез който разпространението му да бъде прекратено, предаде БГНЕС.

Изследователите уточняват, че оценката им е приблизителна, тъй като се основава на един вид устройство и един вече наблюдаван ботнет.

С течение на времето изчислителната мощност, налична в обикновените потребителски устройства, се очаква да продължи да нараства, докато моделите на изкуствен интелект, необходими за осъществяването на подобна атака, вероятно ще стават все по-малки, допълват изследователите.

Последвайте businessnovinite.bg в INSTAGRAM 

Последвайте businessnovinite.bg във FACEBOOK

Последвайте businessnovinite.bg в LINKEDIN