Бан на социалните мрежи за деца. Ще проработи ли?
Забраната, която ще обхване платформи като X, TikTok, Facebook и Instagram
Facebook и Instagram ще маркират всички фалшиви изображения с изкуствен интелект
Meta признава, че нейният инструмент няма да работи за аудио и видео
Meta заявява, че ще въведе технология, която може да открива и отбелязва изображения, генерирани от инструменти за изкуствен интелект на други компании, съобщава BBC.
Тя ще бъде внедрена в нейните платформи Facebook, Instagram и Threads. Meta вече отбелязва изображения с изкуствен интелект, генерирани от собствените ѝ системи. Компанията заявява, че се надява новата технология, която все още изгражда, да създаде "импулс" за индустрията да се справи с фалшифицирането на ИИ.
Но експерт по ИИ заяви пред BBC, че подобни инструменти са "лесно заобиколими".
В публикация в блог, написана от старшия изпълнителен директор Ник Клег, Meta заявява, че възнамерява да разшири обозначаването на фалшификати на изкуствен интелект "през следващите месеци".
В интервю за информационна агенция Reuters той признава, че технологията "все още не е напълно зряла", но казва, че компанията иска да "създаде усещане за динамика и стимул за останалата част от индустрията да я последва".
Но професор Сохейл Фейзи, директор на Лабораторията за изкуствен интелект в Университета на Мериленд, предполага, че подобна система може лесно да бъде заобиколена.
"Може да успеят да обучат детектора си да може да маркира някои изображения, специално генерирани от някои специфични модели", каза той.
"Но тези детектори могат лесно да бъдат заобиколени чрез някаква лека обработка на изображенията, а също така могат да имат висок процент фалшиви положителни резултати.
"Така че не мисля, че това е възможно за широк спектър от приложения".
Meta признава, че нейният инструмент няма да работи за аудио и видео - въпреки че това са медиите, върху които е съсредоточена голяма част от загрижеността за фалшификатите на ИИ.
Компанията заявява, че вместо това иска от потребителите да маркират собствените си аудио- и видеопостове и "може да наложи санкции, ако не го направят".
Ник Клег също така призна, че е невъзможно да се провери дали текстът е генериран от инструменти като ChatGPT.
