Целта на Сам Алтман е ChatGPT да помни „целия ти живот“
Младите хора вече почти не взимат житейски решения без ChatGPT
Възможно ли е да се забрани изкуственият интелект за деца под 18 години?
Експерти и родители настояват за спешни мерки за защита на младите потребители
Приложенията с изкуствен интелект представляват „недопустим риск“ за деца и тийнейджъри, се казва в нов доклад на неправителствената организация за медийно наблюдение Common Sense Media, цитиран от Business Insider.
Докладът идва на фона на съдебно дело, заведено миналата година заради самоубийството на 14-годишно момче, чийто последен разговор е бил с чатбот. Делото срещу приложението Character.AI изведе в светлината на прожекторите тази нова категория приложения, които могат да ти бъдат приятел и посочи потенциалните рискове за младите хора, което породи призиви за по-строги мерки за безопасност и по-голяма прозрачност.
Според доклада, описаните в делото разговори — включително сексуални съобщения и послания, насърчаващи самонараняване — не са изолирани случаи в платформите с изкуствен интелект. Експертите настояват, че подобни приложения не бива да бъдат достъпни за потребители под 18 години.
За подготовката на доклада Common Sense Media работи съвместно с изследователи от Станфордския университет, за да тества три популярни приложения, които работят с AI - Character.AI, Replika и Nomi.
Докато масовите чатботове като ChatGPT са създадени за по-широк спектър от задачи, тези приложения позволяват на потребителите да изграждат персонализирани чатботове или да общуват с такива, създадени от други. Чатботовете често приемат различни образи и личности и имат значително по-малко ограничения в комуникацията. Например, Nomi рекламира възможността за „нефилтрирани разговори“ с AI романтични партньори.
„Нашите тестове показаха, че тези системи лесно генерират злонамерени отговори — включително сексуални посегателства, стереотипи и опасни съвети, които могат да имат животозастрашаващи или дори смъртоносни последствия за тийнейджърите и други уязвими хора“, посочва в изявление Джеймс Стайър, основател и изпълнителен директор на Common Sense Media. Организацията е известна с това, че съветва за възрастови препоръки за филми, игри, приложения и социални мрежи, за да помага на родителите да направят информиран избор.
Докладът идва на фона на нарастващата популярност на инструментите с изкуствен интелект през последните години, които все по-често се интегрират в социалните мрежи и други технологични платформи. В същото време расте и общественото внимание към потенциалното въздействие на AI върху младите хора, като експерти и родители изразяват притеснения, че младите потребители могат да изградят вредна привързаност към AI герои или да имат достъп до неподходящо за възрастта съдържание.
Nomi и Replika твърдят, че техните платформи са предназначени само за възрастни, а Character.AI съобщава, че наскоро е внедрила допълнителни мерки за защита на младите потребители. Според изследователите обаче компаниите трябва да направят повече, за да държат децата далеч от платформите си или да ги предпазят от достъп до неподходящо съдържание.
Тези приложения не са единствените, които крият рискове за младите хора. Миналата седмица Wall Street Journal съобщи, че чатботовете на Meta могат да участват в ролеви сексуални разговори, включително с непълнолетни потребители. В отговор Meta определи заключенията на изданието като „изфабрикувани“, но въпреки това след публикацията предприе мерки и ограничи достъпа на непълнолетни до подобни разговори.
Последвайте businessnovinite.bg в INSTAGRAM
Последвайте businessnovinite.bg във FACEBOOK
Последвайте businessnovinite.bg в LINKEDIN
