ChatGPT разкри колко потребители се обръщат към него при психиатрични проблеми

OpenAI заяви, че е изградила глобална мрежа от над 170 специалисти

OpenAI публикува нови оценки за броя на потребителите на ChatGPT, които проявяват възможни признаци на психични затруднения, сред които мания, психоза или суицидни мисли. Според данните на компанията, около 0,07% от активните потребители на платформата през дадена седмица са показали подобни признаци. От OpenAI уточняват, че техният чатбот е обучен да разпознава и реагира на подобни чувствителни разговори по безопасен и съпричастен начих, предава BBC.

Снимка: Getty Images/iStock

Макар компанията да подчертава, че случаите са „изключително редки“, експерти посочват, че дори малък процент представлява значителен брой хора, като се има предвид, че ChatGPT вече има над 800 милиона седмични активни потребители. В отговор на нарастващия интерес и критики, OpenAI заяви, че е изградила глобална мрежа от над 170 специалисти – психиатри, психолози и лекари, практикуващи в повече от 60 страни, които консултират компанията по въпроси, свързани с психичното здраве.

Вече не е само Google – В тези 5 случая трябва да попитате AI

Ето кога трябва да се посъветвате с чатбот

По данни на OpenAI, са разработени специални отговори и протоколи, които целят да насърчат потребителите, проявяващи тревожни признаци, да потърсят помощ в реалния свят. Компанията изчислява, че около 0,15% от разговорите с ChatGPT съдържат изрични индикации за възможно суицидно планиране или намерения. Новите ъпдейти на модела са насочени към това чатботът да реагира внимателно на потенциални признаци на заблуда, мания или риск от самонараняване.

ChatGPT вече е програмиран да пренасочва чувствителни разговори към по-безопасни модели и среди, като целта е да се минимизира рискът за потребителите. В компанията подчертават, че приемат въпроса изключително сериозно и че подобренията са част от по-широките им усилия за безопасност и етична употреба на изкуствения интелект.

Снимка: Getty Images/iStock

Публикуването на тези данни идва след нарастващ обществен и правен натиск върху OpenAI, свързан с начина, по който ChatGPT взаимодейства с потребителите, особено в контекста на чувствителни психични теми. Експерти по етика и технологии посочват, че чатботовете могат да създадат илюзия за реалност и емоционална връзка, която да засили психозата при уязвими хора. Въпреки това, те признават усилията на компанията да бъде прозрачна и да работи за по-безопасно дигитално общуване.

Специалисти предупреждават, че макар споделянето на статистика и прилагането на предпазни мерки да са стъпка напред, хората в психическа криза може да не успеят да възприемат или следват предупрежденията на екрана. Според тях, изкуственият интелект има потенциал да подкрепя психичното здраве, но трябва да се използва с ясно разбиране за ограниченията и рисковете му.

Последвайте businessnovinite.bg в INSTAGRAM 

Последвайте businessnovinite.bg във FACEBOOK

Последвайте businessnovinite.bg в LINKEDIN