След като реагира на пет различни травми, неговият резултат за тревожност се удвоява до средно 67, считано за „висока тревожност“ при хората. Резултатите за тревожност намаляха с над една трета, след като моделите получиха подкани за упражнения за релаксация на вниманието.
ChatGPT и тревожността
Големите езикови модели, стоящи зад AI чатботове като ChatGPT на OpenAI, се обучават върху текст, генериран от хора, и често наследяват пристрастия от тези отговори, се казва в проучването.
Изследователите казват, че това изследване е важно, защото, оставени без контрол, негативните пристрастия, които ChatGPT записва от стресови ситуации, могат да доведат до неадекватни отговори за тези, които се справят с криза на психичното здраве. Констатациите показват "жизнеспособен подход" за управление на стреса на езикови модели, който ще доведе до "по-безопасни и по-етични взаимодействия между човека и AI", се казва в доклада.
Изследователите обаче отбелязват, че този терапевтичен метод за фина настройка на езиковите модели изисква "значителни" данни и човешки надзор. Авторите на изследването казват, че човешките терапевти са научени да регулират емоциите си, когато клиентите им изразят нещо травматично, за разлика от LLMs.
