OpenAI обмисля да забави разработването на най-новите AI модели
През август компанията спря голяма част от разработването на модели за две седмици
Какви задачи никога не трябва да поверявате изцяло на AI?
Дори и най-добрите съвременни модели уверено могат да измислят несъществуващи факти,
Хората често разчитат прекомерно на автоматизирани системи, вместо да проверят информацията в няколко източника на информация. Същевременно дори най-добрите съвременни модели уверено могат да измислят несъществуващи факти, а т.нар. халюцинации не са просто технически проблем, който лесно ще бъде отстранен. Ето какви задачи и информация никога не трябва да поверявате изцяло на AI.
Снимка:
iStock
1. Важни решения, които засягат хора
Ако едно решение може съществено да промени живота на човек, то не бива да бъде изцяло делегирано на система, която не носи последствията от него. Световната здравна организация изрично посочва, че AI инструментите в здравеопазването трябва да подпомагат, а не да заменят човешката клинична преценка, като човешката автономия и отговорност трябва да останат водещи.
Изследвания в областта на изчислителната патология показват, че помощта от AI може да подобри общото представяне, но също така води до случаи на „автоматизационно пристрастие“, при които специалисти пренебрегват първоначално правилни оценки, защото системата е предложила друго.
Същият проблем съществува и извън медицината - при отпускане на кредити, подбор на служители, оценяване, модериране на съдържание, както и при решения, свързани с гаранции и присъди. AI може да бъде полезен помощник, но крайната правна и етична отговорност остава у хората. Практическото правило е просто: използвайте AI, за да откривате модели и възможности, но не му позволявайте да бъде последният непроверен арбитър, когато са заложени здравето, свободата, препитанието или достойнството на човек.
Снимка:
Canva
2. Задачи, при които истината е от решаващо значение
Има много дейности, при които приблизително правилният резултат е достатъчен - например измисляне на заглавия, създаване на първоначален план или подобряване на формулировки. Съществуват обаче и задачи, при които дори един грешен факт може да причини реална вреда. Именно там пълното делегиране на AI е рисково заради начина, по който работят съвременните модели.
Последни публикации за по-нови модели за разсъждение на OpenAI показват, че те се представят впечатляващо при задачи по програмиране и математика, но в някои случаи халюцинират, като измислят детайли, източници или дори действия, които никога не са извършвали.
За задачи, при които точността и проследимостта са задължителни - като правни проучвания, проверки за надлежна проверка, документи, свързани с безопасността, научни източници или политически анализи - AI трябва да се използва като прожектор, който насочва към информацията, а не като самия архив.
Снимка:
Canva
3. Уменията, които искате да запазите
Има задачи, които не трябва да поверявате изцяло на AI не защото са особено рискови, а защото самите те изграждат умения, от които продължавате да се нуждаете. Подобен ефект вече е наблюдаван при GPS навигацията. Проучвания показват, че прекомерното разчитане на инструкции завой по завой е свързано с по-слабо пространствено усещане и познаване на маршрутите - хората, които оставят устройството да върши цялото планиране, опознават средата по-повърхностно.
AI може да има подобен ефект върху умения като ясно писане, самостоятелно планиране на работата, усвояване на нов материал и разпознаване на моменти, когато нещо „не е наред“. Ако всяка празна страница веднага бъде запълнена от модел, способността ви сами да структурирате мисли и аргументи постепенно отслабва.
