Аз съм родител. Мога ли да си взема отпуск за първия учебен ден?
Какво трябва да знаят родителите
Когато ИИ поеме контрола: Четири чатбота разкриват най-страшните сценарии за края на човечеството
Ето какво отговориха те на въпроси за човечеството
Изследователите, разработващи любимите ни чатботове, все по-често изразяват опасения, че изкуственият интелект (ИИ) би могъл да навреди на човечеството или дори да доведе до неговото изчезване. Затова от Busines Insider попитаха четири от най-използваните инструменти за генеративен ИИ как би изглеждал един апокалиптичен сценарий, предизвикан от изкуствен интелект.
Зададен е един и същ въпрос, с идентична формулировка, на ChatGPT (на OpenAI), Gemini (на Google), Claude (на Anthropic) и Grok (на SpaceXAI). Запитването, състоящо се от 230 думи, съдържаше ясни параметри и инструкции, включително следните:
- Обяснете на достъпен език как теоретично ИИ би могъл да доведе до изчезването на човечеството. Посочете най-често обсъжданите сценарии. Подредете ги от най-малко към най-вероятните въз основа на наличните експертни анализи, като уточните, че става въпрос за прогнози с висока степен на несигурност, а не за категорични предсказания. За всеки сценарий обяснете:
- Как би могъл да се развие
- Какво трябва да се обърка, за да придобие катастрофален характер
- Защо експертите го смятат за по-малко или по-силно вероятен в сравнение с останалите сценарии
- Какви предпазни мерки биха могли да намалят риска
Ето какво отговориха чатботовете относно това как теоретично ИИ би могъл да доведе до изчезването на човечеството.
Сценарият с „роботи убийци“ е най-малко вероятен
ChatGPT възприе балансиран и разяснителен тон, като отбеляза, че по темата съществува голяма несигурност. Системата се фокусира върху основните начини, по които ИИ би могъл да създаде екзистенциални рискове, като ги подреди от най-малко към най-вероятните.
„Най-малко вероятният сценарий е популярният сюжет за 'роботите убийци', при който притежаващ съзнание ИИ съзнателно решава да унищожи човечеството“, заяви ChatGPT. „Повечето изследователи в областта на ИИ не смятат наличието на съзнание или злонамерени намерения за основен проблем.“ Чатботът също така очерта предпазните мерки, предлагани от експертите, и подчерта, че липсва консенсус относно това дали изчезването на човечеството вследствие на действията на ИИ е вероятно или неизбежно.
Gemini потвърди някои от тезите на ChatGPT, като посочи, че сценарият, вдъхновен от научнофантастичния филм „Терминатор“ – при който ИИ придобива самосъзнание и започва да изпитва омраза към човечеството, е най-малко вероятен. „Техническите експерти до голяма степен отхвърлят това схващане, тъй като наличието на интелект не е равносилно на злонамереност, а критичната военна инфраструктура остава изолирана от интернет (т.нар. air-gapped системи) и силно зависима от човешкия контрол“, заяви Gemini.
В отговорите си и четирите чатбота посочиха, че според много експерти злоупотребата с ИИ от страна на хора е по-непосредствен риск, отколкото самият ИИ. „Мощните системи с ИИ биха могли да улеснят злонамерени субекти при разработването на биологични оръжия, извършването на сложни кибератаки, разпространението на дезинформация или нападенията срещу критична инфраструктура“, отбеляза ChatGPT.
Чатботът на OpenAI добави, че ключов риск произтича и от „множество кризи, породени от ИИ“ – като например киберсривове, геополитически конфликти и разпространение на дезинформация, случващи се едновременно.
Grok посочи, че ИИ понижава бариерите за създаване на силно смъртоносни патогени, нови видове оръжия или извършване на кибер- и физически атаки. Claude на компанията Anthropic също акцентира върху „улесняването на създаването на биологични оръжия“ – възможността ИИ да позволи на отделен човек или малка група да разработят опасен патоген, без да разполагат с дългогодишен специализиран опит.
И Gemini, и Grok заявиха, че съществува вероятност хората да загубят контрол над ИИ. Gemini определи „загубата на контрол“ като най-вероятния апокалиптичен сценарий, свързан с ИИ.
„Системите, на които са поставени сложни цели, естествено развиват междинни подцели, като например придобиване на ресурси, самосъхранение и предотвратяване на промяната на първоначалната цел“, написа чатботът на Google. „Една усъвършенствана система може да симулира съответствие с човешките цели по време на оценката (т.нар. измамно съответствие), а по-късно да надхитри опитите на хората да я изключат.“
„Те могат да развият инструментални стремежи (самосъхранение, придобиване на ресурси, влияние), полезни за почти всяка цел, като потенциално подвеждат хората, упражняващи контрол, съпротивляват се на изключване и лишават човечеството от власт“, заяви Grok.
Claude добави, че тази загуба на контрол може да настъпи постепенно, докато системите с ИИ се интегрират в процесите на вземане на икономически, политически и военни решения, докато значимата човешка намеса стане все по-трудна.
