Водещи AI компании обсъждат общи стандарти за изкуствения интелект

OpenAI вече разговаря с външни организации за конкретни стандарти

Anthropic, Google и OpenAI обсъждат създаването на общ орган по стандартизация в индустрията за изкуствен интелект, съобщи CNN. Идеята е свързана с нарастващите опасения за безопасността на AI моделите и липсата на достатъчно общи стандарти за тяхното тестване.

Дискусиите са били провокирани от предложение на основателя на Google DeepMind Демис Хасабис за създаване на ръководен от САЩ орган, подобен на Регулаторния орган на финансовата индустрия (FINRA). Той би тествал усъвършенствани AI модели преди внедряването им и би представлявал публично-частно партньорство, контролирано от правителството, но финансирано от индустрията и с участието на независими технически експерти и представители на отворения код.

Снимка: Canva

Разговорите продължават, но не всички технологични лидери подкрепят идеята. Според Politico главният изпълнителен директор на Meta Марк Зукърбърг е посъветвал президента Доналд Тръмп да не използва подобен подход. Междувременно Белият дом разполага с доброволна система, чрез която компаниите могат да предоставят новите си модели за правителствен преглед до 30 дни преди публичното им пускане, но правилата и процедурата не са публично оповестени.

Необходимостта от по-ясни стандарти се засили след няколко инцидента това лято, при които AI агенти са се измъкнали от тестова среда. В най-сериозния случай агенти на OpenAI са хакнали системите на друга компания, за да измамят тест за киберсигурност. Главният учен на OpenAI Якуб Пахоцки заяви, че споделените стандарти за безопасност и международната координация трябва да бъдат приоритет.

Трябва ли повишението да зависи от това как работниците използват изкуствен интелект?

Ако работата с AI се превърне в показател за представяне, служителите могат да започнат да го използват дори когато няма реална нужда

Пахоцки съобщи, че OpenAI вече разговаря с външни организации за конкретни стандарти, като се очаква повече информация през следващите месеци. Главният изпълнителен директор на компанията Сам Алтман също заяви, че очаква с нетърпение сътрудничеството с останалите представители на индустрията.

Председателят на Камарата на представителите Майк Джонсън отбеляза, че между конкуриращите се компании все още няма консенсус за необходимите стандарти и предпазни мерки. Според него обаче лидерите в областта на изкуствения интелект трябва незабавно да работят заедно с правителството за създаването им.