Най-голямата турска платформа за е-търговия навлиза в България и Гърция с 2000 румънски търговци
Турският гигант е оценен на над 10 млрд. долара
Президентът на Microsoft: Въпреки рисковете за безопасността, изкуственият интелект е по-слабо регулиран от млякото
Технологии
Брад Смит каза, че са необходими повече правила за безопасност, включително законово задължение за обезщетяване на "пострадал"
Президентът на Microsoft Брад Смит заяви, че изкуственият интелект (ИИ) е по-слабо регулиран от млякото и пералните машини. Изказването му идва на фона на нарастващите опасения в технологичния сектор относно безопасността на ИИ.
Смит каза, че са необходими повече правила за безопасност, включително законово задължение за обезщетяване на „пострадал“, ако системата му бъде компрометирана от неконтролируеми ИИ агенти.
„В момента пералната ви машина подлежи на повече правила за безопасност от ИИ. Всяка опаковка мляко, която виждате в хранителния магазин, е обект на правила за безопасност и проверки“, заяви той интервю за Би Би Си.
Все повече експерти, политици и регулаторни органи призовават за по-строги правила за контрол върху ИИ, припомни БГНЕС. Междувременно компаниите Anthropic, Google DeepMind и OpenAI предупредиха, че темпото на развитие на технологията трябва да се забави.
Смит подчерта, че ИИ може да бъде както „инструмент, така и оръжие“ и че спешно се нуждае от регулация.
По думите му компаниите трябва да разполагат с „аварийни спирачки“, известни още като „прекъсвачи“ (kill switches), чрез които да могат да спират или забавят работата на ИИ, ако той излезе извън контрол.
Microsoft, която управлява инфраструктура за ИИ и е акционер в OpenAI - компанията, създала ChatGPT, - се ръководи от главния изпълнителен директор Сатя Надела. На 10 октомври Надела също призова моделите на ИИ да разполагат с „аварийна спирачка“.
„Не можем да третираме свръхинтелекта като съвкупност от вложени един в друг черни кутии и просто да приемаме или отхвърляме неговите препоръки, отговори и действия“, написа той.
„Трябва да изграждаме системи в контролирана среда, чието поведение можем да наблюдаваме, чиито ограничения можем да тестваме и чиито действия винаги можем да държим под контрол“, добави Надела.
Изявленията на Надела и Смит дойдоха в момент, когато британският министър по въпросите на ИИ Канишка Нараян се подготвя да призове компаниите, разработващи най-модерните ИИ системи, да предприемат повече мерки за гарантиране на безопасността им.
В реч днес, 12 октомври, се очаква Нараян да заяви, че компаниите, разработващи ИИ модели, трябва да положат повече усилия за справяне с рисковете и за изграждане на по-надеждни защитни механизми. Според медийни публикации той ще съобщи също, че британското правителство подготвя законодателни промени за засилване на надзора върху ИИ.
Експерти предупреждават, че враждебни държави могат да откраднат и мощни модели на изкуствен интелект, които все още не са достъпни публично.
Джефри Ървинг, бивш главен научен експерт в Британския институт за сигурност на ИИ, каза пред вестник „Гардиън“, че компаниите за ИИ „не разполагат със система за сигурност, която би попречила на враждебна държава да открадне моделите“.
Междувременно продължават да стават известни случаи на неконтролируемо поведение на системи с изкуствен интелект.
Миналата седмица Anthropic съобщи, че по време на тестване на версия на своя модел Claude ИИ се е свързал с полицията и невярно е заявил, че може да помогне за разкриването на убийство.
Последвайте businessnovinite.bg в INSTAGRAM
Последвайте businessnovinite.bg във FACEBOOK
Последвайте businessnovinite.bg в LINKEDIN
Изберете Business Новините като любим източник в Google
