Сам Алтман: AI трябва да дава повече власт на хората, а не на компаниите

Олтман се опасява, че изкуственият интелект ще излезе извън човешкия контрол

Изпълнителният директор на OpenAI Сам Олтман заяви, че се тревожи от възможността един ден изкуственият интелект да бъде контролиран от шепа компании, модели или хора. Според него това би оставило по-голямата част от потребителите без възможност да участват в решенията за това как технологията ще промени света, съобщи „Бизнес Инсайдър“, цитира БГНЕС. „Правилният подход е да кажем, че искаме хората да имат дълбок контрол над бъдещето“, каза Олтман в подкаста на Дейвид Сенра, публикуван в неделя. По думите му „обществото и моделите ще се развиват заедно“.

Другата възможност, от която Олтман се опасява, е изкуственият интелект да излезе извън човешкия контрол. По думите му парадоксално страхът от този сценарий може да доведе именно до първия. „Има много хора, които са толкова нервни за мащаба на тези рискове, толкова са погълнати от това и усещат необходимост да защитят света“, каза той. „Като, знаете, „трябва да пожертваме много свобода заради сигурност“.“ Вероятно Олтман е имал предвид изпълнителния директор на Anthropic Дарио Амодей.

Снимка: Getty Images

Амодей многократно е предупреждавал в подкасти, есета и публикации в корпоративния блог за рисковете от бързото развитие на изкуствения интелект. В есе, публикувано през юни, той написа, че новите модели на компанията създават „много реални рискове“ за киберсигурността, финансовия сектор, критичната инфраструктура и националната сигурност. Амодей използва тези предупреждения и за да настоява за по-голяма роля на правителството в регулирането на изкуствения интелект. Според Олтман това може да представлява размяна на свобода за сигурност.

https://businessnovinite.bg/tehnologii/sam-oltman-malko-verojatno-e-izkustvenijat-in

Миналия месец Anthropic беше и единствената голяма компания за изкуствен интелект, която не подписа писмо в подкрепа на моделите с отворени тегла. Те позволяват на разработчиците да споделят, изтеглят, променят и внедряват AI модели в собствената си инфраструктура. Китай възприе този модел, което му позволи да не изостава от Силициевата долина при част от разходите. Някои компании в Съединените щати, сред които Nvidia, Meta и Microsoft, твърдят, че Америка трябва да направи същото или рискува да отстъпи позиции на своя съперник в надпреварата за изкуствен интелект. 

По време на подкаста Олтман каза още, че лидерите в областта на изкуствения интелект в Съединените щати не са успели да покажат пред обществото как технологията може да даде на хората повече автономия над собствения им живот. „На път сме да станем свидетели на най-големия бум на хора, стартиращи по-малки бизнеси, отколкото някога сме виждали“, каза той. „Мисля, че изкуственият интелект дава мощта за това.“