Тази система може да обработва AI модели с до 200 милиарда параметри
Ако търсите свой личен AI суперкомпютър, Nvidia ще ви помогне. Производителят на чипове обяви на официалния си сайт, че пуска персонален AI суперкомпютър, наречен Project Digits през май. В сърцето на Project Digits се крие новият чип GB10 Grace Blackwell Superchip, който разполага с достатъчно мощност за обработка, за да управлява сложни AI модели, като същевременно е достатъчно компактен, за да се побере на бюро и да работи от стандартен електрически контакт.
Какво ще представлява компютъра?
Какви перимери притежава?
Каква ще бъде цената на суперкомпютъра?
Тази система с размер на десктоп може да обработва AI модели с до 200 милиарда параметри и има начална цена от 3000 долара. Самият продукт прилича на Mac Mini.
Цените са валидни за периода на акцията или до изчерпване на наличностите. Всички цени са в лева с включен ДДС.
Всяка система Project Digits е оборудвана със 128 GB обединена, кохерентна памет. За сравнение, един добър лаптоп може да има 16 GB или 32 GB RAM. Другото, което притежават новите суперкомпютри е до 4 TB NVMe памет. За още по-взискателни приложения две системи Project Digits могат да бъдат свързани заедно, за да обработват модели с до 405 милиарда параметри.
Чипът GB10 осигурява до 1 петафлоп производителност на AI, което означава, че може да извършва 1 квадрилион AI изчисления в секунда при FP4 точност. Системата разполага с най-новото поколение CUDA ядра на Nvidia и тензорни ядра от пето поколение, свързани чрез NVLink-C2C към Grace CPU съдържащ 20 енергийно ефективни ядра, базирани на Arm.
Потребителите ще получат достъп до софтуерната библиотека на Nvidia за изкуствен интелект, включително комплекти за разработка, инструменти за оркестрация и предварително обучени модели, достъпни чрез каталога на Nvidia NGC. Системата работи на базирана на Linux Nvidia DGX OS и поддържа популярни рамки като PyTorch, Python и Jupyter преносими компютри. Разработчиците могат да прецизират моделите с помощта на рамката Nvidia NeMo и да ускорят работните потоци за научни данни с библиотеките на Nvidia RAPIDS.
Потребителите могат да разработват и тестват своите AI модели локално на Project Digits, след което да ги внедряват в облачни услуги, използвайки софтуерната платформа Nvidia AI Enterprise.
