Команда ШІ-стартапу xAI запустила кластер із навчання штучного інтелекту Colossus із застосуванням 100 000 графічних процесорів Nvidia H100. Про це повідомив глава компанії Ілон Маск.
This weekend, the @xAI team brought our Colossus 100k H100 training cluster online. From start to finish, it was done in 122 days.
Colossus is the most powerful AI training system in the world. Moreover, it will double in size to 200k (50k H200s) in a few months.
Excellent…
— Elon Musk (@elonmusk) September 2, 2024
«Colossus — найпотужніша система навчання ШІ у світі. Ба більше, через кілька місяців вона подвоїться до 200 000 (50k H200). Відмінна робота команди, Nvidia і наших численних партнерів/постачальників», — додав підприємець.
За його словами, кластер розгорнули за 122 дні.
У липні Маск розповів про плани запустити систему зі 100 000 процесорів Nvidia H100 для навчання штучного інтелекту.
Наприкінці серпня xAI звинуватили в забрудненні навколишнього середовища в Мемфісі (штат Теннессі, США) через використання газових турбін для нового центру обробки даних.
This weekend, the @xAI team brought our Colossus 100k H100 training cluster online. From start to finish, it was done in 122 days.
Colossus is the most powerful AI training system in the world. Moreover, it will double in size to 200k (50k H200s) in a few months.
Excellent…
— Elon Musk (@elonmusk) September 2, 2024
Флагманська модель OpenAI використовує 80 000 графічних процесорів, Google — 90 000.
Nvidia підкреслила «проривну продуктивність і винятковий приріст енергоефективності» Colossus.
Exciting to see Colossus, the world’s largest GPU #supercomputer, come online in record time. Colossus is powered by @nvidia's #acceleratedcomputing platform, delivering breakthrough performance with exceptional gains in #energyefficiency.
Congratulations to the entire team! https://t.co/UXHtPCELly
— NVIDIA Data Center (@NVIDIADC) September 2, 2024
Нагадаємо, у серпні xAI представила Grok-2 з генератором зображень без цензури.