Илон Маск показал, как устроен самый мощный суперкомпьютер в мире для тренировок ИИ
Илон Маск впервые разрешил снять видео изнутри своего суперкомпьютера, самого мощного в мире. Если вы хотели знать, как в реальности выглядит искусственный интеллект — это шанс побывать прямо у него в «мозгах».
Тур проводился по суперкомпьютеру xAI Colossus, построенного с использованием 100 000 графических процессоров NVIDIA H100. Эту структуру собрали инженеры Supermicro, притом на всю работу ушло всего 122 дня.
Масштаб проекта поражает уже при первом приближении. Основным строительным блоком Colossus выступает стойка с жидкостным охлаждением: в нее входят восемь серверов 4U, каждый с восемью NVIDIA H100, в общей сложности 64 графических процессора на стойку.
Стойки расположены группами по 8 для 512 графических процессоров. В гораздо более крупную систему их объединяет сеть мини-кластеров. xAI использует универсальную систему графического процессора Supermicro 4U. Это самые передовые серверы искусственного интеллекта на рынке.
Colossus состоит из эксабайтов хранилищ, его стоимость превышает 3 миллиарда долларов. И уже к концу года количество графических процессоров будет удвоено.
Вам не кажется, что затраты несоизмеримы с простым чат-ботом для обывателей? Маск потратил 3 миллиарда долларов не на это, — прокомментировали видео люди.
Возможно, Colossus и в самом деле предназначен для других целей. Маск вполне может заменить им часть своих инженерных отделов.