Илон Маск планирует закупить 300 тысяч ускорителей Nvidia Blackwell B200 для своего ИИ-стартапа Grok

Илон Маск планирует закупить 300 тысяч ускорителей Nvidia Blackwell B200 для своего ИИ-стартапа Grok

05.06.2024
Новости Искусственный интеллект

Илон Маск собирается приобрести 300 тысяч ускорителей Nvidia Blackwell B200 для дополнения уже существующего вычислительного кластера, которым пользуется ИИ-бот Grok. Соответствующее сообщение миллиардер опубликовал у себя в микроблоге X, отметив также, что намерен завершить закупку к следующему лету.

Маск убеждён, что такое количество ускорителей — вовсе не избыточная мера для его стартапа, а важная ступени на пути к оптимизации процесса обучения Grok. Дело в том, что в настоящий момент бот обучается на 100 тысячах ускорителей предыдущего поколения Nvidia H100. Вся эта масса устройств потребляет электроэнергию в объёмах почти 1 ГВт. Использование Blackwell B200 позволит добиться увеличения производительности ИИ в четыре раза, а скорость обработки запросов и формирования ответов — в 30 раз.

Напомним, в настоящий момент за Nvidia Blackwell B200 сейчас идёт настоящая «бойня» среди IT-гигантов, сделавших ставку на развитие нейросетей. Google, Microsoft и другие компании ведут переговоры с Nvidia о поставках ускорителей в тех объёмах, которые в принципе можно создать.