Илон Маск запустил самый мощный в мире кластер для обучения искусственного интеллекта. Он состоит из 100 000 ускорителей Nvidia H100.
«Отличная работа команды xAI, команды X, Nvidia и компаний поддержки, которые начали обучение в Мемфисском суперкластере примерно в 4:20 утра по местному времени. 100 тыс. процессоров H100 с жидкостным охлаждением на одной RDMA-матрице делают этот кластер самым мощным для обучения искусственного интеллекта в мире», — написал Илон Маск в X.
Новый суперкластер значительно превосходит по мощности предыдущую инфраструктуру, арендованную у Oracle.
Ожидается, что чат-бот GROK 2 будет выпущен в следующем месяце, а GROK 3 – к декабрю текущего года.
Стоимость каждого ускорителя H100 составляет около 30 000 долларов, и если для обучения GROK 2 использовалось 20 тыс. H100, то GROK 3 требует в пять раз большей вычислительной мощности.
