OpenAI объявила о готовности первых образцов специализированного чипа Jalapeno для запуска уже обученных моделей искусственного интеллекта и начала его тестирование. Компания рассчитывает повысить эффективность своих сервисов и сократить затраты на обработку запросов.
Чип разработан совместно с Broadcom. По словам генерального директора Broadcom Хока Тана, новое решение позволяет экономить до 50% ресурсов по сравнению с традиционными графическими процессорами.
В OpenAI и Broadcom заявили, что процессор был создан с нуля в рекордно короткие сроки и обеспечивает более высокую производительность на ватт энергии при выполнении задач инференса.
Jalapeno оптимизирован для работы с моделями искусственного интеллекта и учитывает особенности использования вычислительных ресурсов, памяти и сетевой инфраструктуры. Финальные версии чипов планируется развернуть в крупных дата-центрах Microsoft и других партнеров OpenAI уже до конца года.
Следующее поколение Jalapeno запланировано на 2028 год. Разработчики также не исключают создания специализированных чипов для других типов нагрузок.
С начала года OpenAI привлекла 122 млрд долларов инвестиций для финансирования проектов по разработке чипов, строительству центров обработки данных и расширению команды специалистов. После анонса акции Broadcom выросли на 1,6%, до 386,25 доллара.