OpenAI представила свой первый собственный ИИ-чип под названием Jalapeño, разработанный совместно с Broadcom.
Процессор создан специально для инференса — процесса запуска предварительно обученных ИИ-моделей в ответ на запросы пользователей. Именно этот процесс формирует основную часть ежедневных вычислительных затрат OpenAI.
Jalapeño пока находится на стадии тестирования, но уже показывает впечатляющую производительность. Его производительность на ватт в четыре раза выше, чем у существующих решений, что позволяет снизить стоимость работы ИИ-сервисов.
Разработка чипа заняла всего девять месяцев, что очень мало по меркам индустрии. В разработке активно использовались ИИ-модели OpenAI, которые помогали инженерам анализировать данные, автоматизировать отдельные этапы разработки и ускорять принятие технических решений.
Jalapeño будет использоваться в серверах OpenAI, но точные сроки внедрения компания не назвала.
2 комментария