ARM анонсировала свой первый процессор AGI CPU для дата-центров.
Новинка ориентирована на агентную инфраструктуру ИИ. В таких системах CPU отвечает не за сами вычисления нейросетей, а за управление:
- планирование задач
- работу памяти и хранилищ
- перемещение данных внутри кластеров ускорителей
AGI CPU выполнен по 3-нм техпроцессу и включает до 136 ядер Neoverse V3. Заявленный TDP — 300 Вт. Пропускная способность памяти достигает 6 ГБ/с на ядро при задержке менее 100 нс. Поддерживается до 6 ТБ оперативной памяти и стандарт DDR5-8800.
Чип оснащён 96 линиями PCIe Gen 6, поддерживает CXL 3.0 и интерфейс AMBA CHI. Каждое ядро работает с отдельным потоком, что позволяет избежать троттлинга и простоев при длительной нагрузке.
Компания делает ставку на плотность размещения. В стойке с воздушным охлаждением можно разместить до 8160 ядер, с жидкостным — более 45 тысяч. ARM утверждает, что её решение обеспечивает более чем двукратный прирост производительности на стойку по сравнению с x86 и может снизить затраты на инфраструктуру ИИ до $10 млрд на гигаватт мощности.
Ключевым партнёром и соразработчиком стала Meta (признана в России экстремистской и запрещена). Она будет использовать AGI CPU вместе со своими ускорителями MTIA. Также среди клиентов заявлены OpenAI, Cloudflare, Cerebras, Rebellions, SAP и SK Telecom.
Первые образцы уже доступны, массовое внедрение ожидается во второй половине года. В экосистему проекта входят более 50 компаний, включая AWS, Google, Microsoft, Nvidia, Samsung, TSMC и Micron.
🙈 Нет комментариев