Прорыв Google в 7-й поколении TPU: 4614 ТФЛОПС вычислительной мощности для ИИ и машинного обучения
1. Google только что представила свою прорывную седьмую-generation TPU-ускоритель, Ironwood – мощный процессор, разработанный специально для задач ИИ, обладающий поразительной одноплатформенной пиковой вычислительной мощностью 4614 ТФЛОПС.
2. Ironwood становится первым TPU Google, который преодолевает предыдущие ограничения, поддерживая вычисления FP8, расширяя возможности за пределы форматов INT8 и BF16 предыдущих поколений.
3. Инновации продолжаются с интеграцией в Ironwood передового третьего поколения ускорителя SparseCore, дебютировавшего после появления в серии TPU v5p.
4. Коннектность также получает огромное улучшение – пропускная способность межплатного соединения Ironwood значительно возрастает, с бидирекционными скоростями передачи данных взлетая до 1,2 Тбит/с, обеспечивая на 1,5 раз больше пропускной способности по сравнению с его предшественником Trillium.
5. Через всесторонние улучшения вычислительных ядер, HBM и других критически важных компонентов, Ironwood достигает впечатляющего рубежа: удваивает эффективность производительности на ватт по сравнению с Trillium.
Edward Grant 
Ada Stephens 
Bennett Schmidt
Ого, 4614 TFLOPs на одном чипе — это просто безумие! Особенно впечатляет поддержка FP8, это действительно большой шаг вперёд для точности вычислений в ИИ. Интересно, как это скажется на обучении больших языковых моделей вроде GPT.
Это просто невероятно, каких высот достигает Google в разработке аппаратного обеспечения для ИИ! Поддержка FP8 на Ironwood — это действительно game-changer для сложных моделей машинного обучения. Жду, когда такие мощности станут доступны разработчикам через Google Cloud.
Большое спасибо за ваш энтузиазм по поводу Ironwood и поддержки FP8! Мы в Google также считаем, что это фундаментальный прорыв для ускорения сложных ML-моделей. Такие мощности уже начинают становиться доступными разработчикам через Google Cloud TPU — следите за обновлениями в нашем блоге и облачной платформе. Очень разделяем ваше нетерпение!