Сегодня на конференции разработчиков I/O 2024 компания Google анонсировала шестое поколение своего тензорного процессора (TPU) для центров обработки данных под кодовым названием Trillium. Хотя конкретная дата запуска не была названа, Google заверил участников, что Trillium будет доступен в этом году.
Генеральный директор Google Сундар Пичаи подчеркнул давнюю приверженность Google инновациям в области искусственного интеллекта, заявив: «Google был рожден для этого момента. Мы являемся пионерами в области графических процессоров уже более десяти лет».
Затем Пичаи рассказал о впечатляющем приросте производительности Trillium. По сравнению с TPU пятого поколения, Trillium может похвастаться ошеломляющим увеличением вычислительной мощности на кристалл в 4,7 раза. Google добился этого за счет усовершенствования блока матричного умножения чипа (MXU) и повышения общей тактовой частоты. Кроме того, Trillium выигрывает от удвоенной пропускной способности памяти.
Trillium включает в себя технологию Google SparseCore третьего поколения, описываемую как «специально созданный ускоритель для распространенных крупномасштабных задач в расширенных рабочих нагрузках ранжирования и рекомендаций». Это позволяет TPU Trillium быстрее обучать модели и обеспечивать меньшую задержку при обслуживании этих моделей.
Энергоэффективность была еще одним ключевым направлением деятельности Google. Пичаи назвал Trillium «самым энергоэффективным» ТПУ компании. Это особенно важно, учитывая постоянно растущий спрос на чипы искусственного интеллекта , которые могут оказать существенное воздействие на окружающую среду. Google утверждает, что Trillium обеспечивает повышение энергоэффективности на 67% по сравнению с предыдущим поколением.
