NVIDIA Vera: 88-ядерный CPU, спроектированный для ИИ-агентов

NVIDIA объявила, что CPU Vera вышел в полное производство — это первый процессор в портфеле компании, спроектированный специально под ИИ-агентов. Vera является хост-процессором платформы Vera Rubin и построен вокруг 88 кастомных ядер Olympus.

Спецификация

  • 88 кастомных ядер Olympus и 176 потоков (Spatial Multithreading — два потока на ядро);
  • память LPDDR5X с пропускной способностью до 1,2 ТБ/с — 14 ГБ/с на ядро, больше, чем у типичных x86-процессоров в аналогичном классе;
  • монолитный кристалл со второй генерацией SCF (Scalable Coherent Fabric) — 3,4 ТБ/с бисекции;
  • NVLink-C2C второго поколения — 1,8 ТБ/с на связь CPU-GPU;
  • Vera + Rubin — хост-пара платформы Vera Rubin: Vera отвечает за управление памятью, загрузку данных и оркестрацию агентов, Rubin — за вычисления.

Почему это важно для агентов

Рабочая нагрузка ИИ-агентов — не параллельный суперкомпьютер, а тысячи одновременных сред. Один агент запускает песочницу, инструмент, сессию браузера — и таких сессий у одного приложения могут быть сотни. NVIDIA приводит цифры, которые отражают именно этот паттерн:

  • 1,8× быстрее по времени выполнения задачи по сравнению с x86;
  • 85% RL-оценок завершено в том же временном окне (у базовой x86-системы — 45%);
  • на 40% ниже пиковая задержка под нагрузкой, чем у x86;
  • на 80% быстрее для агентных CPU-нагрузок по данным Oracle.

Цифры согласуются: агентный сценарий это не «больше операций в секунду», а «больше одновременных сред без деградации задержки».

Уже доступно

Oracle объявила GA агентной OCI Compute на базе Vera: до 150 000 CPU, до 176 ядер / 352 потоков на инстанс, до 1 ТБ LPDDR5X, до 7,68 ТБ NVMe, сеть 200 Гбит/с. Полный Vera-раковина (rack) содержит 256 CPU с жидкостным охлаждением — это 22 500+ одновременных CPU-сред.

Контекст

Vera — не замена x86 в дата-центре.## Что означают цифры

«1,8× быстрее» — это не абстрактный бенчмарк, а конкретный паттерн агентной нагрузки: одна сессия агента держит контекст, память инструментов, историю сессий. Когда таких сессий сотни, узким местом становится не вычислительная мощность, а пропускная способность памяти и задержка. Vera отвечает на это тремя вещами: LPDDR5X с 1,2 ТБ/с (14 ГБ/с на ядро — больше, чем у x86-аналогов), монолитным кристаллом, который убирает межчиповые задержки, и Spatial Multithreading, который даёт 176 потоков на 88 ядер.

Для кого это

Vera — для дата-центров, которые строят платформы ИИ-агентов: Oracle уже GA-ла агентную OCI Compute, и это первый крупный публичный облачный провайдер, который выводит Vera в продакшн. Для локальных разработчиков Vera пока недоступнаКонтекст: Vera анонсировали на GTC Taipei, и это первый CPU NVIDIA, который компания проектирует «с нуля» под конкретную рабочую нагрузку — ИИ-агентов. До этого CPU в экосистеме NVIDIA были «хостами» для GPU; теперь Vera — полноправный участник платформы, и его характеристики (1,2 ТБ/с LPDDR5X, 1,8 ТБ/с NVLink-C2C, 3,4 ТБ/с бисекции SCF) заточены под то, чтобы не тормозить GPU. — это серверный чип, и его ценность раскрывается в связке с Rubin в рамках платформы Vera Rubin. Это хост-процессор для GPU-платформы, и его ценность раскрывается в связке с Rubin: 1,8 ТБ/с NVLink-C2C между CPU и GPU и 1,2 ТБ/с LPDDR5X на стороне CPU позволяют держать контекст агентов, память сессий и промежуточные состояния в быстром доступе, не упираясь в сеть.

Источники

Leave a Reply

Your email address will not be published. Required fields are marked *