На этой странице
AMD EPYC 9005 под кодовым названием «Turin» — серверное поколение AMD на архитектуре Zen 5. На нём работают все серверы FlexDedi серий Pro, Max и GPU. В этой статье разбираем, что изменилось по сравнению с предыдущим поколением, — в той мере, в какой это важно при выборе сервера.
Результатов бенчмарков здесь не будет. Они зависят от вашего кода, данных и настроек, поэтому в последнем разделе мы расскажем, как измерить производительность на вашей собственной нагрузке.
Zen 5 вкратце
Zen 5 — существенно переработанное ядро. Если в общих чертах, AMD расширила фронтенд, который выбирает и декодирует инструкции, добавила исполнительные блоки, улучшила предсказание ветвлений и увеличила кеш данных L1. В результате за каждый такт выполняется больше работы, а тактовые частоты остаются высокими.
Самое заметное для программ изменение касается AVX-512. Zen 4 поддерживал эти инструкции, но выполнял 512-битные операции в два приёма, двумя 256-битными половинами. У ядер Zen 5 в EPYC 9005 полноценный 512-битный тракт данных. Код, который уже использует AVX-512, — сжатие, хеширование, колоночная аналитика, инференс на CPU — выигрывает без каких-либо изменений.
Семейство охватывает широкий диапазон: до 128 ядер Zen 5 на сокет или до 192 более компактных ядер Zen 5c. В наших серверах Pro и Max стоят стандартные процессоры Zen 5 с числом ядер от 32 до 96 на сокет — они сохраняют частоту boost от 4,4 до 4,5 ГГц для задач, чувствительных к задержкам.
12 каналов DDR5 на сокет
У каждого сокета EPYC 9005 12 каналов памяти DDR5. При DDR5-6000 один канал теоретически передаёт до 48 ГБ/с (6 000 MT/s × 8 байт), так что 12 каналов дают теоретический пик 576 ГБ/с на сокет. Устойчивая пропускная способность в реальных приложениях ниже, и её стоит измерить, если ваша нагрузка упирается в память.
Чтобы получить такую пропускную способность, в каждом канале должен стоять модуль DIMM. Поэтому объёмы памяти у нас выглядят необычно: 384 ГБ — это 12 × 32 ГБ, 576 ГБ — 12 × 48 ГБ, 768 ГБ — 12 × 64 ГБ, а 1 152 ГБ — 12 × 96 ГБ. В двухсокетном Max 192 установлено 24 модуля DIMM общим объёмом 1,5 ТБ. Подробнее об этом — в статье Почему у наших серверов 384, 576 или 1 152 ГБ оперативной памяти.
PCIe 5.0 и NVMe Gen5
Один сокет EPYC 9005 даёт 128 линий PCIe 5.0. Каждая линия работает на скорости 32 GT/s — вдвое быстрее, чем PCIe 4.0, поэтому у стандартного NVMe-накопителя с интерфейсом x4 потолок пропускной способности интерфейса составляет около 16 ГБ/с в каждом направлении против примерно 8 ГБ/с у Gen4.
Две оговорки помогут не завышать ожидания. Накопители достигают потолка интерфейса не при любой нагрузке, а случайный ввод-вывод при малой глубине очереди больше зависит от флеш-памяти и контроллера, чем от интерфейса. Gen5 раскрывается на последовательном и сильно распараллеленном вводе-выводе: восстановлении из резервных копий, перестроении массивов, больших сканированиях и работе с множеством одновременных клиентов.
Во всех серверах Pro, Max и GPU используются накопители NVMe Gen5. Серия Core построена на платформе EPYC 4005 с накопителями NVMe Gen4.
Один сокет или два
В серии Pro, в Max 96 и в обоих GPU-серверах используются односокетные процессоры с индексом «P». В Max 192 установлены два процессора EPYC 9655 — версия той же 96-ядерной модели с поддержкой двухсокетных систем.
| Pro 32 | Pro 48 | Pro 64 | Max 96 | Max 192 | |
|---|---|---|---|---|---|
| Процессор | EPYC 9355P | EPYC 9455P | EPYC 9555P | EPYC 9655P | 2 × EPYC 9655 |
| Ядра / потоки | 32 / 64 | 48 / 96 | 64 / 128 | 96 / 192 | 192 / 384 |
| Базовая / boost-частота | 3,55 / 4,4 ГГц | 3,15 / 4,4 ГГц | 3,2 / 4,4 ГГц | 2,6 / 4,5 ГГц | 2,6 / 4,5 ГГц |
| Память | 384 ГБ | 576 ГБ | 768 ГБ | 1 152 ГБ | 1,5 ТБ |
| Порт | 25 Гбит/с | 25 Гбит/с | 2 × 25 Гбит/с | 2 × 25 Гбит/с | 2 × 100 Гбит/с |
| Цена | $749/мес. | $999/мес. | $1 349/мес. | $1 899/мес. | $2 999/мес. |
С одним сокетом всё просто. Вся память подключена к одному процессору, поэтому любое ядро обращается к любому байту с одинаковыми затратами, и ПО не нужна настройка под NUMA, чтобы работать быстро. До 96 ядер и 1 152 ГБ памяти в Max 96 — одного сокета хватает для большинства нагрузок.
Два сокета удваивают число ядер, каналов памяти и теоретическую пропускную способность. Цена за это — память, подключённая к другому сокету, доступна только через межпроцессорные соединения, с большей задержкой. Гипервизоры, которые закрепляют каждую ВМ за одним сокетом, и базы данных, учитывающие NUMA, хорошо с этим справляются. Выполните numactl --hardware или lscpu, чтобы увидеть, как память сервера разделена на узлы.
Что это значит для вашей нагрузки
Базы данных
Многие операции в базах данных выполняются на одном ядре, поэтому важна производительность отдельного ядра: например, запрос PostgreSQL без параллельных воркеров выполняется на одном ядре. Здесь помогают высокая частота boost и возросшее у Zen 5 число инструкций за такт.
Объём памяти важен не меньше. 384 ГБ в Pro 32 позволяют держать в памяти большой рабочий набор данных, а 12 каналов питают аналитические сканирования, которые читают намного больше данных, чем возвращают. Когда данные приходится читать с диска, NVMe Gen5 ускоряет контрольные точки, восстановление и другие крупные последовательные операции ввода-вывода. Подробнее о выборе оборудования для баз данных — на странице наших решений.
Виртуализация
Хостам виртуализации нужны ядра, память и пропускная способность в правильной пропорции. У каждого односокетного сервера Pro и Max на ядро приходится 12 ГБ памяти, так что при переходе к старшим моделям память растёт вместе с числом ядер. Pro 64 со 128 потоками и 768 ГБ или Max 96 со 192 потоками и 1 152 ГБ — это плотный хост Proxmox VE или KVM, а 12 каналов сохраняют разумную пропускную способность памяти на ядро, даже когда вы плотно заполняете сервер ВМ. Настройка пошагово описана в нашем руководстве по Proxmox.
CI и сборочные фермы
Компиляция хорошо распараллеливается, поэтому чем больше ядер, тем меньше реальное время сборки — пока последовательным этапом не станут линковка или тесты. Тогда последовательные части вытягивает высокая частота boost. NVMe Gen5 ускоряет checkout репозиториев, работу с кешами зависимостей и слоями образов контейнеров, а благодаря безлимитному трафику скачивание образов и артефактов никогда не добавит платы за исходящий трафик.
Если ваши пайплайны в основном однопоточные, лучше может подойти Core 16X с частотой boost 5,7 ГГц и 128 МБ кеша L3 благодаря 3D V-Cache. Типовые конфигурации — на странице CI/CD на выделенных серверах.
Измеряйте, а не гадайте
Единственный бенчмарк, который имеет значение, — ваша нагрузка на этом оборудовании. Закажите конфигурацию, которую рассматриваете, запустите реальные тесты — например, pgbench на копии ваших данных, самую медленную сборку или нагрузочный тест API — и сравните с тем, на чём работаете сейчас.
Оплата помесячная, без долгосрочного контракта, поэтому месяц тестирования стоит ровно один месяц. Если цифры не оправдывают переезд, отмените заказ — сервер останется активным до конца оплаченного периода.