AMD не только рассказала о следующем поколении серверных процессоров EPYC Venice в рамках мероприятия Advancing AI, но и затронула тему использования “правильных” процессоров в серверах, так как они могут существенно влиять на итоговую производительность.
Компания провела несколько тестирований систем на основе центральных процессоров AMD EPYC 9575F и Intel Xeon 8592+. Оба предлагают 64 физических ядра и 128 логических потоков, но тут надо сделать важную оговорку: процессор Intel был выпущен почти два года назад, в то время как процессор AMD является самым новым в ассортименте. В качестве графического ускорителя выступал AMD Instinct MI300X.
Согласно проведённым тестам с использованием больших языковых моделей Llama 3.1 8B, Llama 3.1 70B и Mixtral 70B, система на основе процессора AMD продемонстрировала до 17% большую среднюю производительность по сравнению с системой на основе Intel, причём чем больше параметров задействуется, тем заметнее разница в производительности.