Компания AMD опубликовала результаты своих собственных тестов по искусственному интеллекту, проведенных на мобильном процессоре Ryzen 7 7840U с номинальным энергопотреблением 15 Вт и конкурирующем процессоре Intel Core Ultra 7 155H с TDP 28 Вт в работе с большими языковыми моделями Llama 2 и Mistral Instruct 7B. По итогам сравнения AMD продемонстрировала преимущество над процессором Intel. Несмотря на более низкий уровень энергопотребления, процессор AMD оказался более эффективным.
Для сравнительного анализа были установлены ноутбуки с конкурирующими процессорами, на которых было запущено приложение LM Studio для работы с различными языковыми моделями. Задачи, поставленные перед процессорами, включали написание истории, скрипта игры на движке Unity и стихотворения. Для выполнения этих задач использовались ИИ-модели Llama 2 7B от Meta✴ и Mistral Instruct 7B с поддержкой 7 млрд параметров. Последняя модель была разработана специалистами из Meta✴ и компании DeepMind.
Для оценки показателя искусственного интеллекта AMD использовала время с момента отправки запроса до получения первого токена (Time to first token), а также количество токенов, обработанных в секунду. Компания указала, что её процессоры Ryzen для работы с задачами ИИ могут использовать три типа ядер: специализированный ИИ-движок NPU, интегрированное графическое ядро RDNA 3 и вычислительные ядра Zen 4. По заявлению AMD, успеху процессора Ryzen 7 7840U против конкурента в указанных задачах способствовала также поддержка инструкций AVX512 и VNNI.
Ранее Intel также поддерживала эти инструкции в своих процессорах для потребителей, но впоследствии от этого отказалась. В свете публикации внутренних тестов AMD также опубликовала на своем официальном блоге инструкцию по запуску инструмента LM Studio для работы с различными языковыми моделями на ПК с процессорами Ryzen AI и ПК с графическими ускорителями Radeon RX 7000, предоставив подробное руководство.
Портал Tom's Hardware отмечает, что Intel хорошо осведомлена о недостаточной производительности в области искусственного интеллекта у своих процессоров семейства Meteor Lake. Именно поэтому компания уже объявила, что будущие процессоры Arrow Lake и Lunar Lake, выход которых ожидается во второй половине текущего года, предложат значительно большую мощность в области искусственного интеллекта для графических ускорителей и специализированных ядер NPU.