Российская компания ITPod, входящая в состав корпорации ITG, представила новый сервер ITPod-ASR201-S08R (AI), основанный на процессорах AMD EPYC 7003 серии (Milan) с поддержкой PCIe 4.0.
Этот сервер разработан для выполнения задач в области нейронных сетей, высокопроизводительных вычислений (HPC) и компьютерного зрения. Сервер позволяет установить два ускорителя GPU, TPU или DPU от таких производителей, как Nvidia, Moore Threads и Sophgo, что дает возможность адаптации под специфические нужды пользователей.
Об этом сообщили представители ITPod.
Сервер ITPod-ASR201-S08R (AI) успешно прошел испытания на совместимость с ускорителями Nvidia, включая модели H100, L40S и T4, а также TPU Sophgo SC7 HP75. Результаты тестов показали, что с использованием двух ускорителей Nvidia L40S, работающих на архитектуре Ada Lovelace, производительность при работе с нейронной сетью «LLaMA 3.1 70B» увеличивается в два раза по сравнению с одним GPU Nvidia А800 (80GB).
При тестировании диалоговой модели «Qwen-14B-Chat» два ускорителя обеспечили скорость обработки в 10 токенов в секунду, что действительно сопоставимо с ведущими решениями на рынке.
Кроме того, TPU Sophgo SC7 HP75 продемонстрировал возможность быстрого инференса: на тесте с моделью «YOLOv5s» на 30-секундном видео он завершил обработку всего за 6,2 секунды.
Специалисты ITPod акцентируют внимание на том, что их серверы созданы с учетом потребностей российского рынка и обеспечивают экономически эффективное решение для различных применений в области искусственного интеллекта и компьютерного зрения.
Современные решения для анализа видеопотоков становятся ключевыми в разработке ПО для автономных аппаратов, как в случае компании WHEELIES. Эти технологии также открывают новые горизонты для автоматизации процессов, подобно ИИ-агентам от Ainergy. Генеральный директор корпорации ITG, Андрей Кузнецов, отметил важность контроля всех этапов производства для обеспечения надежности и эффективности оборудования. В то время как «МегаФон ПроБизнес» сообщила о росте числа зарубежных поездок, выделяется необходимость улучшения переключения между сетями. При этом, исследования показывают, что HDD крупнейших производителей не всегда выдерживают настоящие эксплуатационные условия. Композитная архитектура остается выбором для лидеров индустрии, в то время как на рынке появилась невероятно доступная 4K модель телевизора Xiaomi. Важность продления лицензий на ПО также не следует недооценивать, так как просрочка может привести к остановке процессов в компании. В процессе цифровой трансформации важным направлением является упрощение доступа к реестру российского ПО. Для выбора облачного хранилища, тарифы начинаются от 6,2 коп. за 1 Гб в месяц, а DRaaS и CRM-системы предлагаются от 1 руб./месяц и 1 000 руб./месяц соответственно.
