В облаке Selectel появились новые GPU — NVIDIA L4 24 ГБ

от автора

NVIDIA L4 24 ГБ — это универсальный ускоритель на архитектуре Ada Lovelace, созданный для ускорения AI/ML-рабочих нагрузок, обработки видео и VDI. Подходит для запуска современных LLM и мультимодальных моделей.

  • Процессор: Intel Gold 6240R 2,4GHz.

  • Доступны фиксированные и произвольные конфигурации.

  • Карта доступна в Managed Kubernetes Service.

Это бюджетная, но производительная карта. Например, тесты MLPerf показывают, что L4 обеспечивает ~3× ускорение инференса по сравнению с T4.

GPU L4 уже доступна для заказа в Selectel.

ссылка на оригинал статьи https://habr.com/ru/articles/1026108/