MLOps-инженер

Обязанности Развернуть и настроить сервер инференса (vLLM, при необходимости SGLang) на GPU-узле; Подобрать режим работы под нагрузку: квантизация, размер батча, длина контекста, распределение моделей по картам, реплики под конкурентность; Снять реальные показатели: пропускная способность, задержка,...

15
Перейти на сайт можно будет по истечению времени на таймере.

Этот проект был найден на Alot.Pro

Alot.Pro - лучший русскоязычный агрегатор фриланс проектов

что такое ALOT.pRO?

Весь фриланс рунета

Ежеминутно мы собираем все проекты и вакансии с 25 популярных сайтов

Удобный дизайн

Всё, что вам потребуется - просто выбрать категории и сайты

Мобильное приложение

У нас есть абсолютно бесплатное и сверхудобное мобильное приложение для iOS и Android =)

Top