LLM/ML Engineer для обучения языковых моделей

Требуется LLM / ML Engineer с практическим опытом обучения языковых моделей. Основная задача — обучение с нуля специализированных моделей размером от 1B до 10B параметров. Проекты ориентированы на разработку программного обеспечения, понимание сложных русскоязычных текстов и функцию вызова (function calling). Все проекты выполняются для заказчиков под NDA, детали будут обсуждаться индивидуально.

В обязанности входит подготовка данных и выстраивание пайплайнов обучения, проведение экспериментов с архитектурами, методами и режимами обучения. Необходимо обучать модели с нуля и адаптировать их под конкретные целевые задачи, а также оценивать качество моделей, анализировать ошибки и улучшать результаты.

Кандидат должен обладать практическим опытом обучения языковых моделей, от подготовки данных до оценки результатов. Обязателен опыт аналогичных проектов или адаптации готовых моделей методами, выходящими за рамки SFT. Требуется уверенное владение Python и PyTorch, а также понимание принципов обучения трансформеров и опыт работы с GPU. Приветствуется опыт распределённого обучения, оптимизации памяти и скорости обучения, а также работы с моделями для кода и вызова инструментов.