Job description
Мы стремимся развивать искусственный интеллект, понимая, что создание безопасной и надежной платформы — фундамент нашей миссии и доверия клиентов. Мы ищем инженера, который поможет нам выстроить новые стандарты в сфере Trust & Safety.
Если вам близок дух Bell Labs или Xerox PARC их лучших лет — дух глубоких исследований, проверки гипотез и доведения идей до работающего продукта (production) — вам к нам.
Вы будете работать на стыке исследований и инженерии, создавая системы защиты от рисков, связанных с большими языковыми моделями (LLM) и ИИ-агентами.
-
разработка систем предотвращения фактологических и контекстных галлюцинаций, детекции токсичности, дискриминации и вредоносного контента
-
разработка Guardrails
-
проектирование и внедрение архитектурных решений и тактик ограничения вывода моделей (guardrails) для защиты пользователей от злоупотреблений
-
обучение моделей, дообучение (fine-tuning) и обучение мультимодальных моделей, создание новых нейросетевых архитектур под задачи безопасности
-
мониторинг и реагирование, выявление и устранение активных инцидентов, создание инструментов и инфраструктуры для устранения первопричин сбоев (root cause analysis)
-
исследования и развитие, тесное сотрудничество с исследователями для внедрения передовых методов AI Safety, участие в профильных конференциях, изучение статей и адаптация мирового опыта под наши продукты
-
оценка соответствия, измерение и улучшение соответствия поведения ИИ-моделей и агентов человеческим ценностям и этическим нормам.
-
опыт в безопасности, увас есть опыт работы в сфере контент-модерации, борьбы с мошенничеством (fraud) или злоупотреблениями
-
отличное знание Python, готовность быстро углубиться в Python-экосистему для ML
-
опыт развертывания классификаторов и ML-моделей в продакшене или сильное желание освоить современную ML-инфраструктуру
-
понимание принципов проектирования и обучения нейросетей: от классических CNN/RNN до современных трансформеров и мультимодальных архитектур
-
опыт разработки ИИ-агентов и понимание архитектур многоагентных систем (Multi-Agent Systems)
-
успешный опыт создания и поддержки высоконагруженных сервисов в условиях быстрого масштабирования
-
навык критической оценки рисков новых функций и поиска инновационных решений для их минимизации (mitigation) без ухудшения пользовательского опыта (UX).
-
комфортный современный офис рядом с м. Кутузовская, гибридный график работы, возможность работать удаленно из другого региона
-
ежегодный пересмотр зарплаты и годовая премия по результатам работы
-
расширенный ДМС, льготное страхование для семьи, корпоративный спортзал и зоны отдыха
-
доступ к более чем 400 образовательным программам СберУниверситета для профессионального и карьерного роста
-
финансовые льготы: гибкий дисконт по ипотечному кредиту (1/3 ключевой ставки ЦБ), бесплатная подписка СберПрайм+, скидки от партнеров
-
вознаграждение за рекомендацию друзей в команду Сбера.