Фон компании

Deep Learning/CUDA Engineer (GigaChat)

Зарплата не указана
Москва
Требуемый опыт: от 3 до 6 лет
График: 5/2
О вакансии:

Мы - команда инференса GigaChat. Всё, что модель отвечает пользователю, проходит через наш движок - и наша работа в том, чтобы это происходило быстро, дёшево и не падало никогда.У нас нет опции «подождём, пока это появится в vLLM». GigaChat - это свои архитектуры и свои мультимодальные модели, и когда исследователи приносят новую архитектуру, именно мы делаем так, чтобы она летала на проде: пишем ядра, придумываем, как разложить её по GPU, выжимаем токены в секунду там, где, казалось бы, выжимать уже нечего.Это работа, где результат меряется в миллисекундах и мегаваттах: каждый процент ускорения - это тысячи GPU-часов и реальные деньги. И где между «прочитал свежую статью» и «это крутится на проде под нагрузкой» проходят недели, а не годы.

Обязанности

Чем предстоит заниматься:

  • Заставлять новые архитектуры GigaChat (включая мультимодальные) работать на проде быстро
  • Ускорять всё, что можно ускорить: кастомные CUDA-ядра, квантизация, speculative decoding, оптимизации KV-cache, continuous batching — и то, чему ещё нет устоявшегося названия
  • Придумывать, как разложить большую модель по GPU и по кластеру так, чтобы ни один FLOPS не простаивал: тензорный/пайплайн-параллелизм, disaggregated prefill/decode, шедулинг запросов
  • Профилировать честно и глубоко: находить, куда на самом деле уходят миллисекунды — в ядре, в раскладке памяти, в сети или в планировщике — и убирать это
  • Держать прод: движок, через который проходят все запросы к GigaChat, должен успешно переживать абсолютно всё
  • Читать свежие статьи и код лучших движков (vLLM, SGLang, TensorRT-LLM) не как пользователь, а как конкурент: понимать, что у них хорошо, и делать у себя лучше — с поправкой на наши архитектуры

Требования

  • опыт работы в области глубокого обучения, в том числе с LLM
  • глубокое знание CUDA и Python
  • опыт использования GigaChat, Kandinsky и аналогов в продуктах
  • навыки создания и использования AI-агентов.

Условия

  • комфортный современный офис рядом с м. Кутузовская
  • возможность выбрать удобный график – офис/гибрид/удаленка (в РФ)
  • годовая премия
  • корпоративный спортзал и зоны отдыха
  • более 400 образовательных программ СберУниверситета для профессионального и карьерного развития
  • расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа
  • ипотека для сотрудников по дисконтной прогамме
  • бесплатная подписка СберПрайм+, скидки на продукты компаний-партнеров
  • вознаграждение за рекомендацию друзей в команду Сбера.

О компании

avatar_sber
СБЕР
5958 отзывов

💚🚀 Хотите работать в компании, где каждый день создаются новые технологии и возможности? Добро пожаловать в Сбер! Здесь можно развиваться в своей профессии, осваивать новые направления, работать над масштабными задачами и строить карьеру вместе с сильной командой.

Сбер — место для развития

Мы создаём продукты и сервисы, которыми каждый день пользуются миллионы людей. Развиваем технологии, запускаем новые проекты и постоянно ищем решения, которые делают жизнь клиентов проще.

За большими продуктами стоят люди — разработчики, аналитики, менеджеры, специалисты по продажам, финансам, маркетингу, клиентскому сервису и десятки других профессиональных команд.

Поэтому в Сбере можно найти работу в самых разных направлениях. Неважно, начинаете вы карьеру или уже являетесь опытным специалистом, — у нас есть возможности для профессионального роста.

Работа в Сбере — это возможности

Мы хотим, чтобы каждый сотрудник мог развиваться и раскрывать свой потенциал. Поэтому большое внимание уделяем обучению, новым знаниям и профессиональному росту.

Вы можете углубляться в своей специальности, осваивать новые компетенции или пробовать себя в другом направлении. Развитие не ограничивается одной должностью — карьерный путь может меняться вместе с вашими интересами и целями.

Учитесь новому каждый день

Технологии и профессии постоянно меняются, поэтому учиться новому особенно важно. Мы создаём возможности для развития профессиональных и личных навыков, чтобы сотрудники могли уверенно справляться с современными задачами и двигаться дальше.

Внутри компании можно получать новые знания, обмениваться опытом с коллегами и развивать экспертизу на реальных проектах.

Работайте над задачами, которые имеют значение

В Сбере много разных команд и проектов. Здесь можно заниматься технологиями, создавать цифровые продукты, развивать клиентские сервисы, работать с данными, финансами, маркетингом, продажами и другими направлениями.

Каждая команда решает свои задачи, а общий результат складывается из работы людей с разной экспертизой.

Расти можно вместе с командой

Мы ценим инициативу, профессионализм и желание развиваться. Нам важно, чтобы сотрудники могли влиять на результат своей работы, предлагать идеи и брать на себя новые задачи.

С опытом появляются новые возможности: можно развиваться как эксперт, становиться руководителем или переходить в другое направление внутри компании.

Найдите работу в Сбере

Ищете первую работу? Хотите сменить профессию? Уже являетесь опытным специалистом и ищете масштабные проекты для развития? Посмотрите актуальные вакансии Сбера и выберите направление, которое подходит именно вам.

💚 Выбирайте профессию.
🚀 Развивайтесь.
✨ Создавайте новое вместе с нами.

Сбер — место, где есть возможности для роста и развития.

*Демонстрационный профиль — компания ещё не зарегистрирована