📝 ML Edge Engineer 👥 О команде: Мы — исследовательская команда на переднем крае LLM-технологий. Ищем архитектурные ходы, новые способы оптимизации архитектур, нестандартные режимы рассуждений — всё, что может дать кратный прирост качества/скорости. TLDR: ищем сильного инженера, который будет делать наши модели быстрыми и дешёвыми в инференсе — от квантизации и дистилляции до разработки CUDA-ядер под новое железо. 👁 Требования: — Уверенный Python и PyTorch, глубокое понимание архитектуры GPU: иерархия памяти, тензорные ядра, профилирование. — Опыт дистилляции и квантизации LLM/VLM: PTQ и QAT; работа с форматами INT8/INT4, FP8, FP4/MXFP, bf16, понимание, где и почему падает качество и как его вернуть. — Написание и оптимизация CUDA-ядер (CUTLASS, Triton, CUDA C++): матричные умножители, fused attention, кастомные операторы под Blackwell; понимание особенностей новых поколениях чипов. — Уверенный PyTorch; опыт с инференс-стеками (TensorRT-LLM, vLLM, SGLang или аналоги) и компиляторами (torch.compile, Triton, TVM/XLA). — Опыт самостоятельного ведения экспериментов: от гипотезы до бенчмарка и внедрения в пайплайн. 👁 Задачи: — Квантизация и дистилляция NextGenAI-моделей с минимальной потерей качества; построение воспроизводимых пайплайнов оценки точности после сжатия. — Оптимизация обучения и инференса под разные форматы (FP8, FP4/MXFP). — Разработка и оптимизация матричных умножителей и CUDA-ядер под Nvidia Blackwell: использование новых тензорных ядер и форматов, fused-операторы, снижение latency и рост throughput. — Портирование и оптимизация моделей под кастомные AI-чипы: работа с SDK вендоров, компиляторами и рантаймами, бенчмарки и сравнение с GPU-бейзлайном. HR: @VeronikaShel Teamlead: @nagadit #job #hr #nextgenai
Open in TelegramViews677−72%vs avg
Forwards20
Reactions18
Comments0
