Токен — минимальная единица текста, которую языковая модель обрабатывает за один шаг: не символ и не слово, а фрагмент, получаемый алгоритмом токенизации. От числа токенов зависит цена запроса к API, размер контекстного окна и скорость генерации.
Контекстное окно — максимальный объём текста в токенах, который языковая модель обрабатывает за один вызов; всё за его пределами модель не видит. Размер окна определяет, сколько документа, кода или диалога умещается в один запрос.
Новые препринты ставят под сомнение ключевое допущение о reasoning-моделях: видимая цепочка рассуждений может не отражать реальные вычисления, а лишь имитировать их — что подрывает мониторинг агентных систем как метод контроля.
Свежие препринты смещают фокус с одиночных рассуждающих моделей на координацию нескольких агентов. Авторы формулируют оркестрацию как задачу обучения с подкреплением и предлагают контролируемые бенчмарки. Главным узким местом остаётся надёжность взаимодействия.
Новый класс бенчмарков проверяет агентов не на изолированных задачах, а в полноценной среде с терминалом и файловой системой. Такой подход ближе к реальной работе, но и обнажает слабые места моделей. Результаты показывают, что разрыв между демо и продакшеном всё ещё велик.
Авторы расширенной версии RULER опубликовали бенчмарк на контексте до 2 миллионов токенов. Главный результат — даже модели с формально поддерживаемым окном 1M+ систематически проваливаются на задачах, требующих связной аргументации по дальним фрагментам.
Награды по шагам рассуждения вместо итогового результата позволяют существенно сократить нестабильность RLHF-обучения. Разбираем технические детали подхода и публикации последних месяцев, фиксирующих его как новую норму.
Расширенная версия MMMU добавляет задачи с фильтрацией визуальных дистракторов и многошаговое визуальное рассуждение. Разбираем, чем отличается от предшественника и какие модели сейчас лидируют.
Reasoning-режимы у o1, Claude и Gemini подняли качество за счёт затрат на инференс. Анализируем кривые «компьют против качества» и оцениваем, когда такие модели экономически оправданы.
Исследователи опубликовали методологию построения токенизатора для русскоязычных корпусов с учётом морфологии. Заявленное снижение средней длины последовательности — до 18%, что напрямую влияет на стоимость инференса.