Нейродвиж от Алекса Коротко за день

ИсследованиеОфициально

Metis-1.6: модель, которая думает дважды

Metis-1.6 обрабатывает токены дважды, достигая топовых результатов в математике при меньших затратах.

1 мин чтенияРедакция «Нейродвиж»Источник: Hugging Face Papers

Что случилось

Исследователь представил Metis-1.6: модели Praxis и Logos, где каждый токен обрабатывается дважды через гибридную архитектуру. При меньшем объёме данных они попали на Парето-фронт по эффективности и показали второй результат в математике. То есть качество можно добивать не только увеличением параметров, но и повторным проходом. В отчёте подробно описаны ошибки настройки оптимизатора и функции вознаграждения.

Источник

Это короткий пересказ своими словами, а не перевод. Текст подготовлен с помощью ИИ и сверен с источником. Нашли ошибку?

Открытые модели

Ещё про Открытые модели

Все материалы