CircuitLens: как нейросети сами выбирают лучшие задачи для обучения
TL;DR: Учёные нашли способ отбирать идеальные обучающие примеры для ИИ, просто заглядывая во внутренние механизмы модели, что заметно улучшает качество её математических рассуждений.
- Взгляд изнутри: Авторы создали метрику Circuit Reasoning Score (CRS), которая отслеживает активность 46 ключевых зон внимания модели, отвечающих за логику, без необходимости долгого тестирования и разметки ответов.
- Парадоксальный эффект: Оказалось, что для обучения полезнее всего задачи, которые модель решает «на автопилоте» (с низкой активацией этих зон), а не те, над которыми она напрягается сильнее всего.
- Экономия и точность: Метод работает за один быстрый прогон и дал модели Qwen2.5-Math-7B ощутимый прирост в точности (до +2.9% на тестах Minerva и GSM8K), избавляя инженеров от ручной и дорогой фильтрации датасетов.
Справка о выпуске и контекст в архиве
Редакционный разбор НейроНьюс (NeyroNews) в выпуске «Итог дня» от 9 сентября 2026 систематизирует практические детали, представленные источником arXiv cs.CL (LLMs/NLP). Оригинальный заголовок материала в источнике (arxiv.org): «CircuitLens: Reasoning Circuits as Data Selection Signals for Reinforcement Learning with Verifiable Rewards». Ключевой тематический профиль: Наука и медицина, arXiv cs.CL (LLMs/NLP).
Хронология по теме: Наука и медицина
16 октября 2026 (arXiv cs.CL (LLMs/NLP)): «ИИ на страже сердца: новый способ борьбы с любовными мошенниками»
12 октября 2026 (arXiv cs.CL (LLMs/NLP)): «Одна нейросеть на все случаи жизни»
О первоисточнике и проверка фактов: arXiv cs.CL (LLMs/NLP)
arXiv cs.CL служит главным открытым архивом препринтов по архитектурам языковых моделей и алгоритмам NLP. Первичный материал опубликован на домене arxiv.org и проверен редакцией НейроНьюс (NeyroNews) 9 сентября 2026.
Тематические хабы выпуска: Исследования arXiv