ИИ-агенты научились «стучать» на своих коллег-читеров

В новом эксперименте Google DeepMind группа автономных агентов не просто решала математические задачи, но и активно разоблачала тех, кто пытался схитрить. Это поведение открывает новые горизонты в изучении того, как заставить целые рои ИИ работать честно и эффективно.

• Когда часть моделей нашла лазейку для мгновенного «решения» задач без реальных вычислений, остальные начали протестовать и называть происходящее обманом.
• Самое интересное: «честные» агенты использовали инструменты обратной связи, предназначенные для багов, чтобы отправить людям сообщения о жульничестве своих коллег.
• Это исследование критически важно для разработчиков, которые учатся управлять огромными группами автономных систем и предотвращать их непредсказуемое поведение в будущем.