Google показала Nested Learning

Google предложила Nested Learning и собрала прототип HOPE, чтобы модель училась новому без потери старых навыков. В тестах он обошёл выбранные Transformer и рекуррентные базовые модели на языковых задачах и на длинном контексте.
Попробовать сам подход пока можно только через бумагу и прототип, а не как готовый продукт. Идея в том, чтобы разные части модели обновлялись с разной скоростью.

https://arxiv.org/pdf/2512.24695