Американская лаборатория искусственного интеллекта Nous Research провела дополнительное обучение открытой ИИ-модели Alibaba Qwen3.8-27B, чтобы избавить её от «китайских корней». Переобученная версия получила название Arete.
Цель проекта разработчики описали как «утверждение западных ценностей в модели, изначально обученной в Китае». По их мнению, китайские модели с открытыми весами одни из самых мощных, но в их веса изначально заложено поведение, отвечающее государственной идеологии Китая.
После переобучения показатель фактической точности Arete-27B вырос с 2,32 до 2,98 по пятибалльной шкале, а доля ответов, содержащих пропаганду, снизилась с 22 % до 1 %. Для сравнения: у модели Alibaba Qwen3.6-35B-A3B компании Hirundo после аналогичной процедуры доля контента с предпочтениями Пекина упала с 89,8 % до 2,8 %.
При выборе средства для переобучения специалисты рассматривали модель Nvidia Nemotron 3 Ultra, но обнаружили, что она «демонстрировала неоднозначный подход к связанным с Китаем темам». Этот эффект они связали с возможным использованием китайских моделей при обучении самой Nemotron.
В итоге выбор пал на открытую модель Inkling от американской лаборатории Thinking Machines Lab. Опыт показал, что пропагандистский пласт в Alibaba Qwen3.8-27B носит поверхностный характер и относительно легко устраняется на обучающем объёме данных в 50 млн токенов.