ИТМО представил исследование российского рынка больших языковых моделей и данных для их обучения. Эксперты исследования оценивают оптимальную долю русскоязычных данных в обучающем массиве в 5–30%.
По данным ИТМО, в начале 2026 года российские модели занимали первые шесть мест в SLAVA — тесте с 14 тыс. вопросов о России. В ноябре 2024 года в тройке лидеров были американские и китайские модели. Этот результат относится к конкретному тесту, посвящённому России.
Эксперты ИТМО считают, что изоляция от международных корпусов усилит отставание моделей и ухудшит выполнение задач за пределами локального языкового контекста. По оценке университета, российские команды сильнее иностранных разработчиков зависят от открытых источников: у них меньше ресурсов на сбор, покупку и оцифровку данных.
Потенциальное преимущество для отраслевых моделей ИТМО видит в оцифровке библиотечных, архивных и других профессиональных и культурных массивов. Аналитики исследования считают, что правила авторского права должны защищать правообладателей, не сокращая массив информации, доступный для обучения.
Авторы исследования предлагают распределённую модель развития с участием государства, бизнеса, науки, образования и сообществ разработчиков открытого кода. По описанию ИТМО, исследование основано на экспертных интервью и анализе рынка, отечественных моделей и тестов.
Изображение: Университет ИТМО