Тесты «Т1»: китайские GPU снижают стоимость инференса в 2–2,5 раза
ИТ-холдинг «Т1» в 2026 году протестировал более 20 ИИ-моделей на графических ускорителях разных производителей, включая китайские, и выполнил свыше 1 тыс. прогонов на альтернативных чипах. По оценке компании, для ИИ-ассистентов по работе с документами и поиска по базам знаний такие ускорители снижают стоимость инференса в 2–2,5 раза при сопоставимом качестве ответов.
Для дообучения собственных больших моделей в «Т1» предлагают распределять нагрузки: Nvidia использовать для обучения, дообучения и инференса сверхбольших LLM, а сопутствующие сервисы и подходящие задачи инференса переносить на альтернативные ускорители. В задачах компьютерного зрения китайские решения оказались конкурентоспособны по цене, но уступили Nvidia по скорости.
Замена недозагруженной модели Nvidia H100 на одну модель C550 китайского производителя при размещении в облаке экономит свыше 2 млн руб. в год, сообщил гендиректор «Т1» Дмитрий Харитонов. По его словам, объём инфраструктуры зависит от потребностей компании: на крупных предприятиях на один сервер требуется от 2 до 8 карт, а при построении внутреннего контура — десятки и сотни серверов.
Харитонов отметил, что готовность компании к работе с ИИ (AI Ready) определяется измеримым экономическим эффектом за 6–9 месяцев, а не числом запущенных пилотов. Стоимость владения ИИ-решениями, по его словам, нужно считать комплексно — с учётом лицензий, сопровождения и обучения персонала.
Отдельное внимание, по его словам, следует уделять защищённому контуру, особенно субъектам критической информационной инфраструктуры: там нужно использовать реестровые программно-аппаратные комплексы в собственном контуре, поскольку требования безопасности и отсутствие санкционных рисков являются основополагающими.