Как Т-Банк зарабатывает на искусственном интеллекте

Т-Банк давно занимается искусственным интеллектом. Поэтому вполне логичным стал запуск и развитие масштабного проекта по созданию собственных LLM (больших языковых моделей).

Директор по ИИ Т-Банка Виктор Тарнавский дал интервью медиапорталу аудиторско-консалтинговой фирмы Kept, в котором рассказал о рентабельности инвестиций в большие языковые модели и о конкуренции в этом сегменте.

📌 О финансовом пузыре вокруг LLM
Вокруг больших языковых моделей в мире возник некоторый пузырь. Люди слишком верили в технологию и вложили в нее слишком много денег и усилий, а отдача от инвестиций получилась не такой значимой, и акции многих компаний начали падать.

Мы понимали это, когда начинали работу над своими языковыми моделями. Мы точно не хотим создавать технологию ради технологии и строить большую базовую модель (foundation model), которая умеет решать множество задач, потому что для нас как для бизнеса это бессмысленно. Нам не нужна модель, которая, например, решает ЕГЭ или юридические тесты.

Большую модель можно сравнить с огромным неповоротливым мозгом. Во время работы она съедает очень много ресурсов и поэтому много тормозит. Небольшие модели под конкретные задачи работают быстрее, и стоимость на единицу запроса тоже значимо ниже.

📌 О семействе больших языковых моделей Т-Банка — Gen-T
Мы понимали, что у нас есть определенное количество доменных областей, по-простому сценариев, и понятные задачи в этих доменных областях. Решить такие задачи сильно проще, чем сделать одну огромную модель, которая хорошо решает все задачи: разница в затраченных ресурсах больше чем в 10 раз.

В результате мы делаем не одну модель, а семейство моделей, каждая из которых заточена под свою доменную область, и ее результат в конкретной области превосходит результат большой модели и по качеству, и по возврату инвестиций.

📌 Об инвестициях Т-Банка в LLM
У нас есть достаточно устойчивая финансовая модель, как с лихвой окупать все наши инвестиции в большие языковые модели. Этим в целом мало кто сейчас может похвастаться.

Т-Банк как финтехкомпания оценивает возврат на инвестиции практически по каждому проекту. Наши затраты на большие языковые модели были не такими большими, по сравнению с другими компаниями, или в тысячу раз меньше, чем у международных. Мы понимаем, какие продукты и решения принесут пользу, в том числе в деньгах, и заранее построили экономическую модель, и она сходится не через десятки лет — интервал меньше пяти лет.

Полная версия интервью: https://mustread.kept.ru/interviews/industry/finansy/my-ponimaem-kak-prevratit-tekhnologii-v-klassnyy-produkt-chtoby-polzovatel-nas-bolshe-lyubil/