Команда специалистов из «Т-Технологий», AIRI, НИУ ВШЭ, Университета Иннополис и «Сбера» разработала фреймворк ATGen, предназначенный для оптимизации процесса обучения больших языковых моделей, применяемых в задачах генерации текста.

 
 Ключевое преимущество инструмента состоит в существенном снижении затрат ресурсов на подготовку качественных данных, необходимых для тренировки генеративных ИИ-моделей. Традиционно создание специализированных моделей требует значительных объемов предварительно обработанных и маркированных наборов данных, однако ATGen реализует принцип активного обучения, позволяя самой модели самостоятельно определять необходимые дополнительные примеры, максимизируя эффективность дальнейшего повышения ее производительности.

 
 По словам разработчиков, использование активного подхода сокращает потребность в объеме вручную размечаемых данных в два — четыре раза, сохраняя либо улучшая итоговое качество генерируемых результатов.

 
 Фреймворк включает методики активного обучения, интерфейс для ручной разметки данных, инструментарии оценки качества модели с использованием стандартных метрик для генеративных задач, механизмы взаимодействия с LLM-«учителями» и средства для подготовки и эксплуатации моделей различного назначения.

 
 Отмечается, что инструмент подходит командам разработчиков любого масштаба для создания генеративных языковых моделей в различных отраслях.

CNews

Исследователи «Т-Технологий», AIRI, НИУ ВШЭ, Иннополиса и «Сбера» создали фреймворк ATGen для LLM

Российские разработчики об обучении нейросетей

ICT.Moscow

Остаться в седле: кто и как в России обучает модели искусственного интеллекта

Исследователи из лаборатории искусственного интеллекта T-Bank AI Research разработали подход к интерпретации и управлению языковыми моделями. Он основан на методе SAE Match, который был представлен командой ранее. Исследователи предложили концепцию графа потока признаков — это карта, которая отражает, где, когда и как в ИИ-модели появляются, трансформируются или исчезают важные смысловые элементы. Эту информацию можно использовать для активного управления моделью.

 
 Исследование относится к области интерпретируемого ИИ — попытке понять, как модели принимают решения. LLM строят свои ответы на основе многослойной архитектуры. Каждый слой обрабатывает информацию и передает ее дальше. Новый метод исследователей T-Bank AI Research позволяет проводить анализ как между слоями модели, так и внутри самих слоев: между такими модулями как Attention (механизм внимания, анализирует контекст) и Feedforward (отвечает за использование внутренних знаний модели).

 
 Новый метод позволяет усиливать или подавлять определенные признаки на разных этапах обработки без изменения параметров модели и без дообучения. Таким образом можно изменять стиль, тематику или тональность генерируемого текста. Как утверждают исследователи, вмешательство сразу на нескольких слоях и модулях позволяет управлять моделью точнее и с меньшими потерями в качестве текста, чем попытки повлиять на отдельный уровень.

 
 Метод не требует дополнительных данных и может применяться к уже обученным моделям. Как предполагают исследователи, новый подход поможет предотвратить потенциально вредоносное поведение модели до его появления в ответе.

<hr />
 
 Специалисты T-Bank AI Research <a href="https://ict.moscow/news/v-t-bank-ai-research-razrabotali-metod-sae-match-dlia-ponimaniia-raboty-ii-po-priniatiiu-reshenii-na-razlichnykh-etapakh/" target="_blank" rel="nofollow">представили</a> метод SAE Match в апреле 2025 года. Он позволяет понять, в какой момент ИИ-модель начинает давать неправильные или нежелательные ответы и скорректировать их.

<hr />

Т-Технологии

В T-Bank AI Research разработали подход к интерпретации и управлению смысловыми процессами LLM

ИИ-центр группы «Т-Технологии» выложил в открытый доступ модель автоматического распознавания речи (ASR) T-one. Пайплайн включает предобученную потоковую акустическую CTC-модель (Connectionist Temporal Classification), модуль разделения на фразы и декодер для распознавания в реальном времени.

 
 T-one состоит из 70 млн параметров, модель можно запускать на ноутбуках. Входной аудиопоток обрабатывается сегментами по 300 мс.

 
 Расходы на разработку составили меньше 10 млн руб. В эту сумму входит стоимость аппаратного обеспечения и зарплаты сотрудников.

 
 Решение внедрено во внутренние продукты Т-Банка, включая службу поддержки, мобильного секретаря в «Т-Мобайле» и инструменты защиты от спам-звонков. Разработчики предполагают, что T-one будет интересна тем, кто разрабатывает голосовых роботов и ассистентов, а также занимается автоматизацией колл-центров.

<hr />
 
 Т-Банк развивает речевые технологии с 2016 года. С 2019 года был <a href="https://ict.moscow/news/klientam-tinkoff-banka-stal-dostupen-golosovoi-pomoshchnik-oleg/" target="_blank" rel="nofollow">запущен</a> голосовой ассистент «Олег», которого сейчас заменяет мобильный секретарь. Он принимает звонки, делает расшифровку разговора и с учетом контекста с юмором отвечает спамерам и мошенникам. В «Т-Технологиях» сейчас развивают шесть ИИ-ассистентов под разные пользовательские задачи: от покупки билетов до консультаций по ценным бумагам.

<hr />

Forbes

«Т-Технологии» выпустила модель потокового распознавания речи T-one

Группа «Т-Технологии» представила гибридную большую языковую модель T-Pro 2.0. Пользователь может выбрать между быстрым ответом или режимом рассуждения для сложных задач. Модель основана на семействе Qwen 3 китайской Alibaba и включает методы непрерывного предобучения и выравнивания.

 
 Размер T-Pro 2.0 — 32 млрд параметров. Она способна решать сложные аналитические задачи, структурно рассуждать, планировать действия, выдвигать гипотезы и опровергать их.

 
 Т-Банк планирует интегрировать новую модель в работу ИИ-ассистентов. Внутренняя версия T-Pro 2.0, обученную на собственных данных, внедрили в работу автономных агентов поддержки банка. Утверждается, что они стали решать задачи пользователей без участия оператора на 10% чаще без дополнительных затрат на разработку или операционные процессы.

 
 Как отмечает «Т-Технологии», T-Pro 2.0 показал более высокое качество на русскоязычных бенчмарках, включая MERA, ruMMLU, Ru Arena Hard, ru AIME, ru LCB, по сравнению с другими открытыми моделями на 30 млрд параметров. В этих бенчмарках новая модель превосходит Qwen3-32B, Ruadapt 3 32B V2, DeepSeek-R1-Distill-Qwen-32B и Gemma 3 27B.

 
 Компания также утверждает, что модель дает ответы в два раза быстрее, чем модели Qwen3 и DeepSeek R1 Distil аналогичных размеров. Это объясняется более плотной токенизацией русского языка и ускорением генерации токенов большими языковыми моделями за счет использования дополнительной модели меньшего размера.

 
 Затраты на разработку составили меньше 120 млн руб. В сумму включены расходы на вычислительные мощности для R&D и финального дообучения, а также зарплаты сотрудников.

 
 «Т-Технологии» также <a href="https://huggingface.co/datasets/t-tech/T-math" target="_blank" rel="nofollow">опубликовала</a> бенчмарк T-Math — это набор из 331 задачи российских математических олимпиад для старшеклассников. Приводятся результаты шести ИИ-моделей. T-Pro 2.0 занимает пятую строчку с результатом pass@1 0,54 (доля успешных решений с первой попытки — 54%).

 
 Кроме этого «Т-Технологии» <a href="https://huggingface.co/datasets/t-tech/T-Wix" target="_blank" rel="nofollow">выпустили</a> набор данных для контролируемой тонкой настройки (SFT) T-Wix. Он разделен на две группы: первый содержит 468,6 тыс. примеров и охватывает широкий спектр тем, второй — около 31 тыс. примеров и сосредоточен на сложных математических и научных задачах.

<hr />
 
 «Т-Технологии» <a href="https://www.tbank.ru/about/news/11122024-the-t-technologies-group-has-introduced-the-worlds-most-efficient-open-large-language-models-in-russian/" target="_blank" rel="nofollow">выпустила</a> первые большие языковые модели на 32 млрд параметров и на 7 млрд параметров T-Pro и T-Lite в 2024 году. По данным компании, ежемесячно их скачивают больше 15 тыс. раз.

<hr />

Группа «Т-Технологии» выпустила LLM с гибридным режимом рассуждений T-Pro 2.0

Трансформация систем контроля и управления доступом на фоне пандемии

Евгений Волков, руководитель проектов «Тинькофф Банк», выступил на конференции <a href="https://ict.moscow/event/transformatsiia-skud-beskontaktnost-biometriia-multimodalnost/" target="_blank" rel="nofollow">«Трансформация СКУД: бесконтактность, биометрия, мультимодальность»</a> (6 июля 2021 года).

В презентации рассматриваются основные задачи при борьбе с распространением COVID-19 и примеры применения систем контроля и управления доступом.

Т_Технологии

Тинькофф Банк

Евгений Волков, руководитель проектов «Тинькофф Банк», выступил на конференции <a href="https://ict.moscow/event/transformatsiia-skud-beskontaktnost-biometriia-multimodalnost/" target="_blank" rel="nofollow">«Трансформация СКУД: бесконтактность, биометрия, мультимодальность»</a> (6 июля 2021 года).

 
 В презентации рассматриваются основные задачи при борьбе с распространением COVID-19 и примеры применения систем контроля и управления доступом.