ГлавнаяЛента

Яндекс

Восемь статей от ученых исследовательского подразделения «Яндекса» приняли к публикации на ICML 2026

24 июня, 15:54|
125

Программный комитет Международной конференции по машинному обучению (ICML 2026) принял к публикации восемь статей сотрудников Yandex Research (исследовательского подразделения «Яндекса»).

Две из этих научных публикаций касаются моделей ИИ, обрабатывающих данные в виде графов.

  • Статья On Efficient Scaling of GNNs via IO-Aware Layers Implementations получила статус Spotlight (им отмечаются статьи конференции с наибольшей научной значимостью). В ней предлагается решение проблемы масштабирования графовых нейросетей, производительность которых ограничивается неэффективной работой с памятью GPU и большим объемом передачи данных. 
  • В работе GraphPFN: A Prior-Data Fitted Graph Foundation Model представляется графовая фундаментальная модель GraphPFN. Нейросеть обучена на 1,6 млн синтетических датасетов.

В двух работах затрагиваются вопросы работы с табличными данными.

  • В одной из этих статей описывается метод обучения с учителем (Supervised Learning) на табличных данных TabPack. Он предполагает использование ансамблей многослойных перцептронов (Multilayer perceptron, MLP) с различными гиперпараметрами. 
  • Авторы статьи Unveiling the Role of Data Uncertainty in Tabular Deep Learning анализируют успешность современных подходов глубокого обучения в обработке табличных данных. Они приходят к выводу, что многие черты современных архитектур (в частности, использование RAG) улучшают способность моделей ИИ работать с неопределенностью данных: шумами или неполнотой в них.

Еще два исследования концентрируются на совершенствовании алгоритмов оптимизации при обучении моделей.

  • В статье One-Step Gradient Delay Is Not a Barrier for Large-Scale Asynchronous Pipeline Parallel LLM Pretraining исследователи показывают, что метод асинхронного конвейерного параллелизма (Asynchronous Pipeline Parallelism) может быть использован для процесса распределенного обучения слоев крупноразмерных LLM. 

Остальные статьи касаются других вопросов.

  • Статья Relevance-Based Embeddings: Lightweight Candidate Retrieval via Heavy-Ranker Calls содержит описание нового подхода к проблеме наиболее релевантных сущностей для запроса. Каждый из них предлагается описывать отношением к набору сходных и на основании этих представлений создавать эмбеддинги.
Подробнее

Расскажите знакомым:

Главное про цифровые технологии в Москве

Нажимая на кнопку, вы соглашаетесь с политикой конфиденциальности

Что такое ICT.Moscow?

ICT.Moscow — открытая площадка о цифровых технологиях в Москве. Мы создаем наиболее полную картину развития рынка технологий в городе и за его пределами, помогаем бизнесу следить за главными трендами, не упускать возможности и находить новых партнеров.