Программный комитет Международной конференции по машинному обучению (ICML 2026) принял к публикации восемь статей сотрудников Yandex Research (исследовательского подразделения «Яндекса»).
Две из этих научных публикаций касаются моделей ИИ, обрабатывающих данные в виде графов.
- Статья On Efficient Scaling of GNNs via IO-Aware Layers Implementations получила статус Spotlight (им отмечаются статьи конференции с наибольшей научной значимостью). В ней предлагается решение проблемы масштабирования графовых нейросетей, производительность которых ограничивается неэффективной работой с памятью GPU и большим объемом передачи данных.
В двух работах затрагиваются вопросы работы с табличными данными.
- В одной из этих статей описывается метод обучения с учителем (Supervised Learning)
на табличных данных TabPack. Он предполагает использование ансамблей многослойных перцептронов (Multilayer perceptron, MLP) с различными гиперпараметрами.
- Авторы статьи Unveiling the Role of Data Uncertainty in Tabular Deep Learning анализируют
успешность современных подходов глубокого обучения в обработке табличных данных.
Они приходят к выводу, что многие черты современных архитектур (в частности, использование RAG) улучшают способность
моделей ИИ работать с неопределенностью данных: шумами или неполнотой в них.
Еще два исследования концентрируются на совершенствовании алгоритмов оптимизации при обучении моделей.
- В статье One-Step Gradient Delay Is Not a Barrier for Large-Scale Asynchronous Pipeline Parallel LLM Pretraining исследователи показывают, что метод асинхронного конвейерного
параллелизма (Asynchronous Pipeline Parallelism)
может быть использован для процесса распределенного обучения слоев крупноразмерных LLM.
Остальные статьи касаются других вопросов.
- Статья Relevance-Based Embeddings: Lightweight Candidate Retrieval via Heavy-Ranker Calls содержит
описание нового подхода к проблеме наиболее релевантных сущностей для запроса. Каждый из них предлагается описывать отношением к набору
сходных и на основании этих представлений создавать эмбеддинги.