Ученые AIRI, Центра квантовых технологий «Сбера» и «Сколтеха» разработали метод Astralora для обучения гибридных моделей ИИ, использующих фотонные, нейроморфные или аналоговые чипы. Эти устройства рассматриваются как потенциально более быстрые и энергоэффективные для выполнения ряда базовых ИИ-задач.

Astralora решает проблему обучения моделей при помощи метода обратного распространения ошибки, когда после каждого ответа сигнал проходит через все слои и показывает, как необходимо изменить параметры для улучшения результата. Но если один из слоев работает как «черный ящик», то этот механизм реализовать невозможно.

Новый метод протестировали на шести цифровых моделях фотонных вычислительных слоев и схем. Чтобы проверить, что подход не привязан к какому-то одному типу данных, исследователи также провели эксперименты на задачах из трех разных областей.

В ходе тестов выяснилось, что для обучения гибридной нейросети не требуется точно знать, что происходит внутри каждого ее компонента.

В AIRI считают, что «в будущем такие гибридные системы могут быть востребованы в крупных дата-центрах для обучения больших моделей, а также в устройствах с жесткими требованиями к скорости и энергопотреблению, таких как обработка сигналов с сенсоров, компьютерное зрение и телекоммуникации».

В октябре в МФТИ разработали новую форму мемристоров, которые могут имитировать поведение биологических синапсов.