В «Яндексе» летом 2025 года начали проводить эксперимент по изучению возможности появления у искусственного интеллекта устойчивых предпочтений и не заимствованной из текстов точки зрения. Первые результаты компания планирует получить до конца года. Исследование проводится совместно с нейробиологом, академиком РАН Константином Анохиным.

На начальном этапе ученые убедились, что стандартная языковая модель не может формировать предпочтения без дополнительного обучения. Для этого они оценили последовательность в выборе ответов. В ближайшее время начнется основной этап эксперимента. Языковую модель будут побуждать к рассуждению и рефлексии и дообучать на собственных рассуждениях. По мнению исследователей, при таких условиях появление предпочтений возможно. Они могут проявиться в виде более последовательных ответов, например, если модель будет стабильно называть один цвет любимым или отстаивать одну точку зрения.

Как считают ученые, стабильность во взглядах и предпочтениях будет свидетельствовать о формирования подобия внутренней картины мира, что похоже на способность человека обучаться и выстраивать свою личность и характер на основе опыта и мыслей. В «Яндексе» называют самым сложным поиск способа побудить модель рефлексировать и использовать эти результаты для формирования мнения.

По словам директора лаборатории «Когнитивные системы ИИ» Института AIRI и центра когнитивного моделирования МФТИ Александра Панова, современные языковые и мультимодальные модели способны формировать так называемую модель мира — систему знаний и представлений о происходящем, которые хранятся в их параметрах. Однако, как считает ученый, даже если модель эффективно запоминает информацию, дает корректные ответы и демонстрирует что-то похожее на рассуждение, это еще нельзя назвать наличием сознания. По мнению Панова, говорить о развитии у модели внутреннего опыта, близкого к сознанию, можно будет при появлении систем, обладающих телом.

Ведущий разработчик департамента машинного обучения MWS AI Иван Копылов отметил, что в научном сообществе остается открытым вопрос, нужно ли стремиться формировать у ИИ собственную рефлексию и мировосприятие. По его словам, это шаг к созданию общего ИИ, который несет риски из-за невозможности предсказать поведение нового типа сознания.