Международное научное сообщество AAAI подготовило исследование, главная цель которого — помочь всем интересующимся разобраться в последних изменениях, которые происходят в области искусственного интеллекта. Документ содержит 17 глав, каждая из которых посвящена одной теме, связанной с исследованиями в области ИИ, описывает ее историю, текущие тенденции и возможные вызовы. Исследование основано на результатах работы 25 ученых, специализирующихся на ИИ, а также на данных, полученных из опроса 475 участников ИИ-сообщества.

Ключевые выводы:

• логическое мышление ИИ (AI Reasoning). Исследования в области ИИ привели к созданию различных методов автоматизированных рассуждений, таких как SAT (задача выполнимости), SMT (выполнимость с учетом теорий) и вероятностные графические модели. Эти методы играют важную роль в реальных приложениях, например в задачах оптимизации, проверке программ и моделировании неопределенности. Несмотря на успехи крупных обученных систем, включая большие языковые модели (LLM), авторы документа указывают на необходимость провести дополнительные исследования, чтобы гарантировать правильность и глубину их рассуждений;

• повышение фактической точности и доверия к ИИ (Factuality and Trustworthiness) служит одной из главных задач в исследованиях искусственного интеллекта. Это включает в себя улучшение способности ИИ избегать ложных утверждений, генерировать понятные и достоверные решения, особенно в критически важных приложениях. Для этого применяются такие методы, как дообучение ИИ, проверка вывода и использование более простых моделей;

• ИИ-агенты (AI Agents) на сегодняшний день все чаще применяются в составе нескольких ИИ-систем или агентов, включая ГенИИ, которые работают вместе для достижения общей цели. Это, с одной стороны, открывает новые возможности для гибкого принятия решений, но, с другой стороны, снижает показатели эффективности;

• оценка работы ИИ (AI Evaluation) включает в себя проверку производительности, надежности и безопасности систем. Современные методы фокусируются на тестировании качества моделей, но часто упускают такие важные аспекты, как удобство использования, прозрачность и этика. Для успешного и безопасного внедрения ИИ, как пишут авторы исследования, необходимы новые подходы к его оценке;

• этика и безопасность ИИ (AI Ethics and Safety) становятся все более важными и взаимосвязанными аспектами, для регулирования которых на данный момент недостаточно инструментов. Новые угрозы, такие как киберпреступления и разработка автономного оружия, требуют немедленного внимания, сотрудничества исследователей из разных сфер, постоянного контроля со стороны регуляторов и ответственности при разработке ИИ;

• воплощенный ИИ (Embodied AI) представляет собой подход в искусственном интеллекте, при котором интеллектуальные агенты получают способность взаимодействовать с физическим миром через тело. На данный момент роботы являются наилучшей платформой для разработки воплощенного ИИ;

• ИИ и когнитивные науки (AI and Cognitive) тесно взаимосвязаны. ИИ может многому научиться, опираясь на достижения в сфере когнитивных наук — лингвистики, психологии, антропологии, нейронаук. В свою очередь когнитивные науки могут значительно продвинуться вперед благодаря развитию ИИ;

• аппаратное обеспечение ИИ (Hardware & AI). Для эффективной работы ИИ аппаратное и программное обеспечение должны быть разработаны так, чтобы они хорошо взаимодействовали. Основные трудности при этом представляют энергозатраты, скорость обработки данных и проблемы с использованием ИИ на устройствах из-за ограниченных ресурсов;

• использование ИИ для оказания помощи наименее защищенным слоям населения (AI for Social Good) может оказать ощутимый положительный эффект на развитие общества. Эта область стала более востребованной в последнее время, однако для ее развития, отмечают авторы документа, требуется повышенное внимание к этическим аспектам, а также взаимодействие исследователей со специалистами в сфере социальной защиты;

• помимо описанных выше аспектов, исследование уделяет внимание таким направлениям, как использование ИИ в целях устойчивого развития (AI and Sustainability) и для научных открытий (AI for Scientific Discovery), рассматривает возможности общего искусственного интеллекта (Artificial General Intelligence, AGI) и особенности восприятия человеком достижений ИИ (AI Perception vs. Reality);

• документ также затрагивает проблему разнообразия подходов в исследовании ИИ (Diversity of AI Research Approaches) и исследовательскую деятельность за пределами научного сообщества (Research Beyond the AI Research Community), роль университетов в развитии ИИ (Role of Academia) и влияние на него геополитических аспектов (Geopolitical Aspects and Implications of AI).

Расскажите знакомым: