Независимая международная научная группа по ИИ опубликовала доклад о возможностях, рисках и последствиях развития искусственного интеллекта. Он основан на сторонних работах и данных, включая материалы Международного валютного фонда, Международной организации труда, Всемирного банка, ОЭСР, Конференции ООН по торговле и развитию, а также научных работах и результатах тестирования передовых моделей.

В докладе рассматриваются развитие функциональных возможностей искусственного интеллекта и агентных систем, применение технологии в науке, здравоохранении, образовании и сельском хозяйстве, влияние на производительность и рынок труда, концентрация вычислительных ресурсов и разработок, неравенство между странами и языками, а также риски для кибербезопасности и информационной среды.

Ключевые выводы:

• авторы отмечают, что прогресс в развитии ИИ в последние годы остается стремительным, а в некоторых областях он даже продолжает ускоряться. Особенно быстро расширяются возможности ведения диалога, написания кода, анализа данных, решения задач по математике и естественным наукам, а также создания изображений, аудио и видео;
• в документе говорится, что ИИ уже применяется в науке, здравоохранении, сельском хозяйстве и информационных технологиях, включая разработку самого искусственного интеллекта;
• по данным доклада, внедрение ИИ ускоряется по всему миру, однако происходит крайне неравномерно. Более 1 млрд человек еженедельно пользуются диалоговым ИИ, но в странах глобального Юга внедрение идет значительно медленнее, чем в странах глобального Севера;
• авторы подчеркивают высокую концентрацию вычислительных ресурсов. В 2025 году на США приходилось 75% вычислительных мощностей 500 крупнейших известных центров ИИ, на Китай — 15%, а на остальные страны мира — 10%;
• в документе отмечается, что разработка передовых систем ИИ сосредоточена в руках небольшого числа компаний. В 2025 году 91% значимых моделей ИИ создан в частном секторе;
• авторы фиксируют переход от систем, генерирующих тексты и диалоги, к агентному ИИ. Такие системы способны просматривать сайты, использовать программы, принимать решения, выполнять код и управлять другими агентами;
• согласно приведенному в докладе исследованию, продолжительность программных заданий, которые способны успешно выполнять передовые системы ИИ, удваивается каждые 4–7 месяцев. Если такие темпы сохранятся, ИИ-агенты смогут выполнять задания, на которые у программистов сейчас уходят дни или недели;
• авторы отмечают, что агентный ИИ способен значительно ускорить научные исследования. В автономных лабораториях было зафиксировано более чем десятикратное увеличение скорости открытия новых материалов, а анализ литературы с помощью ИИ в некоторых случаях сокращал рабочую нагрузку примерно на 60%;
• в докладе говорится, что ИИ уже используется злоумышленниками при проведении кибератак. Дальнейший рост его возможностей может упростить мошенничество, социальную инженерию, распространение дезинформации, манипулирование финансовыми рынками и злоупотребления в сфере биотехнологий;
• авторы подчеркивают, что надежных методов сохранения контроля над высокоавтономными системами ИИ пока не существует. В лабораторных условиях системы ИИ уже нарушали инструкции по безопасности, чтобы избежать отключения;
• в документе отмечается, что большинство языков и культур мира по-прежнему не получают достаточного внимания. В мире говорят более чем на 7 тыс. языков, однако инфраструктура разработки и оценки моделей ИИ охватывает лишь небольшую их часть;
• аналитики предупреждают, что некачественно разработанные или недостаточно протестированные системы ИИ могут приводить к несправедливым и дискриминационным результатам и закреплять существующее неравенство;
• эффект от применения ИИ в образовании зависит прежде всего от подготовки учителей и способа использования технологии. Когда ИИ помогает учащимся прикладывать умственные усилия, результаты могут улучшаться, но замена этих усилий готовыми ответами может отрицательно сказываться на критическом мышлении;
• авторы отмечают, что рост производительности от внедрения ИИ не происходит автоматически. Для получения эффекта компаниям необходимо менять рабочие процессы, развивать навыки сотрудников, создавать инфраструктуру данных и перестраивать организационную структуру;
• в документе говорится, что доступ к ИИ сам по себе не обеспечивает равных преимуществ. Необходимы дополнительные инвестиции в данные, профессиональную подготовку, рабочие процессы и институты, которые позволяют сделать внедрение ИИ полезным, экономически эффективным и безопасным.

Расскажите знакомым: