Accenture совместно с Elevandi по итогам дискуссий, состоявшихся на форуме Point Zero Forum, а также на основе аналитики Accenture оценили перспективы и риски внедрения генеративного искусственного интеллекта (ИИ) в финансовых учреждениях. Выводы, представленные в документе, являются обобщением индивидуальных мнений и не отражают коллективную позицию.

Среди наиболее важных проблем, связанных с использованием технологии, выделяют следующие:

• ошибки, допущенные генеративным ИИ, могут выглядеть «обманчиво убедительными», например ссылки на вымышленные источники и генерация конфабуляций;
• генеративный ИИ может усиливать встроенную предвзятость данных, а поскольку технология основывается на базовых моделях, предвзятости могут быть распространены и на их производные;
• усиливаются проблемы, связанные с конфиденциальностью и авторским правом, из-за большего объема и разнообразия данных, на которых обучается генеративный ИИ.

Ключевыми факторами обеспечения баланса между инновациями и управлением связанными с ними рисками являются:

• разъяснение применения существующих моделей управления искусственным интеллектом в отношении генеративного ИИ; 
• развитие навыков, необходимых для понимания и ответственного внедрения искусственного интеллекта; 
• сотрудничество регуляторов, индустрии и других заинтересованных сторон.

Расскажите знакомым: