🤖 Безопасное использование искусственного интеллекта в финансовой сфере Публикуем методические рекомендации…

🤖 Безопасное использование искусственного интеллекта в финансовой сфере

Публикуем методические рекомендации, которые помогут финансовым организациям обеспечить информационную безопасность при использовании технологий искусственного интеллекта (ИИ). В документе систематизированы риски применения ИИ, описаны возможные тактики атак злоумышленников на системы ИИ и даны рекомендации по мерам защиты.

Например, если финансовая организация использует ИИ в критически важных процессах с высокими рисками информационной безопасности, в частности в платежных операциях, то рекомендуется, чтобы операцию подтверждал сотрудник.

Один из разделов документа касается информационной безопасности при использовании ИИ-сервисов, которые предоставляют поставщики услуг. Так, наличие у поставщика модели ИИ, которая участвует в программе обнаружения уязвимостей, повышает к ней доверие.

Участникам рынка также рекомендуется разработать собственные модели угроз и политику информационной безопасности для работы с ИИ. За подготовку этих внутренних документов отвечает заместитель руководителя организации по вопросам защиты информации.