Папа римский Лев XIV выпустил первую в истории энциклику, полностью посвящённую ИИ. Документ, который называется Magnifica humanitas ("Великолепное человечество") вызвал бурное обсуждение в СМИ и научных кругах.
На презентации энциклики в Ватикане присутствовали исследователи нейронок, в частности сооснователь компании Anthropic Крис Олах, который поблагодарил папу за внимание к теме ИИ, который нуждается во внешнем контроле.
Лев XIV даже сравнивает современные нейросети с легендарной Вавилонской башней: как люди из гордыни пытались достичь неба и "разгневали Бога", так и безудержный технологический энтузиазм может обернуться катастрофой для человечества. По словам папы, нужно беречь "красоту великолепного человечества", а не допускать, чтобы машины взяли верх над людьми.
Что предлагает Лев XIV, как должен выглядеть независимый надзор и кто этому может помешать — читайте ниже.
Что такое энцикликаЭто официальное обращение папы римского к католикам (чаще ко всему человечеству) по самым важным моральным, социальным и политическим вопросам. Нынешняя Magnifica humanitas занимает почти 200 страниц и является размышлением о нашей вере, обществе и технологиях. Такие документы выходят крайне редко и относятся к высшим формам папского учения.
В истории католической традиции энциклики появлялись при глобальных переменах. В 1891-м Папа Лев XIII опубликовал Rerum Novarum о бедности рабочих эпохи промышленной революции. В 1963-м Pacem in Terris Иоанна XXIII обращалась к гонке ядерных вооружений, а в 2015-м Laudato Si’ Франциска — к экологическому кризису.
Что предлагает ПапаВ энциклике он выдвигает сразу несколько важных тезисов и призывов:
• Замедлить и строго регулировать ИИ.
• Общественный контроль над данными и технологиями.
• Освободить ИИ от “монополистического контроля”.
• Сделать ИИ доступным для всех
• Разоружить ИИ.
На последнем остановимся подробнее. Разоружить — одно из ключевых образных выражений энциклики. По словам Папы, ИИ нужно вывести из логики “военной, экономической и когнитивной конкуренции”. А что же делать с уже используемыми ИИ в военных целях в этой концепции
не представлено.
Кто может помешатьВо-первых, бигтехи. Им сегодня принадлежит большая часть вычислительных мощностей и данных. Без внешнего контроля они могут диктовать свои правила развития ИИ.
Во-вторых, конкуренция и коммерческие интересы. Как отмечал Крис Олах на презентации, компании испытывают мощное давление рынка и амбиций. В таких условиях само по себе желание замедлить разработки или отказаться от сверхприбыли выглядит маловероятным.
В-третьих, военные и политические силы. Государства, заинтересованные в новых видах оружия, могут тормозить инициативы по “разоружению ИИ”. Также геополитическая напряжённость осложняет международное регулирование: кнопки доверия ещё не нажаты.
В-четвёртых, общественное и идеологическое неверие. Существует и бизнес‑идеологическая баррикада: некоторые считают, что “всё как-то само образуется”. Папа предупреждает, что в эпоху ИИ нельзя полагаться на “волшебную руку”.
Почему это важноВ истории католической церкви подобные обращения выходили только по действительно судьбоносным вопросам. Церковь всегда реагировала на крупные технологические сдвиги и нейросети, пожалуй, самый главный цифровой вызов для человечества, говорится в Magnifica humanitas.
Как отмечает первый же тезис послания, перед человечеством стоит выбор: либо заново возвести “Вавилонскую башню”, либо построить город, в котором "Бог и человечество могли бы пребывать вместе".
❤ Читай шире с Mash Room❤ Сегодняшний день в истории — в "МАКС"
