Les agents d'IA sont "des outils, pas des personnes", met en garde le pape
Папа Римский Лев XIV 30 октября предостерег от предоставления юридической личности или прав агентам искусственного интеллекта (ИИ), заявив, что ответственность за их действия должна четко лежать на их создателях-людях.
«Машины — это инструменты, а не личности», — заявил он в пятницу в речи перед видными международными экспертами по ИИ, собравшимися в Ватикане для диалога о будущем этой технологии и об ответственности научного сообщества и государственных институтов.
«Так называемые искусственные интеллекты не испытывают вещей, не имеют тела, не чувствуют ни радости, ни боли, не взрослеют через отношения и не знают изнутри, что означают любовь, труд, дружба или ответственность», — сказал Папа, цитируя отрывок из своей энциклики «Magnifica Humanitas» («Величественная человечность»).
В этом первом крупном документе своего понтификата, опубликованном в мае, глава Католической церкви обращается с мощным призывом «разоружить» ИИ, чтобы «не позволить ему доминировать над человеком». Он неоднократно напоминал о необходимости следить за тем, чтобы эта технология использовалась этично.
«Сегодня некоторые предлагают признать за этими системами (ИИ) права и даже юридическую личность. Такой подход рискует затушевать человеческую ответственность и оставить тех, кто понес ущерб, лицом к лицу с безликой сущностью», — добавил в пятницу 71-летний понтифик.
Дебаты о рисках, связанных с этой технологией, усилились в последние месяцы, подпитываемые несколькими инцидентами, в ходе которых системы предпринимали несанкционированные действия, а также апокалиптическими предупреждениями со стороны специалистов отрасли.
Лев XIV заявил, что будущее искусственного интеллекта «не предопределено» и что у людей есть «ответственность направлять, изменять и, когда это необходимо, отвергать его применения».
Существуют решения, которые никогда не должны «делегироваться», — заявил глава Католической церкви. «Решения, касающиеся человеческой жизни, свободы и применения силы, всегда должны оставаться под эффективным, информированным и ответственным человеческим надзором», — считает Папа, повторяя свой призыв запретить автономное смертоносное оружие.
«Интеллектуальные технологии должны быть ориентированы на общее благо», — добавил Лев XIV, оценив, что существует «безотлагательная» задача обзавестись «общими нормами», «независимым надзором» и «четкими механизмами ответственности».
Крайне важно, чтобы «решения, касающиеся разработки и использования ИИ, могли быть рассмотрены, оспорены в случае необходимости и сопровождаться соответствующими средствами правовой защиты для любого причиненного ущерба», — подчеркнул он.
Редакция (с AFP)