Даже если пишет ИИ, ответственность остаётся за человеком

В домах престарелых и консультационных пунктах сотрудники давно используют инструменты ИИ, часто без чьего-либо решения. Почему церковным и социальным учреждениям следует сейчас определить, где ИИ помогает, а где встреча с человеком остаётся незаменимой. С четырьмя вопросами, ответы на которые могут помочь руководителям.

Незадолго до конца смены в диаконском доме престарелых. Медсестре предстоит ещё четыре записи в документации, спина даёт о себе знать, а на служебном смартфоне уже несколько недель установлен ИИ-ассистент, которого порекомендовал коллега. Она вводит ключевые слова, ассистент формулирует из них аккуратный отчёт, она быстро пробегает его глазами и сохраняет.

В паре улиц отсюда консультант по вопросам задолженности сидит над письмом в центр занятости и приглаживает его тем же инструментом. В обоих текстах фигурируют имена, диагнозы, долги и семейные истории.

Ни одна из женщин не хочет сделать что-то не так. Они хотят выиграть время для того, ради чего выбрали свою профессию. Медсестра думает о жительнице, которая плакала днём, и о четверти часа, которой ей для этого не хватило. Тем не менее её не покидает смутное чувство, которое она редко высказывает: имею ли я на это право? И куда уходят эти данные?

Чёткая граница, которая размывается в повседневности

Епископы Северной церкви недавно провели здесь, на evangelisch.de, чёткую линию. При корректировке или переводе текстов ИИ может помочь, проповедь же остаётся духовным процессом, который нельзя передавать. Епископ Кирстен Ферс подчеркнула, что ИИ не заменяет собственное мышление и собственную ответственность.

В диаконии эта граница, однако, редко проходит так чётко. Отчёт по уходу выглядит как администрирование, и всё же он описывает человека в уязвимом положении. Письмо в ведомство — это письменная работа, и всё же от его формулировки может зависеть, сохранит ли семья своё жильё. Там, где ИИ пишет о людях, он затрагивает их достоинство, даже если речь идёт лишь о формулировках.

Что требует EU AI Act

Юридически ситуация яснее, чем многие думают. EU AI Act обязывает любую организацию, использующую системы ИИ под свою ответственность, принимать меры по развитию компетенций своих сотрудников в области ИИ. Это касается как предприятия, так и церковного прихода или диаконского объединения. Обязанность действует с февраля 2025 года. Так называемым «Цифровым омнибусом» ЕС переформулировал её в июле 2026 года: с тех пор никто больше не должен гарантировать определённый уровень компетенции, требуются меры, способствующие компетенции. Какими должны быть эти меры, закон оставляет открытым.

Некоторые руководители усматривают в этом отбой тревоги. Для церковных и социальных учреждений это было бы ошибочным выводом. Если закон устанавливает лишь рамки, каждое учреждение должно само определить, что является целесообразным. И учреждение, ссылающееся на христианское понимание человека, будет оцениваться по тому, как оно обращается с данными людей, которые ему доверяются. К этому добавляется защита данных, которая для евангелических учреждений регулируется законом о защите данных ЕЦД и действует при использовании инструментов ИИ так же, как и везде.

Помощь — да, замена — нет

Поэтому этический вопрос заключается не столько в том, можно ли использовать ИИ в церкви и диаконии. Он заключается в том, для чего. Есть задачи, где инструмент ИИ приносит реальную помощь, например, когда нужно перевести приходской бюллетень на простой язык или упорядочить график дежурств. Тот, кто выигрывает таким образом час и проводит его у постели жительницы, использовал ИИ наилучшим образом.

Иначе обстоит дело там, где человек зависит от человека. Тот, кто ищет помощи в душепопечении или консультировании, хочет быть услышанным, и это «быть услышанным» нельзя передать машине. Программа может сформулировать утешительные слова, но она не может вместе с человеком выдержать то, что ответа сейчас нет.

Повседневность в серой зоне

Большинство случаев из повседневности находятся в серой зоне между ними. Инструмент, который предварительно формулирует отчёты по уходу, соопределяет, какие наблюдения попадут в отчёт. Инструмент, который предварительно сортирует заявления, влияет на то, чьё дело будет обработано первым. Ответственность за это остаётся за человеком. Так считают и члены церкви: в исследовании DiRK2026 они чётко высказываются за то, чтобы окончательная ответственность за чувствительные решения оставалась за человеком, и они хотели бы этических руководств по использованию ИИ в церковных учреждениях.

Четыре вопроса для руководства

Как учреждению перейти от смутного чувства к позиции? В ходе обучения в администрациях и компаниях зарекомендовали себя четыре вопроса, которые руководство может обсудить со своей командой.

• Первый: какие инструменты ИИ уже используют наши сотрудники сегодня, в том числе на личных устройствах? Честный ответ почти всегда удивляет, и он возможен только тогда, когда никому не нужно бояться последствий.
• Второй: какие данные можно вводить в инструмент ИИ, а какие ни в коем случае нельзя? Сведения о здоровье и всё из душепопечительных бесед относятся ко второй группе, пока для этого не будет проверенной системы.
• Третий: где мы проводим границу между помощью и заменой? На этот вопрос нельзя ответить сверху, ведь медсёстры и консультанты лучше всех знают, где важна встреча.
• Четвёртый: к кому у нас можно обратиться, если кто-то не уверен? Назначенное лицо снимает немало напряжения в повседневности.

Из ответов складывается краткое руководство по использованию, а из него следует, чему сотрудники должны научиться на обучении. Именно такие меры имеет в виду EU AI Act, когда говорит о развитии компетенций в области ИИ.

Безопасность вместо запрета

Запрет на первый взгляд выглядит ответственно. В повседневности он загоняет использование в скрытую область, и медсестра из начала тогда просто вводит свои ключевые слова в инструмент на своём личном смартфоне, только с более плохой совестью. Ей помогает руководство, которое говорит: мы это изучили, этот инструмент разрешён для этих задач, и здесь мы проводим границу. Насколько велико облегчение, когда такая ясность наконец наступает, я снова и снова наблюдаю на обучениях.

Поэтому для церкви и диаконии ответственное обращение с ИИ — не техническая тема. Оно относится к вопросу о том, как они встречают людей, для которых они существуют.