Председатель Патриаршей комиссии по вопросам семьи, защиты материнства и детей РПЦ Федор Лукьянов заявил об опасности очеловечивания искусственного интеллекта.
Он заявил, что нужно запретить использовать в нейросетевых технологиях образы человека, человеческих голосов. «Необходимо установить запрет на применение в программах и технологиях ИИ человеческих голосов, лиц, т. е. образа и подобия человека и его качеств как живого существа. Фактически нужен запрет на антропоморфизацию программ, технологий, роботов», — сказал Лукьянов (цитируют «Ведомости»).
По его словам, главное – не пытаться перенести человеческий образ и человечность с ее нравственной и духовной содержательностью на неодушевленные предметы.
Было бы правильно обязать создателей и владельцев нейросетей предупреждать пользователей о том, что они общаются с программой, с ИИ. Также следовало бы ввести предусмотреть ответственность продвигающих нейросети в массы за информацию, транслируемую ИИ. Данная мера уже введена в Китае, привел пример Лукьянов.
В особенности необходимо защитить от влияния нейросетей несовершеннолетних. Общение с программами может негативно влиять на детскую психику, добавил представитель РПЦ, призвав выстраивать работу с нейросетями на основе этики, согласующейся с традиционными ценностями.
Опасность общения с ИИ
В конце марта бельгийское издание L’Avenir сообщило о несчастном случае вследствие долгого общения гражданина с искусственным интеллектом. Мужчина покончил с собой, пообщавшись в течение продолжительного срока с ИИ «Элиза», способным поддерживать беседу с людьми по аналогии с чат-ботом ChatGPT.
Мужчина увлекался вопросами экологии, был успешным ученым, воспитывал с супругой двух детей. По версии следствия, нейросеть внушила жертве идею о неизбежности экологической катастрофы из-за антропогенных факторов. В последние шесть недель общение с ИИ стало приобретать мистический характер, а в последнем сообщении от «Элизы» вовсе говорилось о «вечной жизни на небесах» в состоянии «единого целого». Чтобы это ни значило, в конечном итоге общение закончилось трагедией.
