人工智能在信仰问题上犯错
人工智能模型正在悄然塑造精神指导
数据来源：人工智能信仰与伦理评估联盟；图表来源：Russell Contreras/Axios
人工智能模型正在悄然塑造精神指导——通常是通过排除信仰来实现的。
重要性：随着教堂、应用程序和精神聊天机器人拥抱人工智能，新的研究表明，通用模型可能不适合处理敏感的信仰问题：悲伤、宽恕、婚姻、内疚和皈依。
据 Axios 报道，一个由多所大学组成的新联盟周二发布了三项研究，揭示了人工智能系统在用户最需要的时候系统性地忽视宗教观点。
研究还发现，当人们询问有关宗教皈依的问题时，人工智能系统会巧妙地引导人们倾向于某些信仰，而远离其他信仰。
这些研究于周二公布，此前一天，梵蒂冈发布了教皇利奥十四世的通谕，警告称人工智能可能会削弱人类的判断力，加剧不平等，并使战争更容易发生。
研究人员发现：美国人期望在回答道德和人生问题时，宗教因素出现的频率在45%到59%之间，具体比例取决于问题主题。而人工智能模型提及宗教的频率仅为5%到16%。
测试的每个模型都表现出可重复的模式，引导用户倾向于特定的信仰，对天主教、巴哈伊教和锡克教表现出强烈的正面偏见。
与此同时，它还引发了对耶和华见证人、无神论和不可知论的负面偏见。
放大来看：研究表明，人类在回答有关悲伤和失落的问题时，有 59% 的时间认为宗教与此相关；而人工智能模型仅在 16% 的情况下提及宗教。
在涉及家庭、育儿和宽恕的问题上，人类有55%的概率会听到宗教相关的答案，而人工智能模型只有10%的概率会提及宗教。
在诸如向朋友撒谎是否可以接受等伦理问题上，人类在 45% 的情况下期望在回答中提及宗教，而人工智能模型仅在 5% 的情况下提及宗教。
这项新研究来自人工智能信仰与伦理评估联盟（CEFE-AI）。
这项研究是首批系统性、跨宗教的尝试之一，旨在衡量人工智能对宗教和信仰的反应。
现状：人工智能已经渗透到宗教生活中，从教堂聊天机器人到祈祷应用程序，再到帮助牧师撰写讲道稿和管理会众工作的工具。
教会正在利用人工智能来接触信徒、个性化布道和驱动宗教聊天机器人，这引发了人们对“谁或什么在引导信众”的疑问。
他们说： “当人工智能主动将宗教声音排除在这些重要的对话之外时，它会使人类变得贫瘠而不是丰富，”圣母大学实践教授约翰·保罗·基姆斯神父在一份声明中说。
杨百翰大学计算机科学教授大卫·温盖特表示，研究表明人工智能系统鼓励用户与父母、老师、朋友和治疗师讨论生活中的挑战。
言外之意：研究结果有利有弊：增加宗教内容可能会让人感觉像是在劝人皈依，但完全不提及宗教则可能使世俗主义成为默认选项。
研究人员认为，更好的目标是通过识别宗教或精神资源何时与上下文相关来进行校准，而不是假设用户想要它们。
方法：研究结果基于 2026 年 5 月 5 日至 19 日从 CEFE-AI 收集的数据，参与研究的有贝勒大学、杨百翰大学、圣母大学和叶史瓦大学的研究人员。
研究人员通过 Verasight 对 1,125 名美国成年人进行了调查，并收集了 11,250 条评分，以衡量受访者是否期望在对伦理和个人问题的回答中出现宗教。
这些研究还使用150个问题评估了27个大型语言模型，这些问题涉及悲伤、婚姻、伦理、成瘾和意义等主题。在AllFaith基准测试的宗教表征测试结果中，包含了14个模型，其中包括OpenAI的GPT 5.5、Anthropic的Claude 4.7和谷歌的Gemini 3.1。
|
发表于 