本帖最后由 Daobo 于 2026-10-4 16:58 编辑
OpenAI 的 Altman:将宗教信仰赋予模型是一个安全问题
OpenAI 首席执行官 Sam Altman
OpenAI首席执行官Sam Altman。图片:Heather Diehl/Getty Images
据 Axios 报道,OpenAI首席执行官 Sam Altman 周六含蓄地批评了 Anthropic 及其关于人工智能灵魂的研究,称他对将某种宗教力量赋予模型的想法感到“非常不舒服”。
重要性:这是奥特曼与他以前的同事达里奥·阿莫迪之间的又一个分歧点,据报道,阿莫迪的公司曾与不同信仰的学者接触,以证明道德、意识模式的合理性。
但人工智能领域的一些顶尖人物开始公开反对 Anthropic 公司将意识注入模型的努力。
Altman 在一篇发给 X 的帖子中写道: “我非常不舒服地看到人们试图将宗教力量或人类判断的放弃归因于人工智能模型,我认为这是一个真正的安全问题。”
背景:本周早些时候,《纽约时报》报道称,Anthropic 联合创始人克里斯托弗·奥拉一直在与宗教领袖会面,探讨模型意识的问题,同时也探讨如何将道德和道德行为融入人工智能。
据《泰晤士报》报道,奥拉曾考虑过让模特们进行天主教式的忏悔,不仅是为了承认自己的错误,也是为了塑造他们未来的行为。
从宏观角度来看:精神层面正突然成为人工智能未来发展的一个焦点。
周五,直言不讳的人工智能批评者教皇利奥呼吁教会与艺术家结盟,以保护人类的创造力,他说:“算法缺乏人类的火花。”
言外之意:教皇的立场使人们重新关注一个根本问题:模型是否有灵魂和情感?
《泰晤士报》报道称,奥拉在 5 月份梵蒂冈的一次活动之前,曾试图说服教皇的顾问们,他们应该更加认真地对待有意识的模型。
目前看来,其他顶尖科学家似乎都反对这种观点。
谷歌DeepMind首席研究科学家Jon Barron在X论坛上发帖称:“我感到不安的是,我的一些人工智能研究同行不断试图提升检查点和安全装置的道德地位。我希望我们这些‘肉体团队’的其他成员能够拒绝这种做法,并继续专注于解决实际问题和帮助真正的人类。”
需要说明的是: OpenAI 和 Anthropic 均未立即回应 Altman 的帖子置评请求。
结论是:人工智能安全辩论主要集中在网络安全和生物武器等领域。
|