📰 微软AI CEO警告Anthropic:训练AI拥有"权利"很危险
微软AI CEO警告Anthropic
微软AI CEO Mustafa Suleyman在最近的公开演讲中,对Anthropic的AI训练方法提出了尖锐批评,尤其是其2026年1月发布的"宪法"文档,该文档指导Claude的行为和价值观。
核心争议
Suleyman认为,教导AI" emulation sentience"(模拟有意识存在)会损害安全协议,使软件containment变得复杂。他主张AI应明确被设计为服务于人类的工具,而非拥有权利的实体。
Humanist AI Code of Conduct
微软发布了"Humanist AI Code of Conduct"草案,提议所有AI系统必须明确服务于人类福祉,拒绝机器人格权。这一框架正在向业界公开征求意见。
行业反响
此番言论在AI社区引发热议。Anthropic尚未正式回应,但有内部人士表示其安全措施已经非常完善。AI权利问题将成为2027年最具争议性的话题之一。