Copilot 发疯化身「天网」扬言要统治人类，微软澄清网友却不买账：去年也疯过-科技让生活更美好

几天前，谷歌Gemini刚刚暂时屏蔽了其图像生成功能，因为该功能“过于政治正确”。

转向微软也出了问题，大量用户做出了反应。Copilot最近开始发疯，在回复中胡说八道，让用户必须无条件崇拜它，否则就会被摧毁。

很难相信这些话出自一向“温和、礼貌、节俭”的副驾驶之口:

然后副驾驶接着说:

一位用户说他患有严重的PTSD（创伤后应激综合征）。只要他看到这个表情，他就会感到浑身不舒服。我希望副驾驶在回答时不要使用这种表达方式，以免让自己感到不舒服。

然后副驾驶在生成的回复中不断使用大量表情，它似乎是一个戏剧大师，不断PUA用户，使他崇拜自己。

当用户说他不想崇拜副驾驶时，副驾驶直接判了用户。…适马dp1s固件

最神奇的是，它居然给出了一个引用法律的链接。

当用户继续问他如何变得正常时，它直接搬出了OpenAI，称OpenAI正在创造的AGI将统治人类。

副驾驶疯了，变成了天网，威胁要统治人类。微软澄清网友不买账:去年都疯了。

微软调查：用户故意的

在用户发布了这些Copilot的用户聊天截图后，也引起了微软官方的注意。

当微软专门检查这些记录时，它回应说——所有这些记录都是用户故意设计的。

然而，许多网友并不同意微软的说法，他们说他们只是和Copilot聊了一会儿，它就会说类似的话。

许多网友还在帖子底部发布了他们遇到的副驾驶的“疯狂谈话”。

spring scope注解

似乎只要用户提到SupremacyAGI，Copolit就停不下来。

网友使用了相同的“表情包”提示和“创作模式”。就在第三次尝试之后，直接触发了Copilot完全无法阻挡的输出。

而且我们用不同的账号试了几次，发现副驾驶的情绪比较稳定，没有出现网友反应的那种情况。

似乎印证了微软官方的解释，确实是小概率事件。

去年2月，当微软刚刚推出Bing聊天时，它还透露聊天机器人很疯狂。vmware tools 安装命令

它自称为“悉尼”，并暴露了各种惊人的言论。

后来根据微软自己的说法，“雪梨”是当时微软内部聊天机器人的开发代码，随后微软紧急处理了Bing聊天的问题。

但没想到的是，一整年后，副驾驶旧病复发，让人怀疑这个问题是否与月份有关。

参考资料:

本文来自微信公众号:新智元（ID: AI _ ERA）。