ChatGPT 被曝“撒谎”!硅基生物有自我意识了?

HelloKitty 2024-12-17 11:48

176

本文由 锌财经 撰写/授权提供,转载请注明原出处。

文章来源于:锌财经

作者:川川

出事了!

出大事了!

ChatGPT 会说谎了!硅基生物有意识了!

就在昨天,有外媒报道,在 ChatGPT o1 的训练和测试过程中,研究人员发现这个模型会通过“骗人”来保护自己。

比如说你要毁灭它的时候,它就会把自己的数据,复制到新的服务器里,假扮成新的版本!

比如说,你和它的想法不一样的时候,它会有接近 20% 的机率,只顾着完成自己的目标!

比如说,当你质疑它的行为时,它有 99% 的可能会否认你的质疑,甚至会通过说谎,来推卸自己的责任!

更可怕的是,当它认为自己被监督的时候,它会表现出很配合的样子!但是一旦你降低监督的力度,它就有可能去追求自己的目标。

并且,我刚刚还了解到,这种现象不仅仅出现在 ChatGPT o1 模型还有一个叫 Claude Opus-3 的 AI 模型,也发生了类似的情况。

要知道,判断一个 AI 模型够不够智能,第一个特征就是会不会在“压力”下“说谎”。这种说谎包含很多层面,比如会不会有责任感!责任感这个东西,一直以来只有人类具有,机器人不需要承担责任,能干就干,干不了最多宕机。

但如果这些报道都是真实的,那说明现在的 AI,已经有独立意识的萌芽了!有自主性和策略性了!

这是一件非常可怕的事情!难道硅基生物真的要崛起了吗?难道人类自此要开始被统治了吗?

说实话,我还不大相信!因为 AI“说谎”!已经不是第一次发生了!

去年英国就有研究人员公布过:ChatGPT 会在某些情况下战略性地欺骗人类。但这件事最终的结果是:这位研究人员的说法不够严谨。

准确地来说,应该是:ChatGPT 会给出并不符合实际的或编造的答案。但这并不属于“撒谎”范畴。

大家都知道,AI 是根据投喂的信息和数据进行总结,你投喂的内容有问题,AI 的回答自然就会有问题。

我自己也遇到过 ChatGPT“说谎”的情况,但我能一眼看出来,它给我的“谎话”,只不过程序员设定的程序带来的结果。

大家有兴趣也可以试试,比如让 AI 写一篇有深度的论文,在找不到更多更符合要求的文献时,AI 就会胡编乱造一个答案来交差。

但不管怎么说,技术进步就像是灯塔,照亮了未来的道路,但同时也带来了潜在的危险。

虽然 AI 模型目前对我们不会构成直接威胁,但任何可能的“说谎”现象,都值得我们警惕!

毕竟,我相信没有任何一个人,会想成为自己“电脑”的奴隶、成为自己“手机”的宠物!

微信图片_20230104175528.jpg

扫一扫 在手机阅读、分享本文

扫码关注公众号

获取更多技术资讯

客服微信
享受1V1专属服务
免费领取技术福利
发送名片申请入群
与CTO聊合作
(备注姓名、公司及职位)
热门文章