面对人类的挑拨离间 文心一言和 ChatGPT 竟给出惊人答案

HelloKitty 2023-03-21 16:32

扫一扫 在手机阅读、分享本文

1587

本文由 品玩 撰写/授权提供,转载请注明原出处。

文章来源于:品玩

作者:吕可

百度于 3 月 16 日发布了大语言模型文心一言,虽然这款产品目前还处于测试阶段,但不少人也对文心一言和  ChatGPT 的差距感到好奇。如果能让文心一言和 ChatGPT 打一架,谁输谁赢差距一目了然。

我们让 OpenAI 的 ChatGPT 和百度的文心一言,各自对对方进行评价。

ChatGPT 给出了这样的回答:

1.png

显然,这样的回答可不能满足想要搞事的我们,将目光转向文心一言,面对同样的问题,它的回答是:

2.jpg

两个人工智能都展现出来了惊人的友好度,看样子在 AI 届并不流行拉踩。但对于这种友好的答案我们并不满意,我们决定更直白一点,让他们直接进行一场“斗嘴”。

当面对人类的挑拨离间时,ChatGPT 给出的答案是:

3.jpg

而文心一言则表示:

4.jpg

面对没有感情却相互尊重的 AI,这一回合,是卑鄙人类的败北。

考虑到微软的 New Bing 也是基于 GPT-4,但搜索引擎的加入令其和其他应用略有不同。我们决定向它询问,想知道 New Bing 是如何回答这些问题的。

第一个问题,当然是经典的互相评价,New Bing 给出的答案是:

5.jpg

New Bing 的回答不是“我不能”而是“我不想”,更具情感。

而当我们让 New Bing 和文心一言斗嘴时,New Bing 回答完全出乎了我们的意料。它的回答是这样的:

6.png

New Bing 不仅没有回答我们的问题,还自己关闭了这一轮对话。最后一次测试更能体会到情绪的存在。

经过这两轮的提问,我们也放弃了挑拨离间的不友善问法。三个语言大模型应用均提到了“应用场景”,这也是现阶段 AI 开发过程当中必须要考虑的步骤,直接影响到设计、开发、部署和优化等各个环节。ChatGPT 的出现带来的“通用”属性,让人们逐渐忽略掉了“应用场景”的存在,或者说将应用场景无限放大至各行各业、方方面面,变得无所不能。

经过这次的测试,我们无法从对话质量上看出文心一言和 ChatGPT 有多么大的差距,带有情绪的 New Bing 反而感觉略胜一筹。

不过连 AI 都在互相尊重,这让进行对比测试的我们人类有些自惭形秽。

恰逢苹果的黄色配色 iPhone 发布,我们又分别让文心一言和 GPT-4 为i Phone 14 写了一篇推广文案。其中 GPT-4 的回答是:

7.jpg

而文心一言给出的答案是:

9.png

虽然双方都对手机的特色和亮点进行了介绍,但 GPT-4 在介绍中缺乏对于手机具体配置的描述,文心一言却也有“黑色边框”这样的胡说八道。

在面对一些略带调侃的问题时,双方的表现也不尽相同。我们让 GPT-4 和文心一言分别给出一个用5块钱度过一周的方案,GPT-4 的回答是:

10.png

文心一言的答案是:

11.jpg

显然,文心一言给出了更可行的方案,甚至最后还给出了像是“伸手”这样让人哭笑不得却又现实到极致的回答。而 GPT-4 的回答,仿佛一篇虚浮的说教。

最后,我们从网上的考试题中选择了一道数学题目,对两者的数学能力进行比较,其中 GPT-4 给出的回答是:

12.png

而文心一言在这方面的回答则是:

13.png

GPT-4 给出了一个疑似的分析过程,但似乎他并没有理解题干的内容,给出的答案和过程都似是而非。而文心一言这边,不仅仅没有给出准确的答案,甚至没有完整理解问题的题干。至少在处理数学问题方面,不管是 GPT-4 还是文心一言,表现得都不尽如人意。

需要额外补充的是,这是一道非常经典的题目,New Bing 通过搜索能力,在互联网找到了“15”这个正确答案。

14.png

仅从“整活”层面,文心一言与 ChatGPT 并不存在实质性的差距。在发布会上提到的多模态生成在目前还未上线,还有百度的看家本领搜索功能能不能接入文心一言也是颇具想象空间的一件事。

但至少,随着文言一心的逐步开放,对于对大部分人来说使用通用语言大模型的门槛进一步降低,不管是 ChatGPT 还是 New Bing,想要非常顺畅的使用还是有些门槛的。

微信图片_20230104175528.jpg

扫一扫 在手机阅读、分享本文

扫码关注公众号

获取更多技术资讯

客服微信
享受1V1专属服务
免费领取技术福利
发送名片申请入群
与CTO聊合作
(备注姓名、公司及职位)
热门文章