产业版GPT开新路,中国大模型弯道超车的机会来了!

HelloKitty 2023-05-10 15:39

扫一扫 在手机阅读、分享本文

1906

本文由 新智元 撰写/授权提供,转载请注明原出处。

文章来源于:新智元

作者:新智元编辑部

GPT 系列大模型诞生后,人工智能对话聊天系统就像平地起春雷,在全球爆火。与之同时,国内互联网大厂纷纷「亮剑」。

文心一言、通义千问、商量、序列猴子……大模型的赛道,是彻底被 ChatGPT 带火了。

这场「千模大战」,不仅是让大厂纷纷秀出肌肉,也激活了创投圈,给许多小公司和个人都带来前所未有的创业机遇。

在 OpenAI 成功「光环」的指引下,国内的企业也纷纷参照起 ChatGPT 的技术路线,利用 RLHF 迭代对模型进行优化,甚至直接推出了自己的「ChatGPT」。

但问题来了,作为一种全新的应用形式,「ChatGPT」们又该如何进行商业化呢?

大模型商业化,指向产业

5 月 3 日,Sam Altman 在 Stripe 主持的一次炉边谈话中讨论了 OpenAI 非比寻常的崛起。

他滔滔不绝地说,「我们花了4年半的时间才推出一款产品。我们正在开发一项技术,但完全不知道我们的客户是谁,也不知道他们将使用它做什么」。

也就是说,OpenAI 在商业化落地上,最初是不明确具体路径的。

发展到当下,OpenAI 的商业模式主要有三种:针对个人用户的订阅制;与微软深度合作;以及面向企业的 API 许可。

1.png

对于个人用户,除了可以免费使用,OpenAI 在 2 月推出了 ChatGPT Plus 订阅服务,以每月 20 美元标准收费。

GPT-4 能力接入必应、Office 全家桶、自动编码 Copliot 等等,OpenAI 与微软在商业上的合作,想必所有人都并不陌生。

最后一大版块就是,OpenAI 面向企业开放的API许可。对于小型初创公司而言,就模型的 API,可采用企业订阅的形式,以消耗的 token 进行计费。

在发布 GPT-4 后,OpenAI 紧接着也开放了最新模型的 API,并明码标价。在 8K 文本中,每 1000 个请求 token 是 0.03 美元,1000 个完成响应 token 为 0.06 美元。

2.png

此外,客户还可以对 OpenAI 现有的模型进行微调。

但 OpenAI 会收取相当高的费用,比如,微调 Davinci 模型的费用为 0.12 美元,而标准模型的费用为 0.02 美元。

对于顶尖的大公司,OpenAI 推出了一个名为 Foundry 的服务,这是 API 服务的扩展,号称「专为运行更大工作负载的尖端客户而设计」。

对于这些客户,OpenAI 通常会主动接触,甚至在产品正式发布之前就拿着 demo 去推销。

比如,摩根士丹利就用数十万份内部市场研究文件,让 OpenAI 给定制了一个专属的 GPT-4 以及配套的私有服务器。

虽然没有透露实际的价格,但根据今年 2 月的一份爆料文件,专用实例的价格最高可达每月 156,000 美元。也就是 DV 32K 这一标准。

3.png

对于先做模型,再想需求这一「破规则」的行为模式,OpenAI 总裁兼联合创始人 Greg Brockman 也对其进行了反思。

他表示,应该创造一个有问题要解决的技术,而不是做出了技术再找解决方案。

我们用了几个月的时间写下所有不同的想法,我们能够通过 GPT-3 和 GPT-4 发挥怎样的作用... 或许我们可以在医疗或法律领域做点什么。

在这方面,或许我们从一直在走「产业 AI」路线的京东云身上可以找到答案。

更强的千亿级「产业原生」GPT

在国内,ChatGPT 引发的大模型混战,像极了 20 年前的互联网。

彼时,互联网轻资产创业极受追捧。

但京东转身押注了重资产自营模式。庞大的物流基础设施,覆盖全供应链的复杂业务,让京东看起来像一个异类。

但今天,通过将技术等能力渗透进更多节「甘蔗」,京东和产业伙伴的有机组合创新,带来了产业链「成本、效率、体验」的提升。

4.png

当下,互联网大厂纷纷进军大模型,比如百度文心一言、阿里通义千问等。

但比起一个「陪唠嗑」的 GPT,在产业领域还是更需要一个「专家」。

AI 面对的行业、业务场景很多,应用需求也呈现出碎片化、多样化的特点。

我国作为世界上产业链最完备的国家,如果能做出更垂直、更聚焦的 GPT 产业应用,或许就会抓住弯道超车的机会点,前景无可限量。

然而,产业端做大模型,难度非常高。有的人会说,面对复杂的应用场景,现阶段的 AI 模型研发就是处于手工作坊式。

对此,新智元认为原因主要包括:面临更加复杂、低频、长尾的应用场景,从开发、调参、优化、迭代到应用,AI 定制化程度高;对技术要求高,需要迁移成本低、适用能力强的综合性 AI 系统。

除此之外,以 GPT-4 为首的国外大模型,语言性能在英文和中文上也存在很大的鸿沟,在英文语境下的写作表达和理解更好。原因是,OpenAI 的训练语料中,90%以上都是英文语料,只有 0.1% 是中文语料。

因此,在国内的产业应用上,我们就更需要自己的大模型。

近期,国内陆续发布了多款大模型,在此之中我们也听见了不一样的声音「京东宣布年内发布千亿级产业大模型」。

与 ChatGPT 等面向闲聊式的、通用对话模型相比,京东的优势、GPT 的产业前景,就非常鲜明地体现在此次产业版大模型的规划,和其与通用型的方向差异上。

新智元总结,主要是以下三点:

. 「产业原生」的训练数据集

众所周知,机器学习模型依赖于数据。如果没有高质量的训练数据作为基础,即使是性能再好的算法也会变得毫无用处。

自 2019 年以来,大多数基于 Transformer 的通用大语言模型都依赖于来自维基百科、Common Crawl、书籍、期刊等大型公共数据集,以及大量从互联网上抓取到的内容。

5.png

利用公开数据训练出的通用大语言模型,虽然掌握的知识范围更广,但在特定领域的文本生成上,则出现专业度、丰富度以及忠实度不足的情况。

而在具体的产业场景上,存在着大量的边缘知识,它们在公共数据集中出现的次数比较少,大模型没有机会进行充分的训练。

想要得到最终能够用于训练的高质量语料,就必须要进行繁琐的「清洗」过程。

6.png

来源:源1.0数据预处理流程图

为了改善这些问题,我们可以通过加入更垂直和更丰富的语料来实现。而这些语料,则需要在一个领域有足够长时间的深耕和积累才能得到。

作为供应链优势极为明显的新型实体企业,京东就有着丰富的产业场景和全链数据。

7.png

比如,在垂类的零售电商语料上有深度沉淀,并且在制造、金融、物流等领域都有一定的积累。而这些数据会对整个模型,为推理深度带来提升,更好服务产业需求。

基于这些「产业原生」的高质量语料和知识,京东云训练出来的产业通用大模型,更加适合行业使用要求(高可用、高可控、高效果),进而能更快地实现场景落地。

. 「产业原生」的泛化效果

经过专有数据训练后的模型,有着显著的优势。

举个例子,融入了专业领域知识的十亿级 K-PLUG 模型,对于给定商品的 sku,可以自动生成长度不等的商品文案,目前已经覆盖 2000 多个京东的品类。在商品文案的生成上,K-PLUG 明显比 ChatGPT 的更加符合商家需求。

8.jpg

毕竟,除了要赢得广大消费者的关注外,AI 更需要在场景应用中证明自己的价值,特别是在具体的产业场景中,真正实现降本增效等价值。

目前,京东云拥有包括京东智能客服系统、京小智平台商家服务系统、智能金融服务大脑、智能政务热线,言犀智能外呼、言犀数字人等系列产品和解决方案,已经对内服务于超过 5.8 亿的京东用户和数十万第三方商家,能自动化应答 90% 的咨询。而商品营销文案生成,直接带来了 3 亿+的收入。

除了零售,言犀的服务领域也覆盖了金融、物流、政务、交通等多个场景。

9.png

言犀的商品文案生成技术取得的成果

. 「产业原生」的无缝接入

那么,言犀大模型升级后,这些还在用「旧模型」的企业/政务部门该怎么办?

其实,京东云的这部分 AI 能力是通过言犀人工智能应用平台提供的,当模型能力升级后,已经接入这个平台的企业直接就能用上。

这样做的优势,从基于 OpenAI 模型的 API 搭建应用的其他公司身上就能看出。

在 OpenAI 开放 API 之后,SnapChat 最先推出了基于 ChatGPT 打造的生成式人工智能对话系统 My AI。

然而,My AI 在全面向 7.5 亿用户开放后,却遭到大量网友的吐槽。

因为,SnapChat 完全是把这个功能强加给用户,并没有很好了解用户需求去打造聊天机器人。

OpenAI 的路线是先做出 GPT-3、GPT-4 大模型后,针对企业再去做定制模型。这样如果企业想把现有业务接入,就需要重新训练模型权重,或者大改 API 调用逻辑,会带来高昂的成本。

京东云 GPT,本身对于特定产业来讲就是定制的模型,模型升级后,企业针对需求打造的功能,同样得到了升级强化。

产业泛化,指向这轮技术变革的终局

从上面的分析可以看出,与其让 AI 加应用,不如做产业的 AI。

无论是摩根士丹利让 OpenAI 定制的专属 GPT-4 及私有服务器,还是专为金融从头构建的 500 亿参数大语言模型 BloombergGPT,都体现了 AI 产业化的必要性。

京东云早在多年前就提出了产业 AI 的理念。

10.png

何晓冬博士告诉新智元,在他多年的实践中,深刻地体会到:AI 必须在真实场景、尤其是产业场景中深度应用、不断打磨,才能创造价值,才能提升自身水平。

现在,AI 已迎来 iPhone 时刻。

那下一步,AI 又会走向哪里呢?

11.png

何晓冬博士认为,AI 的下一步,肯定会走向多模态、走向融合性智能技术。

比如基于京东零售客服的场景,锻炼出的语音、语义、TTS 等最核心的能力。在外延后,这种核心技术能力可以解决多个场景的问题。

言犀团队陈蒙博士说,因为京东应用场景比较多,比如最开始去做零售领域的售后环节,不但有几千个商业品类,而且每个店铺卖的东西又不一样,技术团队就需要面临许多模型泛化性的挑战。再从零售领域拓展到政务、金融、交通领域的时候,又会给模型提出更高的泛化性挑战。

2022 年,言犀虚拟主播上线,能够定制不同形象,实现了 7×24 小时无人直播,甚至还能做到直播话术智能撰写、自动营销抽奖活动等等。

据统计,京东云已为 4000 多家品牌店铺提供代播服务与产品技术支持。例如某头部电脑品牌商使用言犀虚拟主播产品,月度直播间 GMV 达到千万级,店铺 GMV 提升 28%。

12.png

长文本生成也是京东云的突出技术优势之一。就直播文案实时生成上,数字人主播通过长文本生成,能将产品卖点很好的呈现出来。

在直播间,除了对话内容,音色、文案、直播形象均是由 AI 生成。

对商家和消费而言,直播不仅是商品介绍,更需要在线实时回答用户的问题,与用户深度交互,增加粉丝黏性,提高成交转化。所以,如何判断好的虚拟直播产品?陈蒙说,交互能力是关键。

言犀团队的「任务型智能对话交互关键技术及大规模产业应用」项目,近日也获得了 2022 年度吴文俊人工智能科学技术奖。

现在京东服务超过 5.8 亿用户,言犀每日与超过 1000 万用户进行对话交流,相当于每年都在做十几亿次图灵测试,而每一次测试,都会为 AI 带来点滴新的进步。

吴友政博士告诉新智元,京东云言犀团队做的很多技术攻关,目标就是解决京东复杂的、真实的、大规模场景中的问题,要求算法同学们都要深入业务,而不是在实验室做模型。所以,2018 年产业互联网还没有那么火热的时候,言犀就已经在 B 端智能领域进行了探索,了解每个业务的痛点,和业务同学梳理出真正的问题是什么,用最终的业务指标去衡量技术先进性。

如此往复,言犀或许就能成为领跑产业版的国产 GPT 模型。

其实,京东一直在加速技术的产业落地。

何晓冬博士分享了一个案例:去年北京市有 2600 万通「96010」电话,是借助言犀的人工智能对话技术打出去的。而这些工作,如果没有用 AI,需要 1 万名社区人员不停地打好几个月。

技术成果的规模化应用,产生了重大的经济和社会效益,也是「吴奖」评委们认可的要点。

除了将新一代人机协同技术全面注入政务热线,京东云还携手智云天工,以「智能终端+弹性算力」模式,接入常州区域内近千家工厂的7万多台设备,成功消化了 15 亿多元的剩余产能。

京东 C2M 智造平台已与超过两千个品牌达成合作,节省了 75% 的产品需求调研时间,将新品上市周期缩短了 67%。

未来,在智能物流上,京东产业 GPT 能够帮助物流公司,包括京东物流自身在内,在用户反馈、配送环节等方面实现提升。

13.png

在制造领域,通过打造 AI 专家诊断系统,排除工业中故障,保障客户工程的连续性。

以产业为重点,走向实体。让 AI 从真实场景中寻找价值、创造价值,致力于凭借独特优势做出「更懂产业的云」,京东云的产业 GPT 之路值得期待。

微信图片_20230504104347.jpg

微信图片_20230104175528.jpg

扫一扫 在手机阅读、分享本文

扫码关注公众号

获取更多技术资讯

客服微信
享受1V1专属服务
免费领取技术福利
发送名片申请入群
与CTO聊合作
(备注姓名、公司及职位)
热门文章