HelloKitty • 2024-05-20 17:33
999
本文由 甲子光年 撰写/授权提供,转载请注明原出处。
文章来源于:甲子光年
作者:田思奇
由于法律和政策制定的滞后性,监管措施,永远跟不上人工智能技术快速发展的步伐。
在这场步调不一的竞赛中,美国政府似乎总想迈出关键的一大步,以期在这场竞逐中占据有利位置,哪怕此举可能让自己失去平衡也在所不惜。其目标显而易见——牵制中国在 AI 领域的崛起。
最近一周多,美国国会动作不断。5 月 15 日,一个由两党参议员组成的小组向国会发出呼吁,建议每年向非军事用途的人工智能研究领域注入 320 亿美元的资金,以确保美国在这场人工智能竞赛中,能够与中国一较高下。
更吸引中国从业者注意力的是,5 月 8 日,众议院跨党派议员联合推出了“加强海外关键出口国家框架法案”(ENFORCE 法案),旨在为美国商务部管制AI模型出口开绿灯。有消息传出,像 Meta 公司的 Llama 模型这样在中国获得广泛应用的开源模型也在出口管制之内。
在大国竞争的背景下,许多国家都会快速调整政策来适应技术的变革。将人工智能和机器学习算法纳入出口管制,标志着国家安全战略进入了全新的阶段。
然而美国的政策行为,似乎超出了正常监管的界限。中国外交部发言人林剑 5 月 10 日回应称,将经贸科技问题政治化、工具化、意识形态化,强推脱钩断链,冲击的是两国及全球的正常贸易投资往来和产供链稳定,不符合包括美国在内的任何一方的利益。
更何况,与传统的实体商品出口相比,将 AI 模型出口纳入国家监管框架,还有很多技术上的挑战没有得到合理的解释。
自 2018 年起,美国便开始对中国等特定国家实施更为严格的人工智能软件和硬件出口管制。伴随着 ChatGPT 等 AI 大模型应用的问世,美国政客企图在中美科技竞争中瞄准 AI 大模型也就不足为奇。
但「甲子光年」本周对话的中美两国科技专家普遍认为,美国过去五年对中国实施的 AI 出口管制,并未达到预期效果,反而损害了美国公司的利益,并在一定程度上促进了中国 AI 及半导体产业的竞争力提升。
安全博弈:AI 模型出口管制的考量
显然,最新的 AI 大模型出口管制,是继顶尖 AI 芯片出口管制之后,美国政策工具箱中的又一项补充性措施。
自 ChatGPT 发布以来,美国科技大厂和创业公司发布的大模型令人眼花缭乱,仅最近一周就有 OpenAI 最新的 GPT-4o 模型和谷歌发布的 Gemini 模型更新。
研究机构 GlobalData 预测,生成式 AI 领域的市场营收将从 2022 年的 18 亿美元增长到 2027 年的 330 亿美元,年复合增长率高达 80%。面对这一潜力巨大的市场,美国对管制 AI 大模型,无论是开源还是闭源,出口到其他国家,尤其是中国的意向愈发明显。
美国国家情报总监办公室的布莱恩·霍姆斯(Brian Holmes)在 3 月的一次出口管制会议上坦言:“人工智能的运用与发展,正以爆炸性的速度增长,我们很难与之同步。” 他还指出,中国的进步尤其值得关注。
美国国会大厦 来源:美国国会
同时,美国政府和研究界对于 AI 大模型可能被外国用于网络攻击、虚假信息传播甚至生物武器制造的担忧,为这一出口管制提供了表面上更正当的理由。
2023 年 2 月,OpenAI、斯坦福大学和乔治城大学的一组研究人员警告说,像 ChatGPT 所基于的大模型可能会被用作虚假信息传播的一部分,因此报告呼吁对人工智能的发展和扩散进行监管和控制。
“我们不想等到这些模型被大规模部署应用后才开始考虑应对措施,”该报告的主要作者之一、美国乔治城大学安全与新兴技术中心研究员乔什·A·戈尔茨坦(Josh A. Goldstein)表示。
该报告以 2022 年 10 月以来美国对中国实施的半导体相关的出口管制作类比, 然而该报告也承认,“硬件出口管制是一种生硬的手段,会对全球贸易和许多非人工智能行业产生深远的影响。”
去年年底,美国商务部负责监管美国出口政策的艾伦·埃斯特维斯(Alan Estevez)表示,该机构正在研究监管开源大模型出口的方案,并计划征求行业反馈。美国国土安全部在其 2024 年的国土威胁评估中也表达了对网络攻击者可能利用AI开发新工具的担忧。
然而,对于 AI 大模型在国家安全层面的真正威胁,学界存在不同声音。北京邮电大学人机交互与认知工程实验室主任刘伟对「甲子光年」表示,依照目前的技术水平,大模型本身还不存在威胁国家安全,除非是人为使然。
他指出,外界普遍将基于 Transformer 等架构的大模型奉为圭臬,但其神经网络结构中的线性函数与激活函数会导致非线性问题和“机器幻觉”,即模型可能输出看似合理实则错误的结果,即“一本正经地胡说八道”。
他引用了一些影视导演对 Sora 的看法称,目前 Sora 在精密的电影工业中难以得到广泛应用,使用更多的则是在平常休闲娱乐的短视频行业。类似的,这些 AI 大模型在精密工业和敏感军事应用中的使用也正受到质疑,因此刘伟相信,不会有任何国家能放心地在敏感工业中随意使用。
无论如何,美国政客已决定让最新的法案走上成为法律的正式流程。然而管制 AI 大模型,尤其是开源模型的出口,究竟该以什么标准进行,美国政客多半也没想清楚。
技术封锁还是政治姿态?
最广为人知的管制标准,是美国 2023 年 10 月新修订的 AI 芯片出口管制令。美国商务部下属的工业与安全局(BIS)将基于 AI 芯片的总处理性能(TPP),性能密度(PD)以及“设计或销售”这些芯片是否会用于数据中心来给出管制决定。该标准相较 2022 年 10 月的规定范围更广,也更加精确。
来源:CryptoSlate
类似的,路透社援引美国官员指出,计算能力的阈值也将成为判断 AI 模型是否受到出口管制的关键因素。然而,目前尚未有模型达到这一门槛,不过谷歌的 Gemini Ultra 模型已十分接近。
白宫和美国司法部前官员贾米尔·贾弗(Jamil Jaffer)表示,拜登政府不应使用计算能力阈值,而应选择基于模型能力和预期用途的控制。他说:“关注国家安全风险而不是技术门槛是更好的选择,因为它更持久,更侧重具体的威胁。”
然而人工智能技术的国际性特点不容忽视。该领域的研究通常涉及全球科学家和工程师的合作,而且研究成果往往通过 Arxiv.org 等平台共享。这种开放的学术交流模式意味着,即使美国实施了出口管制,其他国家的研究人员仍能通过这些渠道获得所需的知识和技术。
美国智库信息技术与创新基金会(ITIF)副主席丹尼尔·卡斯特罗 (Daniel Castro) 对「甲子光年」表示,美国商务部必须与国务院、能源部和国防部协商,制定标准来确定哪些人工智能系统属于这一指定范围。预计出口管制只适用于存在国家安全风险的人工智能系统。
“在大多数情况下,这不会适用于正常商业运营的 AI 模型。” 卡斯特罗表示。同时,对于互联网上广泛可用的开源 AI 模型,如何实施管制仍是一个未解之谜。
考虑到人工智能的商业化机会很丰富,卡斯特罗认为,对 AI 模型的出口管制,可能不会在资金层面影响硅谷公司的运营。“然而他们将面临来自没有出口管制地区的公司的竞争。并且出口管制可能会阻碍中美 AI 学术人员的紧密合作,或者在中国拥有实验室的跨国公司内的合作。”
5 月 15 日,社交媒体上出现多位微软中国员工透露收到公司邮件,询问是否愿意迁移至其他地区工作,选择包括美国、澳大利亚、爱尔兰等国家。涉及的员工包括 AI platform 的 Azure ML 团队。微软回应称,这是给员工的内部调动机会,不会影响公司在中国的运营。
GlobalData 分析师霍塞普·博里(Josep Bori)也对政策的有效性提出了质疑,他认为,由于行业正逐渐转向开源模型,仅影响闭源模型的措施可能效果有限。他比喻说:“感觉就像大模型技术的魔咒已经从瓶子里出来了,控制其访问会非常困难。”
刘伟认为,表面上看,所谓的禁止 AI 大模型出口看似能管制技术流向特定国家,实质上也难以有效约束开源技术的全球传播,美国也无法阻止技术通过间接渠道如南非等国流入许多国家。这种管制更多地体现了政治姿态,表面上看似在营造一种抑制对手发展的态势,实际旨在自我安慰和安抚盟友,而非真正达到技术封锁目的:“毕竟世界是开放的,固步自封常常会南辕北辙。”
从出口管制到市场矛盾
“如果你想重新设计一款新芯片让中国能开发 AI,我第二天就会管制它。”
这是美国商务部长雷蒙多在 2023 年 12 月的言论。毫无疑问她夸大了自己的能力,因为美国商务部花了整整一年的时间来针对英伟达的“中国特供芯片”方案予以修订。
但美国针对中国管制 AI 技术和半导体出口的攻势,自五年前升级以来,的确没有丝毫放缓的迹象。
美国商务部长雷蒙多 来源:乔治城大学
用卡斯特罗的话来说:“美国政府希望,美国公司不会向中国出售可以让中国把竞争对手埋进土里的铲子。”
这并不是美国第一次试图阻止技术流出。二战后,以美国为首的 17 个国家成立了多边出口管制协调委员会,管制向敌对国家出口战略资源和技术。直到苏联解体三年后,该机构才在 1994 年解散。
时间来到 2018 年 8 月,时任总统特朗普签署了《2018 年出口管制改革法案》(ECRA),其中特别强调了在新兴科技和先进技术领域的出口管制体系。
2018 年 11 月,美国商务部发布了一份提案,列出了其认为可从出口管制中受益的各种类型的人工智能软件。2020 年 1 月,美国商务部宣布,美国企业出口某些地理空间图像领域的 AI 软件时必须得到许可;2024 年 1 月一项最新的云计算服务规定还提到,如果外国客户使用其平台训练具有潜在危险的 AI 模型,亚马逊等美国云计算供应商必须告知政府。
硬件方面,在 2022 年 10 月和 2023 年 10 月两次重大修订后,美国工业与安全局(BIS)于 2024 年 3 月发布“实施额外出口管制”的新规,旨在加强对特定地区销售的审核。
英伟达首席财务官科莱特·克雷斯 (Colette Kress) 今年 2 月坦言,作为全球最大的 AI 芯片制造商,英伟达的收入“在美国政府 10 月份实施出口管制法规后大幅下降”。
纵观上述管制令,卡斯特罗表示:“它们既没有效果,(对美国来说)也不是什么好的战略。对芯片出口的管制伤害了美国公司,只会鼓励中国建立一个有竞争力的半导体生态系统。”
的确,这些管制让硅谷科技公司越来越担忧。刘伟认为,硅谷企业面对政府的管制政策,处于一种矛盾状态。一方面,它们必须遵守美国出口管制的规定,另一方面,中国市场对于这些高科技公司而言至关重要,直接关乎其市场发展甚至是生存问题。因此,即便存在一些管制,许多企业也会主动寻求各种途径维持与中国市场的联系。这一现状也反映了美国政府政策与企业实际利益之间的冲突。
在刘伟看来,出台上述出口管制政策的根本原因在于,美国政府的决策深受其国内政治倾向影响,无法灵活应对国际局势,例如在处理以色列问题上陷入被动也是类似的原因。
而这种“鼠目寸光”的行为模式,不仅损害了美国在全球范围内的信誉与影响力,还形成了一种负面循环——只要没有以对抗中国作为彰显“美国利益”的标志,就会被视为偏离了国家利益,进而加剧美国内部的分裂与外部的孤立。简而言之,刘伟认为,美国目前的政策导向和行动逻辑,非但未能有效遏制它的对手,反而在不经意间加速了自身困境的形成。
平行的中美终将交汇?
在全球化与逆全球化的交锋中,中美两国作为人工智能领域的领头羊,其合作与竞争一直是国际社会关注的焦点。尽管存在摩擦和壁垒,双方依然展现出寻找共同点的意愿,认识到脱钩对创新的潜在不利影响。
5 月 14 日,中美人工智能政府间对话首次会议在瑞士日内瓦召开,标志着双方在这一领域的交流与合作迈出了新的一步。
会议由中国外交部北美大洋洲司司长杨涛和美国国务院关键和新兴技术代理特使森特、白宫国安会技术和国家安全高级主任查布拉共同主持。中方表示,愿同包括美方在内的国际社会加强沟通协调,形成具有广泛共识的全球人工智能治理框架和标准规范。同时中方就美方在人工智能领域对华限制打压表明严正立场。
图片来源:外交部美大司微信公众号“宽广太平洋”
尽管有报道称日内瓦谈判已筹备一年,但双方并未发表联合声明。美国官员在会前也明确表示,谈判并不侧重于促进技术合作,技术保护政策也不会成为谈判内容。这表明,尽管对话的大门已经打开,但双方在技术领域的竞争态势,仍然没有明确的缓和迹象。
对于拜登政府而言,这次对话是其在外交新领域的首次尝试。美国国务院首任网络空间和数字政策大使纳撒尼尔·菲克(Nathaniel Fick)强调,技术不仅是外交活动的一部分,而是正逐渐成为全部外交活动的核心:“国际秩序将由——用个比喻的说法——谁的操作系统占主导地位来决定。”
值得一提的是,中美两国都在制定各自的人工智能监管国家标准。中国在去年 7 月发布了《生成式人工智能服务管理暂行办法》,拜登也在去年 10 月发布了美国政府史上首个关于 AI 开发和应用评估的行政令。
从积极的角度看,两国在 AI 监管方面展现出合作的意愿。2023 年 11 月,在英国举行的 AI 安全峰会上,包括中美在内的 20 多个国家签署宣言,同意合作建立 AI 监管方法;2024 年 3 月,联合国大会一致通过第一项关于人工智能的全球性决议,美国为这项决议的发起国,中国及其他 120 多个国家参与了共同提案。这进一步证明了双方在部分问题上的共识。
《华盛顿邮报》评论道,目前,保持开放的沟通渠道可能就足够了。
卡斯特罗认为:“鉴于地缘政治分歧,我看不出有外交措施来解决(中美 AI 竞争)问题。短期内,美国和中国可能会在人工智能方面走在互相平行的道路上。这些道路何时才会相交是不确定的。不过双边会谈肯定有助于世界两大人工智能大国建立共识与合作,特别是在管理人工智能风险,以及将 AI 应用于气候变化等全球问题的方面上。”
这种合作精神与Meta首席AI科学家杨立昆(Yann LeCun)所倡导的开放和共享的人工智能发展理念不谋而合。
他曾在社交平台 X 上表示,AI 开发的未来是开源的,并且应该供所有人使用:“在未来,人工智能系统将构成所有人类知识和文化的存储库,我们需要开源且免费提供的平台,以便每个人都可以为其做出贡献。”
*参考资料:
《Exclusive: US eyes curbs on China's access to AI software behind apps like ChatGPT》,Reuters
《OpenAI Proposes Government Restrict AI Chips to Prevent Propaganda Explosion》,Vice
(封面图来源:elblog.pl)
*插播一条消息:在全球化的时代浪潮中,AI+跨境电商正迎来前所未有的发展机遇,为了让不同领域的企业聚集在一起,展示在AI跨境电商领域的服务和产品,促进行业内的信息流通和合作机会,白鲸跨境与白鲸技术栈正在招募一群富有激情和创造力的伙伴,共同绘制AI+跨境电商的生态图谱!如有感兴趣者,可点击下方链接进行报名。
AI+跨境电商图谱招募令报名链接:https://www.baijing.cn/activity/1636
扫码关注公众号
获取更多技术资讯