HelloKitty • 2023-07-14 16:21
1398
本文由 甲子光年 撰写/授权提供,转载请注明原出处。
文章来源于:甲子光年
作者:涂明 李晗 朱悦
编辑:王博
尽管很多人相信马斯克会组建 AI 公司,但是没人知道这一天会什么时候到来。
就像 2200 多年前,雍王章邯知道汉军在修栈道,但不知道汉军会悄悄绕过栈道,结果陈仓遇袭,雍王兵败。
马斯克“杀入 AI 圈,剑指大模型”就是这么突然,北京时间 7 月 13 日 0 点 23 分,马斯克在 Twitter 上毫无征兆地宣布:“xAI 宣告成立,为了理解现实。”
在宣告 xAI 成立之前,马斯克为此至少闷声筹备了 4 个月。早在今年 3 月,马斯克就曾透露他正在组建一个“TruthGPT”项目,目的是“最大程度探求真理”。
戏剧性的是,就在今年 3 月 23 日,马斯克还曾联名发表公开信称:为了人类的安全考虑,呼吁全球所有人工智能实验室暂停训练比 GPT-4 更强大的人工智能系统,暂停时间至少 6 个月。
现在距离公开信发表还不到 4 个月,“暂停之声”犹在耳边,马斯克却已经挖走了包括 DeepMind、OpenAI、谷歌研究院、微软研究院、多伦多大学计算机科学系在内的全球顶尖 AI 团队的墙脚,组建起一支 11 人的“全明星创始团队”。
一边明修栈道,劝各大 AI 企业“别干了,太危险”;一边暗度陈仓,紧锣密鼓地筹备自己的 AI 公司。不按套路出牌的马斯克,炸得整个 AI 界波澜迭起。
双面马斯克
当硅谷大佬们大谈《道德经》之时,马斯克似乎读懂了《三十六计》。
在收购推特的过程中,马斯克就运用了“瞒天过海”“顺手牵羊”“欲擒故纵”等计谋。
而在 AI 领域,一直以来,马斯克都是“AI 威胁论”中声量最大的那一位。
自 2014 年至今,马斯克多次发声,提醒社会警惕 AI,呼吁社会加强对 AI 的监管。据《中国经营报》不完全统计,马斯克在过去十年内公开发表的“警惕 AI”言论多达数十次,甚至曾直言“人工智能比核武器更危险”。
比如 2018 年时,马斯克宣布退出 OpenAI 董事会,理由是与 OpenAI 管理层就 AI 安全问题与商业化方式产生分歧。马斯克曾公开批评 OpenAI“在追求先进人工智能方面变得不够透明,过于商业化”,担心像 GPT-4 会散布虚假信息并显示偏见。
今年年初,ChatGPT 爆火,AI 安全问题再次引发关注。3 月 22 日,非营利组织“未来生命研究所”发出一封联合署名的公开信,呼吁全球所有人工智能实验室“为了人类的安全考虑,最好暂停训练比 GPT-4 强大的人工智能系统,暂停时间至少 6 个月”,马斯克的大名位列其中。
在马斯克眼中,AI 最大的威胁就是“脱离人类控制”。为此,其关于 AI 的绝大部分建议都是围绕限制 AI 发展、加强对 AI 的监管展开。
但是,马斯克同样是地球上最坚定的 AI 技术推动者之一,也是最疯狂的 AI 实用主义者之一。
早在 2013 年,马斯克就在特斯拉内部提出了 Autopilot 项目,希望与谷歌一同开发一套高速公路自动驾驶系统。自 2013 年 10 月 Autopilot 招聘第一名员工 Drew Gray 开始,特斯拉就在量产汽车自动驾驶的路上“狂飙”。
他用不到一年的时间研发出 Autopilot 的第一代硬件,在 Google 选择叫停半自动驾驶项目时依旧坚定投入,并在两年之后开放 Autosteer 自动驾驶功能上车,推动特斯拉成为当时全球唯一一家实现了自动驾驶核心领域全栈自研自产的科技公司。
马斯克坚定推动 AI 在汽车领域应用,这并不意味着特斯拉的自动驾驶技术已经绝对安全。
就在今年 2 月,美国高速交通安全管理局(NHTSA)就曾以安全问题为由,强制召回超过 36.2 万辆配备了全自动驾驶软件的特斯拉汽车。1 个月后,美国旧金山联邦法院也发起诉讼,认为特斯拉对技术风险的隐瞒“造成了严重的事故和伤害风险”。
这并不影响马斯克对 AI 的热爱。迄今为止,马斯克旗下的几乎所有公司,比如航天公司 SpaceX、太阳城、神经技术研究公司 Neuralink、Twitter,都在使用甚至依赖 AI 技术。
一方面高调批判 AI,质疑其安全性;一方面又支持推动 AI,并应用在各种产品中。马斯克在 AI 的问题上呈现出了十足的“矛盾感”。这种矛盾感背后的潜台词或许是,“AI 很危险,别人开发的我不放心,还得自己上”。
也有人感受到了这种“矛盾感”。小冰 CEO 李笛近日接受了新华社“新科创”栏目专访,在被问及“马斯克为何会呼吁停止大模型的研发”时,李笛表示:当时曾“问”过小冰,马斯克的此举有何目的。小冰在经过调查之后发现,马斯克自己又采购了大量的 GPU,因此得出了“可能是为了给自己争取更多时间准备”的结论。
李笛自己则认为马斯克“确实认为人工智能是危险的”,但是由于更多的原因,马斯克作出了“呼吁停止大模型的研发”表态,“人们面对这种新的技术就是如此局促、手足无措、进退失据,情感和情绪非常复杂。但毫无疑问的是,这种号召和呼吁是没有用的。”李笛在“新科创”栏目中说。
在官宣 xAI 成立之后,马斯克在 Twitter Spaces 活动中与两位政府议员进行了关于 AI 安全的对谈。对谈中,马斯克表示自己要“构建一套更安全的人工智能工具”。他同时声明:“xAI 不会将人类的道德编进人工智能的程序中,而是会寻求创造一个能在最大程度上拥有好奇心并追求真理的人工智能。”
“我正在培养 AI 的人性,试图让 AI 了解宇宙的真实本质,这才是有利于人类的做法,能够让 AI 明白人类的重要性”,马斯克说,“这是我从人工智能安全角度出发想到的最佳解决方案。”
为了完成这个目标,在至少四个月之前,马斯克就已经在紧锣密鼓地筹建自己的 AI 公司了。据外媒报道,3 月初,在注册 X Holdings Corp、X Corp 的同时,xAI 公司也同步注册。
4 月份,马斯克在接受《金融时报》采访时表示,他已经从英伟达手中购买了 1 万颗 GPU 处理器。当时,马斯克对自己行为的解释是,“似乎每个人和他们的狗都在购买 GPU,特斯拉和 Twitter 肯定也需要”,而业内自那时起就猜测马斯克是在酝酿自己的人工智能大模型。
同样是在 4 月份,在一档电视节目中,马斯克进一步披露自己正在筹备 TruthGPT 项目,并公开表达了对现有人工智能产生“偏见”的担忧。他表示,新设立的 AI 项目旨在对抗 OpenAI 旗下的 ChatGPT,现在来看,当时的 TruthGPT 项目或许就是今天 xAI 的前身。
在融资方面,全球首富找钱的能力毋庸置疑。马斯克曾与 SpaceX 和特斯拉的一些投资者进行讨论,邀请投资人向 xAI 注资。知情人士表示:“有很多人在投资……这是真实存在的,他们对此感到兴奋。”
关于马斯克挖同行墙脚的信息最早由外媒传出,自今年 3 月起,马斯克就一直在说服 Alphabet 旗下人工智能研究部门 DeepMind 的研究员加入 xAI。目前,参与了 AlphaStar、AlphaCode 等模型研发的 Igor Babuschkin 和 Manuel Kroiss 已成为 xAI 的创始团队成员。
xAI 的成立,对外的目的是挑战包括 OpenAI、Claude 在内的所有 AI 科技企业,对内的目的则是进一步整合马斯克“X 品牌”下的资源。“X 品牌”是马斯克近期试图打造的科技企业“合集”,旨在将“X”打造成万能应用。今年 3 月时,马斯克在美国内华达州成立了 X 控股公司(X Holdings Crop),管理有关“X 品牌”框架下的所有企业,比如 Twitter,它的企业名已经更新为 X Crop。业内人士分析称,xAI 可能会利用 X Crop(Twitter)的数据进行训练,并借助特斯拉的算力资源。
xAI 公司突然官宣背后,藏着马斯克的一整套设计。
挖墙脚挖来 11 位大佬
在此次公布的团队名单中,除马斯克之外的 11 名成员均来自 DeepMind、OpenAI、谷歌、微软、特斯拉等顶级科技公司,都是 AI 行业有头有脸的“圈里人”。靠着连自己公司(特斯拉)墙脚都挖的狠劲,马斯克硬是挖来了一支“AI 天团”。
年轻的面孔,优秀的履历,这支队伍让人印象深刻。
据 xAI 官网介绍,团队成员曾在 AI 领域贡献过许多创新技术,如 Adam Optimizer、批归一化、层归一化、对抗样本发现等,这些工具与方法目前已在 AI 行业广泛使用。其中,Jimmy Ba 开发的 Adam Optimizer,是目前训练深度学习模型的首选算法之一。
此外,这些成员还带领或参与了 AI 领域重要模型的研发,比如 AlphaStar、AlphaCode、Inception、Minerva、GPT-3.5 和 GPT-4,每一个模型拿出来,在 AI 江湖上都是一个传说。
Nvidia AI 研究员 Linxi Jim Fan 对这些“传说”就十分熟悉,他在职场社交网站领英上发帖表示,“该团队是一只‘全明星创始团队’,其人才密度之高给我留下了深刻的印象——他们发表的论文太多了,数不胜数。”
值得注意的是,在这支团队中,华人科学家的比重达到了三分之一,他们分别是吴玉怀(Tony Wu)、杨格(Greg Yang )、张国栋(Guodong Zhang)和戴子航(Zihang Dai)。其中,杨格还是 xAI 的联合创始人。
杨格(Greg Yang )出生于湖南,本硕均就读于哈佛大学数学系,师承我国著名数学家丘成桐院士。本科期间,他曾获得胡普斯奖(哈佛最佳本科论文)以及摩根奖提名(该奖项授予数学系研究表现最出色的大学生)。工作后,他加入微软研究院,任微软高级研究员。
吴玉怀(Tony Wu)是多伦多大学博士、斯坦福大学博士后,致力于机器学习、机器推理、形式推理等研究。此前,他曾在 Christian Szegedy 领导的 Google N2Formal 工作。其主要研究兴趣是创造可以自主推导数学定理的“机器数学家”。
张国栋(Guodong Zhang)本科毕业于浙江大学,硕博毕业于多伦多大学,曾获 2020 年 Borealis 人工智能奖学金。主要从事机器学习、人工智能领域研究,专注于大型语言模型的训练、调优和对齐。曾就职于多伦多大学和矢量研究所(Vector Institute)。他在机器学习的理论基础和实用算法的相关研究已经被 DeepMind、OpenAI、谷歌大脑等AI公司采用。
戴子航(Zihang Dai) 本科毕业于清华大学,博士毕业于卡内基梅隆大学计算机科学学院。2020 年加入谷歌,任谷歌大脑研究科学家,主要从事机器学习、神经网络研究。
为了挖到这支初始团队,马斯克煞费苦心。比如在今年 3 月时,马斯克就透露正在招募前谷歌 DeepMind 成员 Igor Babuschkin、Manuel Kroiss,彼时他为二者提供的职位是Twitter高级工程总监、软件工程高级总监,而在本次官宣的 xAI 团队成员名单中,二者赫然在列。
Igor Babuschkin 曾两度任职 DeepMind。2017 年至 2022 年担任高级工程师,开启深度学习研究,并作为核心成员参与 AlphaStar 项目——这一模型曾在星际争霸电竞比赛中击败人类冠军。而后,Babuschkin 又加入 OpenAi 担任技术人员,并在一年后重新回 DeepMind 任高级研究工程师。
Manuel Kroiss 作为软件工程师,曾就职于谷歌、Deepmind 等科技公司,在强化学习和人工智能领域做出突出贡献。
同为谷歌系出身的还有 Toby Pohlen 和 Christian Szegedy。Pohlen,他本硕毕业于德国亚琛工业大学计算机科学专业,前谷歌研究工程师,曾参与 AlphaStar League 和 Ape-XDQfD 等项目,在机器学习、强化学习领域拥有丰富经验。
Christian Szegedy 是波恩大学数学博士,曾在伯克利 Cadence 研究实验室担任研究科学家。自 2010 年加入谷歌以来,致力于深度学习、人工智能、计算机视觉等领域研究已有13年之久,也是初创团队中最年长的一位。
除上述成员外,其他 2 位核心成员同样在深度学习、人工智能等领域有着显著成就。
比如 Jimmy Ba,他既是多伦多大学计算机助理教授,也是加拿大 CIFAR-AI 主席,在 xAI 团队中是社会知名度最高的成员之一。2014 年时,他与 Diederik Kingma 共同发表了在 AI 领域影响力最广的深度学习系列论文——《Adam: A Method for Stochastic Optimization》。根据学术社交网站 ResearchGate 的数据,此论文在 AI 领域被引用次数最多,高达 95460 次。
Kyle Kosic 则是一名全栈网站可靠性工程师和数据科学家,他曾任职于 OpenAI 等科技公司,具有丰富的数学研究经验,对自动化、可扩展性和分布式计算研究兴趣浓厚,在机器学习、数据分析等领域具有丰富经验。
美国人工智能安全中心的主任 Dan Hendrycks 也受马斯克邀请,将担任 X.AI 安全顾问。
值得一提的是,该组织致力于“减少与人工智能相关的社会风险”。而此前,Dan Hendrycks 曾发表一封致全球领导人的公开信,称人工智能堪比“疫情和核战争”的技术,或对人类构成生存威胁。
Dan Hendrycks 加入后会将 xAI 引向何方?他与马斯克之间又会碰撞出怎样的 AI 发展观?这不禁让人期待。
目前,xAI 的招聘工作也在紧锣密鼓地进行着。据悉,xAI 团队正在旧金山湾区积极招聘经验丰富的工程师和研究人员。
xAI 想要干什么?
找钱、摇人、炮轰 OpenAI,马斯克闪电式成立 xAI,到底想要干什么?
xAI 的官网上只有一句话,就是“了解宇宙的本质”(Understand the Universe)。相比 OpenAI 的目标——“建立安全有益的 AGI”——xAI 的目标明显要抽象很多。
为了进一步解释这一目标,在马斯克官宣 xAI 的一小时内,xAI 就顺势发布了第一条推文,“最基本的未解答问题是什么?”
马斯克又接着在评论中附和,“最基本的未知问题又是什么?一旦你知道该问什么问题,答案往往是容易的,正如我的偶像道格拉斯·亚当斯所说的那样”,并附上了一张 xAI 官网介绍的截图,将公司成立日期标红,在旁边写道,“7+12+23=42”,7 月 12 日显然别有深意,“42 是生命、宇宙和万物终极问题的答案”。
在科学界,42 是一个梗。这来自于英国作家道格拉斯·亚当斯的著名科幻小说《银河系漫游指南》,它曾是少年马斯克最喜爱的一本读物。
在小说中,一群具有超高智慧的老鼠为了找出宇宙终极问题的答案,制造了一台名为“深思”的超级计算机。在经过 750 万年的计算后,计算机得到的终极答案是一个数字—42。有意思的是,为了解析 42 的终极意义,老鼠文明又花了 1000 万年的时间进行计算,结果在只差 5 分钟就可以得到答案时,承担计算任务的计算机被炸毁了,千万年的努力和终极答案灰飞烟灭。
自此,42 在极客和科学圈中有着非同寻常的地位。
这并不是马斯克第一次表达对数字“42”的钟爱。此前被曝光的特斯拉神秘项目就叫作“42 号项目”,SpaceX 的星链系统将总共有 42 台发动机,特斯拉进入中国那年马斯克正值 42 岁。
而关于 42 与 xAI 的关系,在马斯克的 Twitter 下,有网友分析称,42 暗示着一种数学意义,马斯克可能会从第一性原理出发解决 AI for Math 的问题。xAI 的联创杨格的态度也印证了这一观点,他在 Twitter 说道,“Math for Al and Al for math!”
马斯克对 AI 大多数的恐惧都来源于害怕它会脱离人类掌控,这与 AI 能否诞生意识息息相关。在 xAI 的推文回复中,有网友问马斯克是否相信 AI 具有意识,马斯克并没有正面回答,而是提到了细胞、夸克、轻子还有外星人,甚至还发出了“生命的意义是什么”的疑问。
未知、含糊不清,对于 xAI 的目的是什么,人们只能猜测。在线上问答会之前,一种刻意被营造的神秘气氛被无限渲染、放大。
眼下,关于 xAI,相对确定的话题是“如何构建 AI 的安全性”。在北京时间 7 月 13 日凌晨举行的 Twitter
Spaces 活动上,马斯克与两位政府议员进行了关于 AI 安全的对谈,其中他就描述了构建更安全人工智能的计划。马斯克提到,xAI 不会按照现有方式,用规则框死 AI,而会寻求创造一个能在最大程度上满足好奇和追求真理的人工智能。
关于 xAI 的发展目标也是确定的,马斯克曾多次公开表示,自己将 OpenAI、DeepMind 视作竞争对手,“颠覆 AI 行业”这样的字眼也频频出现在马斯克的口中。
尽管胸怀大志,但目前来看,xAI 与 OpenAI、DeepMind 仍有差距,马斯克将这两家公司称之为“AI 中的两只大猩猩”,并表示,“xAI 目前还只是一个开始,要想达到竞争对手的规模还需要一段时间。”
在 AGI 赛道,各个赛手间的竞争极为激烈,技术迭代速度以天计。
就在 xAI 官宣的前一天,Anthropic 正式发布了全新的 Claude2,在代码、数学和推理方面展现出极大的能力提升。Anthropic 与 OpenAI、DeepMind 并列为目前 AI 前沿模型领域排名前三的公司,并且是其中惟一没有与大厂深度绑定的创业公司。
而 Anthropic 的联合创始人兼 CEO
Dario
Amodei 曾就任 OpenAI 的研究和安全副总裁,正是因为与 OpenAI 在大模型安全问题上的分歧,选择离开并创立了 Anthropic。Claude2 在模型对齐方面遵循了 3个 H:honest(诚实性)、helpful(有用性)、harmless(无害性)。
作为xAI最大的竞争对手 OpenAI,其联合创始人兼 CEO Sam Altman 在今年 4 月就对公开信进行了回应,他表示,OpenAI 还未开始训练 GPT-5,并且在一段时间内也不会开始。相较于继续扩大大模型的规模,OpenAI 选择在 GPT-4 的功能上发力。
在 GPT-4 发布后不久,OpenAI 推出了插件(Plugin)功能,帮助 ChatGPT 接入第三方服务。6 月,OpenAI 发布了一系列API更新,包括更强大的AI模型、新的函数调用能力、更长的上下文处理能力。7 月 6 日,OpenAI 表示 GPT-4 API 将全面开放使用,所有付费 API 用户均可直接访问。
除了在 API 和插件上的探索,OpenAI 的野心不止于此。OpenAI 正准备发布一个类似于 App Store 的模型商店(marketplace),企业可以把根据自己需求定制的 AI 模型卖给其他公司,在通用大模型的基础上,正式布局垂直领域大模型。
《连线》杂志则指出,现阶段 xAI 似乎缺乏与 OpenAI、微软和谷歌相匹配的云计算能力。相较于大企业在人工智能项目上百人的部署,xAI 仅有 11 人的研究团队也并不亮眼,且仅有 xAI 的安全顾问 Dan Hendrycks 一人拥有人工智能风险的工作经验。
尽管如此,马斯克依然自带筹码。xAI 的官网表示,目前它是一家独立于 X
Corp 的公司,但将会和 X(Twitter)、Tesla 和其他公司密切合作,可能会使用 Twitter 内容作为数据来训练其语言模型,并利用特斯拉的计算资源,比如特斯拉自主研发的超级计算机 Dojo,马斯克曾表示会将该计算机作为基础设施向其他公司开放。
在 xAI 官网上,马斯克及其团队表示将在本周五(7 月 14 日)于 Twitter 的语音聊天室 Spaces 里举办一次线上问答会,针对公众的疑问集中回应,具体时间未公布。随着 xAI 相关信息的不断披露,马斯克这次“暗度陈仓”的成果,即将公之于众。
扫码关注公众号
获取更多技术资讯