微软AI老将叛逃，但OpenAI面对新威胁：前CTO或创业挖人！

本文由 新智元 撰写/授权提供，转载请注明原出处。

本文来源：新智元

编辑：桃子 好困

微软 AI 老将官宣加盟 OpenAI！

Information 爆料称，微软 AI 副总 Sebastien Bubeck 即将离职，加入 OpenAI 继续投身开发 AGI。

另一边，前脚离职 OpenAI 的 CTO Mira Murati 似乎也要自立门户寻求融资。

而且，她还要从前东家挖人，一直与 OpenAI 员工讨论可能创业的下一个项目。

此前，离职后的 Karpathy 创办了一家名为 Eureka Labs 的 AI 教育公司；Ilya 创办了 SSI 安全超级智能公司...

有网友表示，OpenAI 正打开 AI 初创企业的生态系统。

有 Sebastien Bubeck 这样的大佬加入，也是 OpenAI 幸事。

Bubeck 在微软任职已有十年，此前在普林斯顿大学担任了 3 年的助理教授。

过去两年里，他在微软最为人熟知的贡献在于——领导团队开发了 Phi 系列小模型。

23 年 6 月，Phi-1 小模型首次亮相，便以优异的成绩击败了 GPT-3.5。正如论文标题所言，「教科书级」数据才铸就了高性能的小模型。

至此，「教科书级数据质量」成为了他们的一种坚定信仰。

论文地址：https://arxiv.org/pdf/2306.11644

3 个月后，研究人员迭代出 Phi-1.5，13 亿参数就能跑通代码、聊天问答等场景。

12 月 Phi-2 横空出世，更是取得了「以小博大」的成功。仅以 27 亿参数，就击败了比自己大 25 倍的模型。

再到今年 4 月，原团队发布了 Phi-3 系列模型，包含了 mini（38 亿参数）、small（70 亿参数）和 medium（140 亿参数）三个版本。

论文称，Phi-3 可以在 iPhone 上运行，每秒即可生成 12 个 token。

论文地址：https://arxiv.org/pdf/2404.14219

到了 8 月，最新一版的 Phi-3.5 出世，上下文达到了 128k，并且首次引入了 MoE 架构、视觉模型。

这些模型在测试基准上，击败了谷歌 Gemini 1.5 Flah、Llama 3.1-8B。甚至，在某些基准上，还超越了 GPT-4o。

在 Scaling Law 信仰下，一直奔向万亿参数 LLM 科技巨头，转向 SLM 领域在业界引发一场热议。

Bubeck 曾在去年一篇研究论文中指出，Phi 模型使用 OpenAI 模型生成数据进行了训练，相较于GPT 系列模型，它的参数规模更小，运行成本更低，还能够实现几乎一致的性能。

OpenAI 每次发布模型后，微软紧跟着将其植入到自家产品，必应搜索、聊天机器人、办公全家桶、Copilot AI 中。

但随着时间推移，微软已经在某些功能中，逐步采用Phi模型。

微软 CEO 纳德拉在过去一年里多次赞扬 Phi，将其定位为微软掌握的几个开源 AI 模型之一，表明公司并不完全依赖 OpenAI 的模型。

Bubeck 表示，自己目前更加专注于理解「智能如何在 LLM 中出现的」，以及如何利用这种理解来提升 LLM 性能，最终建立 AGI。

他更愿将这样的方法称之为「AGI 物理学」，通过在不同尺度（参数、神经元、层、数据课程...）中发现。

AI 系统的各个部分如何组合，才能创造出LLM惊人的行为？

他曾在 1 年前的演讲中，给出了更具体的解释。

地址：https://www.youtube.com/watch?v=XLNmgviQHPA

目前，Bubeck 在 OpenAI 的具体职责，尚不清楚。

网友有一种强烈预感，OpenAI 下一代小模型即将要来。

微软发言人在声明中表示，Bubeck 已经决定离开，未来将进一步推进 AGI 的研发工作。我们期待他在 OpenAI 工作继续保持合作。

虽然领头人已经离开，Phi 论文大多数合著者依然留在微软，并计划继续开发模型。

在招聘和留住人才方面，OpenAI 可谓是腹背受敌。

是的，它如今正要应对来自一位刚刚离职员工的挑战——前首席技术官 Mira Murati。

正如前文所说，Murati 下一个可能计划去创业，但还有一种可能性，是加盟前 OpenAI 副总 Barret Zoph 即将创办的新公司。

又或是加入其他科技公司，目前仍是未知数。

据称，OpenAI 的一些研究员，可能会对 Murati 创业提议感兴趣。

据三位了解内情人士透露，自 Liam Fedus 晋升为训练后优化负责人后，OpenAI 研究组织正处于动荡之中。

而且，团队的一些研究人员要求换队。

Fedus 实际上接棒了 Barret Zoph 的职位，他们曾在谷歌AI团队任职。后者在上个月 25 日，与 Murati、研究主管 Bob McGrew 同时突然宣布离职。

最近，还有一位 ChatGPT 开发者之一 Luke Metz 宣布离职，这一事件早于 OpenAI 员工股份回购计划。

OpenAI 正努力应对，来自竞争对手的高薪招募。尤其是， Ilya Sutskever 创业的新公司。

鉴于Murati辞职后，Zoph和McGrew表现出的团结姿态，暗示着她的招揽人才行动，可能会进一步考验Sam Altman的人才管理能力。

巧的是，OpenAI 的安全研究副总裁 Lilian Weng，同一天在推上发了一条招聘启事：

「我们正在招聘安全研究领域的研究科学家和工程师，热忱欢迎各路人才加入！研究方向广泛，包括但不限于：安全模型行为训练、对抗性鲁棒性研究、AI在医疗保健领域的应用、前沿风险评估等多个激动人心的领域。」

不过，对于现在的 OpenAI，网友们并不相信他们会搞什么模型安全。

参考资料：

https://www.theinformation.com/briefings/microsoft-ai-researcher-sebastien-bubeck-to-join-openai?rc=epv9gi

https://www.theinformation.com/articles/openais-newest-possible-threat-ex-cto-murati-googles-mini-chatgpt-moment

https://x.com/lilianweng/status/1845833878256120004

扫码关注公众号

获取更多技术资讯