国产AI算力，正在进行一场「小型化革命」？

本文由 罗超Pro 撰写/授权提供，转载请注明原出处。

以下文章来源于：罗超Pro

作者：罗超

一个铁皮箱子，如何改变全球贸易？

1956 年，美国有个卡车运输商叫马尔科姆·麦克莱恩，他做了一件当时不少人觉得有些奇怪的事：把一艘油轮改造成货船，然后将58个集装箱直接装上船，从新泽西运往得克萨斯。

看起来没什么技术含量对吧，无非就是把货物装进一个铁箱子里，但它后来却改变了全球物流行业。

在此之前，货物需要一件件装船、卸船，再转移到卡车或者火车上，整个过程既费时又费力。而集装箱的出现，让货物可以作为一个整体，在船舶、铁路和公路之间快速转运。

集装箱之父：马尔科姆·麦克莱恩 图源：搜狐网

事实上，很多技术变革都有相似的逻辑：当一项能力越来越复杂，真正重要的事情，未必是继续把它做得更庞大，而是想办法让它变得更容易部署、更方便使用。

今天的AI计算，也正在经历类似的变化。

比如联想开天最近推出的首款纯国产 AI 主机，就将国产 CPU、NPU 和 160 TOPS 本地 AI 算力集成进了一个只有 1.6L 的机身里。

它不只是把计算硬件做小了，也让本地大模型和 AI 智能体有机会进入普通办公桌面。

提到 AI 计算，很多人脑海里浮现的，大概还是数据中心里一排排服务器机柜。毕竟大模型对算力、内存和散热都有不低的要求，想在本地运行一个有一定规模的模型，过去确实不是一件轻松的事。

但问题也随之而来：是不是所有 AI 计算，都必须集中在大型设备和云端环境里？

答案显然不是。

云端算力有自己的优势，但企业日常办公中，有不少任务其实没有那么复杂。比如文件检索、资料整理、数据分析、定时信息监测，这些工作可能每天都要做，涉及的数据也未必适合频繁上传到外部平台。

如果能在本地完成其中一部分，企业自然会多一种选择。这也是桌面级 AI 设备开始受到关注的原因。

那么如何在有限空间里塞进足够的 AI 算力，同时让模型运行起来？

联想开天 AI 主机就是一个例子。

它采用 1.6L 迷你机身，整机重量约 1.5kg。1.6L 是什么概念？这么说吧，你放在桌上的纸巾盒，可能都比它大。但就是这样一台四四方方的小主机，里面集成了国产 CPU、NPU，以及 160 TOPS INT8 本地 AI 算力，换算下来，每秒可完成约 160 万亿次 INT8 运算，体积与算力之间形成了强烈的反差。

图源：联想开天 AI 主机

当然，机身小只是第一眼能看到的变化，里面的硬件架构才是重点。

联想开天 AI 主机搭载国产兆芯 KX-7000 八核处理器，以及后摩智能力擎 LQ50 NPU，采用 CPU+NPU 异构计算架构。CPU 主要负责系统运行和通用计算，NPU 则专门承担大模型推理等 AI 任务。

这样分工的意义在于，AI 推理和日常电脑任务对硬件的需求并不完全相同，让 CPU 承担所有工作，未必能充分发挥硬件效率，引入专门的 NPU，则可以把 AI 计算交给更适合的单元处理。

光说参数大家可能觉得有些抽象，我们不妨换个更直观的角度来看：联想开天 AI 主机支持 35B 量级大模型本地推理，已经适配 Qwen3.5 系列、Qwen3.6-35B-A3B 等模型。

以 Qwen3.6-35B-A3B 为例，在 24GB NPU 配置下，通过 W4A8 量化方式进行本地推理，内部测试文本生成速度约为 28.99 tokens/s，同时支持最高 20 万 Token 输入规模。

这里的量化，可以简单理解为对模型进行一定程度的压缩，降低运行时对内存和计算资源的要求，让原本需要更多资源支持的模型能在相对有限的硬件环境中运行。

搞定了硬件参数之后，接下来还有一个容易被忽略的问题：小机身如何应对长时间运行？

如果 AI 主机只是偶尔跑一跑模型，散热压力或许没那么明显。但如果它要承担定时监测、持续推理等任务，设备能不能稳定工作，就显得重要得多。

联想开天 AI 主机采用 CPU 与 NPU 双独立散热风道，搭配高风压涡轮风扇和智能温控机制。根据内部测试数据，在 25℃ 环境下，整机待机壳温约 33℃，满载约 41℃；待机噪声约 19.4dB，NPU 满载推理时约 29.5dB。

显然，联想开天在设计这款产品时，考虑到了持续运行场景，而不是只追求短时间跑出一个漂亮的性能数字。

事实上，当下混合式 AI 正在成为趋势，企业用 AI 不一定要搞大工程。

Gartner 在 2026 年发布的 AI 基础设施与 IT 运维趋势报告中，将混合式 AI 列为未来的重要方向，所谓混合式 AI，简单来说，就是不再把 AI 算力全部放在云端，而是根据不同任务的需求，将计算资源分配到公有云、企业本地数据中心以及边缘设备等不同环境中。

比如，大规模模型推理可以交给云端，涉及内部数据或对响应速度有要求的任务，则可以放在本地完成。这对一些企业来说，可能会彻底改变以往的工作方式。

混合式 AI 拓扑图 图源：AI 生成

过去我们使用大模型，大多是打开一个应用，输入问题，等待模型给出答案。一次对话可能消耗一些 Token，但任务通常比较短，使用频率也相对有限。

智能体出现之后，情况就不太一样了。

比如让智能体整理一批业务文件，它需要读取文件、理解内容、分类归档；如果要分析多张 Excel 表格，它还得完成数据关联、指标计算和结果汇总。这些任务有一个共同点：执行链条更长，而且可能需要反复运行。

这就带来了一个新问题，企业使用 AI 的成本开始持续累积：如果所有任务都依赖云端 API，Token 费用自然会随着使用频率上升。

不过，成本还不是全部，对于不少企业来说，数据怎么流转可能更加敏感，合同、财务报表、客户资料以及业务数据，都有各自的管理要求。

这也解释了为什么本地 AI 算力开始变得重要。

但这里有必要说清楚，本地部署并不意味着企业要把所有 AI 任务都搬回自己的设备。毕竟云端模型在复杂推理和大规模计算方面仍然有优势，企业也没必要为了本地化而本地化。

正确的做法，是根据任务特点进行分配：高频、重复、涉及内部数据的任务，可以优先考虑本地处理，需要更强模型能力的复杂任务，则按需调用云端。

另一方面，Gartner也提到了智能体带来的 Token 经济问题。按照其预测，采用不封顶、按 Token 用量计费模式的企业，到 2027 年，AI 智能体在 IT 运维中的相关成本可能比最初预期高出 50% 以上。

这对一些只是想让员工用 AI 处理文件、分析报表的企业来说，负担确实不轻。

总之，不管是从安全角度还是从经济角度考虑，联想开天 AI 主机的 AI 算力小型化，都是一件很有价值的事情。

联想开天 AI 主机的价值，也可以放在这个背景下理解。

它支持本地大模型推理，能够为企业提供一套离业务更近的计算环境。对于一些重复执行、数据相对敏感的任务，可以在本地完成，减少部分云端 Token 调用，也能降低不必要的数据传输。

这对企业来说，改变的可能是部署 AI 的门槛，甚至是使用 AI 的心态。以前要经过预算申请、基础设施建设、系统部署，才能正式开始尝试 AI，现在只需要一台联想开天 AI 主机，就能做到开箱即用。

说到底，小型化带来的不只是设备体积的变化，更是人与 AI 协作方式的变化：

AI 不一定需要昂贵、复杂的部署过程，也可以成为员工桌面上一台触手可及、开箱即用的提效设备。对企业而言，尝试 AI 可以从一个具体岗位、一项日常工作开始，而不必等到一整套庞大的 AI 工程准备就绪。

我觉得这恰恰是本地 AI 设备最有价值的地方，换句话说，未来企业的 AI 算力，很可能是云端与本地各司其职，谁也不必完全取代谁，关键是把任务放到更合适的地方。

不过，对一些企业而言，让员工接受 AI 这种新的工作方式，其实并没有想象中那么容易。

尤其是一些规模较大的组织，内部往往已经形成了相对固定的管理流程、工作习惯和 SOP。即便 AI 已经足够强大，也很难要求所有人立刻改变原来的工作习惯，更不可能一上来就把整套流程交给 AI。

所以，我觉得企业引入 AI，可能不是先想着让 AI 改变工作流程，而是让它先帮员工把现有工作做得更快一点。比如，每一次合同审查，每一次数据分析，都能通过 AI 多提供一个“保底”方案。AI 不需要替代员工，也不需要重新设计整套工作流程，只要能在原有工作基础上提供一些帮助，就已经有了使用它的理由。

这也是联想开天 AI 主机这个小盒子所能带来的另一个好处：通过日常工作，加速培养员工使用 AI 的习惯。

当然，算力和部署方式最终还是要落到具体应用上，这里就要看联想开天 AI 主机原厂预装的天禧 AI Pro 了。

举个例子，天禧 AI Pro 不仅支持文档理解、内容生成和数据分析，还可以通过 Skill 扩展不同能力，让 AI 按照用户的要求，完成从读取信息、分析处理到结果输出的一系列操作。

图源：联想天禧 AI Pro

对普通用户来说，Skill Hub 技能扩展降低了 AI 能力的使用门槛。员工可以根据办公、教育、数据分析、文档处理等需求安装不同技能，让 AI 逐渐融入日常工作。

这里其实还有一个不那么显眼的变化：当 AI 算力以一台主机的形态部署在员工桌面上，企业使用 AI 的方式也会有所不同。

过去，很多企业使用 AI 主要依赖云端服务，通常需要采购订阅服务，或者按照 Token 用量付费。尤其是按 Token 计费的模式，每一次调用、每一轮对话，都可能带来新的使用成本。对于企业 IT 部门来说，需要关注调用额度、账号管理和持续增加的服务费用；对于普通员工来说，也容易形成一种使用上的顾虑：这件事有必要让 AI 做吗？要不要再让它多试几次？

如果企业已经采购并部署了本地 AI 主机，情况就不太一样了。前期设备采购完成后，本地算力就成为企业可以持续调用的一项 IT 资源。对于适合本地处理的任务，员工可以随时调用 AI 进行搜索、整理、分析，或者反复调整生成结果，不必每次都考虑新增 Token 消耗。

这看起来只是成本计算方式的变化，实际上也会影响员工使用 AI 的习惯。以前可能需要考虑一下值不值得调用 AI 的工作，现在可以先让 AI 试一试。员工愿意尝试的事情多了，企业也更容易在日常工作中发现新的 AI 应用场景。

天禧 AI Pro 能够提供的帮助，从我们编辑部的实际体验来看大致可以分为三个层次。

第一类，是日常提效，让重复性工作做得更快。

日常办公中，很多时间都花在了搜索、查找和整理信息上。一个项目做下来，Word、Excel、PDF、PPT 散落在不同文件夹里，文件名还不一定规范，真要找一份旧资料，光是翻文件夹就要花不少时间。

天禧 AI Pro 可以通过文件归档 Skill，读取并理解不同文件的内容，辅助完成分类和归档目录整理；同时支持对本地 Word、Excel、PDF、PPT 等文件进行检索，帮助用户根据文件名或正文内容快速找到目标资料。

类似的还有会议录音整理。过去一场会议结束后，员工往往还要花时间反复听录音、整理文字、提取重点。现在，AI 可以辅助完成本地录音转写和内容整理，把这些重复性工作交给 AI 处理。

第二类，是专业辅助，让一项工作更容易从零开始。

对于一些需要专业知识和经验的工作，AI 也可以先承担前期的基础工作。比如在合同审查中，AI 可以辅助识别条款缺失、约定差异以及前后内容不一致等问题，整理潜在风险和修改建议，再交由专业人员审核。

在内容生产中，AI 也可以根据用户的要求，协助搭建文章框架、生成稿件初稿，或者整理周报草稿。员工可以在 AI 提供的第一版基础上补充信息、完善观点和核实细节。

这类工作的共同点是，AI 可以先帮助员工完成前期准备，让原本需要从空白文档开始的工作，有一个可以继续修改和完善的起点。

第三类，是流程执行，让 AI 连续完成一组工作任务。

如果说前面两类主要是帮助员工完成某个具体环节，那么随着任务规划、Skill 调用和定时执行能力的加入，AI 还可以进一步参与完整的工作流程。

比如，用户可以通过 Skill Hub 扩展所需技能，再结合定时任务，让 AI 每天检查指定网站的产品信息是否更新，或者每周自动整理工作内容、生成周报草稿。这些任务都有明确的执行要求，AI 可以按照预设规则持续完成。

以我们编辑部为例，每周的选题会结束后，往往还需要有人整理会议录音、归纳讨论结果，再把选题方向和后续任务分配给相关编辑。

天禧 AI Pro 可以把这套流程进一步串联起来：会前根据日程创建会议，会中完成本地录音和转写，会后自动生成会议纪要、提炼讨论重点，并整理待办事项、明确对应责任人。原本分散在会前、会中和会后的多个环节，现在可以由AI连续处理，最终形成一份能够支持后续工作的会议成果。

这时，AI 已经开始承担一项工作的连续执行任务。员工只需要明确目标、确认关键要求，并对需要人工判断的环节进行审核，就能获得一份完整的工作成果。

从日常操作提效，到专业任务辅助，再到完整流程执行，天禧 AI Pro 正在将 AI 能力融入越来越具体的岗位任务。

当本地 AI 算力进入员工桌面，使用 AI 的门槛进一步降低，员工也有更多机会在日常工作中尝试、探索和积累新的应用场景。随着这些场景不断丰富，AI 也就有机会真正成为企业日常工作的一部分。

总之，当 AI 算力不再只集中在云端，而是进入个人桌面和企业业务现场，智能体就有机会更贴近具体工作，加速企业办公 AI 化的进程。

回到开头的集装箱故事。

当年，麦克莱恩通过发明标准化的集装箱，让原本复杂的运输流程变得更加简单，也让全球贸易拥有了新的效率基础。

很多时候，一项技术想要真正走进日常场景，除了性能上的突破，还需要在形态和使用方式上找到新的答案，AI 算力也需要一场“小型化革命”。

并不是每一个 AI 任务都需要庞大的计算集群来支撑，当算力逐渐摆脱对大型设备和专业机房的依赖，变得更轻量、更容易部署，AI 的应用场景也就有了更多可能。

让强大的 AI 算力变得触手可及，或许才是这场“小型化革命”最值得期待的地方。

扫码关注公众号

获取更多技术资讯