亚马逊云科技AIGC全家桶Bedrock炸裂登场，开放定制，隐私拉满

本文由 新智元 撰写/授权提供，转载请注明原出处。

文章来源于：新智元

作者：新智元编辑

如火如荼的 AI 竞赛，亚马逊云科技也下场了。

有些不同的是，除了自己构建的 AI 模型，他们还招募第三方在亚马逊云科技上托管模型。

凭借这个叫 Amazon Bedrock 的平台，亚马逊云科技正式进军生成式 AI 赛道。

在极优性能的云基础设施上，大规模运行生成式 AI 应用，毫无疑问，亚马逊云科技在掀起一场颠覆性变革。

过去的十多年里，人工智能领域大部分研究集中在训练神经网络来完成一项特定的任务。

比如在 CV 中，图像分类、分割、或者识别图中是否是一只猫；在 NLP 中，语义检索、翻译等等。

直到 ChatGPT 的横空出世，甚至可以说最早从 Stable Diffusion 开始，生成式 AI 的能力逐渐打破人们原有的认知。

在大模型加持下的 AI 工具，不仅能创造新颖的内容，还能够生成图片、视频、音乐，以往它从未见过的东西。

研究者发现，当参数量足够多，或者达到一定规模时，大模型就会出现一种不可预测现象，也就是「涌现」能力。

随着机器学习进步，特别是基于 Transformer 的神经网络架构，使得开发数十亿参数规模的 FMs 成为可能。

正是 GPT-3、DELL-E、GPT-4 等超大模型兴起，让语言模型的训练范式发生了重大变化。

模型训练过程不再过度依赖显性标注，能够根据句子中已有单词，预测一下词，实现了智能体的认知能力进步。

其实，这些大模型就是李飞飞等人在 2021 年提出的「基础模型」（Foundation Models）。

因为在大量的数据上进行了预训练，基础模型已具有了高度适应性，能够完成一系列下游任务。

基础模型的优势就在于，可以被用于微调的特定领域，或者创建一个业务模型的起点。在理解数行为方面，FM 当然是最好的。

微调模型，就需要在特定数据集（有标注）进一步训练而来的模型。

而这种数据集是解决特定任务所需的，因为大模型只能做到「很懂」，但不能做到「很专」。

微调后的模型结合了 2 点优势：一是对数据结构的理解，再一个是通过标注数据的形式了解业务问题的背景。

这样一来，微调后的模型同样能够实现，在特定领域生成类人的文本或图像。

就比如，彭博推出了金融领域专用的 500 亿参数大模型 BloombergGPT。

由此可见，基础模型是生成式 AI 的关键，是 AIGC 的基石。

当下，整个业界呼声最高的便是，哪里有大模型可用。

我们都知道，训练一个超大规模的语言模型，同样离不开三驾马车：算法、算力、数据。

而且还需要的是超强算法、超大算力和数据。

就拿训练 ChatGPT 来说，微软曾揭秘了为 OpenAI 斥资数十亿美元，用了 3 万多个英伟达 A100 打造超算。

为了摆脱这一困境，报道称微软早在 2019 年开始，就投入 300 人团队自研芯片 Athena。

数据方面，虽然现在仅依靠少样本数据来训练模型，但数据可用性也是一大难题。

最近，纽约时报称，Reddit 便开始计划向使用平台数据训练模型的公司收费，其中就包括微软、谷歌、OpenAI 等公司。

而要训练出真正优秀的大语言模型，不仅需要耗费资本，还需要足够多的时间。2022 年，GPT-4 模型训练完成后，还用了 6 个月的时间，进行了微调和测试。

这也恰恰解释了为什么大多数公司都想用大型语言模型，但又不想投入太多成本。只想借用基础模型泛化能力，用自己特定领域的数据，去微调模型。

对此，亚马逊云科技做了大量的用户调研后，发现客户的主要需求是——

1. 需要一个简单的方法来查找和访问高性能基础大模型，既要提供出色的结果，也要符合自己的目标。

2. 需要模型能够无缝地集成到应用程序中，而不必管理庞大的基础设施集群或产生大量成本。

3. 希望能够轻松获得基础大模型，并使用自己的数据（少量或大量数据）构建差异化应用。

由于客户希望用于定制的数据是非常宝贵的IP，因此他们需要在此过程中保持完全的保护、安全和隐私，并且他们希望控制其数据的共享和使用方式。

为了解决这些问题，亚马逊云科技认为，应该让生成式 AI 技术变得普惠起来。

也就是说，AIGC 并不独属于少数初创公司和资金雄厚的大厂，而是要让更多公司从中受益。

于是，一个名为 Bedrock 的基础大模型云服务，便应运而生了。

而 Bedrock 也是亚马逊云科技在生成式AI市场上最大的一次尝试，根据 Grand View Research 的估计，到 2030 年，该市场的价值可能接近 1100 亿美元。

值得一提的是，Bedrock 最重要的特色，就是让开发者能够轻松定制模型，并构建属于自己的生成式AI应用程序。

在训练时，Bedrock 会为开发者创建一个基础模型的副本，并对此私有副本进行训练。其中，所有的数据都经过加密的，并且不会离开虚拟专用云（VPC）。此外，这些数据也不会被用来训练底层大模型。

此外，开发者还可以通过在 Amazon S3 中提供一些标注示例来为特定任务微调模型，无需大量个人数据就能产生比较满意的结果。

更重要的是，Bedrock 可以与平台上其他的工具和功能配合使用，这意味着开发者无需管理任何额外的基础设施。

自研「泰坦」+第三方 SOTA 模型

具体来说，Bedrock 主要包含两部分，一个是亚马逊云科技自己的模型 Titan，另一个是来自初创公司 AI21 Labs、Anthropic，以及 Stability AI 的基础模型。

基础模型具体包括：

. Amazon 自研 Titan

. Claude（Anthropic）

. Jurassic-2（AI21 Labs ）

. Stable Diffusion（Stability.AI）

Titan 基础模型的构建是基于亚马逊云科技在机器学习领域20多年的经验。

Titan 包含了两个大语言模型，一个是用于生成文本的 Titan text，一个是让网络搜索个性化的Titan Embeddings。

Titan text 针对的是总结、文本生成、分类、开放式问答和信息提取等任务。

文本嵌入 Titan Embeddings 模型，能够将文本输入（字词、短语、大篇幅文章）翻译成包含语义的数字表达（embeddings 嵌入编码）。

用户可以通过自己的数据定制 Titan 模型。并且，亚马逊云科技非常保护用户数据隐私，不会将用户数据拿来再训练Titan模型。

而且，不同于其他大模型时常会出现的「幻觉」，Titan 在训练时非常关注精度，就是为了保证产生的响应一定是高质量的。

除了亚马逊云科技的 Titan 模型，开发者们还可以利用其他的基础模型。

其中包括 AI21 Labs 开发的 Jurassic-2 多语种大语言模型系列，能够根据自然语言指令生成文本内容，目前支持西班牙语、法语、德语、葡萄牙语、意大利语和荷兰语。

还有 Anthropic 开发的大语言模型 Claude，能够执行多轮对话和文本处理任务。

第三个基础模型便是 Stability AI 的文本图像生成模型 Stable Diffusion。

通过这些模型，开发者只用 20 个样本，就能一键定制自己的模型。

举个例子，一位营销经理想为手提包新品开发广告创意，他只需向 Bedrock 提供标注过的最佳广告，以及新品描述，Bedrock 就能自动生成媒体推文、展示广告和产品网页。

同样的，所有数据都进行了加密，任何客户数据都不会被用于训练底层模型。

目前，Coda AI、Deloitte、埃森哲、Infosys 等合作伙伴已经用上了 Bedrock。

AIGC 爆发，云服务供应商需求猛增

随着相关技术的演进，各行各业对于 AIGC 内容的需求也在不断增加，从营销到客服，再到新闻和娱乐等等。

这对于那些提供基础设施服务的供应商来说，是一个非常好的机会。

根据 Gartner 的预测，到 2025 年，AIGC 数据将占到所有数据的 10%，而目前这一比例还不到 1%。

为了在这个领域占据一席之地，微软和谷歌相继推出了基于自家模型的云服务——前者高调宣布将ChatGPT整合进 Azure OpenAI Service，而后者也在 Google Cloud 上推出了企业级生成式 AI 工具。

相比之下，亚马逊云科技在 Bedrock 中搭载的模型则更加丰富，不仅有自研的泰坦，还有来自其他初创公司的开源模型。而且，据称还会有更多的模型加入其中。

凭借其灵活性和定制选项、以及对隐私的承诺，Bedrock 更能迎合不同行业的独特需求。

现在模型虽然有了，但为了能让更多人用上，其训练和推理的成本还需要进一步降低。

亚马逊云科技的自研芯片，无疑为其带来巨大的优势。

其中，包括 Inferentia2 和 Trainium，可以让客户在进行机器学习工作时，将成本降到很低。

与其它 EC2 实例相比，由 Trainium 支持的 Trn1 计算实例可以节省高达 50% 的训练成本。

并且经过优化，可以在与高达 800Gbps 的第二代 EFA（弹性结构适配器）网络相连的多个服务器上分发训练任务。

800 Gbps 是一个很大的带宽，但亚马逊云科技还宣布新的网络优化 Trn1n 实例的普遍可用性。

它提供 1600 Gbps 的网络带宽，旨在为大型网络密集型模型提供比 Trn1 高 20% 的性能。

除了训练需要大量算力，当基础模型进行大规模部署时，每小时进行数百万次推理请求也需要大量成本。

亚马逊云科技曾在 2018 年发布了首款推理专用芯片 Inferentia，已经运行数万亿次推理，并节省数亿美元成本。

与上一代相比，Inf2 实例不仅吞吐量提高了 4 倍，延迟降低了 10 倍，还可实现加速器之间的超高速连接以支持大规模分布式推理。

前段时间发布的最新文本生成视频模型 Gen-2 的公司 Runway，有望利用 Inf2 将部分模型的吞吐量提升至原来的2倍。

20 多年来，人工智能和机器学习一直是亚马逊云科技关注的焦点。

可以说，在机器学习领域的发明创新已经深深刻在亚马逊云科技的 DNA 里。

当前，用户在亚马逊云科技上使用的许多功能都是由其机器学习驱动的，比如电子商务推荐引擎、优化机器人拣选路线、无人机 Prime Air。

还有语音助手 Alexa，由 30 多个不同的机器学习系统驱动，每周回应客户数十亿次管理智能家居、购物、获取信息和娱乐的请求。

截至目前，已经有 10 万客户在使用亚马逊云科技机器学习的能力进行创新。

亚马逊云科技在人工智能和机器学习堆栈的三个层级都拥有至深至广的产品组合。

通过不断投入、持续创新，亚马逊云科技为机器学习提供高性能、可伸缩的基础设施，和极具性价比的机器学习训练和推理；

另外，Amazon SageMaker 为所有开发人员构建、训练和部署模型提供最大的便利；

亚马逊云科技还推出大量的服务，用户可以通过简单的 API 调用就可添加 AI 功能到应用程序中，如图像识别、预测和智能搜索。

同样，在生成式 AI 技术上，亚马逊云科技也要迈出重要的一步，让这项技术也要赋能千行百业。

亚马逊云科技所做的就是，将基础模型的能力让许多客户能够访问、为机器学习推理和训练提供基础设施、让所有开发人员提高编码效率。

此前，亚马逊云科技曾与 Hugging Face 和 Stability AI 等公司合作，但从未透露发布本土大语言模型的计划。

但亚马逊云科技数据库、机器学习和分析副总裁 Swami Sivasubramanian 表示，公司长期以来一直致力于大语言模型，而 LLM 早就被用来帮助购物者在亚马逊云科技的零售网站上搜索产品，以及支持 Alexa 语音助手等应用。

亚马逊云科技在生成式 AI 上的几项创新只是一个开始。这是一场技术革命的早期阶段，并将持续几十年。

在这个最新的节点上，亚马逊云科技将通过自身创新降低 AI 的门槛，进而赋能千行百业。

扫码关注公众号

获取更多技术资讯