云筹备大厂揭秘组合拳：自研大模子仅仅开胃菜

作家 | ZeR0剪辑 | 漠影

在生成式AI竞赛中，亚马逊云科技（AWS）若干有些“另类”。它不像其他云大厂那样强调自研模子的顶尖性能，而是早早推出一个大模子货架，集邮般摆上了各家头部大模子，供客户挑选。

“莫得一个模子能包办一切”，这个被亚马逊每每强调的理念，依然慢慢深入东谈主心。而在本年的年度云筹备产业嘉会re:Invent上，亚马逊云科技却又不测地发布全新大模子系列Nova的6款前沿模子，而且剧透了来岁将发布的两款特别模子——语音到语音、纵情到纵情（Any-to-Any）。

这意味着亚马逊云科技在重押好意思国大模子独角兽Anthropic的同期，对自研模子也并未松懈。

在re:Invent时期，亚马逊云科技生成式AI大众副总裁兼总司理Vasi Philomin与智东西等少数媒体就这些问题进行了深入一样。他谈到现时文本模子需求最大，语音到语音也终点流行（简直时同传翻译），纵情到纵情则是更远的翌日。

纵情到纵情模子属于多模态到多模态，用户不错输入文本、语音、图像或视频等多种表情的内容，并相应地输出文本、语音、图像或视频。

Vasi Philomin向咱们解释说，纵情到纵情模子适用于变化许多的情况，比如不成信服是图像照旧视频类型。“你不成把纵情到纵情模子用作文本到文本的模子，”他强调谈，“它可能资本挺高，但成果反而不好。”

最强有时是最优解，好用才是硬酷好酷好。

整场re:Invent大会齐在连绵不竭地传递一个信号——亚马逊云科技的生成式AI竞争力胜在全面，有丰富多采标大模子品类，还有加快从老师到推理的各式器用“套餐”，以及围绕平台、存储、网罗、数据库的一系列升级……一切变动齐指向一个所在，即让云客户更快更方便地用生成式AI产生价值。

在沙利文大中华区总监李庆看来，本届re:Invent大会上的新发布愈加侧重于居品的现实应用和器用优化，这标明往常一年中，大众用户正在积极使用亚马逊云科技进行生成式AI应用的探索和创新。

有两个方面令他印象深远：一是跟着大众企业对生成式AI的深入应用，数据不仅收尾跨区域的传输与协同，更收尾跨地域、跨区域的深度相接；二是亚马逊云科技进一步优化生成式AI的应用，从数据存储、治理到治理的全历程提高，旨在简化AI对数据的使用，同期强化模子功能、加多AI Agent治理和应付模子幻觉的功能。此外，新发布的Amazon Nova大模子眷属备受期待，这一系列的模子和亚马逊云科技的通达领受理念将为用户带来更多创新契机，进一步鞭策AI的发展。

一、大模子货架上新：不会薄彼厚此，提供试用契机

新发布的Nova基础模子包括Micro、Lite、Pro、Premier模子，Micro是纯文本模子，后三者齐是多模态模子，还有文生图模子Canvas和文生视频模子Reel。这些模子齐复旧微长入蒸馏，还与Amazon Bedrock的常识库深度集成，可用于检索增强生成（RAG）。

Vasi Philomin告诉智东西，亚马逊云科技的每个新模子、新服务在面世前齐会经过里面究诘历程，Bedrock寓意“基石”，Nova寓意“新”。他说亚马逊云科技不会公布模子参数的情况，怎么领受取决于客户念念要领有怎么的机动度。

“咱们对系数的模子齐一视同仁。”看成Amazon Bedrock的崇拜东谈主，Vasi Philomin称我方的团队终点中立，不会在模子间薄彼厚此。

订价由模子提供商设立，不恻隐况下有许多不同的考量。亚马逊云科技莫得去绑定某一个特定的模子，永恒向客户提供领受的空间。

大模子仅仅生成式AI应用创新的一部分。亚马逊云科技的全托管AI平台Amazon Bedrock除了提供了各式大模子外，还有特意的试用服务。客户不错在尝试后笔据成果和价位进行综认为议。

此外，亚马逊云科技提供有模子版块策略，在模子生命周期收尾的时候（即新址品不再使用时），会再给客户6个月的时候。在Vasi Philomin看来，一些新老版块替代会占用筹备资源，从资本、效率的角度不见得合算，换个新的可能更省钱。

亚马逊云科技对Nova模子性价比很有信心，称它们比Amazon Bedrock中的其他开首模子不详低廉75%。

二、Amazon Bedrock五大功能：挑选模子，集结数据，构建Agent

在re:Invent大会上，亚马逊CEO Andy Jassy共享了亚马逊里面构建近1000个生成式AI应用所累积的三条教育：

1、当生成式AI应用达到一定例模，筹备资本的弥留性就突显出来。客户遍及但愿取得更高性价比。

2、打造一个着实优质的生成式AI应用程序颇具难度，除了有好模子，还要设立恰当的“护栏”，保证音问传递通顺，领有合适的用户界面，让用户用起来不卡顿，而且要具备合理的资本结构。

3、不会出现一种器用一统全国的情况。开采者并莫得一窝风地选用性能最顶尖的模子，会选用不同模子，也会选用一些自研模子。

亚马逊云科技在2023年9月推出的全托管AI平台Amazon Bedrock则作念到了上述才智的蚁集。据Vasi Philomin共享，该平台已发展成亚马逊云科技面前增长速率最快的服务。

亚马逊云科技CEO Matt Garman称Amazon Bedrock是面前构建和扩张生成式AI应用最便捷的花式，尤其擅长为客户提供将生成式AI集成到分娩应用程序中所需的一切成分。

Amazon Bedrock的定位是匡助用户更好地试用模子，主要有五大功能：1）选模子；2）找到资人道能和准确性的一个均衡；3）集成业务数据；4）要集成业务的安全性；5）构建Agent。

该平台的多项发布和创新，也围绕这五大功能伸开。

开首在选模子上，除了亚马逊云科技新发布的自研大模子Nova系列以及来自大众9家开首AI公司的高性能基础模子外，这家云筹备大厂还推出了Amazon Bedrock Marketplace，提供来自100多个新兴和专科基础模子，复旧客户用合并API来调用并利用Amazon Bedrock中的才智来构建应用。

为了让挑模子更省事，Amazon Bedrock智能教导词路由功能不错动态地将恳求路由到最有可能以最低资本出最好反映的模子，在不影响准确性的情况下能将资本诽谤30%。这么开采东谈主员就无谓花大批时候来磨练和找到最顺应每个用例的模子。

其次在寻求业务需求、专科常识、预算与模子精度、资本、延时的均衡方面，模子蒸馏很有用。

模子蒸馏将特定常识从一个大而准确的教师模子蒸馏出一个更小但在特定场景中终点高效的定制模子。使用新推出的Amazon Bedrock模子蒸馏，蒸馏过的模子比较被蒸馏的模子，运转速率大概快500%，资本诽谤75%，而且Amazon Bedrock会匡助处罚系数相关责任。

Amazon Bedrock新发布的蔓延优化推理选项、教导词缓存功能也能进一步诽谤蔓延，大幅缩减资本。

取得合适模子后，下一步是将企业数据与智能模子相集结。

将数据添加到模子中并进行整合的一种热点方法叫检索增强生成（RAG），有助于模子基于企业数据提供更相关、更准确且更具定制化的回复。

亚马逊云科技在本年早些时候推出了Amazon Bedrock常识库功能，它属于托管的RAG索引，能将系数的数据摄取、检索及增强责任流收尾自动化，无需用户自行对这些关节进行全面治理。

客户只需将常识库指向我方的数据源，它就会自动将其调养为文本镶嵌，然后存储到一个向量数据库中。这么客户就能随时进行自动检索了，而且系数的检索放手齐会自动包含援用信息，方便用户贯通信息来源、提高贯通进度。

常识库依然是Amazon Bedrock中最受宽待的功能之一，并在捏续添加新功能，比如新增对向量数据库、结构化数据检索、GraphRAG的复旧。

Amazon Kendra GenAI Index则能为常识库提供语义准确性高的托管检索决策，内置超越40多个企业数据源。

Amazon Bedrock常识库复旧结构化数据检索、GraphRAG，可查询各式来源的系数结构化数据，自动生成常识图谱。新发布的Amazon Bedrock Data Automation功能则不错自动将非结构化的多模态内容调养为结构化数据，无需写代码，让将多模态内容用于生成式AI的过程变得更容易。

导入我方的企业数据后，需要推敲安全性和设定AI应用程序的功能规模。

对此亚马逊云科技推出了Amazon Bedrock Guardrails护栏功能，用于松懈界说应用程序的安全性，并实施负拖累的AI查抄。使用这个功能，你不错收尾AI应用只在特定领域回答问题。

针对模子幻觉问题，可行时期之一是自动推理，亚马逊云科技在诸多幕后服务中齐诈欺了该时期。这是一种大概从数学角度解说某事正确的AI表情，闲居被用于考证系统是否按照既定条款运转，尤其适用于系统袒护面大到无法东谈主工一一稽查，且相关于系统运转花式的常识库的场景。

最新推出的是Amazon Bedrock自动推理查抄功能，不错对模子所作念出的叙述进行准确性查抄，肃穆因模子幻觉而导致失误。

亚马逊云科技还发布了Amazon Bedrock Guardrails多模态毒性检测功能，大概筛查非结构化数据中可能包含的潜在无益内容。

临了触及到怎么利用优质数据选用行径。

亚马逊云科技此前推出了Amazon Bedrock Agent功能，让构建智能体变得更容易。客户只需用当然谈话刻画念念要Agent完成的任务，它就能快速构建出来。被构建出的Agent不错处理销售订单、编制财务禀报、分析客户留存情况等任务。背后用到的模子推理时期使Agent能阐明责任历程，调用正确的API来奉行操作。

在此基础上，针对多智能体并行操作的任务，亚马逊云科技又推出了Amazon Bedrock多Agents配合功能，大概构建、部署和编排多个Agents，协同处理复杂的多设施任务。

跟前边的作念法差未几，客户不错创建一个专为特定个性化任务筹算的Agent，再创建一个监督Agent，它就好比复杂责任历程的“大脑”，崇拜和洽分拨、确保多Agent之间大概灵验配合，并能设定哪些Agent能拜访巧妙信息，把正本难以和洽的工程任务变得浮浅易行。

总体来说，Amazon Bedrock的功能不啻是为了方便客户获取业界先进模子，而是内置了许多配套器用和工程化才智，不错让现实业务与生成式AI集结的操作过程更方便、放手更胜利。

三、下一代Amazon SageMaker：数据分析和AI需求的合并拜访中心

生成式AI应用创新要取获凯旋，需要有AI ready的数据。因此，亚马逊云科技发布了新一代Amazon SageMaker，从居品及品牌方面将其从头定位为“所少见据、分析和东谈主工智能需求的中心”。

许多云客户在数据的治理、发现、处理、分析以及生成式AI应用创新方面的需求越来越和会。对此，亚马逊云科技发布了Amazon SageMaker Unified Studio。这是一个单一的数据和AI开采环境，整合了在亚马逊云科技等分析师和数据科学家所使用的各式服务、查询剪辑器、可视化器用，以便客户拜访组织中的所少见据，并使用最顺应的器用对其进行操作。

亚马逊云科技还推出了面向应用程序的Zero-ETL，帮客户无需构建和治理数据管谈，即可分析存储在许多最受宽待的第三方SaaS应用程序中的数据。

另一个新发布的Amazon SageMaker Lake House兼容Apache Iceberg，针对系数结构化和非结构化数据源提供单一界面，跨不同数据源提供浮浅合并的数据接入与拜访戒指。客户不错在Unified Studio中松懈处理所少见据，也不错平直从任何复旧Apache Iceberg的第三方AI或分析器用或查询引擎拜访该功能。

为了一站式解决生成式AI全生命周期的问题，Amazon SageMaker AI将大数据分析、机器学习、模子开采和生成式AI方面的教育和会到一个合并平台中，合并了数据、分析和AI责任流，从而匡助排斥机器学习和分析生命周期中的重叠服务。

针对大规模参数带来的模子老师和推理挑战，亚马逊云科技推出Amazon SageMaker HyperPod机动老师谋划和任务治理功能，以优化筹备资源治理。

机动老师谋划基于Amazon EC2容量块，笔据时候线和预算创建最好老师谋划，自动预留容量，设立集群，创建模子老师功课，大概为数据科学团队检朴数周老师时候，最大化筹备资源利用率，可检朴多达40%的资本。

任务治理功能针对治理跨团队的和技俩标筹备资源的挑战，通过自动化生成式AI任务的优先级排序和治理，确保分拨给最高优先级任务并按期完成，从而进一步提高开采效率并诽谤资本。

这两个功能大概大幅提高老师和推理责任负载部署的机动性和对底层硬件资源的使用，让底层硬件资源确认出更好服从。

此外，亚马逊云科技文书合作伙伴的AI应用已在Amazon SageMaker上可用。客户无需预配或治理基础设施，可加快模子开采生命周期，并少见据安全和阴私保险。

接下来一年，亚马逊云科技还将为新的Amazon SageMaker添加大批新功能，如AutoML、低代码体验、专科化AI服务集成、流处理和搜索，以及Zero-ETL的更多服务和数据拜访。

四、生成式AI助手Amazon Q再进化，提高企业分娩力

Amazon Q是在Bedrock上搭建起来的一个生成式AI助手应用。即使你莫得写过一转Python代码，你也不错用当然谈话浮浅叙述业务问题，它会携带你完成构建机器学习模子的过程。

其中Amazon Q Developer是软件开采方面的生成式AI助手，最新推出了3款全新自主Agent，能匡助开采东谈主员生成单位测试、文档、代码审查。

针对从Windows、VMware进行当代化创新的情况，亚马逊云科技提供了当代化Windows.NET应用、加快VMware责任负载和主机挪动的功能，以及首个复旧IBM z/OS的主机挪动解决决策，不错大幅诽谤转已而候和资本，并权臣诽谤风险。

在运营关节，亚马逊云科技通过提供Amazon Q Developer Investigate issues across your Amazon environment in a fraction of the time功能，来匡助更松懈地排查问题。

企业级生成式AI助手Amazon Q Business可相接不同的业务系统、企业数据源，复旧进步各式数据库与系数企业数据进行对话。Q Business为企业数据创建了一个索引，不错从Adobe、Microsoft Office、SharePoint、Gmail、Salesforce、ServiceNow等源中去索引往常一年的数据，并对所少见据保捏高度安全、戒指用户权限。

最新发布的功能是将Amazon QuickSight和Amazon Q Business的数据集结，以一种视图呈现，通过当然谈话与Q系统对话，快速生成买卖禀报和数据分析，协助客户作念出更好的决策并提高业务效率。面前绝大多数信息齐是通过买卖智能系统来拜访的，已有超越10万的客户在使用Amazon QuickSight来闲隙分析需求。

亚马逊云科技提供了一套全新的Q Business API，以便孤独软件供应商拜访在自有软件中集成Amazon Q Index。

针对一些触及多个应用程序、审批关节和手动输入的复杂责任流，亚马逊云科技新发布的Amazon Q Business Automate大概匡助创建跨团队和应用程序的自动任务，通过使用一系列高等Agent来创建、剪辑、珍惜责任历程。在启动责任流后，还会有一个Q Agent捏续对其进行监控，确保大概自动调养并实时建立。以往完成这些责任可能需要消耗数周或数月，而面前仅需几分钟。

结语：从服务、器用到基础设施，全栈升级为生成式AI创造价值托举

正如筹备机科学前驱Alan Kay也曾说过的，最好的软件工程师我方会构建硬件。新的云筹备、生成式AI海浪会鞭策在底层的捏续创新，底层创新反之又会加快数据及AI的进一步发展。和传统IT一样，生成式AI需要筹备、网罗、存储基础设施的托载，而这些恰正是亚马逊云科技耐久累积的上风所在。

将业务和生成式AI集结需要许多工程化才智。在生成式AI发展的早期阶段，亚马逊云科技将其服务重点放在提供“最优组合”上，将时期才智阐明为孤独的构建单位（building blocks），以高性价比组件的表情提供给客户，让客户不错按照我方渴望的纵情组合去尝试和调养，从而检朴开采时候，加快探索生成式AI落地。

总体来看，亚马逊云科技通过提供丰富的自研考取三方大模子货架来闲隙云客户互异化需求，通过Amazon Bedrock解决大模子落地效率问题，通过Amazon SageMaker提高资源利用和数据分析的速率，通过Amazon Q让东谈主东谈主齐能便捷快捷地用上生成式AI分娩器用，通过底层基础设施的升级进一步降本增效。

这些参加在为平庸客户带来更大买卖禀报的同期，也捏续安适着这家云筹备巨头在生成式AI云服务市集的诱骗者地位和中枢竞争力。