发布日期：2024-12-12 13:44 点击次数：102
生成式 AI 在擢升坐蓐力遵循方面展现出浩大的后劲，这也使得企业坐蓐力场景成为畴昔两年生成式 AI 落地速率最快的应用领域之一。可是，企业在初步体验了这一时代的「尝鲜」之后，如何确保职工在责任中不息使用生成式 AI女同 a片，而不是将其抛弃一旁，已成为总共竞争 AI 基础设施的云计较巨头们必须想考的首要问题。
这就需要回答一个中枢问题：「今天企业在应用生成式 AI 时濒临哪些挑战？」而在这一话题中，亚马逊云科技无疑是最有发言权的企业之一。
在正在进行的 re:Invent 大会上，亚马逊云科技推出了数十项生成式 AI 关连的新址品，涵盖了从最底层的 AI 算力芯片、模子西席和基础模子，到中间层的智能体配置，再到最表层的 AI 应用，时代栈触及各个领域。
这些新址品和器具并不是时代团队简陋界说的，而是源自畴昔一年中数万客户提议的各式需求。通过这些反应，亚马逊云科技巧够精确识别出客户濒临的挑战，并据此推出合适需求的翻新址品。今天企业引入生成式 AI 的主要挑战可以归纳为五点，按首要性排序如下：
丰富的选拔权
更低的部署资本
西席更敏捷、更专科的小模子
澌灭幻觉
处理更复杂的任务
极客公园追念了为什么这五大需求成为今天企业引入生成式 AI 的环节挑战，并梳理了亚马逊云科技在本届大会上发布的生成式 AI 新址品和劳动，是如何匡助企业吩咐这些环节问题。
01 选拔权大于一切
在当地时刻周二上昼的 Keynote 法子中，无论是马特 · 加曼如故安迪 · 贾西，在谈及企业部署生成式 AI 时，齐瞩目强调了「丰富的选拔（Choice Matters）」关于客户的首要性。
这点在亚马逊云科技的大模子策略中发达得尤为杰出。与微软云和谷歌云等厂商更倾向于依赖自家大模子或顶尖合作伙伴的策略不同，亚马逊云科技诚然自主研发了 Titan 和 Nova 系列大模子，并重金投资了 Anthropic 这样的顶尖大模子配置商，但其全体策略更堤防为配置者提供一个种种化的大模子选拔平台，用以构建 AI 应用。
亚马逊 CEO 安迪 · 贾西晓谕 Amazon Nova 系列大模子 丨来自：极客公园
加曼指出，丰富的大模子选拔是 Amazon Bedrock 蛊惑客户的环节身分之一。他示意：「咱们发现，并非总共客户齐但愿使用单一模子。他们更倾向于证据需求选拔多种不同的模子。有些客户偏好使用开源模子，比如 Llama 或 Mistral，这使他们能够自行进行微调；有些客户的应用尺度需要图像处理模子，举例 Stability 或 Titan 提供的模子；还有许多客户尤其钟爱最新的 Anthropic 模子，因为不少东说念主觉得这些模子在通用智能和推理才略方面的发达号称阛阓最好。」
而看成亚马逊云科技最首要的「客户」，亚马逊对此深有体会。畴昔在亚马逊里面构建技俩中所使用模子的种种性令东说念主骇怪。亚马逊给了配置东说念主员自主选拔的职权，原来以为全球齐会选拔 Claude 这样的顶尖模子——诚然如实里面也有好多配置东说念主员选拔了 Claude，但他们也会接管 Llama、Mistral，以及一些我方配置的模子。
这其实并不奇怪。因为一直以来，很难出现一种器具能在某个领域一统全国。就像数据库领域探讨了 10 年，全球依然会使用各式各样的关系型数据库或者非关系型数据库。
而在本年的 re:Invent 上，亚马逊云科技进一步扩张了其大模子供应库。
一方面，亚马逊云科技发布了自研大模子 Amazon Nova，并晓谕与擅长视频生成模子的 Luma AI 以及擅长代码生成的 poolside 等大模子配置商达成合作，连续丰富模子库的供应商合作伙伴。
另一方面，亚马逊云科技晓谕推出 Amazon Bedrock Marketplace，里面提供了越过 100 个来自全球供应商的基础模子居品，当今用户可以在 Amazon Bedrock 上选拔和测试这些新模子，并联络 Bedrock 上的常识库、FT、Guardrails 等功能，将其部署到 AI 应用。
02 更低的部署资本
关于企业部署生成式 AI 应用而言，计较资本一直是一个绕不开的问题。诚然今天鲜少有传统行业的公司参加数千万乃至数亿好意思元预西席基础模子，但当生成式 AI 应用达到一定例模，推理资本就成为企业必须揣摸的参加。
本年早些时候，亚马逊云科技剧透了第二代自研 AI 计较芯片 Trainium 2。而在 re: Invent 大会期间，亚马逊云科技认真推出 Amazon EC2 Trn2 实例，相较 GPU 实例，性价比擢升 30%-40%，这个计较实例包含 16 个 Trainium 2 芯片，每组应用实例可以达到 20.8 PFlops 的算力；此外还有包含 4 组实例即包含 64 个 Trainium 2 芯片的 Trainium 2 超等劳动器（UltraService），浮点运算才略可以达到最高 84.2 PFlops。
更首要的是，Trn 2 芯片有着更低的单元算力资本。在生成式 AI 计较领域，英伟达的 GPU 可以占到全球 95% 以上的阛阓份额。当全球范围内总共的生成式 AI 应用尺度基本齐是基于一种芯片构建起来的，全球齐遑急但愿得回更高的性价比，这便是行业对 Trainium 2 抖擞的原因。
亚马逊云科技 CEO 马特 · 加曼晓谕 Trainiums 3 丨来自：亚马逊云科技
此外，亚马逊云科技还在会上剧透了下一代算力芯片 Trainium 3。据悉，该芯片将接管 3nm 先进制程工艺，提供两倍于 Trainium 2 的算力，以及 40% 的单元能效擢升。
除了更高性价比的算力供给，亚马逊云科技还在戮力于利用器具和架构层面的优化，镌汰企业配置的 AI 应用在调用大模子的过程中消耗的算力资源。
除此以外，亚马逊云科技还在会上发布了 Prompt Caching，这是一种在大谈话模子中存储和复用请示词的时代。也便是当用户提议卓越的问题时，Agent 可以径直调用此前存储的死一火，进而减少计较支出、延长和资本，特等是在那些需要时时使用相易请示的应用尺度中。Prompt Caching 可以从简 AI 应用近 90% 的推理资本。
03 西席更敏捷、更专科的小模子
尽管生成式 AI 是一个翻新速率极快的领域，但对企业而言，想要在资本、功能上找到圆善契合自身用例的模子依然十分勤恳。
AI 应用配置者但愿找到的是一个延长低、资本低，但又能高慢专科要求的模子，但要罢了起来并谢却易。有时候，配置者找到了一个专科常识匹配度很高的模子，它很机灵也很可以，可便是价钱偏高，况兼运营速率较慢；又有的时候，配置者找到了一个速率更快、资本更低的模子，但它在功能上又够不上今天的需求。
东说念主们处理这一问题的其中一种步调叫作念模子蒸馏。具体作念法神圣来说，便是将一个特定的问题集发给才略更强的大型模子（比如 Llama 405B 模子），然后把总共的数据、谜底与问题一说念用来西席一个较小的模子（比如 Llama 8B 模子），使其成为某一特定领域的大师，如斯一来，就能得到一个范围更小、运行速率更快且知说念如何准确回答特定问题集的专科模子。
这种步调在生成大师模子方面成果如实可以，但需要机器学习大师来操作，骨子操作起来难度颇高，得治理总共的数据责任流，要处理西席数据、诊治模子参数，还要推敲模子权重等，挑战不小，而亚马逊云科技但愿能让这一过程变得更神圣易行。
模子蒸馏功能丨来自：极客公园
为此，亚马逊云科技在会上晓谕在 Amazon Bedrock 中推出模子蒸馏功能。比拟于被蒸馏的模子，新模子的运行速率能够擢升 500%，资本还能镌汰 75%，况兼用户只需要将应用的示例发给 Amazon Bedrock，后者会帮用户完成总共的剩余责任。
不外，获取合适的模子只是第一步，用户最终的方针不是为了获取一个好的模子，而是要让 AI 应用能够输出鼓胀有价值的死一火。完成这一步不仅需要好的模子，也需要让企业畴昔累积的数据证实作用，这也才略信得过让企业构建将来的相反化竞争上风。
Amazon Bedrock 此前仍是上线了关连的 RAG（检索增强生成）功能，最新发布了更进一步的 GraphRAG（图像检索增强生成）。
但要信得过罢了这一接洽，企业起原需要作念好数据治理。这是一个先决要求，惟一在确保数据质地和治理完善的基础上，各种数据才略在增苍劲模子才略的过程中证实最好成果。
为此，亚马逊云科技本年在数据治理领域推出了纷乱新址品，包括新式数据治理器具 Amazon S3 Tables 和便于数据查找的元数据器具 Amazon S3 MetaData。此外，亚马逊云科技还进一步加强了数据系统与 Amazon Bedrock 和 Amazon SageMaker 等配置系统的整合，使配置者仅需在一个系统内进行神圣的拖放操作，就能削弱罢了 RAG（检索增强生成）等功能。
04 无幻觉，1% 齐不行
第四是大模子须生常谭的问题——幻觉。骨子上今天糟塌东说念主们将生成式 AI 引入信得过的坐蓐环境（尤其是环节任务关连的应用场景）的，还有一个好多东说念主齐驰念的问题，那便是模子的幻觉高兴。
尽管如今的模子仍是发达得很可以了，但有时如故会出错。当你在去年或者昨年进行主见考证时，90% 的准确率有时还能收受，但当触及到坐蓐应用尺度，深远到具体细节时，这样的准确率就不行了。
以保障行业为例，假定你早上走进浴室，发现漏水了，地上全是水，然后你去保障网站查询这是否在保障赔付范围内，看成保障公司，若是客户商榷这类事件是否能理赔，你必须给出准确无误的回答，这是完全不可出错的情况。
是以亚马逊云科技召集了一组专科东说念主员，想考是否有可以应用的时代，通过新的形式来匡助他们处理这个问题。这组东说念主员研究了各式不同的时代，其中一种便是自动推理。
自动推理骨子上是一种能够从数学角度讲明某事正确的 AI 神色，芜俚被用于考证系统是否按照既定要求运行，迎面对的系统遮掩面相配大，大到无法东说念主工一一稽查，且筹办于系统运行形式的常识库时，自动推理就能证实很大的作用，在必须确保谜底准确无误的情况下，它显得尤为首要。
自动推理查验功能丨来自：极客公园
会上，亚马逊云科技晓谕推出自动推理查验功能（Automated Reasoning checks），它能够防护因模子幻觉而导致的事实性装假。当你启用这些自动化推理查验功能时，Amazon Bedrock 可以对模子所作念出的事实讲明进行准确性查验，这一切齐是基于可靠的数学考证，况兼会向永不展示得出论断的依据。
举例一家保障公司，决定启用自动化推理查验功能，要作念的便是上传总共的保单，然后 Amazon Bedrock 里面的自动化推理系统会自动生成相应规矩，接着会经验一系列大约需要 20 到 30 分钟的迭代过程，来诊治并投诚正确的酬金形式，它认识过向配置者发问等形式，信得过搞澄澈保单的具体运作机制。
回到之前浴室漏水的例子，自动化推理系统会稽查反应死一火，若是模子对谜底不投诚，它会将关连情况复返，并给出其他请示建议，或者告诉客户可以怎样向模子补充信息，惟一当自动化推理查验确保谜底准确无误后，才会将死一火发送给客户，这样就能百分之百投诚发给客户的死一火是准确的，这是在其他所在无法获取的功能，这将切实匡助企业用户在把推理功能融入环节任务应用尺度时幸免出现问题。
05 能处理复杂任务
企业部署生成式 AI 应用的临了一说念门槛，在于能否配置出能够处理复杂任务的应用。
这点在畴昔几个月里牢固成为全行业的共鸣。智能体 Agent 的出现，让企业用户可以相配神圣的构建 AI 应用，这亦然亚马逊云科技推出 Amazon Bedrock Agents 的原因。
清纯唯美激情Amazon Bedrock 让构建智能体以及创建能够在公司总共系统和数据中施行任务的智能体变得十分容易，通过使用 Amazon Bedrock，企业用户只需用当然谈话描摹想要智能体完成的任务，它就能快速构建出来，然后智能体便可以处理诸如处理销售订单、编制财务讲演或者分析客户留存情况等任务。
面前这些智能体在处理神圣任务（单个孤苦任务）时发达得很可以，客户也仍是从 Amazon Bedrock 智能体中得回了不少收益。但亚马逊云科技团队收到的反应泄露，客户盼愿更多，他们但愿能够跨多个智能体施行复杂任务，可能触及数百个智能体并行操作，但在当下，要妥洽这样多智能体确凿是不可能的事。
举个例子，假如你计算着一家全球咖啡连锁店，想要创建一些智能体来匡助分析开设新店的风险，那你可能会创建一系列智能体，比如创建一个分析全球经济身分的智能体，一个稽查关连阛阓动态的智能体，致使还可以创建一个为孤苦门店作念财务展望的智能体。
总的来说，你有时会创建十几个智能体来针对一个地点进行分析并复返相应信息，这自身是很有价值的。但当这些智能体复返信息后，你还需要将它们整合起来，分析它们之间的互关说合，然后再与不同地区的情况进行对比。
一般情况下，这样的操作还算可控，但计算者可能不会只覆按一个地点，也许是想对数百个潜在的开店地点进行分析，而且这些地点还散播在不同的地舆区域。当这样作念的时候，你会发现这些智能体可能并非孤苦责任，智能体 A 所掌合手的信息有时对智能体 B 是有价值的，是以你其实但愿它们能够互相交互、分享信息。可一朝触及到数百个智能体齐要进行交互、复返数据、分享信息、再复返操作时，通盘治理系统的复杂进度就会急剧飞腾，变得完全难以掌控。
马特 · 加曼晓谕多智能体相助功能丨来自：极客公园
但罢了这样的功能，有浩大的生意价值，是以亚马逊云科技推出了多智能体相助功能 multi-agent collaboration，后者能够处理更复杂的责任进程。就像前边举的例子一样，计算者可以创建一系列专为特定个性化任务想象的智能体，然后再创建一个监督智能体，负责管缄默能体探访信息的权限、投诚任务是按照规章启动如故并行进行，并妥洽动理各个智能体复返的信息，确保智能体之间能够有用相助。
金融数据分析公司穆迪评级与亚马逊云云科技伸开了合作，并对这个早期版块进行了试用，配置了一个可以让客户生周全面的财务风险讲演的应用尺度。从死一火而言，畴昔完成这样的责任需要糟践别称职工节略一周时刻，而使用了多智能体相助以后，仅用一个小时就能完成雷同的任务，遵循得到了极大的擢升。
06 结语
本年的 re:Invent 无疑是一场令东说念主震荡的嘉会。不少已合并参与多届的企业客户、时代东说念主员和工程师齐用「震荡」来形容。致使连仍是离开亚马逊云科技数年的外传 CEO 安迪 · 贾西——曾指挥亚马逊走出逆境的环节东说念主物，也时隔多年再次登上了 re:Invent 的舞台。
前三天的步履里，亚马逊云科技发布了数十个生成式 AI 领域和云基础设施关连的新址品和时代，这些新址品中，单独拿出一两项时时便足以成为一场云劳动公司大型发布会的中枢内容。亚马逊云科技之是以选拔在一场发布会上鸠集推出如斯多的新功能，主要有两方面原因：一是刻下 AI 应用企业濒临的问题极度复杂，需要多维度、多场景的处理决策来吩咐；二是亚马逊云科技长期以来剿袭的「客户至尚」文化，驱动其以全面的翻新骄稀客户需求。
而这种高密度的发布也从侧面展现了亚马逊云科技在生成式 AI 领域的浩大资源参加和坚硬的策略意图，标明其在这个飞速发展的领域中占据最初地位的决心。
行将到来的 2025 年，无疑将成为生成式 AI 在企业级阛阓大范围部署的环节节点。从本年 re:Invent 发布的纷乱应用和新功能可以看出，经过几年的尝试与探索，生成式 AI 的发展仍是迈出了从早期考试阶段向产业落地的转动。这一阶段不再只是暖和时代的可行性，而是开动聚焦于如那儿理企业具体的业务需乞降骨子问题。
这些问题正被快速处理女同 a片，绚丽着生成式 AI 不仅看成坐蓐力器具的后劲被考证，更牢固具备看成中枢坐蓐力的才略。换句话说，生成式 AI 仍是靠近了「信得过可用」的临界点，即从主见考证走向大范围应用的边际。