AI播客:换个方式听新闻 下载mp3
据外媒报道,亚马逊(AMZN.O)旗下的云计算部门正加快将最新一代AI芯片推向市场,试图重新推动这款能够对标英伟达和谷歌产品的硬件销售。
这款名为“Trainium3”的加速器近期已被部署到部分数据中心,并将从周二起向客户开放。亚马逊云服务部门副总裁戴夫·布朗(Dave Brown)在一次采访中表示:
“等到明年年初,我们会以非常快的速度开始全面扩容。”
这款芯片是亚马逊在AI领域建立差异化优势的关键一环。AWS是全球最大的按需租用算力和数据存储服务提供商,但在AI工具主要开发者当中,它并未复制这种市场主导地位。一些公司选择依赖与ChatGPT开发商OpenAI关系更紧密的微软,或选择Alphabet旗下的谷歌。
亚马逊希望吸引那些追求高性价比的企业。公司表示,Trainium芯片能够以比英伟达市场领先的GPU更低的成本、更高的效率运行AI模型背后的高强度计算。布朗说:
“我们对Trainium在价格和性能上的表现非常满意。”
亚马逊在推出上一代加速器约一年后就发布了Trainium3。以芯片行业的节奏来看,这几乎是奔跑式的迭代。一名AWS工程师在今年8月芯片首次点火时开玩笑称:“我们最希望看到的就是别冒烟、别起火。”
这次快速迭代也契合英伟达的节奏,后者承诺每年发布一款新芯片。但问题在于,亚马逊的芯片缺乏英伟达GPU所具备的庞大软件库,而有了这些软件库才能让客户快速上手。
Bedrock Robotics是一家利用AI让工程机械实现自主操作的公司,其基础设施运行在AWS服务器上。但在构建挖掘机导航模型时,Bedrock选择使用英伟达芯片。该公司首席技术官凯文·彼得森(Kevin Peterson)表示:
“我们需要它具备强劲性能,同时易于使用。这就是英伟达的优势。”
目前,大部分正在使用的Trainium芯片掌握在Anthropic手中,部署在印第安纳州、密西西比州和宾夕法尼亚州的数据中心。AWS今年早些时候表示,它已将超过50万颗Trainium连接在一起,帮助这家AI初创公司训练最新模型,并计划在年底前为Anthropic配备100万颗芯片。
亚马逊押注,Anthropic的成功,以及自身的AI服务,将吸引更多企业跟进。亚马逊为这款芯片公布的其他大型客户不多,使分析师难以评估Trainium的实际效果。
Anthropic也在使用谷歌的TPU芯片,并在今年早些时候与Alphabet旗下部门达成协议,使其能够使用价值数百亿美元的算力。在接受电视采访时,AWS首席执行官马特·加尔曼(Matt Garman)表示,公司与Anthropic的关系“非常紧密”。他说这家初创公司对算力的需求巨大,因此会选择多家供应商。
亚马逊周二还宣布更新其核心AI模型系列“Nova”。新的Nova 2产品包括一款名为Omni的变体,它能接收文本、图像、语音或视频作为输入,并以文本或图像进行回应。
与芯片一样,亚马逊也试图通过“性能配上价格”来吸引客户。此前的Nova模型在回答标准化问题的行业基准测试中通常不属于领先阵营。
负责亚马逊大模型研发和通用AI团队的罗希特·普拉萨德(Rohit Prasad)在采访中表示:“真正的基准是现实世界。”他补充说,新模型将具备竞争力。
公司还计划让客户在定制亚马逊模型时能够使用更多数据。一款名为Nova Forge的新产品,旨在让技术能力更强的用户在模型训练尚未完成时,就能抓取Nova模型的版本,并利用自己的数据对其进行定制。
据了解,Reddit正在使用Nova Forge构建一个模型,用于评估帖子是否违反平台的安全政策。该公司首席技术官克里斯·斯洛(Chris Slowe)表示,一些AI客户往往倾向于用最先进的模型解决所有问题,而不是寻找在特定领域具备专业能力的模型。
“让它成为我们特定领域的专家,这才是价值所在。”