亚马逊推出了新一代基础模型Amazon Nova,并宣布将与Anthropic联手开发全球最大AI超级计算机,明年底将推出下一代更先进的3纳米训练芯片Trainium 3,性能将是现有芯片的四倍。此外,苹果正在对Trainium 2芯片进行初步测试,以帮助训练Apple Intelligence。
作为全球最大的云计算提供商,亚马逊在最近与微软和谷歌的竞争中处于下风。为了重振雄风,亚马逊正在加快速度打造在人工智能计算领域的优势。
当地时间周三,亚马逊在拉斯维加斯举行Re:Invent大会,并在大会上宣布了AWS(亚马逊云)的一系列最新重磅计划和产品,包括:
与OpenAI的死对头Anthropic合作,打造全球最强大的AI超级计算机;准备与苹果合作训练Apple Intelligence(苹果AI);明年底推出下一代更先进的3纳米训练芯片Trainium 3。此外,亚马逊还推出了新一代基础模型Amazon Nova。
联合Anthropic,打造人工智能超级计算机
亚马逊网络服务公司首席执行官Matt Garman在会上表示,公司正在创建一个名为UltraServers的AI训练平台——包含64个Trainium 2芯片——以便扩展生成式AI工作负载。
这个云服务平台将用于一个雄心勃勃的计划——AI超级计算机。亚马逊在大会上宣布,将与Anthropic合作开发AI超级计算机UltraCluster,代号Rainer。
亚马逊表示,预计这台计算机将配备数十万个亚马逊最新的AI训练芯片Trainium 2,建成后将比Anthropic当前最强大模型的集群大五倍,并成为全球最大的AI超级计算机。
面对微软和OpenAI的强大竞争组合,亚马逊选择与Anthropic“抱团取暖”,今年已向Anthropic投资80亿美元。
更强大的新一代芯片,挑战英伟达霸主地位?
Garman在Re:Invent大会上表示,Tranium 2将在专门用于训练前沿AI的Trn2 UltraServer集群中普遍可用。
许多公司已开始采用亚马逊的云来构建和训练定制的AI模型,通常配合英伟达的GPU使用。但Garman表示,新的AWS集群比采用英伟达GPU的集群便宜30%到40%。
Garman表示,亚马逊的目标是降低AI的成本。
今天,在GPU方面真的只有一个选择,那就是英伟达。我们认为客户会欣赏有多个选择。
希望Trainium能够开辟出一个良好的细分市场,我认为它将成为许多工作负载的极佳选择——不是所有工作负载。
会上,亚马逊还发布其下一代更先进的3纳米训练芯片Trainium 3,据称该芯片的性能将是现有芯片的四倍,定于2025年底向客户推出。
Moore Insight & Strategy首席执行官兼首席分析师Patrick Moorhead表示,Trainium 3的“数据相当惊人”,它的性能似乎因芯片间互连的改进而获得了显著提升。互连对于开发超大型AI模型至关重要,它们能够实现芯片之间的快速数据传输,AWS似乎已在其最新设计中对此进行了优化。
Moorehead还说,未来一段时间内英伟达可能仍是AI训练领域的霸主,但未来几年它将面临越来越激烈的竞争,亚马逊的创新“表明英伟达并不是训练领域唯一的玩家”。
与苹果的合作拉开新篇章?
据媒体此前报道,苹果正在考虑将Trainium 2芯片用于Apple Intelligence训练。Garman在会上表示,苹果是其客户之一,已经采用了一些AWS芯片,如Amazon Graviton和Inferentia,为包括Siri在内的服务提供支持。
苹果的AI和机器学习高级总监Benoit Dupin随后在拉斯维加斯的会议上上台。他表示,苹果与AWS合作了“几乎所有阶段”的AI和机器学习生命周期。
AWS能够跟上步伐,我们已经是超过十年的客户了。
Dupin表示,苹果正在对Trainium 2芯片进行初步测试,以帮助训练Apple Intelligence。
新一代生成式AI模型
大会上,亚马逊还推出了新一代的基础模型——Amazon Nova。
亚马逊称,AWS客户将能够使用Amazon Nova支持的生成式AI应用程序“理解视频、图表和文档,或生成视频和其他多媒体内容”,有一系列不同成本的模型可供选择。
其中,Amazon Nova Micro、Lite和Pro支持200多种语言。Amazon Nova Micro支持128K输入token的上下文长度,而Amazon Nova Lite和Pro的上下文长度可达300K token,处理视频时长可达30分钟。
“Amazon Nova Micro、Amazon Nova Lite和Amazon Nova Pro至少比Amazon Bedrock中各自智能类别中表现最好的模型便宜75%。”
此外,亚马逊还推出了两个全新模型——用于生成高质量图像的Amazon Nova Canvas和用于生成高质量视频的Amazon Nova Reel。
亚马逊通用人工智能高级副总裁Rohit Prasad透露,在亚马逊内部,约1000个生成式AI应用正在进行中。
AI代理管理员、推理检查员......
亚马逊还在AWS平台推出了一系列AI工具,帮助企业利用和掌握生成式AI技术。
比如,周三官宣的一款新云工具Bedrock Agents可用于创建和管理AI代理,这些代理可自动执行客户支持、订单处理和分析等有用任务。它包含了一个主代理,用于管理AI下属团队,提供有关其运作方式的报告并协助调整。
Garman说:
你基本上可以创建一个代理,让你成为所有其他代理的老板。
此外,亚马逊还将推出一种使用较大模型来增强较小模型能力的系统,以及一种验证聊天机器人输出是否正确的工具(用来对抗AI幻觉)。