亚马逊CEO:AI推理成本需降约十分之一

AI 驱动中国 林晚 967次阅读
分享 微 Q 信
AI摘要
由 AI 生成 · 仅供参考

亚马逊CEO安迪·贾西认为,AI推理成本仍高一个数量级,若要广泛应用于企业软件,成本需降至目前约十分之一;亚马逊计划投入2200亿美元资本开支,并寄望自研芯片降低推理成本。

驱动中国10月24日消息,亚马逊CEO安迪·贾西认为,AI推理成本仍然偏高,若要广泛应用于企业软件,成本需降至目前约十分之一,亚马逊自研芯片有望帮助降低成本。

贾西在风险投资机构a16z当地时间23日发布的采访中表示,要让AI得到尽可能广泛的应用,推理成本仍高出一个数量级。亚马逊今年计划投入2200亿美元资本开支,按现汇率约合1.47万亿元人民币,但仍无法建成足够基础设施满足AI需求。

在算力供应方面,贾西透露,2026年的主要算力供应额度基本订满,2027年的大部分额度也已被客户预订,2028年也有相当一部分售罄。他认为市场需求旺盛,亚马逊即使继续投入大量资金,也不会构成浪费。

贾西将AI需求形容为“杠铃”结构:一端是AI实验室,消耗算力规模前所未见;另一端是企业客户,主要将AI用于客户服务、欺诈检测等具体任务。尚未充分开发的是中间市场,即企业日常使用的各类软件。这些软件还没有广泛引入AI,但贾西认为,这一领域可能成为未来AI需求的重要来源。

制约企业采用AI的主要因素是推理成本。AI模型每回答一个问题、完成一项任务,都需要消耗算力。如果引入AI带来的收益不足以抵消更高的运营费用,企业就没有多少动力重构现有软件。

贾西以亚马逊多年前的经历作比较。当时,英特尔主导云服务器处理器市场。亚马逊希望以同样的成本获得更高的计算性能,却难以说服英特尔优先满足这一需求,最终决定自行开发Graviton处理器。在他看来,类似情形正在AI领域重现。

目前,AI芯片市场由英伟达占据主导地位。亚马逊推出自研Trainium芯片,希望为客户提供成本更低的选择。贾西在采访中没有直接点名英伟达,仅强调市场上的主导供应商仍是亚马逊的重要合作伙伴。

Trainium的性价比较同类处理器高出约30%至40%,客户花同样的钱就能获得更多算力。贾西称,亚马逊芯片业务在降低推理成本方面发挥着重要作用。亚马逊此前披露,Trainium已获得超过2250亿美元。

版权声明:本文由驱动中国整理发布,转载需注明出处与原文链接。如有疑问请联系 editor@qudong.com。
来源:驱动中国 · 原文链接:https://www.qudong.com/article/527237.html
本文价值 ★★★★★ 4 2 人已评
登录后为本文打分
网友评论0 条评论
正在回复 的评论取消
评论加载中…
🔐

登录后参与互动

评论、点赞均可赚积分
连续签到、邀请好友也有奖励 🎁

电脑端: 微信扫码登录 微信内: 一键登录

微信扫一扫

打开微信「扫一扫」,分享本文到朋友圈或好友