关于正在为自少见据中心甄选 AI 劳动器芯片的企业而言，比拟英伟达，亚马逊领有一大中枢上风：价钱。
爱尔兰盘考机构 Co Driver Labs 专注为企业提供 AI 基础身手落地盘考劳动，该机构分析师卡罗尔・皮亚泰克暗示：在同等算力负载下，使用亚马逊第二代Inferentia 推理芯片与Trainium 试验芯片部署现存 AI 模子开展推理业务，算力资本可比英伟达 H100 芯片缩小 80%。
如今越来越多自建数据中心的企业，都在寻找性价比更高、供货更雄厚的替代芯片有绸缪。近几个月，亚马逊向这类客户率性推介自研两款 AI 专用芯片：用于大模子试验的 Trainium、用于业务推理的 Inferentia，越来越多企业启动招供这套有绸缪。
皮亚泰克的一位保障行业客户，出于合规监管条款，必须在自少见据中心为客户运行 AI 业务，无法使用公有云劳动。该企业此前一直采购英伟达芯片，如今正在寻找替代有绸缪；经由前期测试，亚马逊芯片凭借价钱上风与雄厚的算力承载才智，测试范围发扬亮眼。
基于可以的测试成果，这家保障公司当场向亚马逊云科技（AWS）客户司理盘考，能否在 AWS Outposts 腹地部署一体机中搭载 Inferentia 推理芯片。但亚马逊方面回复，现在该芯片暂未洞开 Outposts 场景测试。
皮亚泰克称：“惟一能在企业腹地机房部署 Inferentia 芯片，这家保障公司就会坐窝落地。即便腹地部署的资本是云霄租用价钱的两倍，企业也依然会接管在自有机房部署 AWS 提供的这款芯片。”
他暗示，诚然企业腹地机房部署芯片的资本八成率高于平直租用 AWS 云劳动器，但相较英伟达芯片，全体算力开支依旧会大幅缩小。
英伟达官方发言东说念主援用公司近期一篇博客著述的不雅点回话：单纯对比芯片采购单价意旨有限，中枢要看芯片的骨子算力产出。若是廉价芯片在沟通期长内可承载的 AI 算力任务远少于高价芯片，那么从单元算力资原本看，高价芯片反而更合算。
英伟达在博文中写说念：“咱们的芯片能够完毕行业最低的模元（Token）单元资本与最高的模元处理迷糊量。”
信息本事盘考公司高知特（Cognizant）云与基础身手劳动负责东说念主斯里拉姆・库马雷桑暗示，现时环球算力供给弥留，不少客户正在评估、试点亚马逊自研芯片，其中就包含企业腹地数据中心的落地场景。
库马雷桑在书面声明中提到：“咱们不雅察到，客户的 AI 业务算力需求依然超出现时可用算力供给，这也让企业不再单一依赖英伟达 GPU，尊龙凯时启动积极寻找多元化算力有绸缪。如今 AWS 的 Trainium 与 Inferentia 芯片依然成为业内靠谱的量产级备选有绸缪，不再仅仅 GPU 缺货时的济急接管。”
金沙JinSha(中国)娱乐网入口不外亚马逊芯片并非一皆坦途。云架构盘考企业 Rhythmic Technologies 首席实际官克里斯・达尼卢克暗示，诚然不少客户在探讨芯片替代有绸缪，但现在都仅处于早期调研阶段，企业精深担忧适配这类自研芯片需要全新软件体系，存在本事落地风险。
在去年 12 月 AWS 年度本事大会 re：Invent 上，亚马逊认真推出全新劳动，撑合手客户在 AWS 公有云以外部署亚马逊自研 AI 芯片，同期发布 AWS AI Factories（亚马逊 AI 算力工场）科罚有绸缪，企业可在自少见据中心混搭部署亚马逊 Trainium 芯片与英伟达芯片。
耐久以来，AWS 通过 Outposts 腹地一体机劳动，让自建机房的企业可以在腹地部署亚马逊全套软硬件、存储与汇聚资源。据知情东说念主士线路，近几个月，AWS 销售团队依然和好意思国电话电报公司（AT&T）等企业伸开前期洽谈，探讨通过 Outposts 劳动租出亚马逊自研 AI 芯片。
另有知情东说念主士暗示，亚马逊还在洽谈平直向政企客户售卖自研 AI 芯片。本年 4 月，亚马逊首席实际官安迪・贾西在年度鼓励信中说起，公司谈判对外平直出售自研 AI 芯片，自此企业客户的互助意愿权贵教会。
贾西曾测算：若是亚马逊不再仅通过云劳动出租芯片，而是平直对外销卖，芯片业务年化营收有望达到 500 亿好意思元。现在，包含通用处理器 Graviton、云霄部署的 Trainium 芯片在内，亚马逊芯片业务当旧年化营收为 200 亿好意思元。
《信息》杂志分析数据炫耀：尽管英伟达靠近诸多芯片竞品冲击、九行八业加快布局 AI 替代算力有绸缪，但英伟达在 AI 推理算力市集的份额仍在合手续走高。
AWS 正在效仿谷歌的发展旅途。谷歌自研 TPU 张量处理单元 AI 芯片，去年就启动磋议 Anthropic 等企业，推动客户在自少见据中心部署该芯片；上个月，谷歌还与黑石集团开导结伴公司，打造 TPU 专属云业务，对标当下大都向 AI 厂商出租英伟达算力的专科云劳动商。
海量资讯、精确解读，尽在新浪财经APP
包袱裁剪：郭明煜 尊龙凯时
备案号: