隨著人工智能 (AI) 技術的迅猛發展
，雲計算領域正在經曆顯著變革。愈發複雜的 AI 應用對計算解決方案的性能、xiaolvhechengbenxiaoyitichulegenggaoyaoqiu。zaiyunduanbushugongzuofuzaidekehuzhengzaizhongxinpingguqisuoxudejichusheshi，yimanzuxiandaigongzuofuzaixuqiu，qizhongbujinbaokuotigaoxingnenghejiangdichengben，haihangailexufuhejianguanyaoqiuhuokechixufazhanmubiaodexinnengxiaojizhun。

Arm 與亞馬遜雲科技 (AWS) 長期合作
，為實現性能更強勁、更高效和可持續的雲計算提供專用芯片和計算技術。在近期舉行的 AWS re:Invent 2024 大會上
，AWS 進一步展示了 AWS Graviton4 所取得的顯著進展，使開發者和企業能夠充分發揮其雲工作負載的性能潛力。

卓越的性能表現

相較於上一代 Graviton3 處理器，基於 Arm Neoverse V2 平台的 AWS Graviton4 處理器在計算性能上提升了 30%，核心數增加了 50%，內存帶寬提高了 75%。憑借這些技術優勢，AWS Graviton 處理器在生態係統和客戶群體中得到了廣泛應用。

Arm Neoverse V2 平台涵蓋 Armv9 架構的新特性，包括高性能浮點和向量指令支持，以及 SVE/SVE2
、Bfloat16 和 INT8 MatMul 等特性。這些特性為 AI/機器學習 (ML) 以及高性能計算 (HPC) 工作負載提供了卓越性能。

AI/ML 工作負載

今年早些時候，Arm 與主流的 AI 框架和軟件生態係統合作，推出了 Arm Kleidi 軟件，以確保 Arm 平台上開機即用的推理性能優化能惠及整個 ML 棧，開發者無需掌握額外的 Arm 專業知識即可構建其工作負載
，從而進一步推動 AI 工作負載的廣泛應用。此前
，Arm 已展示了 PyTorch 中的這些優化如何賦能 AWS Graviton4 上運行大語言模型 (LLM)，如 Llama 3 70B 和 Llama 3.1 8B，並顯著改善了每秒生成詞元 (token) 數和詞元首次響應時間的表現指標。

HPC 和 EDA 工作負載

對於 HPC 工作負載，Graviton4 相較於 Graviton3E 在功能上實現了顯著提升。每個核心的主內存帶寬增加了 16%，每個 vCPU 的 L2 緩存容量翻倍。這些改進對於 HPC 應用的性能至關重要
，因為 HPC應用通常受限於內存帶寬。AWS 已經在這些領域取得了顯著優勢，如下所示。

根據 Arm 工程團隊實際運行 EDA 工作負載所得出的結果，Graviton4 提供的 RTL 仿真工作負載性能比 Graviton3 高出 37%。

圖：AWS Graviton4 上的 HPC 和 EDA 工作負載優勢

生態係統廣泛采用

近年來，隨著雲計算用戶將各種雲工作負載部署在 AWS Graviton 處chu理li器qi上shang，其qi軟ruan件jian生sheng態tai係xi統tong持chi續xu擴kuo展zhan。如ru此ci一yi來lai

，客ke戶hu不bu僅jin節jie省sheng了le費fei用yong，收shou獲huo了le性xing能neng的de提ti升sheng，還hai能neng優you化hua其qi碳tan足zu跡ji和he可ke持chi續xu發fa展zhan足zu跡ji。以yi下xia是shi部bu分fen示shi例li：

圖：采用基於 Arm Neoverse 的 AWS Graviton3 所取得的生態優勢

著手利用 Graviton 的強大性能

Arm 將在雲計算的未來中發揮關鍵作用，並將繼續支持 AWS Graviton 立於技術創新的前沿。Arm 將繼續投入並進一步強化軟件生態係統，從而使開發者能夠更加輕鬆地在 Arm 平台上構建其應用，並充分利用 Arm 計算平台所提供的卓越性能和效率優勢。