Ampere Altra 系列云原生處理器在處理流行的云原生工作負載時具有杰出的領(lǐng)導地位，不久前我們曾發(fā)表相關(guān)文章，重點講述了 Ampere 的領(lǐng)先優(yōu)勢如何在原始性能上實現(xiàn)突破性的提升，向大家展示了其可擴展性以及顯著的能效優(yōu)勢；在同樣的峰值工作負載下，Ampere Altra Max 云原生處理器的功耗僅為傳統(tǒng) x86 處理器的一半。這種極具顛覆性的優(yōu)勢使 Ampere Altra 系列成為現(xiàn)代云基礎(chǔ)設施中最具可持續(xù)性的處理器。?

今年9月1日，微軟發(fā)布了基于 Ampere Altra 云原生處理器的 Azure 虛擬機（VM）。本文將通過微軟 Azure 虛擬機上運行的一些類似的云原生工作負載，展示 Ampere Altra 云原生處理器的領(lǐng)導地位。盡管我們之前的數(shù)據(jù)已經(jīng)展示了 Ampere Altra Max 裸金屬服務器的高性能與高能效，但全球大多數(shù)客戶將首先通過基礎(chǔ)設施即服務（IaaS，如微軟 Azure 提供的服務）訪問 Ampere Computing 開創(chuàng)性的云原生處理器。終端用戶只需租用配備了 Ampere Altra 云原生處理器的虛擬機實例，就可以體驗到 Ampere Altra 所帶來的優(yōu)勢。現(xiàn)在，讓我們來具體了解一下優(yōu)勢究竟有哪些。

原始性能與性價比

本文將從原始性能和性價比兩方面進行比較。其中，裸機比較展示的是原始性能和每瓦性能，突出了采用 Ampere 云原生處理器在助力可持續(xù)性方面的領(lǐng)先優(yōu)勢。在性價比方面，當客戶從我們的云合作伙伴（如微軟）租用 Ampere 虛擬機時，不僅能節(jié)約成本，能效優(yōu)勢也依舊凸顯。更低的電力成本不但能助力構(gòu)建可持續(xù)性更高的算力基礎(chǔ)設施（例如減少碳足跡），還可以降低基礎(chǔ)設施橫向擴展時產(chǎn)生的平臺相關(guān)擁有成本與運行成本。

訪問云端服務器常常要通過虛擬機。虛擬機有各種規(guī)格與形態(tài)，可以適應云端大量的應用程序和用例。此外，云虛擬機還有不同的標準配置可供比較；這不同于我們在實驗室中常進行的裸機比較。

在談及數(shù)據(jù)之前，需要首先強調(diào)一下在比較云虛擬機性能時可能看到，但容易忽略的差異：

測試云端虛擬機鏡像時，我們使用了 Azure 提供的標準規(guī)格。即?16 個 vCPU?的實例，這種虛擬機規(guī)格在云端最受歡迎。

在云端部署虛擬機時，需要注意不同架構(gòu)之間 vCPU 的差異。傳統(tǒng) x86 虛擬機的每個內(nèi)核有 2 個 vCPU，而? Ampere Altra 虛擬機使用單線程內(nèi)核，即每個內(nèi)核擁有 1 個 vCPU。這意味著，部署基于 Ampere Altra 的虛擬機，您將在虛擬機規(guī)格類似的條件下擁有 2 倍的內(nèi)核數(shù)量。

根據(jù)現(xiàn)有的可適用 Azure 服務列表，我們使用了存儲和網(wǎng)絡中的等效服務。

為實現(xiàn)同等產(chǎn)品的比較，本文收集和顯示的所有數(shù)據(jù)都通過運行搭載 16 個? vCPU 的虛擬機獲得。

我們測試的虛擬機如下表所示。

除了為每種工作負載收集的原始性能數(shù)據(jù)以外，我們還用已發(fā)布的按需定價信息（即用即付）計算了在 Azure 虛擬機上運行特定工作負載的總價格。定價信息來源于 Azure 官網(wǎng)，信息可能會有變動。

性價比值 = （在同等規(guī)格的虛擬機上提供同等服務時，所運行工作負載測得的綜合性能優(yōu)勢） * （每種可比較虛擬機的成本優(yōu)勢）

現(xiàn)在讓我們聚焦收集到的數(shù)據(jù)。以下所列的工作負載均為實際服務安裝中流行的云原生工作負載，因此它們代表了多數(shù)終端客戶在公有云基礎(chǔ)設施中部署的工作負載。

Web 服務

首先來看 NGINX，這是一種非常流行的 HTTP Web 服務器。我們已經(jīng)展示過 NGINX 在 Socket 層面如何在原始性能和能效方面都遠超傳統(tǒng) x86 生態(tài)。而在具有 16 個 vCPU 的虛擬機方面，可以看出 Ampere Altra 的性能優(yōu)勢及其價格優(yōu)勢（與上述提及的能效相關(guān)）；與英特爾的 Dsv5 和 AMD 的 Dasv5 相比，Ampere 的虛擬機性價比高達 30%（此處的性能和性價比的比較是相對于 Intel 的 Dsv5 虛擬機而言）。

內(nèi)存緩存

Memcached 是一種廣泛應用的存內(nèi)鍵值儲存，在它身上，我們也看到了類似的結(jié)果。對內(nèi)存緩存而言，在我們測試范圍內(nèi)的 8 至 16 個 vCPU 的虛擬機很常見，而我們測得的整體性能值對包含緩存層的微服務等工作負載非常有吸引力。通過測試，我們得到的?Ampere 性價比相較于 Intel 的 Dsv5 虛擬機高 30%，比 AMD 的 Dasv5 虛擬機高 43%。

視頻服務

視頻編碼被認為是許多云服務的大宗應用程序，視頻編碼因此也成為一種高容量和高度優(yōu)化的工作負載。就算法優(yōu)化和編解碼器效率而言，Arm 生態(tài)系統(tǒng)已經(jīng)占據(jù)有利地位。

基于此，在視頻上傳（Video Upload）和視頻點播（VoD）這兩個場景中，我們利用 x.264 編碼庫在 vBench 上運行媒體編碼。在 Ampere 的虛擬機中，這兩種場景的測試非常類似，因此我們僅展示上傳場景的數(shù)據(jù)。該場景采用了不會降低輸入視頻質(zhì)量的單程轉(zhuǎn)碼，這也表明了視頻服務的初始上傳編碼對速度和質(zhì)量有所要求。測試結(jié)果顯示，16 個 vCPU 的 Ampere 虛擬機與傳統(tǒng) x86 虛擬機的性能大致相當；但根據(jù)公布的定價來看，性價比提高了 30%。

AI 推理

最后我們來看 AI 推理基準測試。

隨著人工智能成為許多網(wǎng)絡和獨立服務不可或缺的組成部分，機器學習在云端消耗的周期越來越多。Ampere 為此編譯了一個易于使用的堆棧，以加速計算機視覺、自然語言處理和推薦引擎用例中的典型 AI 工作負載。Ampere AI 再將此加速層與常見的開源 AI 框架（例如 TensorFlow、PyTorch 和 ONNX）相結(jié)合。其美妙之處就在于，用戶可以自由選擇與其框架兼容的模型，并運行于 Ampere 云原生處理器的優(yōu)化流程之中。用戶無需對模型進行任何更改即可完成任務，同時，借助 Ampere 處理器的獨特功能，例如 fp16 這種數(shù)據(jù)格式，可以得到普通 fp32 格式約 2 倍的性能，但精度幾乎無損失。上述常見 AI 框架的免費鏡像在 Ampere 解決方案網(wǎng)站上都可以找到，Azure 市場上也會很快推出。

利用一組通用的基準測試，我們使用 MLPerf Resnet50 v1.5 比較了 AI 推理在單流和離線場景中的表現(xiàn)。這些場景代表了數(shù)據(jù)中心圖像分類中最常見的用例，分別反映了延遲敏感度（一次一幀或一張圖像）和批量吞吐量（盡可能多地并行返回）操作。在 D16ps v5 虛擬機上進行這些基準測試，基于帶 Ampere AI 容器鏡像的 TensorFlow 2.7 框架運行，同時采用 FP16 數(shù)據(jù)格式；再用傳統(tǒng) x86 進行這些基準測試，基于帶 DNNL 的 TensorFlow 2.7 框架，并采用 fp32 數(shù)據(jù)格式。將二者進行比較，結(jié)果表明，采用所述格式進行的 Ampere 測試，其模型精度非常高。與傳統(tǒng) x86 虛擬機相比，Ampere AI 技術(shù)的性能提升超過 2 倍，而性價比更是超越 2 到 3 倍！

結(jié)語

無論是部署新的 Web 服務，還是優(yōu)化人工智能、視頻編碼、數(shù)據(jù)管理與分析中等現(xiàn)有服務，云端開發(fā)人員都可以選擇成本更低但性能更高的方案，取代目前廣泛使用的傳統(tǒng)基礎(chǔ)設施。過去，低價代表著低性能。但現(xiàn)在，這種情況已不復存在！微軟 Azure 的用戶不再需要做出取舍，魚與熊掌可以兼得。更令人欣慰的是，這樣做不但能極大地節(jié)省成本，而且不以犧牲性能為代價，還可以節(jié)能減排。

審核編輯：劉清