一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

面向ARM異構(gòu)多核系統(tǒng)的性能分析與效能優(yōu)化

倩倩 ? 來源:算力基建 ? 作者:算力基建 ? 2022-09-22 14:56 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

268adf22-3a2e-11ed-9e49-dac502259ad0.png

01背景介紹

性能和能耗之間的平衡是設(shè)計新處理器的核心問題之一,因為超過90%的處理器最終用于嵌入式能源受限設(shè)備,例如智能手機(jī)物聯(lián)網(wǎng)傳感器。異構(gòu)系統(tǒng),結(jié)合不同的處理器類型,為不同類型的工作負(fù)載提供高能效處理。第一個異構(gòu)系統(tǒng)將處理器與不同的指令集架構(gòu)(ISA)相結(jié)合。最近,單ISA非對稱多核處理器(AMP)開始流行。它們的優(yōu)勢是顯而易見的——因為處理器共享相同的架構(gòu),操作系統(tǒng)線程調(diào)度程序可以在運(yùn)行時做出關(guān)于將哪個任務(wù)/線程映射到哪個處理器/內(nèi)核的決定,這不僅取決于工作負(fù)載的特征,還取決于通過單個處理器/內(nèi)核的運(yùn)行時負(fù)載。另一方面,這為調(diào)度問題引入了額外的自由度,使其更加復(fù)雜。

26b8bd7a-3a2e-11ed-9e49-dac502259ad0.png

非對稱多核處理器上的多線程多道程序工作負(fù)載,具有一個大核和一個小核。僅控制CPU核心親和性會導(dǎo)致次優(yōu)運(yùn)行時優(yōu)化決策。工作負(fù)載,這些應(yīng)用程序具有潛在的不平衡線程,并且線程總數(shù)可能高于內(nèi)核數(shù)。雖然向前邁出了重要一步,但WASH僅控制核心親和力,并且以有限的方式這樣做。前者意味著我們無法以整體方式處理核心分配和線程調(diào)度來加速最關(guān)鍵的線程。后者意味著WASH只真正控制每個線程的調(diào)度域,即允許線程使用的內(nèi)核組。每個線程的實際核心由底層LinuxCFS調(diào)度程序選擇,其啟發(fā)式忽略異構(gòu)性和線程關(guān)鍵性。

02COLAB方案概覽

COLAB是一種用于非對稱多核處理器的運(yùn)行時優(yōu)化策略,它能夠針對線程調(diào)度中的所有三個主要因素-核心敏感度、線程關(guān)鍵性和公平性做出協(xié)調(diào)決策。

1.核心敏感度:每種類型的核心都旨在處理不同類型的工作負(fù)載。例如,在ARM big.LITTLE系統(tǒng)中,大內(nèi)核主要用于性能關(guān)鍵型工作負(fù)載或具有指令級并行(ILP)的工作負(fù)載。在它們上執(zhí)行其他類型的工作負(fù)載不會顯著提高性能,但會顯著增加能耗。為了構(gòu)建高效的AMP調(diào)度程序,我們需要預(yù)測哪些線程適合哪種內(nèi)核。

2.線程關(guān)鍵性:更快地執(zhí)行工作負(fù)載的單個線程并不總是轉(zhuǎn)化為整個工作負(fù)載的更好性能。如果應(yīng)用程序的線程不平衡或以不同的速度執(zhí)行,例如因為不同的線程在不同類型的內(nèi)核上運(yùn)行,則應(yīng)用程序?qū)H以其最慢或最關(guān)鍵的線程(阻塞大部分其他線程的線程)運(yùn)行線程)。一個好的AMP調(diào)度程序會盡可能地加速這些線程,而不管核心敏感度如何。

3.負(fù)載均衡:在多道程序工作負(fù)載中,單獨(dú)加速單個應(yīng)用程序是不夠的,如果它會懲罰其他應(yīng)用程序。理想情況下,我們需要負(fù)載均衡來平衡所有應(yīng)用程序中資源共享的負(fù)面影響。在同構(gòu)系統(tǒng)中,這很容易通過以循環(huán)方式在CPU上為每個應(yīng)用程序提供固定大小的時間片來實現(xiàn)。AMP使這個簡單的解決方案變得不可行。由于每個內(nèi)核的性能不同,不同內(nèi)核類型上相同的CPU時間會導(dǎo)致執(zhí)行的工作量完全不同。

26f3019c-3a2e-11ed-9e49-dac502259ad0.png

系統(tǒng)分為運(yùn)行時調(diào)度過程和離線建模過程。運(yùn)行時調(diào)度器內(nèi)置在OS內(nèi)核中,由

i)一個核心分配器組成,用于處理公平性和核心敏感性;

ii)實現(xiàn)瓶頸加速的線程選擇器;

iii)基于機(jī)器學(xué)習(xí)的運(yùn)行時模型,它預(yù)測異構(gòu)內(nèi)核上線程的加速和功耗。離線建模處理用于通過離線訓(xùn)練構(gòu)建運(yùn)行時模型。

COLAB調(diào)度程序的主要新穎之處在于它可以以協(xié)作的方式處理多個運(yùn)行時因素(核心敏感性、瓶頸加速和公平性),以實現(xiàn)高系統(tǒng)性能和能源效率。

運(yùn)行時分析

核心分配器:支持AMP的核心分配器主要受線程的核心敏感度因素指導(dǎo),它量化了將線程從小核心遷移到大核心帶來的性能優(yōu)勢。將high-speedupthread(在大核心上享有較大的加速)從小核心遷移到大核心通常比遷移low-speedupthread 提供更多好處。然而,考慮到瓶頸因素,它量化了線程阻塞其他線程的程度,揭示了這種啟發(fā)式在多道程序工作負(fù)載上的問題。以前的方法只是將預(yù)測的瓶頸加速和加速結(jié)合在一起。這可能會導(dǎo)致次優(yōu)的調(diào)度決策,其中瓶頸線程和高速加速線程都累積在大核心的運(yùn)行隊列中,更好的核心分配策略將避免瓶頸加速和加速的簡單組合,而是專注于協(xié)作環(huán)境,其中大核心專注于高速瓶頸線程,小核心處理低加速瓶頸線程而無需額外遷移。此外,核心分配器試圖通過有效地共享異構(gòu)硬件并盡可能避免讓資源閑置來實現(xiàn)AMP的相對公平。簡單地將就緒線程均勻地映射到不同類型的內(nèi)核上并不能實現(xiàn)真正的公平性,因為不同類型的內(nèi)核最終具有不同數(shù)量的線程優(yōu)先級。因此,應(yīng)采用分層分配來保證整體公平性,從而避免頻繁將線程遷移到空運(yùn)行隊列的需要。

線程選擇器:線程選擇器決定接下來將執(zhí)行每個內(nèi)核的運(yùn)行隊列中的哪個線程。線程選擇器通常會優(yōu)先考慮瓶頸線程,以避免線程被阻塞太久而導(dǎo)致性能損失。在多線程多程序環(huán)境中,可能需要同時加速來自不同程序的多個瓶頸線程。不像之前的瓶頸加速調(diào)度程序那樣簡單地檢測瓶頸線程并將它們?nèi)糠峙浣o大核,線程選擇器需要做出協(xié)作決策——理想情況下,大核和小核核心將同時運(yùn)行瓶頸線程。核心敏感性通常對線程選擇器并不重要,它做出的決定完全由瓶頸加速來指導(dǎo)。一個例外是大核心的運(yùn)行隊列為空并且調(diào)用線程選擇器時。只有在這種情況下,才應(yīng)考慮就緒線程的核心敏感性的加速因素。必要時,大核甚至可以搶占小核上的線程執(zhí)行。最后,線程選擇器還關(guān)注公平性。通過更新線程選擇器的時間間隔來縮放線程的時間片已被證明可以保證線程的相等進(jìn)度并實現(xiàn)多線程單程序工作負(fù)載的公平性。然而,僅僅確保所有線程的平等進(jìn)程是不夠的,不足以保證跨程序的公平性。線程選擇器應(yīng)確保每個單獨(dú)的程序都能平等地進(jìn)行使用大核和小核來加速瓶頸為此提供了機(jī)會。線程選擇器試圖通過盡快加速所有程序的瓶頸線程來確保程序之間的公平性。

271aa526-3a2e-11ed-9e49-dac502259ad0.png

運(yùn)行時協(xié)作

核心分配器和線程選擇器協(xié)作以實現(xiàn)性能和能耗之間的良好折衷,同時確保公平。模型的流程圖如下圖所示。

28c6ffe6-3a2e-11ed-9e49-dac502259ad0.png

基于加速預(yù)測和瓶頸識別的運(yùn)行時模型,通過定期將就緒線程分類(使用標(biāo)簽)分為兩個不同的類別來促進(jìn)協(xié)作。

核心分配標(biāo)簽:在大核心上具有高預(yù)測加速的線程將被標(biāo)記為大核心上的高優(yōu)先級。具有低預(yù)測加速和阻塞級別的線程,即非關(guān)鍵線程,將在小核心上獲得高優(yōu)先級(在大核心上獲得低優(yōu)先級)。剩余線程在大核或小核上獲得相同的優(yōu)先級——然后可以自由分配這些線程以平衡核的負(fù)載。

線程選擇標(biāo)簽:具有高阻塞級別的線程將被標(biāo)記為本地線程選擇的高優(yōu)先級。無論它們是在大核還是小核上執(zhí)行,都將給予這些線程相同的優(yōu)先級。該標(biāo)簽仍然記錄了當(dāng)前核心的類型——如果存在具有空運(yùn)行隊列的相同類型的核心,線程總是優(yōu)先被相同類型的核心選擇。在小核心上運(yùn)行的線程也被標(biāo)記,因為它們可能會在合適的時候被搶占在大核心上遷移和執(zhí)行,但運(yùn)行線程永遠(yuǎn)不會優(yōu)先于等待就緒線程。

標(biāo)簽后處理:在標(biāo)記過程之后,公平性、核心敏感性和瓶頸加速由線程上的標(biāo)簽表示,并且可以由核心分配器、線程選擇器或兩者一起處理?;谶@種協(xié)調(diào)模型,核心分配器和線程選擇器從就緒線程集中處理不同的優(yōu)先級隊列——它們的決策不會像WASH這樣的混合多因素直接排名。相反,他們提供了一個基于時間片的協(xié)作方案。

協(xié)同多因素模型處理的另一個重要問題是確保線程的平等進(jìn)展,我們不會干擾線程選擇的優(yōu)先級和決策,而是根據(jù)在大內(nèi)核上運(yùn)行的線程的預(yù)測加速值,通過按比例縮放的時間片方法在線程中實現(xiàn)相等的進(jìn)展。大核上的線程片比小核上的相對短。線程選擇功能更頻繁地被觸發(fā)以交換大核上的執(zhí)行線程,這保證了在所有核上執(zhí)行的線程的相對等進(jìn)度。運(yùn)行時模型會定期提取性能計數(shù)器,該計數(shù)器代表AMP上多線程多程序工作負(fù)載的當(dāng)前執(zhí)行環(huán)境。模型計算更新的運(yùn)行時因素包括預(yù)測的加速值和阻塞計數(shù)。此信息附加到線程并報告回多因素貼標(biāo)機(jī)以供下一輪使用。

03總結(jié)

本期報告著重介紹了COLAB運(yùn)行時優(yōu)化框架,該框架針對非對稱多核處理器(AMP)上的多線程多道程序工作負(fù)載。AMP在當(dāng)今處理器市場尤其是嵌入式系統(tǒng)中占據(jù)重要部分。COLAB是第一個通用調(diào)度程序,通過對核心敏感性、線程關(guān)鍵性和調(diào)度公平性做出協(xié)作決策,優(yōu)化了影響AMP調(diào)度的所有這三個因素-核心親和力、線程關(guān)鍵性和調(diào)度公平性。COLAB調(diào)度程序在性能方面分別比最先進(jìn)的WASH、ARMGTS 和LinuxCFS調(diào)度程序高出21%、20%和25%,平均系統(tǒng)吞吐量高了6%、2%和15%,與WASH和ARMGTS相比,COLAB實現(xiàn)了平均5%的節(jié)能。

審核編輯 :李倩

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • ARM
    ARM
    +關(guān)注

    關(guān)注

    134

    文章

    9353

    瀏覽量

    377574
  • 多核處理器
    +關(guān)注

    關(guān)注

    0

    文章

    110

    瀏覽量

    20311
  • 線程
    +關(guān)注

    關(guān)注

    0

    文章

    508

    瀏覽量

    20216

原文標(biāo)題:面向ARM異構(gòu)多核系統(tǒng)的運(yùn)行時性能分析與效能優(yōu)化

文章出處:【微信號:算力基建,微信公眾號:算力基建】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點(diǎn)推薦

    ARM Mali GPU 深度解讀

    ARM Mali GPU 深度解讀 ARM Mali 是 Arm 公司面向移動設(shè)備、嵌入式系統(tǒng)和基礎(chǔ)設(shè)施市場設(shè)計的圖形處理器(GPU)IP
    的頭像 發(fā)表于 05-29 10:12 ?1069次閱讀

    Arm 公司面向 PC 市場的 ?Arm Niva? 深度解讀

    面向 PC 市場的 ? Arm Niva ? 深度解讀 ? Arm Niva ? 是 Arm 公司為 PC 市場推出的核心計算平臺,屬于其“平臺優(yōu)先”戰(zhàn)略的關(guān)鍵布局。作為 ?
    的頭像 發(fā)表于 05-29 09:56 ?688次閱讀

    Arm 公司面向移動端市場的 ?Arm Lumex? 深度解讀

    (CSS)? ? 在移動端的落地形態(tài),Lumex 旨在通過高度集成化的軟硬件方案,解決移動設(shè)備在 AI 性能、能效比與開發(fā)效率上的挑戰(zhàn)。以下從技術(shù)架構(gòu)、性能突破、應(yīng)用場景、生態(tài)系統(tǒng)及戰(zhàn)略價值展開
    的頭像 發(fā)表于 05-29 09:54 ?1201次閱讀

    Arm 公司面向汽車市場的 ?Arm Zena? 深度解讀

    汽車市場的落地形態(tài),Zena 旨在解決汽車智能化轉(zhuǎn)型中的算力需求、開發(fā)效率與功能安全挑戰(zhàn)。以下從技術(shù)架構(gòu)、性能優(yōu)勢、應(yīng)用場景、生態(tài)系統(tǒng)及戰(zhàn)略意義展開分析: 一、技術(shù)架構(gòu):異構(gòu)集成與功能
    的頭像 發(fā)表于 05-29 09:51 ?1369次閱讀

    米爾瑞芯微多核異構(gòu)低功耗RK3506核心板重磅發(fā)布

    。 低延時、高實時性RK3506采用了AMP多核異構(gòu),具備強(qiáng)大的實時性能使得一顆芯片便能靈活搭配多種操作系統(tǒng),確保系統(tǒng)能夠快速響應(yīng)各類輸入信
    發(fā)表于 05-16 17:20

    全志科技多核異構(gòu)SoC助力行業(yè)智能化創(chuàng)新

    近日, “第十二屆開源操作系統(tǒng)年度技術(shù)會議”在北京舉行,全志科技受邀參會。會上,全志進(jìn)行了題為《多核異構(gòu)SoC在行業(yè)應(yīng)用中軟件方案的思考與實踐》的分享。分享從市場和技術(shù)洞察、方案設(shè)計創(chuàng)新、場景化應(yīng)用落地三個維度展開
    的頭像 發(fā)表于 04-18 09:11 ?613次閱讀
    全志科技<b class='flag-5'>多核</b><b class='flag-5'>異構(gòu)</b>SoC助力行業(yè)智能化創(chuàng)新

    RK3399處理器:高性能多核異構(gòu)計算平臺

    RK3399是一款高性能多核異構(gòu)計算平臺,集成了強(qiáng)大的CPU、GPU以及豐富的多媒體和接口功能。其獨(dú)特的雙Cortex-A72+四Cortex-A53大小核CPU結(jié)構(gòu),使得RK3399在處理復(fù)雜
    的頭像 發(fā)表于 02-08 18:04 ?1541次閱讀

    如何優(yōu)化總線系統(tǒng)性能

    總線系統(tǒng)是計算機(jī)和其他電子設(shè)備中用于傳輸數(shù)據(jù)的關(guān)鍵組件。性能優(yōu)化可以提高數(shù)據(jù)傳輸速率、降低延遲,并增強(qiáng)系統(tǒng)的可靠性和擴(kuò)展性。 1. 理解總線系統(tǒng)
    的頭像 發(fā)表于 12-31 09:54 ?676次閱讀

    如何優(yōu)化DCS系統(tǒng)性能

    優(yōu)化DCS(分布式控制系統(tǒng)系統(tǒng)性能是確保工業(yè)自動化過程高效、穩(wěn)定運(yùn)行的關(guān)鍵。以下是一些具體的優(yōu)化措施: 一、硬件
    的頭像 發(fā)表于 11-13 09:19 ?1449次閱讀

    如何優(yōu)化SOC芯片性能

    優(yōu)化SOC(System on Chip,系統(tǒng)級芯片)芯片性能是一個復(fù)雜而多維的任務(wù),涉及多個方面的優(yōu)化策略。以下是一些關(guān)鍵的優(yōu)化措施: 一
    的頭像 發(fā)表于 10-31 15:50 ?1747次閱讀

    使用Arthas火焰圖工具的Java應(yīng)用性能分析優(yōu)化經(jīng)驗

    分享作者在使用Arthas火焰圖工具進(jìn)行Java應(yīng)用性能分析優(yōu)化的經(jīng)驗。
    的頭像 發(fā)表于 10-28 09:27 ?1295次閱讀
    使用Arthas火焰圖工具的Java應(yīng)用<b class='flag-5'>性能</b><b class='flag-5'>分析</b>和<b class='flag-5'>優(yōu)化</b>經(jīng)驗

    【米爾NXP i.MX 93開發(fā)板試用評測】1、異構(gòu)核心通信的技術(shù)內(nèi)容

    多核系統(tǒng)通常包含具有不同性能和功能的不同類型處理器核心,例如,一個系統(tǒng)可能同時包含高性能ARM
    發(fā)表于 09-21 20:24

    復(fù)旦微PS+PL異構(gòu)多核開發(fā)案例分享,基于FMQL20SM國產(chǎn)處理器平臺

    FMQL20S400M是復(fù)旦微四核ARM Cortex-A7@1GHz(PS端)+85K可編程邏輯資源(PL端)異構(gòu)多核SoC處理器。創(chuàng)龍科技基于FMQL20S400M設(shè)計的工業(yè)核心板
    發(fā)表于 08-22 14:04

    66AK2Hxx多核DSP+ARM? KeyStone II片上系統(tǒng)(SoC)數(shù)據(jù)表

    電子發(fā)燒友網(wǎng)站提供《66AK2Hxx多核DSP+ARM? KeyStone II片上系統(tǒng)(SoC)數(shù)據(jù)表.pdf》資料免費(fèi)下載
    發(fā)表于 08-07 09:34 ?0次下載
    66AK2Hxx<b class='flag-5'>多核</b>DSP+<b class='flag-5'>ARM</b>? KeyStone II片上<b class='flag-5'>系統(tǒng)</b>(SoC)數(shù)據(jù)表

    如何在RK3562J的AMP雙系統(tǒng)實現(xiàn)裸核中斷嵌套機(jī)制

    ,例如可以基于RK HAL硬件抽象層適配指定的RTOS等。 在處理器核心方面: 瑞芯微多核異構(gòu)系統(tǒng)支持SoC中同構(gòu)的ARM Cortex-A核心獨(dú)立運(yùn)行。也支持SoC中
    發(fā)表于 07-29 16:29