答：

• 首先，“收益”的含義是“對(duì)人類(lèi)喜好的衡量”
• ：即時(shí)收益，指語(yǔ)言模型當(dāng)下產(chǎn)生token 帶來(lái)的收益
• ：實(shí)際期望總收益（即時(shí)+未來(lái)），指對(duì)語(yǔ)言模型“當(dāng)下產(chǎn)生token ，一直到整個(gè)response生產(chǎn)結(jié)束”后的期收益預(yù)估。因?yàn)楫?dāng)下語(yǔ)言模型還沒(méi)產(chǎn)出后的token，所以我們只是對(duì)它之后一系列動(dòng)作的收益做了估計(jì)，因而稱(chēng)為“期望總收益”。

三、RLHF中的四個(gè)重要角色

在本節(jié)中，我們?cè)诘诙糠值幕A(chǔ)上更進(jìn)一步：更詳細(xì)理清NLP語(yǔ)境下RLHF的運(yùn)作流程。

我們從第二部分中已經(jīng)知道：生成token 和對(duì)應(yīng)收益的并不是一個(gè)模型。那么在RLHF中到底有幾個(gè)模型？他們是怎么配合做訓(xùn)練的？而我們最終要的是哪個(gè)模型？

如上圖，在RLHF-PPO階段，一共有四個(gè)主要模型，分別是：

• Actor Model：演員模型，這就是我們想要訓(xùn)練的目標(biāo)語(yǔ)言模型
• Critic Model：評(píng)論家模型，它的作用是預(yù)估總收益
• Reward Model：獎(jiǎng)勵(lì)模型，它的作用是計(jì)算即時(shí)收益
• Reference Model：參考模型，它的作用是在RLHF階段給語(yǔ)言模型增加一些“約束”，防止語(yǔ)言模型訓(xùn)歪（朝不受控制的方向更新，效果可能越來(lái)越差）

其中:

• Actor/Critic Model在RLHF階段是需要訓(xùn)練的（圖中給這兩個(gè)模型加了粗邊，就是表示這個(gè)含義）；而Reward/Reference Model是參數(shù)凍結(jié)的。
• Critic/Reward/Reference Model共同組成了一個(gè)“獎(jiǎng)勵(lì)-loss”計(jì)算體系（我自己命名的，為了方便理解），我們綜合它們的結(jié)果計(jì)算loss，用于更新Actor和Critic Model

我們把這四個(gè)部分展開(kāi)說(shuō)說(shuō)。

3.1 Actor Model (演員模型)

正如前文所說(shuō)，Actor就是我們想要訓(xùn)練的目標(biāo)語(yǔ)言模型。我們一般用SFT階段產(chǎn)出的SFT模型來(lái)對(duì)它做初始化。

我們的最終目的是讓Actor模型能產(chǎn)生符合人類(lèi)喜好的response。所以我們的策略是，先喂給Actor一條prompt（這里假設(shè)batch_size = 1，所以是1條prompt），讓它生成對(duì)應(yīng)的response。然后，我們?cè)賹ⅰ皃rompt + response"送入我們的“獎(jiǎng)勵(lì)-loss”計(jì)算體系中去算得最后的loss，用于更新actor。

3.2 Reference Model（參考模型）

Reference Model（以下簡(jiǎn)稱(chēng)Ref模型）一般也用SFT階段得到的SFT模型做初始化，在訓(xùn)練過(guò)程中，它的參數(shù)是凍結(jié)的。Ref模型的主要作用是防止Actor”訓(xùn)歪”，那么它具體是怎么做到這一點(diǎn)的呢？

“防止模型訓(xùn)歪”換一個(gè)更詳細(xì)的解釋是：我們希望訓(xùn)練出來(lái)的Actor模型既能達(dá)到符合人類(lèi)喜好的目的，又盡量讓它和SFT模型不要差異太大。簡(jiǎn)言之，我們希望兩個(gè)模型的輸出分布盡量相似。那什么指標(biāo)能用來(lái)衡量輸出分布的相似度呢？我們自然而然想到了KL散度。

如圖所示：

• 對(duì)Actor模型，我們喂給它一個(gè)prompt，它正常輸出對(duì)應(yīng)的response。那么response中每一個(gè)token肯定有它對(duì)應(yīng)的log_prob結(jié)果呀，我們把這樣的結(jié)果記為log_probs

• 對(duì)Ref模型，我們把Actor生成的"prompt + response"喂給它，那么它同樣能給出每個(gè)token的log_prob結(jié)果，我們記其為ref_log_probs

• 那么這兩個(gè)模型的輸出分布相似度就可以用ref_log_probs - log_probs來(lái)衡量，我們可以從兩個(gè)方面來(lái)理解這個(gè)公式：

  • 從直覺(jué)上理解，ref_log_probs越高，說(shuō)明Ref模型對(duì)Actor模型輸出的肯定性越大。即Ref模型也認(rèn)為，對(duì)于某個(gè)，輸出某個(gè)的概率也很高（）。這時(shí)可以認(rèn)為Actor模型較Ref模型沒(méi)有訓(xùn)歪

  • 從KL散度上理解，

    ，這個(gè)值越小意味著兩個(gè)分布的相似性越高。而這個(gè)值越小等價(jià)于ref_log_probs - log_probs越大

注：你可能已經(jīng)注意到，按照KL散度的定義，這里寫(xiě)成log_probs - ref_log_probs更合適一些。這里之所以寫(xiě)成ref_log_probs - log_probs，是為了方便大家從直覺(jué)上了解這個(gè)公式。

現(xiàn)在，我們已經(jīng)知道怎么利用Ref模型和KL散度來(lái)防止Actor訓(xùn)歪了。KL散度將在后續(xù)被用于loss的計(jì)算，我們?cè)诤笪闹袝?huì)詳細(xì)解釋。

3.3 Critic Model（評(píng)論家模型）

Critic Model用于預(yù)測(cè)期望總收益，和Actor模型一樣，它需要做參數(shù)更新。實(shí)踐中，Critic Model的設(shè)計(jì)和初始化方式也有很多種，例如和Actor共享部分參數(shù)、從RW階段的Reward Model初始化而來(lái)等等。我們講解時(shí)，和deepspeed-chat的實(shí)現(xiàn)保持一致：從RW階段的Reward Model初始化而來(lái)。

你可能想問(wèn)：訓(xùn)練Actor模型我能理解，但我還是不明白，為什么要單獨(dú)訓(xùn)練一個(gè)Critic模型用于預(yù)測(cè)收益呢？

這是因?yàn)?，?dāng)我們?cè)谇拔挠懻摽偸找妫磿r(shí) + 未來(lái)）時(shí)，我們是站在上帝視角的，也就是這個(gè)就是客觀存在的、真正的總收益。但是我們?cè)谟?xùn)練模型時(shí)，就沒(méi)有這個(gè)上帝視角加成了，也就是在時(shí)刻，我們給不出客觀存在的總收益，我們只能訓(xùn)練一個(gè)模型去預(yù)測(cè)它。

所以總結(jié)來(lái)說(shuō)，在RLHF中，我們不僅要訓(xùn)練模型生成符合人類(lèi)喜好的內(nèi)容的能力（Actor），也要提升模型對(duì)人類(lèi)喜好量化判斷的能力（Critic）。這就是Critic模型存在的意義。我們來(lái)看看它的大致架構(gòu)：

deepspeed-chat采用了Reward模型作為它的初始化，所以這里我們也按Reward模型的架構(gòu)來(lái)簡(jiǎn)單畫(huà)畫(huà)它。你可以簡(jiǎn)單理解成，Reward/Critic模型和Actor模型的架構(gòu)是很相似的（畢竟輸入都一樣），同時(shí)，它在最后一層增加了一個(gè)Value Head層，該層是個(gè)簡(jiǎn)單的線形層，用于將原始輸出結(jié)果映射成單一的值。

在圖中，表示Critic模型對(duì)時(shí)刻及未來(lái)（response完成）的收益預(yù)估。

3.4 Reward Model（獎(jiǎng)勵(lì)模型）

Reward Model用于計(jì)算生成token 的即時(shí)收益，它就是RW階段所訓(xùn)練的獎(jiǎng)勵(lì)模型，在RLHF過(guò)程中，它的參數(shù)是凍結(jié)的。

你可能想問(wèn)：為什么Critic模型要參與訓(xùn)練，而同樣是和收益相關(guān)的Reward模型的參數(shù)就可以凍結(jié)呢?

這是因?yàn)?，Reward模型是站在上帝視角的。這個(gè)上帝視角有兩層含義：

• 第一點(diǎn)，Reward模型是經(jīng)過(guò)和“估算收益”相關(guān)的訓(xùn)練的，因此在RLHF階段它可以直接被當(dāng)作一個(gè)能產(chǎn)生客觀值的模型。
• 第二點(diǎn)，Reward模型代表的含義就是“即時(shí)收益”，你的token 已經(jīng)產(chǎn)生，因此即時(shí)收益自然可以立刻算出。

你還可能想問(wèn)：我已經(jīng)用Critic預(yù)測(cè)出了，而這個(gè)包含了“即時(shí)”和“未來(lái)”的概念，那我還需要代表“即時(shí)”的做什么呢？直接用不就好了嗎？

為了解答這個(gè)問(wèn)題，我們先回顧下1.2部分中給出的價(jià)值函數(shù)：

這個(gè)函數(shù)告訴我們，我們當(dāng)前可以用兩個(gè)結(jié)果來(lái)表示時(shí)刻的總收益：

• 結(jié)果1：Critic模型預(yù)測(cè)的

• 結(jié)果2：Reward模型預(yù)測(cè)的和critic模型預(yù)測(cè)的

那么哪一個(gè)結(jié)果更靠近上帝視角給出的客觀值呢？當(dāng)然是結(jié)果2，因?yàn)榻Y(jié)果1全靠預(yù)測(cè)，而結(jié)果2中的是事實(shí)數(shù)據(jù)。

我們知道Critic模型也是參與參數(shù)更新的，我們可以用MSE(上帝視角的客觀收益-Critic模型預(yù)測(cè)的收益)來(lái)衡量它的loss。但是上帝視角的客觀收益我們是不知道的，只能用已知事實(shí)數(shù)據(jù)去逼近它，所以我們就用來(lái)做近似。這就是同時(shí)存在的意義

Reward模型和critic模型非常相似，這里我們就只給出架構(gòu)圖，不再做過(guò)多的說(shuō)明。關(guān)于Reward模型的訓(xùn)練過(guò)程，后續(xù)有時(shí)間也會(huì)出個(gè)原理和代碼解析。

四、RLHF中的loss計(jì)算

到目前為止，我們已經(jīng)基本了解了RLHF的訓(xùn)練框架，以及其中的四個(gè)重要角色（訓(xùn)練一個(gè)RLHF，有4個(gè)模型在硬件上跑，可想而知對(duì)存儲(chǔ)的壓力）。在本節(jié)中，我們一起來(lái)解讀RLHF的loss計(jì)算方式。在解讀中，我們會(huì)再一次理一遍RLHF的整體訓(xùn)練過(guò)程，填補(bǔ)相關(guān)細(xì)節(jié)。在這之后，我們就可以來(lái)看代碼解析了。

在第三部分的講解中，我們知道Actor和Critic模型都會(huì)做參數(shù)更新，所以我們的loss也分成2個(gè)：

• Actor loss：用于評(píng)估Actor是否產(chǎn)生了符合人類(lèi)喜好的結(jié)果，將作用于Actor的BWD上。

• Critic loss：用于評(píng)估Critic是否正確預(yù)測(cè)了人類(lèi)的喜好，將作用于Critic的BWD上。

我們?cè)敿?xì)來(lái)看這兩者。

4.1 Actor loss

（1）直觀設(shè)計(jì)

我們先來(lái)看一個(gè)直觀的loss設(shè)計(jì)方式：

• Actor接收到當(dāng)前上文，產(chǎn)出token（）

• Critic根據(jù)，產(chǎn)出對(duì)總收益的預(yù)測(cè)

• 那么Actor loss可以設(shè)計(jì)為：

求和符號(hào)表示我們只考慮response部分所有token的loss，為了表達(dá)簡(jiǎn)便，我們先把這個(gè)求和符號(hào)略去（下文也是同理），也就是說(shuō)：

我們希望minimize這個(gè)actor_loss。

這個(gè)設(shè)計(jì)的直觀解釋是：

• 當(dāng)時(shí)，意味著Critic對(duì)Actor當(dāng)前采取的動(dòng)作給了正向反饋，因此我們就需要在訓(xùn)練迭代中提高，這樣就能達(dá)到減小loss的作用。
• 當(dāng)時(shí)，意味著Critic對(duì)Actor當(dāng)前采取的動(dòng)作給了負(fù)向反饋，因此我們就需要在訓(xùn)練迭代中降低，這樣就能到達(dá)到減小loss的作用。

一句話總結(jié)：這個(gè)loss設(shè)計(jì)的含義是，對(duì)上文而言，如果token產(chǎn)生的收益較高，那就增大它出現(xiàn)的概率，否則降低它出現(xiàn)的概率。

（2）引入優(yōu)勢(shì)（Advantage）

在開(kāi)始講解之前，我們舉個(gè)小例子：

假設(shè)在王者中，中路想支援發(fā)育路，這時(shí)中路有兩種選擇：1. 走自家野區(qū)。2. 走大龍路。

中路選擇走大龍路，當(dāng)她做出這個(gè)決定后，Critic告訴她可以收1個(gè)人頭。結(jié)果，此刻對(duì)面打野正在自家采靈芝，對(duì)面也沒(méi)有什么茍草英雄，中路一路直上，最終收割2個(gè)人頭。

因?yàn)閷?shí)際收割的人頭比預(yù)期要多1個(gè)，中路嘗到了甜頭，所以她增大了“支援上路走大龍路”的概率。

這個(gè)多出來(lái)的“甜頭”，就叫做“優(yōu)勢(shì)”(Advantage)。

對(duì)NLP任務(wù)來(lái)說(shuō)，如果Critic對(duì)的總收益預(yù)測(cè)為，但實(shí)際執(zhí)行后的總收益是，我們就定義優(yōu)勢(shì)為：

我們用替換掉，則此刻actor_loss變?yōu)椋?/span>

（3）重新設(shè)計(jì)

總結(jié)一下，到目前為止，我們的actor_loss形式為：

其中，

同時(shí)注意，這個(gè)actor_loss應(yīng)該是response的所有token loss的sum或者avg。這里為了表達(dá)方便，我們的公式略去了求和或求平均的符號(hào)。

按照這個(gè)理解，應(yīng)該表示每個(gè)Actor產(chǎn)出token 帶來(lái)的即時(shí)收益，正如下圖所示（其中表示最后一個(gè)時(shí)刻）：

但在deepspeed-chat的RLHF實(shí)踐中，對(duì)做了另一種設(shè)計(jì)：

• ：常量，可以理解成是一個(gè)控制比例的縮放因子，在deepspeed-chat中默認(rèn)設(shè)為0.1

• ：這一項(xiàng)你是不是非常眼熟，這就是我們?cè)?.2部分介紹的Actor和Ref模型間的KL散度呀，寫(xiě)成更容易理解的形式，就是ref_log_probs - log_probs。在3.2中我們說(shuō)過(guò)，為了防止模型訓(xùn)歪，我們需要把這個(gè)KL散度加入loss計(jì)算中，所以這里我們就在做這件事

基于這些，上面這個(gè)對(duì)的設(shè)計(jì)可理解成：

• 當(dāng)時(shí)，我們更加關(guān)心Actor是否有在Ref的約束下生產(chǎn)token
• 當(dāng)時(shí)，我們不僅關(guān)心Actor是否遵從了Ref的約束，也關(guān)心真正的即時(shí)收益

需要注意的是，的設(shè)計(jì)并不只有這一種（其實(shí)我覺(jué)得只取時(shí)刻的不太合理，deepspeed在自己的代碼注釋中也有提過(guò)，可以嘗試把最后一個(gè)時(shí)刻的替換成所有token的平均值；或者在我來(lái)看時(shí)也應(yīng)該納入對(duì)的考慮）。

代碼實(shí)踐如下：

defcompute_rewards(self,prompts,log_probs,ref_log_probs,reward_score,
action_mask):
"""
 reward_function：計(jì)算最終的reward分?jǐn)?shù)
復(fù)習(xí)一下幾個(gè)相關(guān)參數(shù)的默認(rèn)值：
self.kl_ctl=0.1
self.clip_reward_value=5

對(duì)于batch中的某個(gè)prompt來(lái)說(shuō)，它最終的reward分?jǐn)?shù)為：
(1)先計(jì)算actor和ref_model的logit相似度：-self.kl_ctl *(log_probs - ref_log_probs)
其實(shí)寫(xiě)成self.kl_ctl*(ref_log_probs-log_probs)更好理解些
這個(gè)值越大，說(shuō)明ref_model對(duì)actor生成的結(jié)果的認(rèn)可度越高（即表明rlhf沒(méi)有訓(xùn)歪），
沒(méi)有訓(xùn)歪的情況下我們也應(yīng)該給模型一些獎(jiǎng)勵(lì)，這個(gè)獎(jiǎng)勵(lì)就是self.kl_ctl*(ref_log_probs-log_probs)

（2）由于我們只取最后一個(gè)token對(duì)應(yīng)位置的分?jǐn)?shù)作為reward_score，因此我們只需要：
self.kl_ctl*(ref_log_probs-log_probs)的最后一位+reward_score

(3)同時(shí)我們對(duì)reward_score也做了大小限制，最大不超過(guò)self.clip_reward_value（超過(guò)統(tǒng)一給成self.clip_reward_value），
最小不低于-self.clip_reward_value（低于統(tǒng)一給成-self.clip_reward_value）

(4)最后返回的rewards大小為：（batch_size, 各條數(shù)據(jù)的長(zhǎng)度），對(duì)batch中的每條數(shù)據(jù)來(lái)說(shuō)：
- response的最后一位：self.kl_ctl *(ref_log_probs - log_probs)的最后一位+ reward_score
- response的其余位置：self.kl_ctl *(ref_log_probs - log_probs)

"""

kl_divergence_estimate=-self.kl_ctl*(log_probs-ref_log_probs)
rewards=kl_divergence_estimate
#---------------------------------------------------------------------------------------------------
#response開(kāi)始的位置
#（因?yàn)槲覀儗?duì)prompt做過(guò)padding處理，因此batch中每個(gè)prompt長(zhǎng)度一致，也就意味著每個(gè)response開(kāi)始的位置一致）
#（所以這里start是不加s的，只是一個(gè)int）
#---------------------------------------------------------------------------------------------------
start=prompts.shape[1]-1
#---------------------------------------------------------------------------------------------------
#response結(jié)束的位置
#（因?yàn)橐粋€(gè)batch中，每個(gè)response的長(zhǎng)度不一樣，所以response的結(jié)束位置也不一樣）
#（所以這里end是加s的，ends的尺寸是(batch_size,)
#---------------------------------------------------------------------------------------------------
ends=start+action_mask[:,start:].sum(1)+1
#---------------------------------------------------------------------------------------------------
#對(duì)rewards_score做限制
#---------------------------------------------------------------------------------------------------
reward_clip=torch.clamp(reward_score,-self.clip_reward_value,
self.clip_reward_value)
batch_size=log_probs.shape[0]
forjinrange(batch_size):
rewards[j,start:ends[j]][-1]+=reward_clip[j]#

returnrewards

（4）重新設(shè)計(jì)優(yōu)勢(shì)

好，再總結(jié)一下，目前為止我們的actor_loss為：

其中，

同時(shí)，我們對(duì)進(jìn)行來(lái)改造，使其能夠衡量Actor模型是否遵從了Ref模型的約束。

現(xiàn)在我們把改造焦點(diǎn)放在上，回想一下，既然對(duì)于收益而言，分為即時(shí)和未來(lái)，那么對(duì)于優(yōu)勢(shì)而言，是不是也能引入對(duì)未來(lái)優(yōu)勢(shì)的考量呢？這樣，我們就可以把改寫(xiě)成如下形式：

（熟悉強(qiáng)化學(xué)習(xí)的朋友應(yīng)該能一眼看出這是GAE，這里我們不打算做復(fù)雜的介紹，一切都站在直覺(jué)的角度理解）

其中，新引入的也是一個(gè)常量，可將其理解為權(quán)衡因子，直覺(jué)上看它控制了在計(jì)算當(dāng)前優(yōu)勢(shì)時(shí)對(duì)未來(lái)優(yōu)勢(shì)的考量。（從強(qiáng)化學(xué)習(xí)的角度上，它控制了優(yōu)勢(shì)估計(jì)的方差和偏差）

看到這里，你可能想問(wèn)：這個(gè)代表未來(lái)優(yōu)勢(shì)的，我要怎么算呢？

注意到，對(duì)于最后一個(gè)時(shí)刻，它的未來(lái)收益（）和未來(lái)優(yōu)勢(shì)（）都是0，也就是，這是可以直接算出來(lái)的。而有了，我們不就能從后往前，通過(guò)動(dòng)態(tài)規(guī)劃的方法，把所有時(shí)刻的優(yōu)勢(shì)都依次算出來(lái)了嗎？

代碼實(shí)踐如下（其中返回值中的returns表示實(shí)際收益，將被用于計(jì)算Critic模型的loss，可以參見(jiàn)4.2，其余細(xì)節(jié)都在代碼注釋中）：

defget_advantages_and_returns(self,values,rewards,start):
"""
Adoptedfromhttps://github.com/CarperAI/trlx/blob/main/trlx/models/modeling_ppo.py#L134

沒(méi)有引入GAE前的t時(shí)刻的優(yōu)勢(shì)值：
detal_t=r_t+gamma*V_t+1-V_t
其中：
-r_t表示t時(shí)刻的即時(shí)收益
-V_t+1表示未來(lái)時(shí)刻的預(yù)期收益
-r_t+gamma*V_t+1可理解成t時(shí)刻的實(shí)際預(yù)期收益
-V_t可理解成t時(shí)刻的預(yù)估預(yù)期收益（是模型，例如criticmodel自己估算出來(lái)的）

引入GAE后的t時(shí)刻的優(yōu)勢(shì)值：
A_t=delta_t+gamma*lambda*A_t+1
粗暴理解為在t時(shí)刻時(shí)，不僅考慮當(dāng)下優(yōu)勢(shì)，還考慮了未來(lái)的優(yōu)勢(shì)
為了知道A_t, 我們得知道A_t+1，所以在本算法中采取了從后往前做動(dòng)態(tài)規(guī)劃求解的方法，也即：
假設(shè)T是最后一個(gè)時(shí)刻，則有A_T+1=0,所以有:A_T=delta_T
知道了A_T,就可以依次往前倒推，把A_t-1,A_t-2之類(lèi)都算出來(lái)了

引入GAE后t時(shí)刻的實(shí)際預(yù)期收益
returns_t=A_t+V_t
=delta_t+gamma*lambda*A_t+1+V_t
=r_t+gamma*V_t+1-V_t+gamma*lambda*A_t+1+V_t
=r_t+gamma*(V_t+1+lambda*A_t+1)

注意，這里不管是advantages還是returns，都只算response的部分
"""

#Adoptedfromhttps://github.com/CarperAI/trlx/blob/main/trlx/models/modeling_ppo.py#L134
lastgaelam=0
advantages_reversed=[]
length=rewards.size()[-1]
#注意這里用了reversed，是采取從后往前倒推計(jì)算的方式
fortinreversed(range(start,length)):
nextvalues=values[:,t+1]ift1else0.0
delta=rewards[:,t]+self.gamma*nextvalues-values[:,t]
lastgaelam=delta+self.gamma*self.lam*lastgaelam
advantages_reversed.append(lastgaelam)
advantages=torch.stack(advantages_reversed[::-1],dim=1)#優(yōu)勢(shì)
returns=advantages+values[:,start:]#實(shí)際收益
#values:預(yù)期收益
returnadvantages.detach(),returns

(5) PPO-epoch: 引入新約束

總結(jié)一下，目前為止我們的actor_loss為：

其中，

同時(shí)

• 我們已經(jīng)對(duì)進(jìn)行來(lái)改造，使其能夠衡量Actor模型是否遵從了Ref模型的約束。
• 我們已經(jīng)對(duì)進(jìn)行改造，使其不僅考慮了當(dāng)前時(shí)刻的優(yōu)勢(shì)，還考慮了未來(lái)的優(yōu)勢(shì)

基于這些改造，我們重新理一遍RLHF-PPO的訓(xùn)練過(guò)程。

• 第一步，我們準(zhǔn)備一個(gè)batch的prompts

• 第二步，我們將這個(gè)batch的prompts喂給Actor模型，讓它生成對(duì)應(yīng)的responses

• 第三步，我們把prompt+responses喂給我們的Critic/Reward/Reference模型，讓它生成用于計(jì)算actor/critic loss的數(shù)據(jù)，按照強(qiáng)化學(xué)習(xí)的術(shù)語(yǔ)，我們稱(chēng)這些數(shù)據(jù)為經(jīng)驗(yàn)（experiences）。critic loss我們將在后文做詳細(xì)講解，目前我們只把目光聚焦到actor loss上

• 第四步，我們根據(jù)這些經(jīng)驗(yàn)，實(shí)際計(jì)算出actor/critic loss，然后更新Actor和Critic模型

這些步驟都很符合直覺(jué)，但是細(xì)心的你肯定發(fā)現(xiàn)了，文字描述中的第四步和圖例中的第四步有差異：圖中說(shuō)，這一個(gè)batch的經(jīng)驗(yàn)值將被用于n次模型更新，這是什么意思呢？

我們知道，在強(qiáng)化學(xué)習(xí)中，收集一個(gè)batch的經(jīng)驗(yàn)是非常耗時(shí)的。對(duì)應(yīng)到我們RLHF的例子中，收集一次經(jīng)驗(yàn)，它要等四個(gè)模型做完推理才可以，正是因此，一個(gè)batch的經(jīng)驗(yàn)，只用于計(jì)算1次loss，更新1次Actor和Critic模型，好像有點(diǎn)太浪費(fèi)了。

所以，我們自然而然想到，1個(gè)batch的經(jīng)驗(yàn)，能不能用來(lái)計(jì)算ppo-epochs次loss，更新ppo-epochs次Actor和Critic模型？簡(jiǎn)單寫(xiě)一下偽代碼，我們想要：

#--------------------------------------------------------------
#初始化RLHF中的四個(gè)模型
#--------------------------------------------------------------
actor,critic,reward,ref=initialize_models()

#--------------------------------------------------------------
#訓(xùn)練
#--------------------------------------------------------------
#對(duì)于每一個(gè)batch的數(shù)據(jù)
foriinsteps:
#先收集經(jīng)驗(yàn)值
exps=generate_experience(prompts,actor,critic,reward,ref)
#一個(gè)batch的經(jīng)驗(yàn)值將被用于計(jì)算ppo_epochs次loss，更新ppo_epochs次模型
#這也意味著，當(dāng)你計(jì)算一次新loss時(shí)，你用的是更新后的模型
forjinppo_epochs:
actor_loss=cal_actor_loss(exps,actor)
critic_loss=cal_critic_loss(exps,critic)

actor.backward(actor_loss)
actor.step()

critc.backward(critic_loss)
critic.step()

而如果我們想讓一個(gè)batch的經(jīng)驗(yàn)值被重復(fù)使用ppo_epochs次，等價(jià)于我們想要Actor在這個(gè)過(guò)程中，模擬和環(huán)境交互ppo_epochs次。舉個(gè)例子：

• 如果1個(gè)batch的經(jīng)驗(yàn)值只使用1次，那么在本次更新完后，Actor就吃新的batch，正常和環(huán)境交互，產(chǎn)出新的經(jīng)驗(yàn)值

• 但如果1個(gè)batch的經(jīng)驗(yàn)值被使用ppo_epochs次，在這ppo_epochs中，Actor是不吃任何新數(shù)據(jù)，不做任何交互的，所以我們只能讓Actor“模擬”一下和環(huán)境交互的過(guò)程，吐出一些新數(shù)據(jù)出來(lái)。

那怎么讓Actor模擬呢？很簡(jiǎn)單，讓它觀察一下之前的數(shù)據(jù)長(zhǎng)什么樣，讓它依葫蘆畫(huà)瓢，不就行了嗎？我們假設(shè)最開(kāi)始吃batch，吐出經(jīng)驗(yàn)的actor叫，而在偽代碼中，每次做完ppo_epochs而更新的actor叫，那么我們只要盡量保證每次更新后的能模仿最開(kāi)始的那個(gè)，不就行了嗎？

誒！是不是很眼熟！兩個(gè)分布，通過(guò)什么方法讓它們相近！那當(dāng)然是KL散度！所以，再回到我們的actor_loss上來(lái)，它現(xiàn)在就可被改進(jìn)成：

我們?cè)偕宰饕恍└膭?dòng)將log去掉（這個(gè)其實(shí)不是“稍作改動(dòng)去掉log”的事，是涉及到PPO中重要性采樣的相關(guān)內(nèi)容，大家有興趣可以參考https://www.cnblogs.com/xingzheai/p/15931681.html）：

其中，表示真正吃了batch，產(chǎn)出經(jīng)驗(yàn)值的Actor；P表示ppo_epochs中實(shí)時(shí)迭代更新的Actor，它在模仿的行為。所以這個(gè)公式從直覺(jué)上也可以理解成：在Actor想通過(guò)模擬交互的方式，使用一個(gè)batch的經(jīng)驗(yàn)值更新自己時(shí)，它需要收到真正吃到batch的那個(gè)時(shí)刻的Actor的約束，這樣才能在有效利用batch，提升訓(xùn)練速度的基礎(chǔ)上，保持訓(xùn)練的穩(wěn)定。

但是，謹(jǐn)慎的你可能此時(shí)又有新的擔(dān)心了：雖然我們?cè)诟翧ctor的過(guò)程中用做了約束，但如的約束能力不夠，比如說(shuō)還是超出了可接受的范圍，那怎么辦？

很簡(jiǎn)單，那就剪裁（clip）它吧！

我們給設(shè)置一個(gè)范圍，例如(0.8 ,1.2)，也就是如果這個(gè)值一旦超過(guò)1.2，那就統(tǒng)一變成1.2；一旦小于0.8，那就統(tǒng)一變成0.8。這樣就能保證和的分布相似性在我們的掌控之內(nèi)了。此時(shí)actor_loss變?yōu)椋?/span>

這時(shí)要注意，如果超過(guò)變化范圍，將強(qiáng)制設(shè)定為一個(gè)常數(shù)后，就說(shuō)明這一部分的loss和Actor模型無(wú)關(guān)了，而這項(xiàng)本身也與Actor無(wú)關(guān)。所以相當(dāng)于，在超過(guò)約束范圍時(shí)，我們停止對(duì)Actor模型進(jìn)行更新。

整體代碼如下：

defactor_loss_fn(self,logprobs,old_logprobs,advantages,mask):
"""
logprobs:實(shí)時(shí)計(jì)算的，response部分的prob（只有這個(gè)是隨著actor實(shí)時(shí)更新而改變的）
 old_logprobs：老策略中，response部分的prob （這個(gè)是固定的，不隨actor實(shí)時(shí)更新而改變）
 advantages：老策略中，response部分每個(gè)token對(duì)應(yīng)的優(yōu)勢(shì)（這個(gè)是固定的，不隨actor實(shí)時(shí)更新而改變）
 mask：老策略中，response部分對(duì)應(yīng)的mask情況這個(gè)是固定的，不隨actor實(shí)時(shí)更新而改變）

之所以要引入logprobs計(jì)算actor_loss，是因?yàn)槲覀儾幌Ｍ呗悦看胃碌姆忍?，防止模型?xùn)歪

self.cliprange:默認(rèn)值是0.2
"""
##policygradientloss
#-------------------------------------------------------------------------------------
#計(jì)算新舊策略間的KL散度
#-------------------------------------------------------------------------------------
log_ratio=(logprobs-old_logprobs)*mask
ratio=torch.exp(log_ratio)
#-------------------------------------------------------------------------------------
#計(jì)算原始loss和截?cái)鄉(xiāng)oss
#-------------------------------------------------------------------------------------
pg_loss1=-advantages*ratio
pg_loss2=-advantages*torch.clamp(ratio,1.0-self.cliprange,1.0+self.cliprange)
pg_loss=torch.sum(torch.max(pg_loss1,pg_loss2)*mask)/mask.sum()#最后是取每個(gè)非mask的responsetoken的平均loss作為最終loss
returnpg_loss

（6）Actor loss小結(jié)

（1）～（5）中我們一步步樹(shù)立了actor_loss的改進(jìn)過(guò)程，這里我們就做一個(gè)總結(jié)吧：

其中：

• 我們已經(jīng)對(duì)進(jìn)行來(lái)改造，使其能夠衡量Actor模型是否遵從了Ref模型的約束

• 我們已經(jīng)對(duì)進(jìn)行改造，使其不僅考慮了當(dāng)前時(shí)刻的優(yōu)勢(shì)，還考慮了未來(lái)的優(yōu)勢(shì)

• 我們重復(fù)利用了1個(gè)batch的數(shù)據(jù)，使本來(lái)只能被用來(lái)做1次模型更新的它現(xiàn)在能被用來(lái)做ppo_epochs次模型更新。我們使用真正吃了batch，產(chǎn)出經(jīng)驗(yàn)值的那個(gè)時(shí)刻的Actor分布來(lái)約束ppo_epochs中更新的Actor分布

• 我們考慮了剪裁機(jī)制（clip），在ppo_epochs次更新中，一旦Actor的更新幅度超過(guò)我們的控制范圍，則不對(duì)它進(jìn)行參數(shù)更新。

4.2 Critic loss

我們知道，1個(gè)batch產(chǎn)出的經(jīng)驗(yàn)值，不僅被用來(lái)更新Actor，還被用來(lái)更新Critic。對(duì)于Critic loss，我們不再像Actor loss一樣給出一個(gè)“演變過(guò)程”的解讀，我們直接來(lái)看它最后的設(shè)計(jì)。

首先，在之前的解說(shuō)中，你可能有這樣一個(gè)印象：

• ：Critic對(duì)t時(shí)刻的總收益的預(yù)估，這個(gè)總收益包含即時(shí)和未來(lái)的概念（預(yù)估收益）

• ：Reward計(jì)算出的即時(shí)收益，Critic預(yù)測(cè)出的及之后時(shí)候的收益的折現(xiàn)，這是比更接近t時(shí)刻真值總收益的一個(gè)值（實(shí)際收益）

所以，我們的第一想法是：

現(xiàn)在，我們對(duì)“實(shí)際收益”和“預(yù)估收益”都做一些優(yōu)化。

（1）實(shí)際收益優(yōu)化

我們?cè)嫉膶?shí)際收益為，但是當(dāng)我們?cè)赼ctor_loss中引入“優(yōu)勢(shì)”的概念時(shí)，“優(yōu)勢(shì)”中刻畫(huà)了更為豐富的實(shí)時(shí)收益信息，所以，我們將實(shí)際收益優(yōu)化為：

（2）預(yù)估收益優(yōu)化

我們?cè)嫉念A(yù)估收益為。

類(lèi)比于Actor，Critic模型在ppo_epochs的過(guò)程中也是不斷更新的。所以這個(gè)可以理解成是，也就是真正吃了batch，參與產(chǎn)出經(jīng)驗(yàn)的那個(gè)時(shí)候的Critic產(chǎn)出的收益預(yù)測(cè)結(jié)果。

我們同樣想用舊模型去約束新模型，但對(duì)于Critic我們采用的約束策略就比較簡(jiǎn)單了，我們直接看代碼，從中可以看出，我們用老設(shè)計(jì)了了一個(gè)變動(dòng)范圍，然后用這個(gè)變動(dòng)范圍去約束新

#self.cliprange_value是一個(gè)常量
#old_values:老critic的預(yù)測(cè)結(jié)果
# values：新critic的預(yù)測(cè)結(jié)果
values_clipped=torch.clamp(
values,
old_values-self.cliprange_value,
old_values+self.cliprange_value,
)

那么最終我們就取實(shí)際收益和預(yù)估收益的MSE做為loss就好，這里注意，計(jì)算實(shí)際收益時(shí)都是老Critic（真正吃了batch的那個(gè)）產(chǎn)出的結(jié)果，而預(yù)估收益是隨著ppo_epochs而變動(dòng)的。

代碼如下：

defcritic_loss_fn(self,values,old_values,returns,mask):
"""
values:實(shí)時(shí)critic跑出來(lái)的預(yù)估預(yù)期收益（是變動(dòng)的，隨著ppoepoch迭代而改變）
 old_values：老critic跑出來(lái)的預(yù)估預(yù)期收益（是固定值）
 returns：實(shí)際預(yù)期收益
 mask：response部分的mask

self.cliprange_value=0.2
"""
##valueloss
#用舊的value去約束新的value
values_clipped=torch.clamp(
values,
old_values-self.cliprange_value,
old_values+self.cliprange_value,
)
ifself.compute_fp32_loss:
values=values.float()
values_clipped=values_clipped.float()

#critic模型的loss定義為（預(yù)估預(yù)期收益-實(shí)際預(yù)期收益）**2
vf_loss1=(values-returns)**2
vf_loss2=(values_clipped-returns)**2
vf_loss=0.5*torch.sum(
torch.max(vf_loss1,vf_loss2)*mask)/mask.sum()#同樣，最后也是把criticloss平均到每個(gè)token上
returnvf_loss

至此，關(guān)于RLHF-PPO訓(xùn)練的核心部分和代碼解讀就講完了，建議大家親自閱讀源碼，如果有硬件條件，可以動(dòng)手實(shí)踐。源碼地址：

https://github.com/microsoft/DeepSpeedExamples/tree/master/applications/DeepSpeed-Chat/training/step3_rlhf_finetuning