【導(dǎo)讀】Karpathy認(rèn)為，AI智能體代表了AI的一種未來(lái)，它的發(fā)展需要從神經(jīng)科學(xué)中汲取靈感，鼓勵(lì)A(yù)I智能體領(lǐng)域的研究者再接再厲。

近日，OpenAI聯(lián)合創(chuàng)始人，曾經(jīng)TeslaAI總監(jiān)，現(xiàn)在又重新返回OpenAI的Andrej Karpathy在一個(gè)開(kāi)發(fā)者活動(dòng)上，分享了自己對(duì)于AI智能體的看法。

7年前，研究AI智能體的時(shí)機(jī)還不成熟

他先聊到了自己早期在OpenAI工作時(shí)（2016年左右），當(dāng)時(shí)的業(yè)界潮流就是研究如何用強(qiáng)化學(xué)習(xí)的方法來(lái)改進(jìn)AI智能體。

很多項(xiàng)目都在基于類(lèi)似雅達(dá)利游戲來(lái)制作AI玩家。

當(dāng)時(shí)他本人想做的是一個(gè)適用范圍更廣泛的產(chǎn)品。

但是因?yàn)楫?dāng)時(shí)的技術(shù)所限，做出來(lái)的效果不好，于是他和OpenAI就改變了方向，開(kāi)始做大語(yǔ)言模型了。

當(dāng)然，這期間我被自動(dòng)駕駛分了心。

但是5年之后的現(xiàn)在，AI智能體重新成為了一個(gè)非常有前途的方向。

因?yàn)楝F(xiàn)在有了全新的技術(shù)手段來(lái)研究AI智能體，情況和2016年完全不同了。

最簡(jiǎn)單的例子就是，現(xiàn)在沒(méi)有人再像2016年那樣用強(qiáng)化學(xué)習(xí)的方法來(lái)研究AI智能體了。

現(xiàn)在的研究方法和方向在當(dāng)年是不可想象的。

AI智能體代表著一個(gè)瘋狂的未來(lái)，雖然可能還有點(diǎn)遠(yuǎn)

因?yàn)樵谖磥?lái)，如果AGI能夠出現(xiàn)，將會(huì)充分發(fā)揮AI智能體的能力。

未來(lái)的AI智能體可能不是單獨(dú)的個(gè)體，而是會(huì)出現(xiàn)非常多的AI智能體組織，甚至是AI智能體文明。

這可能是一個(gè)讓人非常興奮，甚至是瘋狂的未來(lái)。

但同時(shí)大家也要保持清醒和冷靜。

因?yàn)橐恍┘夹g(shù)趨勢(shì)方向可能很容易構(gòu)想，展望出來(lái)，但是要做成產(chǎn)品落地卻很難。

很多技術(shù)都屬于這種類(lèi)型，比如自動(dòng)駕駛就是這樣。

技術(shù)遠(yuǎn)景很容易設(shè)想出來(lái)，汽車(chē)在街區(qū)行駛的演示也很容易做出來(lái)，但是做出產(chǎn)品可能需要10年時(shí)間。

同樣，VR也是這樣的情況。

AI智能體可能也屬于這一類(lèi)技術(shù)，應(yīng)用場(chǎng)景很容易想象，前景讓人興奮，但是需要長(zhǎng)期的技術(shù)發(fā)展和積累。

AI智能體需要從神經(jīng)科學(xué)中汲取靈感

就像深度學(xué)習(xí)早期的發(fā)展一樣，AI智能體的發(fā)展可能會(huì)從神經(jīng)科學(xué)中獲得啟發(fā)。

思考AI智能體和神經(jīng)科學(xué)的關(guān)系是很有意思的。

尤其是現(xiàn)在很多人都把大語(yǔ)言模型作為AI智能體解決方案的一部分。

但是如何構(gòu)建一個(gè)完整的，擁有人類(lèi)所有認(rèn)知能力的數(shù)字實(shí)體呢？

顯然，我們都認(rèn)為需要某種潛在的系統(tǒng)來(lái)規(guī)劃、思考和反思我們?cè)谧龅氖虑椤?/p>

這可能就是神經(jīng)科學(xué)能發(fā)揮作用的地方。

舉個(gè)例子，海馬體是大腦非常重要的部分。

但是AI智能體中什么東西發(fā)揮著海馬體的作用，來(lái)存儲(chǔ)記憶，實(shí)現(xiàn)標(biāo)記和檢索等等的這些功能呢？

我們大致已經(jīng)了解如何構(gòu)建視覺(jué)和聽(tīng)覺(jué)皮層，但還有許多的東西我們并不知道在AI智能體中到底意味著什么。

比如潛意識(shí)的所在地——丘腦在AI Agents中又相當(dāng)于什么呢？

這些都是非常有趣的問(wèn)題。

我專(zhuān)門(mén)帶了一本神經(jīng)科學(xué)方面的書(shū)，是有David Eagleman的《大腦與行為》，我發(fā)現(xiàn)這本書(shū)非常有趣，很有啟發(fā)性。

就像早期AI研究在設(shè)計(jì)神經(jīng)元時(shí)所做的那樣，從神經(jīng)科學(xué)中汲取有趣的靈感，也許是我們應(yīng)該重新嘗試的方向。

在座的大家就是行業(yè)的最前沿

可能大家不一定知道，但是今天到場(chǎng)的大家構(gòu)建的AI智能體已經(jīng)處于AI智能體能力的最前沿。

現(xiàn)在所有正在做大語(yǔ)言模型的機(jī)構(gòu)，比如OpenAI等，我覺(jué)得都沒(méi)有處于這個(gè)領(lǐng)域的最前沿。

最前沿的是在座的各位。

舉個(gè)例子，OpenAI非常擅長(zhǎng)訓(xùn)練Transformer語(yǔ)言模型。

如果某篇論文提出了一種不同的訓(xùn)練方法，那么我們OpenAI內(nèi)部的Slack群組里大家會(huì)討論說(shuō)：

「這個(gè)辦法我兩年半前嘗試過(guò)，沒(méi)什么用。」

我們對(duì)訓(xùn)練模型的方法的來(lái)龍去脈是很清楚的。

但是對(duì)于AI智能體的論文出來(lái)的時(shí)候，我們所有人都會(huì)很感興趣，會(huì)覺(jué)得很了不起。

因?yàn)槲覀兊膱F(tuán)隊(duì)最近5年的時(shí)間花在了別的地方。

在這個(gè)領(lǐng)域內(nèi)我們沒(méi)有比你們懂得更多，我們和大家站在同一競(jìng)爭(zhēng)的水平線(xiàn)上。

這就是我覺(jué)得在座的各位處于AI智能體最前沿的原因，這一點(diǎn)對(duì)于AI智能體的發(fā)展是非常重要的。