簡介：2023年是技術(shù)發(fā)展的分水嶺，生成式人工智能成為主流。隨著我們進入2024年，預(yù)計生成式人工智能格局將迅速演化，引入一系列有望改變技術(shù)及其應(yīng)用的趨勢，包括多模態(tài)人工智能模型、小語言模型、自主代理等。這些趨勢不僅將塑造技術(shù)格局，還將重新定義交互、創(chuàng)造力和對人工智能潛力的理解。

1、多模態(tài)人工智能模型的出現(xiàn)

OpenAI公司的GPT4、Meta的Llama 2和Mistral都是大型語言模型進步的例子。該技術(shù)利用多模態(tài)人工智能模型超越了文本，允許用戶基于文本、音頻、圖像和視頻匹配內(nèi)容，以提示和生成新內(nèi)容。這種方法包括將圖像、文本和語音等數(shù)據(jù)與高級算法相結(jié)合，以進行預(yù)測并生成結(jié)果。

到2024年，多模態(tài)人工智能預(yù)計將發(fā)生顯著變化，帶來生成式人工智能能力的轉(zhuǎn)變。這些模型正在超越傳統(tǒng)的單模功能，結(jié)合圖像、語言和音頻等不同的數(shù)據(jù)類型。隨著向多模態(tài)模型的過渡，人工智能將變得更加直觀和動態(tài)化。

GPT4-V因其多模態(tài)功能已經(jīng)在ChatGPT Plus用戶中深受歡迎。2024年，我們可以期待開放模型的興起，如大語言和視覺助理或LLava。

2、功能強大的小語言模型

2024年將見證小型語言模型的力量。大語言模型是在Common Crawl和The Pile等大型數(shù)據(jù)集上進行訓(xùn)練的。這些數(shù)據(jù)集是從數(shù)十億個可公開訪問的網(wǎng)站中提取的，其龐大的數(shù)據(jù)對模型十分有益，但同時也無法擺脫其“嘈雜”的本質(zhì)。但是，小型語言模型是在較為有限的數(shù)據(jù)集上訓(xùn)練的，這些數(shù)據(jù)集由教科書、期刊和權(quán)威內(nèi)容等高質(zhì)量的來源組成。這些模型對參數(shù)技術(shù)以及存儲和內(nèi)存需求較小，可在功能較弱且價格較低的硬件上運行。雖然小語言模型規(guī)模較小，但其產(chǎn)出的內(nèi)容質(zhì)量與一些規(guī)模較大的大語言模型相當(dāng)。

微軟的PHI-2和Mistral 7B是兩種潛力巨大的小語言模型，將為下一代生成式人工智能應(yīng)用提供動力。

3、自主代理的興起

自主代理是為完成特定目標而設(shè)計的自主軟件程序，這是構(gòu)建生成式人工智能模型的一種創(chuàng)新策略。在沒有人為干預(yù)的情況下，自主代理生產(chǎn)內(nèi)容的能力超越了傳統(tǒng)提示工程的限制。

先進的算法和機器學(xué)習(xí)技術(shù)被用于自主代理的開發(fā)。這些代理使用數(shù)據(jù)來學(xué)習(xí)、適應(yīng)新情況，并在幾乎沒有人為干預(yù)的情況下做出決策。例如，OpenAI已經(jīng)創(chuàng)建了有效利用自主代理的自定義GPT等工具，這表明人工智能領(lǐng)域取得了重大進展。

多模態(tài)人工智能結(jié)合了自然語言處理、計算機視覺和機器學(xué)習(xí)等各種人工智能技術(shù)，對自主代理的發(fā)展至關(guān)重要。通過同時分析不同的數(shù)據(jù)類型并應(yīng)用當(dāng)前上下文，它可以做出預(yù)測、采取行動并進行更適當(dāng)?shù)慕换ァ?/p>

例如，LangChain和LlamaIndex等框架可用于構(gòu)建基于大語言模型的代理。2024年將出現(xiàn)利用多模態(tài)人工智能的新框架。

4、開放模式將與專有模式相媲美

預(yù)計2024年開放的生成式人工智能模型將發(fā)生重大變化，一些預(yù)測表明它們將與專有模型相媲美。開放模型和專有模型之間的比較很復(fù)雜，依賴于各種因素，包括特定的用例、開發(fā)資源和用于訓(xùn)練模型的數(shù)據(jù)。

Meta的Llama 270b、Falcon 180B和Mistral AI的Mixtral-8x7B在2023年非常受歡迎，其性能與GPT 3.5、Claude 2和Jurassic-2等專有模型相當(dāng)。

未來，開放模型和專有模型之間的差距將縮小，從而成為企業(yè)在混合或本地環(huán)境中托管生成式人工智能模型的絕佳選擇。

5、云原生成為本地生成式人工智能的關(guān)鍵

Kubernetes已成為托管生成式人工智能模型的首選環(huán)境。預(yù)計Hugging Face、OpenAI和谷歌等主要參與方將利用Kubernetes提供的云原生基礎(chǔ)設(shè)施來交付生成式人工智能平臺。

諸如來自Hugging Face的文本生成推理、AnyScale的Ray Serve和vLLM等工具已經(jīng)能夠支持在容器中運行模型推理。2024年，Kubernetes上運行的框架、工具和平臺將日趨成熟，以管理基礎(chǔ)模型的整個生命周期。用戶將能夠有效地進行預(yù)訓(xùn)練、微調(diào)、部署和擴展生成模型。

關(guān)鍵的云原生生態(tài)系統(tǒng)參與方將為在云原生基礎(chǔ)設(shè)施上運行生成式人工智能提供參考架構(gòu)、最佳實踐和優(yōu)化方案。

審核編輯：劉清