電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)近日,北京智源大會(huì)舉辦,在本次會(huì)議上,智源研究院發(fā)布了全面開源的“悟道3.0”系列大模型及算法。
繼2021年悟道大模型項(xiàng)目發(fā)布之后,智源“悟道3.0”進(jìn)入全面開源新階段,此次發(fā)布的一系列成果包括“悟道·天鷹”(Aquila)語言大模型系列、天秤(FlagEval)開源大模型評(píng)測(cè)體系與開放平臺(tái)、“悟道 · 視界”視覺大模型系列,以及一系列多模態(tài)模型成果。
悟道3.0全面開源意味著什么
悟道·天鷹語言大模型是首個(gè)具備中英雙語知識(shí),支持商用許可協(xié)議、國內(nèi)數(shù)據(jù)合規(guī)需求的開源語言大模型。這一模型在中英文高質(zhì)量語料基礎(chǔ)上從“0”開始訓(xùn)練,通過數(shù)據(jù)質(zhì)量的控制、多種訓(xùn)練的優(yōu)化方法,實(shí)現(xiàn)在更小的數(shù)據(jù)集、更短的訓(xùn)練時(shí)間獲得更優(yōu)的性能。
天秤大模型評(píng)測(cè)體系及開放平臺(tái),旨在建立科學(xué)、公正、開放的評(píng)測(cè)基準(zhǔn)、方法、工具集,協(xié)助研究人員全方位評(píng)估基礎(chǔ)模型及訓(xùn)練算法的性能,同時(shí)探索利用AI方法實(shí)現(xiàn)對(duì)主觀評(píng)測(cè)的輔助,大幅提升評(píng)測(cè)的效率和客觀性。
悟道·視界視覺大模型則系統(tǒng)化解決了當(dāng)前計(jì)算機(jī)視覺領(lǐng)域的一系列瓶頸問題,包括任務(wù)統(tǒng)一、模型規(guī)?;约皵?shù)據(jù)效率等。
悟道3.0的全面開源,意味著全球開發(fā)者和研究者都可以無門檻地獲取和使用這款高效的AI模型,開發(fā)者們可以利用悟道3.0進(jìn)行各種開發(fā)和優(yōu)化,進(jìn)一步提升其性能和適用性。悟道3.0全面開源,將助力更多的應(yīng)用和創(chuàng)新誕生,推動(dòng)人工智能技術(shù)的全面普及和深入應(yīng)用。
大模型的發(fā)展趨勢(shì)
當(dāng)前大模型是業(yè)界關(guān)注的熱點(diǎn),什么是大模型呢?據(jù)智源研究院院長黃鐵軍介紹,大模型至少有三個(gè)特點(diǎn):其一是規(guī)模要大,神經(jīng)網(wǎng)絡(luò)參數(shù)要達(dá)到百億規(guī)模以上;其二是要有涌現(xiàn)性,即可以產(chǎn)生預(yù)料之外的新能力,如果一個(gè)模型只從原有的數(shù)據(jù)、算法推導(dǎo)出來結(jié)果,那不叫“涌現(xiàn)”;其三是通用性,不限于針對(duì)專門問題或者專門領(lǐng)域,能夠解決各類問題。
目前國內(nèi)不少企業(yè)都已經(jīng)發(fā)布自己的大模型產(chǎn)品,然而整體來看訓(xùn)練出來的不少大模型還不夠大,智能水平也不夠高。在黃鐵軍看來,單從語言模型來看,未來三年左右的時(shí)間,大語言模型的規(guī)模還將繼續(xù)放大,能力也會(huì)比現(xiàn)在更強(qiáng),這是大模型發(fā)展的一個(gè)基本趨勢(shì)。
另外雖然現(xiàn)在越來越多的企業(yè)都在研究大模型,不過未來大模型生態(tài)只可能會(huì)有很少的幾個(gè),比如三個(gè)左右,無論是幾十個(gè)還還是幾百個(gè)大模型,這都只是技術(shù)迭代過程中的中間產(chǎn)物。
大模型本身是一個(gè)大體系,是由千千萬萬企業(yè)共同構(gòu)建的生態(tài)系統(tǒng)。未來每個(gè)企業(yè)都將會(huì)在大模型生態(tài)中找到自己的位置,不一定是訓(xùn)練或者銷售大模型,可能是在整個(gè)生態(tài)系統(tǒng)中的某個(gè)環(huán)節(jié)。就如同在互聯(lián)網(wǎng)發(fā)展初期,人們也曾認(rèn)為賣鏟子的最賺錢,而大家都在做路由器,但最終只有幾個(gè)企業(yè)能夠做出好的路由器產(chǎn)品。
因此對(duì)于入局大模型生態(tài)體系的企業(yè)來說,不是大家都要去訓(xùn)練自己的大模型,而是需要在整個(gè)生態(tài)體系中,找到自己的優(yōu)勢(shì)和定位,在自己的領(lǐng)域做到最好,去實(shí)現(xiàn)盈利。
小結(jié)
當(dāng)前眾多企業(yè)還在積極投入到大模型的研究中,而“悟道3.0”系列大模型的全面開源,有利于促進(jìn)更多應(yīng)用和創(chuàng)新。
發(fā)展趨勢(shì)方面,未來三年左右時(shí)間,大模型的規(guī)模還將放大,另外未來大模型生態(tài)中可能只會(huì)有很少幾個(gè)企業(yè)脫穎而出,然而這個(gè)生態(tài)系統(tǒng)卻有很多環(huán)節(jié),入局這個(gè)領(lǐng)域的企業(yè),可以找準(zhǔn)自己的優(yōu)勢(shì)和定位,在某幾個(gè)環(huán)節(jié)實(shí)現(xiàn)自己的價(jià)值。
-
AI
+關(guān)注
關(guān)注
87文章
33554瀏覽量
274195
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
【「零基礎(chǔ)開發(fā)AI Agent」閱讀體驗(yàn)】+ 入門篇學(xué)習(xí)
如何基于Kahn處理網(wǎng)絡(luò)定義AI引擎圖形編程模型

首創(chuàng)開源架構(gòu),天璣AI開發(fā)套件讓端側(cè)AI模型接入得心應(yīng)手
AI開源模型庫有什么用
正點(diǎn)原子ESP32S3系列開發(fā)板全面支持小智AI
百度文心大模型將升級(jí)并開源
AMD發(fā)布10億參數(shù)開源AI模型OLMo
Llama 3 與開源AI模型的關(guān)系
IBM發(fā)布Granite 3.0 AI模型家族
人工智能ai4s試讀申請(qǐng)
關(guān)于一些有助于優(yōu)化電源設(shè)計(jì)的新型材料
MSPM0-高級(jí)控制計(jì)時(shí)器有助于實(shí)現(xiàn)更好的控制和更好的數(shù)字輸出

有助于提高網(wǎng)絡(luò)設(shè)備性能的FRAM SF25C20(MB85RS2MT)

愛普生的高精度傳感技術(shù)有助于監(jiān)控自動(dòng)化

評(píng)論