鷺島論壇
數(shù)據(jù)智能系列講座第4期
「預(yù)訓(xùn)練的基礎(chǔ)模型下的持續(xù)學(xué)習(xí)」
10月30日(周三) 20:00
精彩開播
期待與您云相聚,共襄學(xué)術(shù)盛宴!
| 直播信息
報(bào)告題目
預(yù)訓(xùn)練的基礎(chǔ)模型下的持續(xù)學(xué)習(xí)
報(bào)告簡介
雖然近年來神經(jīng)網(wǎng)絡(luò),特別是預(yù)訓(xùn)練的基礎(chǔ)模型研究得到了廣泛的應(yīng)用,但其仍然主要依賴于在大量樣本上的批量式訓(xùn)練。
本報(bào)告將探討實(shí)現(xiàn)模型的增量式訓(xùn)練,針對深度神經(jīng)網(wǎng)絡(luò)在增量式學(xué)習(xí)新任務(wù)時(shí)所面臨的"災(zāi)難性遺忘"問題,介紹如何在預(yù)訓(xùn)練的基礎(chǔ)模型上進(jìn)行連續(xù)學(xué)習(xí),包括基于重放的遺忘抑制機(jī)制、基于模型高效微調(diào)的連續(xù)學(xué)習(xí)框架,以及連續(xù)學(xué)習(xí)在計(jì)算機(jī)視覺上任務(wù)上的應(yīng)用和部署等。
報(bào)告嘉賓
洪曉鵬
哈爾濱工業(yè)大學(xué)教授
特邀主持
黃禮泊
中國科學(xué)院計(jì)算技術(shù)研究所
特別研究助理
講座時(shí)間
2024年10月30日(周三)2010
講座環(huán)節(jié)及流程
?講座環(huán)節(jié):
① 5 分鐘主持人進(jìn)行主題與嘉賓介紹
②55分鐘報(bào)告嘉賓講座環(huán)節(jié)
③ 10分鐘互動(dòng)問答環(huán)節(jié)
?講座流程:
① 19:45 開芯會視頻號上線,歡迎觀眾朋友提前進(jìn)入直播間候場
② 20:00 主持人開場
③ 20:05 主講嘉賓開始講座,持續(xù)55min
注:【在講座過程中歡迎觀眾朋友通過各直播平臺進(jìn)行提問工作人員將收集和整理問題】
③ 21:00主持人根據(jù)工作團(tuán)隊(duì)整理的問題與嘉賓進(jìn)行問答互動(dòng),持續(xù)10min
講座形式
視頻號、B站、電子發(fā)燒友、蔻享學(xué)術(shù)等多平臺同步直播
點(diǎn)擊預(yù)約精彩不容錯(cuò)過!
直播海報(bào)
報(bào)告嘉賓
洪曉鵬
哈爾濱工業(yè)大學(xué)教授, IEEE資深會員。歷任芬蘭Oulu大學(xué)博士后、科研型副教授(Docent)和西安交通大學(xué)特聘研究員。斯坦福大學(xué)全球前2%頂尖科學(xué)家年度榜單入選者。已在頂級國際和國內(nèi)刊物和國際會議上發(fā)表文章80余篇,相關(guān)工作見諸美國《麻省理工技術(shù)評論》等技術(shù)媒體專文報(bào)道。2次獲得領(lǐng)域內(nèi)國際權(quán)威期刊和會議的優(yōu)秀論文獎(jiǎng),5次帶隊(duì)獲得國際評測冠軍。作為負(fù)責(zé)人主持了國家重點(diǎn)研發(fā)計(jì)劃課題、國家自然科學(xué)基金、芬蘭信息學(xué)會博士后基金等10余個(gè)項(xiàng)目。多次受邀擔(dān)任ACM MM 、 AAAI/IJCAI的領(lǐng)域主席或資深程序委員以及CVIU和IVC等國際主流期刊的編委。中國圖像與圖形學(xué)學(xué)會情感計(jì)算與理解專業(yè)委員會副秘書長,黑龍江省計(jì)算機(jī)學(xué)會學(xué)術(shù)工作委員會副主任、獎(jiǎng)勵(lì)工作委員會秘書長。目前的研究領(lǐng)域包括:多模態(tài)目標(biāo)感知、深度連續(xù)學(xué)習(xí)、智能決策與任務(wù)分配等。
主持嘉賓
黃禮泊
博士,中國科學(xué)院計(jì)算技術(shù)研究所特別研究助理。主要研究領(lǐng)域?yàn)?a href="http://www.www27dydycom.cn/v/tag/557/" target="_blank">機(jī)器學(xué)習(xí)理論和深度學(xué)習(xí)應(yīng)用,尤其是無監(jiān)督學(xué)習(xí)、持續(xù)學(xué)習(xí)、最優(yōu)化理論等方面的研究。在包括IEEE Transactions系列、AAAI、ICLR、CVPR、NeurIPS等國內(nèi)外期刊和會議上發(fā)表論文20余篇。作為負(fù)責(zé)人承擔(dān)國家領(lǐng)域預(yù)研課題、國家公派留學(xué)基金、北京市自然科學(xué)基金青年基金等多個(gè)項(xiàng)目。
-
神經(jīng)網(wǎng)絡(luò)
+關(guān)注
關(guān)注
42文章
4814瀏覽量
103570 -
數(shù)據(jù)
+關(guān)注
關(guān)注
8文章
7256瀏覽量
91831 -
模型
+關(guān)注
關(guān)注
1文章
3519瀏覽量
50410
發(fā)布評論請先 登錄
直播預(yù)約 |開源芯片系列講座第28期:高性能RISC-V微處理器芯片

明晚開播 |數(shù)據(jù)智能系列講座第7期:面向高泛化能力的視覺感知系統(tǒng)空間建模與微調(diào)學(xué)習(xí)

直播預(yù)約 |數(shù)據(jù)智能系列講座第7期:面向高泛化能力的視覺感知系統(tǒng)空間建模與微調(diào)學(xué)習(xí)

明晚開播 | 數(shù)據(jù)智能系列講座第6期:大模型革命背后的算力架構(gòu)創(chuàng)新

直播預(yù)約 | 數(shù)據(jù)智能系列講座第6期:大模型革命背后的算力架構(gòu)創(chuàng)新

直播預(yù)約 | 開源芯片系列講座第27期:RISC-V AI指令集的標(biāo)準(zhǔn)化與開源實(shí)現(xiàn)

明晚開播 |數(shù)據(jù)智能系列講座第5期:理解并改進(jìn)基礎(chǔ)模型

直播預(yù)約 |數(shù)據(jù)智能系列講座第5期:理解并改進(jìn)基礎(chǔ)模型

直播預(yù)約 |開源芯片系列講座第26期:奕斯偉RISC-V GCC工具鏈實(shí)踐分享

直播預(yù)約 |開源芯片系列講座第25期:RISC-V架構(gòu)在高性能領(lǐng)域的進(jìn)展與挑戰(zhàn)

開源芯片系列講座第24期:基于SRAM存算的高效計(jì)算架構(gòu)

直播預(yù)約 |開源芯片系列講座第24期:SRAM存算一體:賦能高能效RISC-V計(jì)算

數(shù)據(jù)智能系列講座第3期—交流式學(xué)習(xí):神經(jīng)網(wǎng)絡(luò)的精細(xì)與或邏輯與人類認(rèn)知的對齊

開源芯片系列講座第22期:異步電路機(jī)制為RISC-V處理器賦能

直播預(yù)告 |開源芯片系列講座第22期:異步電路機(jī)制為RISC-V處理器賦能

評論