從復(fù)旦大學(xué)自然語言處理實(shí)驗(yàn)室獲悉,國內(nèi)首個(gè)對話式大型語言模型MOSS已由邱錫鵬教授團(tuán)隊(duì)發(fā)布至公開平臺,邀公眾參與內(nèi)測。
復(fù)旦MOSS公開后,引起不少網(wǎng)友關(guān)注,由于瞬時(shí)訪問壓力過大,MOSS服務(wù)器昨晚還被網(wǎng)友擠崩潰了。
據(jù)了解,在MOSS完成初步驗(yàn)證后,團(tuán)隊(duì)會將MOSS的經(jīng)驗(yàn)、代碼、模型參數(shù)開源供大家參考。
值得一提的是,復(fù)旦團(tuán)隊(duì)開發(fā)的這個(gè)對話式大型語言模型的名字剛好與《流浪地球》系列電影中的人工智能550W量子計(jì)算機(jī)MOSS重名。
官方也對這一命名作出解釋,原來是團(tuán)隊(duì)在訓(xùn)練完成第一代模型時(shí),正好趕上《流浪地球2》的上映,片中MOSS給團(tuán)隊(duì)留下深刻印象,因此便使用了這個(gè)名稱來指代模型,可以說也是對《流浪地球》的致敬。
據(jù)悉,MOSS和ChatGPT一樣,開發(fā)過程也包括自然語言模型的基座訓(xùn)練、理解人類意圖的對話能力訓(xùn)練兩個(gè)階段。
不同的是,復(fù)旦團(tuán)隊(duì)采用不同的技術(shù)路線,通過讓MOSS和人類以及其他對話模型都進(jìn)行交互,提升學(xué)習(xí)效率和研發(fā)效率,短時(shí)間內(nèi)就高效完成了對話能力訓(xùn)練。
鄭重聲明:此文內(nèi)容為本網(wǎng)站轉(zhuǎn)載企業(yè)宣傳資訊,目的在于傳播更多信息,與本站立場無關(guān)。僅供讀者參考,并請自行核實(shí)相關(guān)內(nèi)容。