近日，南京農(nóng)業(yè)大學信息管理學院王東波教授研究團隊研發(fā)的“荀子”古籍大語言模型發(fā)布，這是國內(nèi)首個專門應用于古籍處理與研究的智能工具，包含了《四庫全書》在內(nèi)的古籍文獻超20億字大型語料庫，能夠?qū)崿F(xiàn)自然語言理解、自動翻譯、詩歌生成、自動標引等多項功能，作為開源的、公益的研究成果，該模型已在GitHub（https://github.com/Xunzi-LLM-of-Chinese-classics/XunziALLM）、ModelScope（https://modelscope.cn/models/Xunzillm4cc/Xunzi-Qwen-Chat）等網(wǎng)站開源。 為何取名“荀子”？王東波介紹，荀子不僅是我國先秦時期偉大的樸素唯物主義的思想家，也是一位散文大家。在對他作品的深入研討中團隊發(fā)現(xiàn)，其在語言學理論的闡述上也是一位開拓者，命名為“荀子”是為了紀念這位中國歷史上的語言學先驅(qū)。對于普通受眾而言，想要走近繁體、豎版、未添加句逗的古文不是一件容易的事，而“荀子”的上線意味著在智媒時代和古籍對話成為可能。 “咱們請它以金陵為主題，生成一首五言絕句?！蓖鯑|波現(xiàn)場演示了“荀子”的智能寫詩功能，指令一輸入，系統(tǒng)便生成了一首堪稱絕妙的原創(chuàng)古典詩：“秦淮佳麗地，城闕望中迷。柳暗青絲發(fā)，花香碧玉衣。歌樓留夜色，畫閣斂春暉。細雨輕舟去，雙魚夢澤飛?！?/div> 除此之外，古文的閱讀理解、標點添加，以及將古漢語翻譯為現(xiàn)代漢語，這些讓受眾難啃的“硬骨頭”，“荀子”都可以輕松拿下。 對于領域?qū)＜叶?，他們可以借助“荀子”完成古籍詞法分析、實體識別、關系抽取、文本分類與匹配、文本摘要等專業(yè)古籍研究處理場景。同時發(fā)布的基座模型，還可以讓用戶根據(jù)自己的需求，使用本地的訓練語料微調(diào)“荀子”基座模型，使其在古籍下游處理任務上取得更優(yōu)越的處理性能。 盡管目前有200多個通用模型在各領域得到應用，但古籍領域仍缺乏專業(yè)的大語言模型。功能強大的“荀子”到底是怎么做到化繁為簡、通讀古今的呢？“首先是‘算力充足’并且‘飽讀經(jīng)書’！”王東波介紹，“荀子”的順利問世離不開南京農(nóng)業(yè)大學提供的高性能算力基礎設施支持，以及團隊長期積累的大量標注、精加工語料庫，團隊給“荀子”投喂了40億字大型混合語料數(shù)據(jù)。 “模型的構(gòu)建受算力、場景應用等多方面影響，但精準度較高的優(yōu)質(zhì)數(shù)據(jù)，是最為關鍵的。”據(jù)王東波介紹，團隊從2008年開始接觸古籍，2013年至今一直專注于人工精標注數(shù)據(jù)的工作?！氨热纭对狸枠怯洝?，要訓練機器標注該典籍中的形容詞，就要首先訓練相關人員標注形容詞，在大量人工標注的基礎上，再讓機器學習?！边@項坐冷板凳的基礎標注工作一做就是10年之久。 王東波表示，我們期待能將古籍的智能化研究與跨學科的人才培養(yǎng)相結(jié)合，讓學生既有前瞻的科研視野，又能積累較為深厚的人文底蘊，同時讓更多受眾接觸古籍、品讀古籍、傳播古籍，真正地煥活“故紙堆”，共同推動中華優(yōu)秀傳統(tǒng)文化創(chuàng)造性轉(zhuǎn)化和創(chuàng)新性發(fā)展，賡續(xù)傳承中華文脈。 聯(lián)合發(fā)布荀子古籍大語言模型的中華書局古聯(lián)公司則主要致力于未來的場景應用和領域推廣，荀子大模型除讓大眾用戶能夠順暢利用古籍內(nèi)容、在專業(yè)領域推動古籍整理、古籍數(shù)字化、古籍活化利用與傳播之外，未來還可廣泛應用于AI寫作、AI教學、數(shù)字文娛等領域。 該成果依托國家社科基金重大項目“中國古代典籍跨語言知識庫構(gòu)建及應用研究”實施。在同步舉行的古籍智能化研究與產(chǎn)業(yè)應用研討會上，來自高校、出版界和互聯(lián)網(wǎng)企業(yè)的與會專家學者分別立足于各自領域，圍繞大模型在古籍整理、傳統(tǒng)文化傳承、數(shù)字化轉(zhuǎn)型等方面的工作進行了深入探討。 |
