通用大模型，聚焦基礎(chǔ)層，以技術(shù)攻關(guān)為目的。他們對標ChatGPT做通用大模型，百度的文心一言，阿里的通義千問、科大訊飛的星火大模型等都歸屬這一類。
垂直大模型，聚焦解決垂直領(lǐng)域問題，以產(chǎn)品開發(fā)為目的。他們在通用大模型基礎(chǔ)上訓練行業(yè)專用模型，應(yīng)用到金融、醫(yī)療、教育、養(yǎng)老、交通等垂直行業(yè)。
垂直大模型以此為切入點，選擇了另一條路徑。他們以具備的行業(yè)知識為基礎(chǔ)，通過與通用大模型企業(yè)合作的方式，訓練行業(yè)專用模型。
“站在客戶角度，行業(yè)客戶最為看重的是定制化的需求，以及AI企業(yè)的工程化落地能力。”眾數(shù)信科CEO吳炳坤對雷峰網(wǎng)(公眾號：雷峰網(wǎng))說。
作為垂直大模型的一員，眾數(shù)信科成立于2021年初，由云從科技、廈門火炬創(chuàng)投、民生電商發(fā)起成立。
眾數(shù)信科定位AIGC領(lǐng)域的“知識智能化”，即將數(shù)字城市領(lǐng)域沉淀的行業(yè)數(shù)據(jù)、專家經(jīng)驗，通過AI 技術(shù)進行工程化。
吳炳坤將AI比作工業(yè)時代的石油鉆機：“沒有鉆井機，石油就無法成為工業(yè)時代的黑色血液；數(shù)據(jù)要素時代，沒有AI，數(shù)據(jù)的價值也就得不到充分挖掘。現(xiàn)在大模型帶來了無限的想象和發(fā)展機會。”
兩年前，在數(shù)字城市領(lǐng)域，AI更多基于小模型，比如算法只做人臉識別，或只做車牌識別，產(chǎn)品受限很大，研發(fā)成本很高，可以擴展的空間不多。
現(xiàn)在，隨著 AI 大模型這一關(guān)鍵技術(shù)的突破，數(shù)據(jù)和AI的結(jié)合度更加緊密，上述問題都得以突破。
大模型將對全行業(yè)都產(chǎn)生顛覆性地重構(gòu)，已經(jīng)是業(yè)界共識。百度李彥宏、阿里張勇等不少業(yè)界大佬都在不同場合，不斷重復同樣一句話：AI 大模型時代，每個行業(yè)的應(yīng)用都值得重新做一遍。
阿里巴巴張勇曾指出，超萬億參數(shù)的大模型研發(fā)是一場“AI+云計算”的全方位競爭，囊括了算法、底層龐大算力、網(wǎng)絡(luò)、大數(shù)據(jù)、機器學習等諸多領(lǐng)域，是一項復雜的系統(tǒng)性工程。
一方面，通用大模型需要大量有效的數(shù)據(jù)與計算資源，這離不開超大規(guī)模的AI基礎(chǔ)設(shè)施的支撐；另一方面，長時間的訓練、推理背后，也往往意味著高昂的成本。
正因此，當下大模型市場的主角大都是來自于移動互聯(lián)網(wǎng)時代的大巨頭，如百度“文心一言”、阿里“通義千問”、騰訊“混元”等。
大公司們瞄準廣泛適用的人群，齊齊布局 NLP、CV、跨模態(tài)等多種模型，動用同樣海量的數(shù)據(jù)參數(shù)進行預訓練，動作整齊劃一。
這種“你有，我也有”既是實力的展現(xiàn)，同時也存在同質(zhì)化問題，會逐漸消弭彼此之間的辨識度，難以在市場中發(fā)揮優(yōu)勢。
并且，大模型“海納百川”的魅力縱然令人著迷，但其終歸是一項技術(shù)，技術(shù)只有與具體應(yīng)用結(jié)合變成產(chǎn)品，帶來實際的使用體驗和轉(zhuǎn)化成效，才真正具有價值。
行業(yè)客戶使用大模型的最終目的，是讓業(yè)務(wù)發(fā)展走上新的臺階。因而，他們需要的不是綜合技術(shù)上的碾壓，而是能在具體需求上追求極致，可以實現(xiàn)功能最大化的產(chǎn)品。
他們受限于資金和技術(shù)，難以走上通用大模型的角斗場，但由于本身具備一定的行業(yè)領(lǐng)域知識，反而在垂直大模型的探索上具備天然優(yōu)勢。
在人工智能時代的浪潮中，聚焦少數(shù)細分賽道，在通用大模型的底座能力之上，圍繞“如何用好大模型”這一接地氣的主題，已經(jīng)成為小公司們安身立命的根本。
當下，很多主流的AI大模型，并沒有對外開放模型的訓練和微調(diào)。較為普遍的做法是，將模型開發(fā)好以后，給用戶提供一個接口調(diào)用。
首先，AI大模型的打造是一個從算力，到整個框架，到模型再到應(yīng)用的遞進過程，當下AI大廠更多處在夯實基礎(chǔ)能力的階段。
其次，AI產(chǎn)品進入行業(yè)，需要跟外部行業(yè)應(yīng)用做適配協(xié)同，目前國內(nèi)的AI大模型做得還不夠成熟，當下這個時間點，AI大廠還不太具備工程化落地的能力。
這一現(xiàn)實背景下，垂直大模型玩家要想在通用大模型的基礎(chǔ)上微調(diào)和推理，定制行業(yè)專用模型，并非易事。
基于和云從科技的關(guān)系，眾數(shù)信科不僅能夠參與進云從大模型的開發(fā)過程，還可以在云從大模型的基礎(chǔ)上訓練和微調(diào)自有的專業(yè)模型。
“通過云從，眾數(shù)信科可以獲得更加便捷的接口，更加開放的合作架構(gòu)，定制化的銜接服務(wù)。現(xiàn)在市場上除了AI大廠，其他公司不具備這個能力，這是現(xiàn)階段眾數(shù)信科有別于其他創(chuàng)業(yè)公司的優(yōu)勢。”吳炳坤說。
在吳炳坤看來，大模型在業(yè)務(wù)落地過程中，需要不斷強化三個方面的要素：一是人工智能技術(shù)研發(fā)，二是可觸達用戶的行業(yè)場景，三是高質(zhì)量的行業(yè)數(shù)據(jù)語料。
底層技術(shù)方面，有云從科技的算法、算力做背書；在應(yīng)用場景上，有廈門火炬創(chuàng)投提供的制造業(yè)產(chǎn)業(yè)數(shù)字化實踐基地；在落地過程中，則有民生電商提供金融和產(chǎn)品商業(yè)化落地的資源支持。
靜態(tài)數(shù)據(jù)相對穩(wěn)定，不會發(fā)生即時變化，獲取路徑較為清晰，比如廣泛存在于各級政府部門、國企、企業(yè)中的自有文檔，以及數(shù)據(jù)庫中的數(shù)據(jù)等。
動態(tài)數(shù)據(jù)指不同行業(yè)場景中每時每刻產(chǎn)生的數(shù)據(jù)，這部分數(shù)據(jù)不斷更新、變化，不容易獲得，是與其他競爭者拉開距離的關(guān)鍵能力。
過去兩年，眾數(shù)信科以“i城市生活服務(wù)平臺”為媒介，觸及了國內(nèi)6個省16個城市的3000萬個人用戶和數(shù)十萬企業(yè)用戶，積累了大量數(shù)據(jù)。
通過i城市服務(wù)平臺，眾數(shù)信科積累了豐富的場景數(shù)據(jù)，G/B/C端用戶需求和行業(yè)know-how，依托主流大模型技術(shù)底層能力，為客戶提供專業(yè)領(lǐng)域的知識智能工程化產(chǎn)品和KAAS服務(wù)。
此外，由于當下通用大語言模型在專業(yè)領(lǐng)域里可訓練的語料較為缺乏，因此語言模型落地細分領(lǐng)域過程中，知識局限、認知偏見、記憶幻覺等問題時有發(fā)生。
其中，知識局限、認知偏見問題，可以隨著數(shù)據(jù)的不斷積累、量變，得到解決，更大的難點來自于記憶幻覺。
本質(zhì)原因在于，語言模型并非傳統(tǒng)理解中的一個數(shù)據(jù)庫，沒有真正的記憶能力，無法記住過去處理過的信息。而是通過訓練數(shù)據(jù)學習文本序列的數(shù)據(jù)分布，然后再根據(jù)學習到的數(shù)據(jù)分布生成文本序列，最終生成內(nèi)容。
吳炳坤表示，“大模型并非一蹴而就，而是一個不斷動態(tài)優(yōu)化的過程。眾數(shù)信科會根據(jù)特定行業(yè)場景，以及對知識庫上下文的學習等特定方法，在較大程度上規(guī)避生成內(nèi)容‘胡編亂造’的情況，同時不斷和客戶做基于人類反饋的強化學習。”
通過 G 端切入，能夠快速覆蓋市場，同時批量聚攏B端和C端資源，最終將B端行業(yè)客戶經(jīng)驗，快速復制到C端。
以教育行業(yè)為例，眾數(shù)信科依托云從的從容大模型，首先打造出了適用于學校、培訓機構(gòu)的教育行業(yè)專用模型，并已在廈門部分地區(qū)試點使用。
第一步，積累和標注。基于多年在數(shù)字平臺建設(shè)和運營中積累的教師行業(yè)專業(yè)語料數(shù)據(jù)，同時依托行業(yè)專家經(jīng)驗對數(shù)據(jù)進行標注，形成專有領(lǐng)域的訓練數(shù)據(jù)。
第二步，訓練和微調(diào)。在前者的基礎(chǔ)上，依托云從的從容大模型，采用知識蒸餾、權(quán)值量化、剪枝等工程化手段，將通用、龐大的教師網(wǎng)絡(luò)，訓練成一個特定行業(yè)的學生網(wǎng)絡(luò)。
第三步，落地和反饋。進入具體場景，并在此后運營過程中，不斷積累用戶的正負反饋，通過基于人類反饋的強化學習，反向打磨教育行業(yè)模型。
上述三個步驟中，專家的數(shù)據(jù)標注，以及基于人類反饋的強化學習，是兩個必經(jīng)的難點。解決這兩個難點，需要通過推廣行業(yè)應(yīng)用，加強知識積累，不斷自我迭代逐步解決。
現(xiàn)階段，眾數(shù)信科的行業(yè)專用模型還處在教師的“數(shù)字助理”階段。“數(shù)字助理”具備課件自動生成、靈活生成考題、對學生進行個性化評價等服務(wù)，教師在生成內(nèi)容的基礎(chǔ)上做最后的審核把關(guān)即可。
一方面，“數(shù)字助理”通過輔助教學的方式，可以大大解放教師的精力，不斷提升教學效率；另一方面，在與教師共同工作過程中也可以不斷學習，最終成長為優(yōu)秀教師的“數(shù)字分身”，達到接近一位優(yōu)秀教師的程度。
目前，我國教育資源供給側(cè)明顯不足，先進地區(qū)和落后地區(qū)的教育資源差距較大。打造教育行業(yè)模型的意義在于，可以借助AI，將先進地區(qū)的先進學校的先進教師經(jīng)驗傳承下來，帶到部分教育資源供給不足的地區(qū)。
眾數(shù)信科采取了兩條腿走路的辦法，即分別在教育先進地區(qū)和教育落后地區(qū)推廣“數(shù)字助理”和“數(shù)字分身”。
“將先進地區(qū)教師知識的沉淀，放在同樣先進的地區(qū)，可能不能滿足需求，但在一些教育落后地區(qū)，基本上能夠符合當?shù)氐氖褂眯枨蟆?rdquo;
吳炳坤向雷峰網(wǎng)透露，今年下半年，眾數(shù)信科將在黑龍江教育資源比較欠缺的地區(qū)，進行“數(shù)字分身”的布局。
未來，隨著教育行業(yè)的模型沉淀和知識積累，因人施教也是教育模型功能演化的重要方向。“數(shù)字分身”可以進一步走入家庭，根據(jù)不同學生提供差異化教育方案，做到因人施教，為家庭教育減負。
一方面，行業(yè)的快速發(fā)展，催促著企業(yè)要迅速產(chǎn)生爆款產(chǎn)品，同時形成快速迭代的能力。這對企業(yè)的人才儲備、產(chǎn)品和技術(shù)路線、戰(zhàn)略決斷能力、資金儲備等都提出了更高的要求。
另一方面，隨著來自不同背景的玩家相繼入局，競爭格局也將隨之變化，比如教育領(lǐng)域，科大訊飛、猿輔導等都已悉數(shù)入場。
服務(wù)電話：400-992-1681
服務(wù)郵箱：wa@163.com
公司地址：貴州省貴陽市觀山湖區(qū)金融城MAX_A座17樓
備案號：網(wǎng)站地圖
Copyright ? 2021 貴州立即博官網(wǎng)信息技術(shù)有限公司 版權(quán)所有 | 技術(shù)支持：立即博官網(wǎng)
掃描關(guān)注立即博官網(wǎng)信息
掃描關(guān)注立即博官網(wǎng)信息