【青新觀察室】ChatGPT、Sora大爆 生成式人工智能可信嗎？

【青島新聞網(wǎng)獨家】

（記者 韓彤彤 寧冠宇）

ChatGPT、Sora的熱度居高不下，生成式人工智能讓人們更直觀地感受到技術的便利。

如何保證生成式人工智能生成的內(nèi)容是可信的？

在本次訪談中，青島市人工智能學會理事長張衛(wèi)山表示，由于目前人工智能技術本身的特點，生成式人工智能生成的內(nèi)容仍存在不專業(yè)、不可信等一系列問題，“這些生成式大模型在處理專業(yè)領域問題時，還需要大量的領域性適配工作。因此，確保內(nèi)容可信需要從數(shù)據(jù)源頭、訓練過程和推理過程入手解決?！?/p>

有人說，人工智能＋大數(shù)據(jù)將會成為推動未來發(fā)展的兩大引擎，未來人工智能的發(fā)展趨勢更將呈現(xiàn)出更高、更快、更強的特點。誠然，技術的發(fā)展日新月異，但在感受技術便利性的同時，我們依然應保有獨立思考的能力。

記者：請簡單介紹下您的研究方向？什么是“可信人工智能生態(tài)”？其優(yōu)勢何在？

張衛(wèi)山：“可信人工智能生態(tài)”是一個以可信人工智能為基石的聯(lián)盟生態(tài)，旨在使人工智能可以可信、安全地使用，在設計、開發(fā)、部署和使用的各個階段都能夠被信任。簡單理解就是這個生態(tài)會提高人們對人工智能技術的信任，促進數(shù)據(jù)要素的高效匯聚共享。

它的優(yōu)勢有很多，隱私性、安全性、可解釋性，可以更好地促進人工智能技術與各行各業(yè)的深度融合，更容易被接受。

記者：人工智能已成為對傳統(tǒng)領域進行數(shù)字化轉(zhuǎn)型的重要技術手段，“ChatGPT、Sora”這樣的生成式人工智能會帶來哪些變革？另外，這種生成式的智能如何確保生成的內(nèi)容是可信的？

張衛(wèi)山：最近，生成式人工智能發(fā)展非常迅速，可以認為是革命性的進步，大大改變了目前很多領域的工作模式，大大提高了視頻圖像生成等效率，代替了翻譯、潤色、圖像生成、（部分）代碼編寫等部分重復性工作，大大提高了工作效率，也將對智能制造、智慧城市等相關行業(yè)帶來巨大影響，改變過去一些關鍵技術支撐，比如其預測、分析、決策技術等。

當然，這些生成式大模型在處理專業(yè)領域問題時，還需要大量的領域性適配工作，適應領域業(yè)務知識，也產(chǎn)生了好多專業(yè)大模型，比如中醫(yī)大模型等，也是目前產(chǎn)業(yè)界重點工作之一。

由于目前人工智能技術本身的特點，生成式人工智能生成的內(nèi)容，存在一系列問題：

1．不專業(yè)。比如：科技論文寫作，生成的沒法用需要大力修正。

2．不可信（大模型的幻覺）。比如：生成不存在的文獻等。

如何保障內(nèi)容的可信，目前可以從數(shù)據(jù)源頭、訓練過程和推理過程入手消除，例如斯坦福大學的研究人員發(fā)布 WikiChat，通過外部知識嵌入和事實檢查等措施大幅度提升了模型生成結(jié)果的可信性。另外，通過區(qū)塊鏈設計安全圍欄等，能緩解類似問題。

記者：在推動＂人工智能＋＂行動的過程中，您認為如何才能更好地匯聚政府、企業(yè)、學校各方的力量呢？

張衛(wèi)山：提升數(shù)據(jù)開放水平。數(shù)據(jù)是人工智能的基礎要素，為提升數(shù)據(jù)開放水平，需要加強數(shù)據(jù)資源的收集、整理、分析和應用，提高數(shù)據(jù)資源的價值和效益。同時，建立數(shù)據(jù)資源共享機制，打破數(shù)據(jù)孤島，促進各方數(shù)據(jù)資源的流通和交換，為可信人工智能技術提供充足的數(shù)據(jù)支撐。

加強政府引導，完善創(chuàng)新機制，共建人工智能技術新發(fā)展格局。制定相關專項攻關計劃和科技專項，建立更加高效的激勵政策，通過提供資金支持、風險分擔等方式，引導和鼓勵風險投資機構(gòu)參與人工智能和各行各業(yè)的結(jié)合。完善創(chuàng)新機制，以人工智能的各大關鍵技術為目標導向和問題導向，優(yōu)化科技資源配置、激發(fā)創(chuàng)新主體活力。

加強產(chǎn)學研協(xié)同，構(gòu)建產(chǎn)業(yè)全鏈條生態(tài)。以人工智能技術為核心，整合上下游產(chǎn)業(yè)資源，形成涵蓋技術研發(fā)、產(chǎn)品生產(chǎn)、市場應用、服務支持等環(huán)節(jié)的完整生態(tài)。充分發(fā)揮高校、科研院所、企業(yè)等創(chuàng)新主體的作用，促進科技資源的共享，推動人工智能領域的重大科技項目和平臺的聯(lián)合攻關和協(xié)同創(chuàng)新。同時，加大對產(chǎn)學研協(xié)同創(chuàng)新平臺和聯(lián)盟的支持力度，搭建多方參與和協(xié)作的創(chuàng)新網(wǎng)絡。

記者：青島是一個大的旅游城市，也是一個工業(yè)基礎雄厚的城市，您認為可以從哪些角度出發(fā)來構(gòu)建青島市的＂人工智能＋＂行動路徑呢？

張衛(wèi)山：我們可以通過以下四個角度構(gòu)建青島市的＂人工智能＋＂行動路徑，推動城市智能化發(fā)展，提升城市的競爭力和可持續(xù)發(fā)展能力。

智慧旅游：利用人工智能技術，尤其是現(xiàn)在火熱的大模型技術，構(gòu)建智慧旅游問答平臺，為游客提供個性化、精準的旅游信息和服務?？梢酝ㄟ^數(shù)據(jù)分析、推薦算法等技術，為游客定制個性化的旅游線路、餐廳推薦、景點介紹等，提升游客的旅游體驗。

智能制造：結(jié)合青島的工業(yè)基礎，可以采用機器學習算法優(yōu)化生產(chǎn)調(diào)度、實時監(jiān)測運輸狀況、預測銷售方向、設備運行故障，實現(xiàn)生產(chǎn)、運輸、銷售、售后過程的智能化、自動化，提高生產(chǎn)效率和產(chǎn)品質(zhì)量，節(jié)省人力物力。

智慧出行：通過交通大數(shù)據(jù)分析優(yōu)化交通信號控制、智能路燈管理，優(yōu)化交通流量管理，提高交通效率，減少擁堵。同時，可以引入自動駕駛技術與智能路線規(guī)劃，推動自動駕駛車輛在城市道路上的應用，提高交通運輸效率。

智能醫(yī)療：在醫(yī)療健康領域，可以通過多家醫(yī)院聯(lián)合學習、醫(yī)療大數(shù)據(jù)分析、智能圖像診斷技術，提高醫(yī)療診斷的準確性和效率。同時，可以推動遠程醫(yī)療、智能健康監(jiān)測等技術的應用，實現(xiàn)醫(yī)療資源的優(yōu)化配置和醫(yī)療服務的智能化。

記者：現(xiàn)在人工智能的發(fā)展日新月異，您認為未來的發(fā)展趨勢是怎樣的？

張衛(wèi)山：隨著人工智能的迅速發(fā)展，未來的發(fā)展趨勢將呈現(xiàn)出更大規(guī)模、更快速度、更多模態(tài)和更個性化的特點。

更大規(guī)模與更小模型融合：未來的人工智能模型將會進一步增大規(guī)模，將會具有更多的參數(shù)和更豐富的表示能力。這些大規(guī)模模型能夠更好地處理復雜的任務和更多樣化的數(shù)據(jù)，從而提高人工智能系統(tǒng)的性能和適用范圍。同時，在邊緣設備端通常需要部署小模型，個性化的低功耗的模型，比如服務端與邊緣端聯(lián)合時，需要大規(guī)模與小模型的深度融合。

更快速的訓練和推理速度：隨著硬件技術的進步和算法的優(yōu)化，未來的人工智能模型將能夠?qū)崿F(xiàn)更快速的訓練和推理速度。

更多模態(tài)、高度融合：未來的人工智能模型可能會更多地涉及多模態(tài)學習，即同時處理多種類型的數(shù)據(jù)，如文本、圖像、聲音、視頻等。這些多模態(tài)模型能夠更全面地理解和處理信息。

更個性化：未來的人工智能模型可能會更加個性化和定制化，能夠根據(jù)具體行業(yè)、用戶的具體需求和具體場景進行個性化的訓練和優(yōu)化。這將使得模型能夠更好地適應不同領域和不同用戶群體的需求，提升模型的適用性和效果。

綜上，未來人工智能的發(fā)展趨勢將呈現(xiàn)出更高、更快、更強的特點。這將為人工智能技術的快速發(fā)展提供強大動力，推動社會進步和經(jīng)濟發(fā)展。