演講人：張鈸 演講地點(diǎn)：清華大學(xué)“人文清華講壇” 演講時(shí)間：2024年4月
張鈸 中國科學(xué)院院士，清華大學(xué)計(jì)算機(jī)系教授，清華大學(xué)人工智能研究院名譽(yù)院長。2011年德國漢堡大學(xué)授予自然科學(xué)名譽(yù)博士，獲2014年度CCF（中國計(jì)算機(jī)學(xué)會）終身成就獎(jiǎng)，2019年度吳文俊人工智能科學(xué)技術(shù)獎(jiǎng)***成就獎(jiǎng)。主要從事人工智能、人工神經(jīng)網(wǎng)絡(luò)和機(jī)器學(xué)習(xí)等理論研究，以及模式識別、知識工程和機(jī)器人等應(yīng)用技術(shù)研究。在上述領(lǐng)域發(fā)表學(xué)術(shù)論文200多篇、專著5部（章）�？蒲谐晒@ICL歐洲人工智能獎(jiǎng)等獎(jiǎng)項(xiàng)。
人工智能的兩條路徑
迄今為止，全世界對于“什么是智能”尚無統(tǒng)一認(rèn)識，但經(jīng)過多年的探索，人工智能已然走出了兩條道路。一條道路是行為主義學(xué)派，另一條道路是內(nèi)在主義學(xué)派。
其中，行為主義學(xué)派主張用機(jī)器模擬人類的智能行為。“智能”與“智能的行為”是兩個(gè)完全不同的概念。“智能”在我們大腦里，人類至今仍對其知之甚少；“智能的行為”則是智能的外部表現(xiàn)，可以進(jìn)行觀察和模擬。因此，行為主義學(xué)派人工智能追求的目標(biāo)是機(jī)器行為與人類行為的相似性，而非內(nèi)部工作原理的一致性。目前人工智能的主流是機(jī)器智能，這種人工智能與人類的智能只存在行為相似，并非完全一致。內(nèi)在主義學(xué)派主張必須用機(jī)器模擬人類大腦的工作原理，即類腦計(jì)算。這兩個(gè)學(xué)派按照不同的思路對人工智能進(jìn)行探索，前者主張除人類這條道路外，機(jī)器或其他方法也可以走出一條智能道路；后者主張走向智能道路只能依靠人類。目前這兩種思路都處于探索階段。
人類對人工智能道路的探索始于1956年。當(dāng)時(shí)在美國召開了人工智能研討會，來自數(shù)學(xué)、計(jì)算機(jī)科學(xué)、認(rèn)知心理學(xué)、經(jīng)濟(jì)學(xué)和哲學(xué)等不同領(lǐng)域的10位專家經(jīng)過八周的討論定義了人工智能。他們主張通過符號推理、符號表示來做一個(gè)能像人那樣思考的機(jī)器。在這次會議上，紐維爾（Newell）和西蒙（Simon）演示了一個(gè)名為“邏輯學(xué)家”的程序。該程序用機(jī)器證明了數(shù)學(xué)原理第二章中的部分原理，數(shù)學(xué)定理證明與推理相似，這表明機(jī)器能做類似推理的工作。***終，“人工智能”在這個(gè)會議上獲得了定義。
1978年，清華大學(xué)成立了人工智能與智能控制教研組，這是中國***的人工智能教學(xué)與科研機(jī)構(gòu)。教研組有三十余位教師參與，其中絕大部分來自自動(dòng)控制領(lǐng)域，而非人工智能。1978年，教研組招收了***批碩士生，1985年開始招收***批博士生，已能夠開展一些與人工智能相關(guān)的教學(xué)工作，但科研工作進(jìn)展不大。1982年至1984年，教研組進(jìn)行調(diào)查研究，訪問了西南、東北等地大量研究所及工廠。結(jié)合所見所聞，教研組確定了以智能機(jī)器人作為主要研究方向。
1985年清華大學(xué)建立智能機(jī)器人實(shí)驗(yàn)室，1986年國家設(shè)立“863”發(fā)展計(jì)劃，該計(jì)劃將智能機(jī)器人作為一個(gè)主題。清華大學(xué)參加了***屆智能機(jī)器人主題的“863”高技術(shù)研究，從***屆到第四屆均作為專家單位參加委員會。到了第五屆，清華大學(xué)成為開展智能機(jī)器人研究的組長單位，1997年，成為空間機(jī)器人研究的組長單位。“智能技術(shù)與系統(tǒng)”國家重點(diǎn)實(shí)驗(yàn)室自1987年開始籌建，1990年正式成立。在這些工作的基礎(chǔ)上，相關(guān)研究得以開展。當(dāng)時(shí)首先建立了兩個(gè)理論。一是問題求解的商空間理論和粒計(jì)算理論，在國際上影響很大。2005年，清華大學(xué)發(fā)起、組織了國際粒計(jì)算會議，每年一次，延續(xù)至今。二是在人工神經(jīng)網(wǎng)絡(luò)方面做了很多早期工作。
在杭州舉辦的2023云棲大會上，觀眾在“人工智能+”展館參觀人工智能產(chǎn)品及應(yīng)用。新華社發(fā)
人工智能的三個(gè)階段
1956年至今，人工智能的發(fā)展分為三個(gè)階段，分別是***代人工智能、第二代人工智能和第三代人工智能。
***代人工智能的目標(biāo)是讓機(jī)器像人類一樣思考。思考是指推理、決策、診斷、設(shè)計(jì)、規(guī)劃、創(chuàng)作、學(xué)習(xí)等。無論做管理工作還是技術(shù)工作，都需要兩方面的能力，一是在某個(gè)領(lǐng)域具有豐富的知識和經(jīng)驗(yàn)，二是具有很強(qiáng)的推理能力。其中推理是指運(yùn)用知識的能力，換言之，是從已有知識出發(fā)，推出新的結(jié)論、新的知識的能力�；谝陨戏治�，人工智能的創(chuàng)始人提出了“基于知識與經(jīng)驗(yàn)的推理模型”，該模型的核心是若要實(shí)現(xiàn)機(jī)器思考，只需將相應(yīng)的知識放入計(jì)算機(jī)即可。例如，如果要讓計(jì)算機(jī)像醫(yī)生一樣為患者診斷，只需要把醫(yī)生的知識和經(jīng)驗(yàn)放到知識庫里，將醫(yī)生看***的推理過程放入推理機(jī)制之中，計(jì)算機(jī)就能為患者實(shí)施機(jī)器診斷。這一推理模型的核心思想是知識驅(qū)動(dòng)，通過計(jì)算模型來實(shí)現(xiàn)讓機(jī)器像人類那樣思考。該模型***的缺點(diǎn)是缺乏自學(xué)能力，難以從客觀世界學(xué)習(xí)知識，所有知識都源于人類灌輸。因此，***代人工智能永遠(yuǎn)無法超越人類。
第二代人工智能源于***代人工智能的低潮期，主要基于人工神經(jīng)網(wǎng)絡(luò)。1943年，人工神經(jīng)網(wǎng)絡(luò)模型提出，它主要模擬人類腦神經(jīng)網(wǎng)絡(luò)的工作原理。第二代人工智能面臨的主要問題是感性知識的傳授。***代人工智能主要在符號主義指導(dǎo)下進(jìn)行，目的是模擬人類的理性行為。但人類除了理性行為外，還有大量的感性行為，而感性行為要用人工神經(jīng)網(wǎng)絡(luò)進(jìn)行模擬。我們常說知識是人類智慧的源泉，知識是理性行為的基礎(chǔ)，這里的知識來自教育，主要指理性知識、分析問題的方法等。但感性的知識難以用語言傳授，也無法從書本上獲得。每一個(gè)人***初得到的感性知識是對自己母親的認(rèn)識。但，具體是什么時(shí)候開始對母親有所認(rèn)識的？又是怎樣實(shí)現(xiàn)這種認(rèn)識的？這些問題到現(xiàn)在仍難以解答。所有感性知識都在不斷觀察、不斷傾聽的過程中學(xué)習(xí)累積，第二代人工智能深度學(xué)習(xí)沿用了這個(gè)方法。例如，過去我們主要通過編程的方法告訴計(jì)算機(jī)馬、牛、羊的具體特征，現(xiàn)在則將網(wǎng)上大量馬、牛、羊的照片做成訓(xùn)練樣本，讓計(jì)算機(jī)進(jìn)行觀察和學(xué)習(xí)即可。學(xué)習(xí)完畢，再把剩下的樣本作為測試樣本去測試它，識別率能達(dá)到95%以上。觀察和傾聽的過程通過人工神經(jīng)網(wǎng)絡(luò)進(jìn)行，將識別的問題作為分類問題，利用人工神經(jīng)網(wǎng)絡(luò)來分類。通過神經(jīng)網(wǎng)絡(luò)進(jìn)行學(xué)習(xí)的過程稱為深度學(xué)習(xí)，基于深度學(xué)習(xí)能夠進(jìn)行分類、預(yù)測和生成等。但是第二代人工智能的所有數(shù)據(jù)（圖像、語音等）均來自客觀世界，它的識別只能用于區(qū)別不同的物體，并不能真正地認(rèn)識物體。所以第二代人工智能***的問題是不安全、不可信、不可控、不可靠、不易推廣。
第三代人工智能的基本思路是必須發(fā)展人工智能理論。迄今為止，人工智能尚無較為成型的理論，更多是模型和算法，且***代和第二代人工智能的模型、算法都有很多缺陷。因此，必須大力發(fā)展科學(xué)完備的人工智能理論，在此基礎(chǔ)上，才能發(fā)展出安全、可控、可信、可靠和可擴(kuò)展的人工智能技術(shù)。對目前的人工智能技術(shù)而言，雖然提高了效率和質(zhì)量，但系統(tǒng)越信息化和智能化，也就意味著越不安全。***代人工智能運(yùn)用了知識、算法、算力三個(gè)要素，其中***主要的是知識。第二代人工智能則主要用了數(shù)據(jù)、算法和算力三個(gè)要素。為了克服人工智能的固有缺點(diǎn)，***的辦法是把知識、數(shù)據(jù)、算法和算力這四個(gè)要素同時(shí)運(yùn)用。目前得到較多運(yùn)用的AI工具（大語言模型），就能夠充分利用知識、數(shù)據(jù)、算法、算力這四個(gè)要素。清華大學(xué)團(tuán)隊(duì)提出了第三代人工智能的三空間模型，將整個(gè)感知、認(rèn)知系統(tǒng)進(jìn)行連接，為發(fā)展人工智能理論提供了非常好的條件。
第四屆消博會上，一款“AI數(shù)字人”在回答觀眾提問。新華社發(fā)
深度學(xué)習(xí)的不安全性
在研究過程中，研究者發(fā)現(xiàn)了人工智能深度學(xué)習(xí)的不安全性。
其中一個(gè)典型案例是：研究者制作了雪山和狗的對比圖，先讓計(jì)算機(jī)和人看雪山，二者都能判定為雪山，但是只要在圖片上添加一點(diǎn)噪聲，人看雪山仍是雪山，計(jì)算機(jī)卻會將雪山看成一條狗。這個(gè)案例說明，人工智能目前基于深度學(xué)習(xí)的模式識別跟人類的視覺完全不同，盡管它能夠像人類那樣區(qū)分雪山和狗，但實(shí)際上它既不認(rèn)識狗，也不認(rèn)識雪山。這里面的關(guān)鍵問題是——什么是狗？應(yīng)該如何定義一條狗？人類通常通過視覺來進(jìn)行區(qū)分，主要看狗的外形，但什么是狗的外形？狗有各種形態(tài)、各種姿勢，為什么人類的視覺能夠在千變?nèi)f化的外形里確定目標(biāo)是狗？這個(gè)問題的答案，到現(xiàn)在為止尚未弄清楚。***的計(jì)算機(jī)識別狗時(shí)，狗變換了位置后計(jì)算機(jī)就不能識別了，這是位移的不變性，這個(gè)問題現(xiàn)在已經(jīng)解決。但是尚未解決的問題還有很多。例如，計(jì)算機(jī)能夠識別固定尺寸的狗，但是把狗變大或變小后都難以識別，這是大小的不變性�，F(xiàn)在計(jì)算機(jī)只能通過局部紋理來區(qū)分狗和雪山。因此，如果將雪山圖上的某個(gè)紋理改成皮毛紋理，即便雪山的形狀保持不變，計(jì)算機(jī)仍會把雪山誤認(rèn)為是狗。所以說，到目前為止，人工智能的深度學(xué)習(xí)仍然不夠安全可靠。
中國科學(xué)院自動(dòng)化研究所人形機(jī)器人攻關(guān)團(tuán)隊(duì)科研人員在多模態(tài)人工智能系統(tǒng)全國重點(diǎn)實(shí)驗(yàn)室調(diào)試機(jī)器人。新華社發(fā)
大語言模型的“大模型”與“大文本”
目前比較成功的AI工具，其強(qiáng)大性主要來源于兩個(gè)“大”，一是大模型，二是大文本。
***個(gè)大模型的“大”是大的人工神經(jīng)網(wǎng)絡(luò)，人工神經(jīng)網(wǎng)絡(luò)可以用來分類、學(xué)習(xí)數(shù)據(jù)中間的關(guān)聯(lián)關(guān)系，也可以用來預(yù)測。這個(gè)巨大的人工神經(jīng)網(wǎng)絡(luò)叫“轉(zhuǎn)換器”。AI工具的能力強(qiáng)大，離不開深度神經(jīng)網(wǎng)絡(luò)的強(qiáng)大。原來的神經(jīng)網(wǎng)絡(luò)是逐字輸入，現(xiàn)在一次能夠輸入2000多字（一個(gè)token，粗略地講相當(dāng)于一個(gè)漢字）。人類從1957年到2013年花了56年時(shí)間探究文本的語意表示問題，現(xiàn)在的文本不是用符號表示，而是用語意向量表示，這也是***重要的一個(gè)突破。過去計(jì)算機(jī)處理文本只能把它當(dāng)作數(shù)據(jù)處理，現(xiàn)在可以把它當(dāng)成知識來處理，即向量表示。此外，還提出了“自監(jiān)督學(xué)習(xí)”。過去供計(jì)算機(jī)學(xué)習(xí)的文本都要做預(yù)處理、預(yù)先標(biāo)注，此項(xiàng)工作量太大，所以無法支撐計(jì)算機(jī)大量學(xué)習(xí)。自監(jiān)督學(xué)習(xí)是指原來的文本不經(jīng)過任何處理就可以被計(jì)算機(jī)學(xué)習(xí)，用前面的文本預(yù)測后面的詞，輸入后預(yù)測下一個(gè)，被預(yù)測的內(nèi)容又把再下一個(gè)變成輸入，有些類似于接龍式學(xué)習(xí)方式。
第二個(gè)“大”是大文本。計(jì)算機(jī)實(shí)現(xiàn)自監(jiān)督學(xué)習(xí)后，所有文本不用經(jīng)過任何預(yù)處理就可以學(xué)習(xí)，文本也由原來的GB量級發(fā)展為TB量級�，F(xiàn)在比較成功的人工智能大約學(xué)習(xí)了40TB以上，相當(dāng)于一千多萬本牛津辭典，并且這個(gè)學(xué)習(xí)過程并非死讀，而是理解其中的內(nèi)容。這就使得我們進(jìn)入了生成式人工智能時(shí)代。無論是***代還是第二代人工智能，都受到三個(gè)限制——特定領(lǐng)域用特定模型完成特定任務(wù)。“三個(gè)特定”是所謂的“窄人工智能”，即專用人工智能。目前比較成功的AI工具能夠通過其強(qiáng)大的語言生成能力讓人類在與它對話時(shí)沒有領(lǐng)域限制，這是人工智能的重大進(jìn)步。另外，生成多樣性的輸出是目前AI工具的重要特征。它有多樣化的輸出就有可能創(chuàng)新，因?yàn)檩敵龆鄻踊�，難以***每個(gè)輸出都正確，所以越希望它能輸出有創(chuàng)造性，就越要允許它犯錯(cuò)誤。我們在日常使用一些AI工具時(shí)也會發(fā)現(xiàn)，有時(shí)AI對問題的回答非常機(jī)智聰明，有時(shí)則是明顯的胡說八道，這就是多樣化輸出的結(jié)果。
目前AI工具產(chǎn)生了兩個(gè)重大突破，一是生成語意連貫的類似人類的文本，二是在開領(lǐng)域?qū)崿F(xiàn)了人機(jī)自然語言對話。大語言模型是向通用人工智能邁出的一步，有西方專家認(rèn)為這是通用人工智能的曙光，但它并不是通用人工智能，人類走向通用人工智能依然任重道遠(yuǎn)。
走向通用人工智能必須滿足三個(gè)條件。***，系統(tǒng)必須與領(lǐng)域無關(guān)。目前較為成功的AI工具在對話、自然語言處理的問題上做到了與領(lǐng)域無關(guān)，但在處理其他大量問題上仍難以實(shí)現(xiàn)這一目標(biāo)。第二，系統(tǒng)與任務(wù)無關(guān)，即什么任務(wù)都會做。目前AI工具能進(jìn)行對話、四則運(yùn)算、作詩、寫代碼等多種任務(wù)，但仍難以完成復(fù)雜環(huán)境下的復(fù)雜任務(wù)。第三，尚需建立一個(gè)統(tǒng)一的理論。因此，人工智能還有很長的路要走。
大語言模型邁向通用人工智能的四個(gè)步驟
從大語言模型邁向通用人工智能需要四個(gè)步驟。***步是跟人類進(jìn)行交互、與人類對齊，第二步是多模態(tài)生成，第三步是與數(shù)字世界交互，第四步是與客觀世界交互。我們并不是說，完成這四步就意味著實(shí)現(xiàn)了通用人工智能，而是說通往通用人工智能這個(gè)目標(biāo)，至少需要邁出以上四步。
***步是與人類對齊。目前AI工具輸出的內(nèi)容不一定正確，若要解決這個(gè)問題，必須依靠人類幫助它克服，使之與人類對齊。從AI工具的應(yīng)用實(shí)踐來看，它的錯(cuò)誤需要人類幫助糾正，而且它的錯(cuò)誤糾正速度和迭代速度都很快。與此同時(shí)，我們要看到輸出內(nèi)容的錯(cuò)誤仍然存在，但我們?nèi)绻胍哂袆?chuàng)造性，就要允許它犯錯(cuò)誤。
第二步是多模態(tài)生成�，F(xiàn)在已經(jīng)可以用大模型生成圖像、聲音、視頻、代碼等各種模態(tài)的內(nèi)容。隨著技術(shù)的進(jìn)步，鑒別一個(gè)內(nèi)容是由機(jī)器生成還是人工完成將會變得越來越困難，這為“造假”提供了非常好的機(jī)會。“造假”又名“深度造假”，即用深度學(xué)習(xí)的辦法“造假”。試想一下，如果以后網(wǎng)絡(luò)上95%的文本都由AI生成，那么我們還能通過網(wǎng)絡(luò)獲取真知與真相嗎？比方說，當(dāng)一件事情發(fā)生后，網(wǎng)絡(luò)上出現(xiàn)一片支持或者反對意見，這些意見究竟是來自多數(shù)人的真實(shí)表達(dá)，還是來自少數(shù)人操縱AI歪曲事實(shí)？如何有效防止AI工具操縱輿論、混淆視聽，這是需要我們嚴(yán)肅考慮的。
目前人工智能領(lǐng)域已經(jīng)實(shí)現(xiàn)了三項(xiàng)突破，即開領(lǐng)域生成語意連貫的類似人類的文本。其中，語意連貫是***重要的突破，這個(gè)突破后就有了圖像的突破。因?yàn)閳D像只要求在空間上連貫即可，而視頻則進(jìn)一步要求時(shí)空上的連貫。我們在語言上進(jìn)行突破，緊接著會有圖像的突破，圖像突破后肯定還會有視頻的突破。在這個(gè)發(fā)展過程中，計(jì)算的資源要求和硬件都會變得越來越多。
隨著人工智能的發(fā)展，很多人注意到了“涌現(xiàn)”現(xiàn)象。例如，當(dāng)系統(tǒng)規(guī)模沒有達(dá)到一定程度時(shí)，生成的圖畫很糟糕、水平較差，但當(dāng)規(guī)模達(dá)到一定程度，生成的大多數(shù)圖畫突然間就變得質(zhì)量很高。這個(gè)過程稱為“涌現(xiàn)”，“涌現(xiàn)”是從量變到質(zhì)變的過程。到目前為止，全世界范圍內(nèi)都還無法完全理解“涌現(xiàn)”現(xiàn)象出現(xiàn)的原因。
第三步是AI智能體。大語言模型邁向通用人工智能必須與數(shù)字世界進(jìn)行連接，首先在數(shù)字世界里具體操作，從而解決問題、感知自己成果的優(yōu)劣，并進(jìn)行反饋。這個(gè)工作對促進(jìn)大模型的性能向前發(fā)展有很大益處。
第四步是具身智能。具身智能，即具有身體的智能。智能光有腦還不夠，還必須具有身體，這樣才能動(dòng)口又動(dòng)手。所以，大語言模型邁向通用人工智能，必須通過機(jī)器人與客觀世界連在一起。
第六屆世界聲博會上，小朋友們在參觀體驗(yàn)一款弈棋機(jī)器人（2023年攝）。新華社發(fā)
人工智能的產(chǎn)業(yè)發(fā)展
當(dāng)下，信息產(chǎn)業(yè)的發(fā)展非常迅猛，原因在于建立了相關(guān)理論，在理論指導(dǎo)下制作的硬件和軟件都是通用的。過去，信息產(chǎn)業(yè)領(lǐng)域內(nèi)出現(xiàn)了一些具有世界影響力的大型企業(yè)，應(yīng)用推廣相應(yīng)技術(shù)并實(shí)現(xiàn)信息化，整個(gè)鏈條發(fā)展非常迅速。但是，人工智能產(chǎn)業(yè)的發(fā)展缺乏理論，只有算法和模型，而根據(jù)算法和模型建立的硬件和軟件全是專用的。“專用”即意味著市場很小，到現(xiàn)在為止，人工智能產(chǎn)業(yè)還沒有產(chǎn)生具有世界影響力的大型企業(yè)，所以人工智能產(chǎn)業(yè)必須跟垂直領(lǐng)域深度結(jié)合才有可能發(fā)展。不過，目前情況也在發(fā)生變化，具有一定通用性的基礎(chǔ)模型的出現(xiàn)，肯定會影響產(chǎn)業(yè)發(fā)展。
2020年，全世界人工智能產(chǎn)業(yè)達(dá)到10億美元以上的獨(dú)角獸企業(yè)一共有40家，2022年變成117家，2024年初達(dá)到126家，從這個(gè)情況來看，它是逐步增長的。到現(xiàn)在為止，中國有100甚至200家企業(yè)在做大模型。這么多人做基礎(chǔ)模型，他們未來的出路在哪里？
***個(gè)出路是向各行各業(yè)轉(zhuǎn)移，做各個(gè)垂直領(lǐng)域的大模型�，F(xiàn)在很多行業(yè)都在考慮這個(gè)問題，例如石油行業(yè)考慮石油行業(yè)的大模型，金融行業(yè)考慮金融行業(yè)的大模型，所以將來做通用大模型的數(shù)量將越來越少，大多數(shù)做大模型的人才會轉(zhuǎn)向各個(gè)垂直領(lǐng)域。第二個(gè)出路是***重要的，即經(jīng)過微調(diào)應(yīng)用在產(chǎn)業(yè)里。換言之，提供公開的大模型軟件，讓大家開發(fā)應(yīng)用。第三個(gè)出路是跟其他技術(shù)結(jié)合，發(fā)展新的產(chǎn)業(yè)。國外很多獨(dú)角獸企業(yè)都將AI工具與其他技術(shù)結(jié)合，發(fā)展新產(chǎn)業(yè)，有的是向各個(gè)行業(yè)轉(zhuǎn)移，還有的專門做圖像、視頻、語音等。國內(nèi)一些大模型現(xiàn)在也已經(jīng)取得了比較好的發(fā)展。
基于此，勢必要推動(dòng)人工智能領(lǐng)域的產(chǎn)業(yè)變革。今后無論做硬件還是做軟件，一定要放到基礎(chǔ)模型的平臺當(dāng)中。過去是在一個(gè)零基礎(chǔ)的計(jì)算機(jī)中制作軟件，效率很低，而現(xiàn)在平臺已經(jīng)學(xué)習(xí)超過一千萬本牛津辭典，能力水平至少相當(dāng)于一個(gè)高中生，若將同樣的工作放到基礎(chǔ)模型的平臺上進(jìn)行將會事半功倍，所以采用這個(gè)平臺是不可阻擋的趨勢。而這些“高中生”則來源于大模型企業(yè)提供的公開平臺。
大模型的局限性
大模型的所有工作都由外部驅(qū)動(dòng)，在外部提示下進(jìn)行。它缺乏主動(dòng)性，在外部提示下做某事時(shí)，主要基于概率預(yù)測的方法，所以會出現(xiàn)一些人類沒有的缺點(diǎn)，即輸出的質(zhì)量不可控。并且它不知道是非對錯(cuò)，所以它的輸出也不可信。與此同時(shí)，它受外部影響太大，只能聽從指令來完成相應(yīng)的事情。但人類則是完全不同的，即使這件事是由別人安排完成，人也能夠在自己的意識控制下進(jìn)行，所以是可控、可信的。
由此可見，目前的人工智能并不知道自己的所作所為。AI工具尚不能準(zhǔn)確分辨對錯(cuò)，且現(xiàn)在還難以主動(dòng)進(jìn)行自我迭代，仍舊需要在人類的操作下進(jìn)行。未來的人工智能***多成為人類的助手，在人類的監(jiān)控下進(jìn)行操作，只有少數(shù)工作可以完全交給機(jī)器獨(dú)立完成。有研究機(jī)構(gòu)曾做過關(guān)于人工智能對各行各業(yè)影響的統(tǒng)計(jì)，列出了大量行業(yè)，在未來這些行業(yè)中只有少數(shù)工作可能會被人工智能取代�？梢姡斯ぶ悄軐Ω餍懈鳂I(yè)都有重大影響，但大多數(shù)是幫助人類提高工作質(zhì)量和效率，而非取代人類進(jìn)行工作。
人工智能是探索“無人區(qū)”，其魅力就在于它永遠(yuǎn)在路上。我們不能因?yàn)樗倪M(jìn)展而過于樂觀，也不必因?yàn)樗拇煺鄱趩�，我們需要的是�?jiān)持不懈地努力。
（本講座文稿由清華大學(xué)新聞與傳播學(xué)院博士生牛雪瑩整理）
《光明日報(bào)》（2024年05月25日 10版）
來源：光明網(wǎng)-《光明日報(bào)》
