點擊海報回看本期《面談》 制作|陳靜茹 張莉
長江日報大武漢客戶端2月22日訊（記者陳靜茹）最近，應用軟件ChatGPT在多國社交媒體“狂飆”。發(fā)布兩個月后，月活人數(shù)成功過億，成為史上用戶增速最快的消費者應用。2月20日，清華大學人工智能國際治理研究院副院長、清華大學公共管理學院教授梁正，武漢大學人工智能系系主任、教授彭敏和武漢大學副研究員李祖超做客長江日報《面談》，一起暢聊風暴眼中的ChatGPT。網(wǎng)友在線上同三位教授一起熱議ChatGPT，各平臺觀看視頻網(wǎng)友達70萬。
一、ChatGPT能做什么？有沒有與它聊天過？
梁正：作為科研工作者，我最關心的是ChatGPT可以給我們提供什么幫助。因為我是做人工智能的治理研究，也就是人工智能會帶來什么樣的風險，什么樣的問題，所以我首先問他“你會對人類產(chǎn)生什么樣的影響？應該怎么去應對？”它的回答很官方，也很全面。
彭敏：首先ChatGPT的編寫代碼能力讓我印象深刻。此外，我的研究領域是人工智能的對話，所以在這方面比較關注，我覺得它在多意圖多輪的對話中，表現(xiàn)非常好。
李祖超：在和ChatGPT聊天的過程中，我發(fā)現(xiàn)它的回答的質(zhì)量依賴于用戶的問題的清晰程度，問題定義越清晰，ChatGPT可以回答得更具體更有根據(jù)。
二、把ChatGPT比做一個14到15歲的孩子在跟人類對話，這個比喻如何？準確嗎？
梁正：在一般生活對話的場景方面，我認為ChatGPT已經(jīng)達到了14-15歲的孩子的能力，甚至在有的領域它可以達到大學本科生畢業(yè)生的這樣一個水平，包括醫(yī)師資格考試、大學入學考試等都可以完成。它不是只在一個領域去發(fā)揮作用，它在一些專用領域的表現(xiàn)更好。
彭敏：我們不能籠統(tǒng)地來講ChatGPT的能力。它在很多領域確實是做得非常卓越，背后對應的是它所支撐的技術、數(shù)據(jù)或者是知識，但在某些領域，它又非常知識匱乏，不具備一定的智能。
李祖超：將ChatGPT對照14-15歲的孩子我認為是不完全確切的。這需要從幾個層面來講。從語言表達能力來說，ChatGPT給出的答案確實都是以簡單句為主，看上去像一個14-15歲的孩子講的話。這主要是大眾在試用ChatGPT時都采用閑聊的方式，并且ChatGPT訓練的目的是作為助手。但是實際上，只要經(jīng)過稍微地調(diào)教，ChatGPT的回答風格則可以發(fā)生巨大的變化，遠不止14-15歲的孩子的表達能力。從掌握知識的廣度角度來說，ChatGPT可以同時記憶天文、地理、物理、化學、計算機等等行業(yè)知識，而人類一般無法掌握這么多領域的知識。從掌握知識的深度來說，ChatGPT應該相當于一個某個專業(yè)領域的初級到中級水平。ChatGPT本質(zhì)上是在模擬人的對話過程，它的模擬能力是利用一個神經(jīng)網(wǎng)絡大模型從大規(guī)模的訓練語料學習出來的，其實現(xiàn)基于四個要素：覆蓋廣泛的訓練語料、算力、一些算法技巧和人工調(diào)優(yōu)技巧。ChatGPT在知識方面的上限取決于訓練它的語料庫。如果語料庫里面沒有的知識，它是無法回答的，同時如果訓練語料中的知識本身就是錯的，它也會回答錯誤。此外，ChatGPT在計算方面的能力是弱于14-15歲的孩子，約等于8-9歲孩子，這也是未來ChatGPT進一步進化的方向之一。
三、我們可以調(diào)教ChatGPT嗎？
李祖超：我們是可以對ChatGPT進行調(diào)教的。比如某人，你的性格是什么樣的，你應該講什么樣的話，比如你的表現(xiàn)是非常軟萌的，它的回答都會按照你的風格進行生成，或者嚴厲的老師，或者老板等等角色。
四、ChatGPT真的能取代人類的某一些職業(yè)嗎？
梁正：我個人的觀點，ChatGPT在給我們提供幫助上，它的潛力是巨大的。這個“替代”只是把人類不愿意做的，或者人類覺得比較辛苦和繁復的工作去替代掉，但我不認為它可以把人類有創(chuàng)意的，創(chuàng)造性的這部分工作替代掉，包括對我們做科學研究做學術研究也是一樣。
彭敏：什么工作是不能被替代的？具有創(chuàng)意的，或者說在我們的基礎搜索或者是生成之后，還需要去進行相應的人類智慧去給他一些指導的工作。此外，ChatGPT在某些領域提高了生產(chǎn)力并不代表剝奪了大家的飯碗，這一產(chǎn)品研發(fā)的初衷正是為了替人去做一些重復工作，讓人可以有時間和精力去做自己更擅長、更適合人類做的創(chuàng)新性的工作，更好地享受生活。
李祖超：這種職業(yè)替代形式，人工智能發(fā)展過程中一直存在。如2015年，美聯(lián)社使用機器人寫作，年報道量超過15億條，領域涉及金融、房地產(chǎn)、體育等領域。目前，空中客車公司使用人工智能而不是人類工程師來設計飛機，制藥公司葛蘭素使用人工智能進行藥物開發(fā)，工作效率和任務完成質(zhì)量都比人類工程師更好。人工智能甚至可以拍電影。2019年，上演的科幻短片《走神》就是一部劇本、導演、表演、配樂等一系列制作程序，大部分由人工智能所完成的影片，僅用了2天時間。能力更強更通用的ChatGPT將進一步加快職業(yè)形式的變化過程。
五、ChatGPT這樣的AI可幫助人類進行真實創(chuàng)造，尤其是幫助人類提高創(chuàng)造效率，比如提高獲取信息的效率或提出新穎想法。這意味著什么？
梁正：這是在技術發(fā)展過程中，也就是在人類知識的積淀的基礎上，學習訓練這種大的語言模型后，凸顯出來的這樣的一種能力。從信息的處理上、內(nèi)容的生成上，它的效率和質(zhì)量應該說都得到了一個飛躍，這是特別的、積極的一方面。所以它其實會對我們未來，在這樣的一些領域中怎么去利用它，提供了更好的選擇。但我們也不要去神話它，在很多問題上，比如說推理的能力，比如說一些常識，它還是不具備對客觀知識的無中生有的這樣的一種能力。ChatGPT在效率提升這一方面是非常明顯的，特別是在內(nèi)容創(chuàng)作上，所以這也是我們目前面臨的一個很大的一個問題。另外，由于ChatGPT大大提高這樣的效率以后，一些重復性的工作可以不給那么高的權重。我認為，在ChatGPT出來以后，我們需要去做的是——每個人都應該去使用、去探索怎么去跟它更好地去合作，利用它優(yōu)越的一面。然后結合自己的優(yōu)勢，把你原來所不擅長的一部分工作交給它去做。它能引起整個分工關系和人技關系的深刻變化。ChatGPT的影響不僅僅體現(xiàn)在產(chǎn)業(yè)上，還體現(xiàn)在社會、教育、人際交往的變化上。
彭敏：ChatGPT在效率提高這件事上，毋庸置疑。這一通用人工智能產(chǎn)品的目的并不僅僅是提高信息檢索一個優(yōu)勢，更重要的是在落地到垂直領域，比如裝備制造、集成電路、大型工程設計等等這些方面，都可以借助于它的智能能力，提高效率。在將來可能會出現(xiàn)類似于工業(yè)5.0，推動整個社會和人類的進步，而不僅僅說給我們增加了一個很方便的小工具而已，這也是為什么現(xiàn)在大家都會對它有期待。另外一個角度，我們要看到這個信息產(chǎn)生以后可能也會出現(xiàn)很多問題。比如，大家用它去寫作帶來的著作權問題。還有一個很重要的方面，就是信息的真?zhèn)螁栴}。所以效率的提高，未來也會帶來其他問題。
李祖超：人類歷史的發(fā)展總體上來看就是生產(chǎn)效率的不斷提高的過程。ChatGPT是當下信息時代的蒸汽機，實用性很高。用戶使用ChatGPT獲取信息的效率不亞于現(xiàn)在已經(jīng)非常成熟的搜索引擎。ChatGPT基于用戶需求以及世界性知識為人類的創(chuàng)造提供靈感，提高了效率，這將對所有的人類創(chuàng)作領域產(chǎn)生重要的影響。也許未來，人類創(chuàng)作中發(fā)揮的作用是作為鑒賞家對人工智能創(chuàng)作進行篩選以及微調(diào)。但與此同時，ChatGPT在提高創(chuàng)作效率的同時，生產(chǎn)會越來越多地具備人工智能體形態(tài)的行為主體。這類新形態(tài)的行為主體，遵循新的組織行為規(guī)則，其權責邊界和供求關系都將產(chǎn)生一系列新現(xiàn)象、新問題。
人工智能體創(chuàng)造各種作品，使用大量來源廣泛的知識資源，那么這些作品所涉及的知識產(chǎn)權如何界定？其行為表現(xiàn)及后果與相關自然人法人之間的法律責任如何確定？這些問題都會成為值得關注的焦點。
例如，如果醫(yī)院門診的大多數(shù)功能，像掛號候診、檢查檢驗、病情診斷、醫(yī)囑處方等都可以由人工智能體承擔，那主診醫(yī)生與人工智能體的職能劃分和權責關系如何界定？特別是人工智能體如果達到診斷差錯率顯著地低于主診醫(yī)生誤診率的水平，那處方權應歸誰？在更多的行業(yè)都將發(fā)生類似現(xiàn)象。對此，都須有新的規(guī)則來維護新的秩序。
六、ChatGPT的出現(xiàn)，具有劃時代意義嗎？會成為操作系統(tǒng)平臺的新雛形嗎？
梁正：在產(chǎn)業(yè)發(fā)展當中，ChatGPT是具有類似于操作系統(tǒng)，或者是通用界面、主導設計的這樣一個里程碑式的進步產(chǎn)品，這意味著可能未來一個非常大的產(chǎn)業(yè)的發(fā)展空間被打開了。其實從我們研究產(chǎn)業(yè)創(chuàng)新的角度來看，一個行業(yè)它從技術的突破到真正的商業(yè)化，然后到規(guī)?；推占盎_實是要經(jīng)歷這樣一個過程。現(xiàn)在，ChatGPT給大家提供了一個模板，可以在這個基礎上去考慮怎么去為各行各業(yè)賦能。所以，這是真正可能引爆整個產(chǎn)業(yè)智能化轉(zhuǎn)型的非常重要的方向。
彭敏：ChatGPT比以往深度學習更有優(yōu)勢的是面對超大規(guī)模數(shù)據(jù)，擺脫了做大量語料標注的工作，是一種無監(jiān)督學習。此外，它還擁有強化學習、指令微調(diào)、思維鏈等先進技術。從技術的角度，ChatGPT對于整個人工智能是具有里程碑意義的。
李祖超：對于ChatGPT是否能成為操作系統(tǒng)的新雛形這個問題，我的答案是積極的。操作系統(tǒng)的作用根據(jù)用戶指令實現(xiàn)資源的分配以及計算的調(diào)度，那么ChatGPT發(fā)揮的作用是充當新的人機接口，更智能地實現(xiàn)用戶指令的解譯，減少用戶的操作。從更長遠來看，通過賦予ChatGPT管理系統(tǒng)資源如硬盤、CPU、外設等能力，將ChatGPT直接作為一種操作系統(tǒng)，用戶只需要輸入自然語言便可以達到操作的目標，應該是新一代操作系統(tǒng)的雛形。
七、ChatGPT有時會“一本正經(jīng)地胡說八道”，存在事實性錯誤、知識盲區(qū)和常識偏差等諸多問題。主要是什么原因，產(chǎn)生了這樣的可能性？
梁正：ChatGPT可以無中生有，所以叫做“生成式”。背后有大量的人類的知識以及我們對它的引導和獎勵的策略。人類告訴它，什么是對錯。它在專業(yè)領域講得頭頭是道，如果聊個人的喜好情緒等，它的能力遠遠沒有到擬人的程度?！耙槐菊?jīng)地胡說八道”可能也是它創(chuàng)造性回答的部分。ChatGPT“一本正經(jīng)地胡說八道”，那么誰來判斷？只有人才能判斷。當然有一些工作不要求創(chuàng)造性，它可以做得很好。那么這種條件下人去做什么？人就是要去做創(chuàng)新性的、創(chuàng)造性的工作，包括藝術、創(chuàng)意這樣真正叫無中生有，也就是客觀世界里沒有，只存在于人的這個腦海當中的東西。我們先不講大模型再大到一定程度，是不是有自主意識產(chǎn)生了，如果說有，可能技術專家可以去回答，那是另外一回事了。起碼到現(xiàn)在，不能夠說ChatGPT能替代人。所以這方面呢，我覺得它其實反倒會引起我們的反思，就是我們的創(chuàng)意創(chuàng)造的源泉、我們的優(yōu)勢到底是在哪里。也可以反過來去推動我們在這方面的研究，就是人類的這個創(chuàng)造性思維到底是從哪來的？你是邏輯的推理、是現(xiàn)實的觀察、還有可能是個人的頓悟，這樣的一些思維的涌現(xiàn)究竟是如何發(fā)生的？所以，我覺得可能將來它反倒會打開這個空間，讓我們?nèi)パ芯咳说倪@種思維和創(chuàng)意。
彭敏：“有沒有胡說八道”主要是看它的知識點和計算能力有沒有到這個層面。為什么知道是胡說八道的話他還會講？因為他不知道是錯的，因為這一模型缺乏可解釋性和驗證性。這也是在這10年深度學習出現(xiàn)以后，許多研究者一直在努力做的工作。
李祖超：ChatGPT本質(zhì)上依托于一個參數(shù)量巨大的神經(jīng)網(wǎng)絡模型，其訓練過程是基于網(wǎng)上現(xiàn)有的語料進行的，而這些訓練數(shù)據(jù)本身良莠不齊，并不全都是優(yōu)質(zhì)文本，因此有可能出現(xiàn)事實性錯誤問題。此外，ChatGPT給出的答案只是基于其理解生成的最佳結果，然而對于某些訓練的知識盲區(qū)問題，且可能根據(jù)字面意思進行推理，從而出現(xiàn)了“一本正經(jīng)胡說八道”的現(xiàn)象。此外，自然語言理解困難之一是語境問題，由于缺乏上下文可能導致的對問題本身的不理解等，也會導致ChatGPT給出錯誤的結果。對于常識偏差的問題，這是由于ChatGPT是基于對大量文本進行預訓練，而常識（比如太陽比月亮大）通常不會直接包括在這些文本中，因此缺乏對常識的理解。
八、最近，多國高校出臺了ChatGPT禁令，專家們怎么看？
梁正：對于科學研究也好，對于內(nèi)容創(chuàng)作也好，我們確實要承認他是能夠給我們帶來很大的這種幫助的。那么，作為一個好的工具，你為什么不去使用它呢？明明他可以給你很大的這方面的一些便利，包括在文獻、資料、信息的搜集和整理上。我個人的觀點目前高校對ChatGPT的禁令主要是基于公平性的考慮，從長期來看不能簡單地“一禁了之”，更重要的是探討怎么去誠信、客觀、正面地使用它。
彭敏：我們要用一種開放的心態(tài)去接受新事物，而且要把它用到我們能用的極致。當然，我們不能過度地去信任這個工具，還得給它配套必要的措施。
九、這些“啥都懂”“啥都會”機器人給我們帶來震撼的同時，還提供了哪些思考和啟發(fā)？
李祖超：在啟發(fā)層面，以ChatGPT為代表的人工智能技術的發(fā)展確實是邁出了很大的一步。在未來，這樣的技術還有著無限的發(fā)展?jié)摿?，我們的日常生活也會隨之而慢慢發(fā)生改變。隨著人工智能的發(fā)展，人工智能可以代替人類進行各種作業(yè)，我們未來在生活中應該更好地借助人工智能的力量來進行發(fā)展，而不是過度依賴人工智能的能力而喪失我們原有的能力。同時，人類作為人工智能創(chuàng)意的來源，持續(xù)不斷的新的創(chuàng)意養(yǎng)料才能幫助人工智能迭代，因此未來的高價值職業(yè)都會向高創(chuàng)意方向發(fā)展。最后，隨著人工智能不斷滲透到人類的生活中，相應的道德和法律規(guī)范也應該隨之健全。
十、對中國未來的人工智能領域有何展望？
梁正：近年來，我國在人工智能領域基礎研究、技術平臺、行業(yè)應用等多方面都有布局。人工智能領域的創(chuàng)新創(chuàng)業(yè)活躍度很高。未來，我們應該堅持長期主義，產(chǎn)業(yè)、人才、創(chuàng)新創(chuàng)業(yè)環(huán)境等持續(xù)投入，不僅僅要做突破，更要探討我們在數(shù)字化轉(zhuǎn)型中的潛力和活力。
彭敏：我國人工智能領域應該從全局角度入手進行規(guī)劃，在通用大模型基礎上再落地到下游垂直領域場景。希望未來國家關于人工智能的規(guī)劃能有所調(diào)整，做全局性部署。
李祖超：中國未來人工智能領域的發(fā)展目標之一是需要追平代差。此外，由于通用人工智能技術不僅僅包含語言智能，也包含語音智能和視覺智能等，因此下一代ChatGPT技術應當是多模態(tài)的，未來人工智能領域也將著眼于多模態(tài)ChatGPT的研發(fā)當中。
