最近，以ChatGPT為代表的人工智能技術(shù)風(fēng)靡全球，它不僅能流暢地與用戶對話，還能寫詩、寫文章、編碼。今年全國兩會(huì)上，ChatGPT同樣引起了委員和代表們的關(guān)注與討論。ChatGPT是人類的助手還是對手？如何注意科技倫理、趨利避害？

新京報(bào)記者邀請全國政協(xié)委員、中科院自動(dòng)化所研究員趙曉光，清華大學(xué)計(jì)算機(jī)系教授、清華大學(xué)人工智能研究院視覺智能研究中心主任鄧志東，國家新一代人工智能治理專業(yè)委員會(huì)委員、中科院自動(dòng)化所研究員、人工智能倫理與治理研究中心主任曾毅，做客《兩會(huì)三人談》欄目進(jìn)行解讀。

新京報(bào)《兩會(huì)三人談》欄目邀請全國政協(xié)委員、人工智能專家，共同聊聊以ChatGPT為代表的人工智能技術(shù)。制圖/許驍

【資料圖】

關(guān)注1：ChatGPT意味著人工智能技術(shù)發(fā)展到了什么程度？

ChatGPT近期引發(fā)了公眾的廣泛關(guān)注，有人覺得它具有顛覆性，也有人覺得它被“神話”了，這個(gè)語言大模型的出現(xiàn)意味著人工智能技術(shù)發(fā)展到哪一步了？

“這幾天，全國政協(xié)科技界別很多委員特別關(guān)注ChatGPT的技術(shù)，尤其是這項(xiàng)技術(shù)在我國的發(fā)展和未來會(huì)給我們帶來哪些啟示。”趙曉光說，從技術(shù)角度來看，ChatGPT是一個(gè)自然語言處理模型，讓計(jì)算機(jī)能跟人聊天。我國有很多研究機(jī)構(gòu)也做了相關(guān)的技術(shù)，并一直在應(yīng)用，比如大家熟悉的銀行自動(dòng)語音服務(wù)等。ChatGPT之所以受到廣泛關(guān)注，是由于微軟把ChatGPT的技術(shù)嵌入到搜索引擎“必應(yīng)”中，受到巨大的用戶人群歡迎并愿意為其付費(fèi)。ChatGPT帶來了在商業(yè)上應(yīng)用的巨大前景。

全國政協(xié)委員、中科院自動(dòng)化所研究員趙曉光。受訪者供圖

“我國此前沒有大力發(fā)展通用大模型的研究，是因?yàn)槟壳斑€沒找到很適合的應(yīng)用場景。人工智能技術(shù)本身就要跟場景密切結(jié)合，這項(xiàng)技術(shù)給我們帶來的啟發(fā)就是未來如何跟場景更好地落地結(jié)合，如何培養(yǎng)更大的市場、挖掘更多的需求，通過滿足用戶的需求產(chǎn)生新應(yīng)用，帶來更多效益。”

她認(rèn)為，ChatGPT的出現(xiàn)和應(yīng)用并不代表著通用人工智能時(shí)代的到來。“一些新聞報(bào)道稱它會(huì)理解人類的語言，我認(rèn)為理解應(yīng)該打個(gè)引號。要模仿人類的理解恐怕還要走很多的路。”

鄧志東認(rèn)為，ChatGPT作為大型生成式語言模型，是NLP（自然語言處理）領(lǐng)域中某種意義上的通用人工智能，而且是顛覆性的。2012年以來，以深度學(xué)習(xí)為代表的人工智能在全球范圍內(nèi)得到迅猛發(fā)展，但都屬于弱人工智能，對于人類而言是賦能的工具。ChatGPT則不同，它利用單一模型就能完成NLP領(lǐng)域中的多個(gè)任務(wù)，比如對話、翻譯、生成、搜索、編程與調(diào)試等，這就有了文本語言領(lǐng)域中通用人工智能的主要特點(diǎn)。同時(shí)，它在完成多個(gè)任務(wù)時(shí)還接近人類的水平，與以前根據(jù)特征進(jìn)行匹配或搜索的方法完全不同。

他說，隨著ChatGPT的版本不斷更新，全球上億用戶與其高頻度交互，且其具有持續(xù)的學(xué)習(xí)能力，它的NLP多任務(wù)完成能力還將提升，可能會(huì)在較短時(shí)間內(nèi)達(dá)到專家的水平，將非常具有顛覆性，給人類帶來巨大進(jìn)步。

在曾毅看來，ChatGPT是一個(gè)人工智能領(lǐng)域現(xiàn)有工程技術(shù)的組合創(chuàng)新，在用戶體驗(yàn)上有顯著提升，但并非科學(xué)的突破。它使用自然語言處理領(lǐng)域的幾項(xiàng)關(guān)鍵技術(shù)，都是幾年前學(xué)術(shù)界已驗(yàn)證有效、相對比較成熟的技術(shù)。但ChatGPT有數(shù)億用戶的反饋，其輸出不是提供最優(yōu)化的結(jié)果，而是最接近人類需求、合乎人類期望的結(jié)果。

ChatGPT不能真正像人類一樣理解和應(yīng)用語言，離1956年達(dá)特茅斯會(huì)議上提出的“人工智能”實(shí)現(xiàn)智能的各個(gè)方面達(dá)到人類水平的暢想還有很大距離。

新京報(bào)“知道視頻”出品

關(guān)注2：未來哪些職業(yè)可能會(huì)被人工智能取代？

一些網(wǎng)友在和ChatGPT聊天之后，擔(dān)心自己的工作未來會(huì)被取代。那么，ChatGPT是人類的助手還是對手？未來哪些職業(yè)可能會(huì)被取代？

趙曉光稱，人工智能確實(shí)取代了一些工作，是人類不愿意從事的艱苦、枯燥、繁重、有危險(xiǎn)的工作。比如速記員的工作，現(xiàn)在很多可以通過自然語言識別將語言轉(zhuǎn)變成文字，但計(jì)算機(jī)完成的工作依然需要人類校正，因?yàn)闀?huì)存在一些錯(cuò)誤。她以法律系統(tǒng)舉例，ChatGPT可以審閱訴狀，進(jìn)行簡單分類，做一些需要具備文化功底的簡單的體力勞動(dòng)，但不能替代法官做更多判斷。所以目前來說，ChatGPT更多是提供了“方便”。

鄧志東認(rèn)為，ChatGPT不僅有文本理解能力，也有文本生成能力。“它的理解能力已經(jīng)達(dá)到了相當(dāng)高的水平，比如一些彎彎繞繞的表述，它都能理解，且給出合乎常識或價(jià)值觀的回答。隨著以ChatGPT為代表的生成式人工智能在短期之內(nèi)大規(guī)模商業(yè)化落地，以及對各行各業(yè)全面滲透，在大幅度提高生產(chǎn)力和生產(chǎn)效率的同時(shí)，也將對就業(yè)市場帶來影響，文案、新聞、翻譯、會(huì)計(jì)、律師、教師、程序員、藝術(shù)創(chuàng)作等職業(yè)中的中低端崗位會(huì)受到?jīng)_擊，尤其是不需要深入思考，僅完成簡單重復(fù)性文字整理的崗位。

清華大學(xué)計(jì)算機(jī)系教授、清華大學(xué)人工智能研究院視覺智能研究中心主任鄧志東。受訪者供圖

曾毅稱，科學(xué)技術(shù)的發(fā)明創(chuàng)造以及在社會(huì)上的應(yīng)用，最初的目的就是部分替代人類勞動(dòng)。信息技術(shù)與人工智能發(fā)明的初衷，不是讓絕大多數(shù)人失業(yè)。但確實(shí)需要思考的是，人類在所從事的職業(yè)中發(fā)揮的不可替代作用是什么。

他以記者舉例，記者要追求真相，但目前人工智能對于“真相”的了解還存在很大困難的。相比人工智能寫的稿件，媒體工作人員的作品中更能呈現(xiàn)人類對于世界的真正理解，也有背后的故事。

長期來看，必然會(huì)有一部分工作會(huì)被暫時(shí)替代，此時(shí)需要人類重新思考工作的意義。比如做社會(huì)服務(wù)、養(yǎng)老助殘等需要以情感出發(fā)去關(guān)懷他人的工作，很難被機(jī)器替代。如果你哭了，機(jī)器人也可以安慰你，但這是基于數(shù)據(jù)的情感分析，而不是對情感的真正理解。即使機(jī)器有能力去替代人類時(shí)，人類也未必相信機(jī)器。“這樣的工作使得人類反思，人之所以為人，與其他沒有情感的物體之間的差異，讓人類回歸本該回到的地方。對于人類反思的能力，機(jī)器人和人工智能暫時(shí)難以達(dá)到同樣的高度。”

總體上，曾毅持樂觀態(tài)度，認(rèn)為真正需要和值得人投入精力的工作不會(huì)被替代，但他仍認(rèn)為，人類應(yīng)該為可能出現(xiàn)的部分領(lǐng)域的勞動(dòng)替代做好準(zhǔn)備。

新京報(bào)“知道視頻”出品

關(guān)注3：ChatGPT會(huì)對教育產(chǎn)生什么影響？

近期出現(xiàn)了學(xué)生利用ChatGPT做作業(yè)、寫論文、考試作弊的情況，教育界人士擔(dān)心這將使孩子們喪失思考能力。ChatGPT對教育會(huì)產(chǎn)生什么影響？

趙曉光認(rèn)為，人類在學(xué)習(xí)的過程當(dāng)中，學(xué)習(xí)前人的經(jīng)驗(yàn)非常重要，這就需要閱讀大量的文獻(xiàn)，并將其中的中心思想提煉出來，即文獻(xiàn)綜述。ChatGPT可以做這件事，并生成一篇新的文章。“但它做得再好，也只是把已有的思想拼接起來，目前不會(huì)產(chǎn)生新的思想。總體上講，我堅(jiān)信人類能夠把控自己發(fā)明創(chuàng)造出來的人工智能技術(shù)。”

她說，研究生寫論文之前閱讀大量的文獻(xiàn)，花了很多時(shí)間，ChatGPT這樣的工具能有效節(jié)約時(shí)間和體力，讓學(xué)生把精力更專注地放在科研創(chuàng)新和寫自己論文的思考上。但它確實(shí)帶來了巨大的挑戰(zhàn)，讓人類的智能向更高層級發(fā)展，而不是局限于從事簡單枯燥的工作賺錢。

鄧志東稱，去年11月30日OpenAI公司發(fā)布ChatGPT，目前還稱不上1.0版本，但三個(gè)多月來已經(jīng)帶給我們很多改變，對教育的影響也將逐漸顯現(xiàn)出來。一方面會(huì)帶來挑戰(zhàn)與沖擊，另一方面，也會(huì)讓人類重新思考教育的本質(zhì)，找到路徑去思考真正有用的知識，學(xué)習(xí)真正對經(jīng)濟(jì)社會(huì)發(fā)展和人類文明進(jìn)步有價(jià)值的內(nèi)容，而不是把大量時(shí)間花在死記硬背上。

曾毅認(rèn)為，ChatGPT的輸出跨越了學(xué)的階段，直接給出結(jié)果。短期內(nèi)，一些人通過偷懶會(huì)嘗到甜頭，但很快將被負(fù)面作用影響。統(tǒng)計(jì)生成模型主要關(guān)注輸出結(jié)果的統(tǒng)計(jì)顯著性，過度依賴于類ChatGPT技術(shù)與服務(wù)會(huì)使人失去自我的視角，難以彰顯人的個(gè)性化、差異性。

知識獲取最重要的部分就是理解的過程，而不是結(jié)果。長遠(yuǎn)來看，人類會(huì)明白利用輔助工具和讓工具幫自己做決策是兩回事。“比如小朋友背別人寫的詩很快會(huì)忘記，但自己寫的詩很難忘記，且自己會(huì)很珍視并由衷地快樂。”他認(rèn)為，愿意用ChatGPT寫綜述的同學(xué)，失去的是學(xué)習(xí)的機(jī)會(huì)，以及獲得研究靈感的快樂與洞見。

國家新一代人工智能治理專業(yè)委員會(huì)委員、中科院自動(dòng)化所研究員、人工智能倫理與治理研究中心主任曾毅。受訪者供圖

關(guān)注4：中國何時(shí)有自己的ChatGPT？

今年2月，北京市經(jīng)信局表示，北京將支持頭部企業(yè)打造對標(biāo)ChatGPT的大模型。現(xiàn)在很多人關(guān)心，中國何時(shí)才能有自己的ChatGPT？目前的差距在哪里？這次ChatGPT受到關(guān)注，對我國智能大模型發(fā)展是否是一個(gè)機(jī)遇？我國要如何推進(jìn)智能大模型的研發(fā)？

趙曉光稱，我國很多研究機(jī)構(gòu)在研究大模型方面做了很多工作，并取得了非常好的成績。北京市的政策將支持人工智能技術(shù)更好地落地應(yīng)用，使其和應(yīng)用場景結(jié)合。北京人工智能企業(yè)眾多，技術(shù)人才聚集，在發(fā)展技術(shù)和挖掘市場需求上有很大優(yōu)勢。目前，企業(yè)要進(jìn)行數(shù)字化、智能化轉(zhuǎn)型，ChatGPT帶來的啟示就是去思考需求、市場和用戶在哪里，把這些變成技術(shù)進(jìn)步的動(dòng)力。

“我們很早就呼吁，高度重視發(fā)展中國的人工智能多模態(tài)大模型。”鄧志東稱，ChatGPT的出現(xiàn)，也讓全社會(huì)期待并支持中國發(fā)展自己的生成式人工智能大模型，這確實(shí)是一個(gè)機(jī)遇。以往中國也有對話機(jī)器人，但用戶體驗(yàn)并不理想。百度宣布3月16日圍繞“文心一言”召開發(fā)布會(huì)，這個(gè)生成式對話產(chǎn)品被外界譽(yù)為“中國版ChatGPT”。所以說不是“有沒有”的問題，而是中國的ChatGPT可以多大程度上接近人類水平。

他說，類似的大模型都需要基于人類反饋的強(qiáng)化學(xué)習(xí)、全球數(shù)據(jù)和人工智能算力的支撐。ChatGPT有上億用戶級別的人類調(diào)教，后期很難有產(chǎn)品能達(dá)到類似規(guī)模，所以短期內(nèi)打造完全對標(biāo)ChatGPT的大模型，仍然存在挑戰(zhàn)。

曾毅說，目前很多人工智能頭部企業(yè)宣布投入類ChatGPT技術(shù)和平臺研究，同一個(gè)研究機(jī)構(gòu)甚至誕生不止一個(gè)大語言模型。作為語言服務(wù)的工具，語言大模型可以賦能千行百業(yè)，每個(gè)國家都需要有自己的基礎(chǔ)大模型。但需要注意的是，如果中國誕生太多版本的基礎(chǔ)大模型，而各個(gè)企業(yè)沒有將重點(diǎn)放在發(fā)展垂直領(lǐng)域應(yīng)用的話，不必要的能耗會(huì)非常大。

根據(jù)研究，2020年，全球信息與通信技術(shù)的碳排放只占在整個(gè)碳排放總量的2%，但在十年之內(nèi)會(huì)上升到15%。大模型每一次訓(xùn)練的碳排放將近150人一年內(nèi)生活的碳排放量。他認(rèn)為，有共性技術(shù)的國家級基礎(chǔ)大模型沒有必要重復(fù)建設(shè)，應(yīng)該有體系化地組織。在數(shù)據(jù)和知識引擎部分，產(chǎn)業(yè)和學(xué)術(shù)界應(yīng)該最大可能共享。但在大模型創(chuàng)新算法、垂直領(lǐng)域微調(diào)算法方面，應(yīng)該各自發(fā)揮優(yōu)勢。

他也認(rèn)為，目前其他國家在人工智能領(lǐng)域取得突破進(jìn)展后，我國人工智能產(chǎn)業(yè)才會(huì)迅速跟進(jìn)，卻沒有原始創(chuàng)新能力，并復(fù)制學(xué)術(shù)與產(chǎn)業(yè)組合創(chuàng)新模式，而是當(dāng)別人的“放大器”。科學(xué)突破途徑不唯一，未來中國要想贏得機(jī)會(huì)需要前瞻布局、換道超車，使下一次的突破有機(jī)會(huì)從中國誕生。

新京報(bào)“知道視頻”出品

關(guān)注5：如何注意科技倫理、趨利避害？

科技部部長王志剛?cè)涨霸凇安块L通道”上表示，對人工智能的研究與運(yùn)用，需要注意科技倫理、趨利避害。哪些科技倫理問題已經(jīng)顯現(xiàn)并值得我們關(guān)注？如何防范？

曾毅說，ChatGPT沒有帶來新的倫理挑戰(zhàn)，但它在很多領(lǐng)域無限放大了大家認(rèn)為可能還需很長時(shí)間才會(huì)到來的倫理挑戰(zhàn)。比如統(tǒng)計(jì)生成模型需要發(fā)現(xiàn)大規(guī)模語料的統(tǒng)計(jì)顯著性，但全球200多個(gè)國家和地區(qū)文化具有多樣性，是不可以被統(tǒng)計(jì)的顯著性吞噬的。這就是科技倫理中非常重要的一個(gè)維度。

另外，ChatGPT的責(zé)任和問責(zé)也值得關(guān)注，它對于所有的輸出無法擔(dān)責(zé)，權(quán)利和義務(wù)是相伴相生的，所以何談版權(quán)問題。目前，人類構(gòu)造看似智能的信息處理工具，人仍然是責(zé)任主體。同時(shí)，人工智能生成技術(shù)也需要關(guān)注用戶知情同意的問題，研發(fā)方和服務(wù)方不能混淆它和人之間的邊界，需要明確告訴用戶是人工智能在服務(wù)，所帶來的后果是人工智能沒有辦法承擔(dān)的。

“我不同意讓人工智能無處不在，它有適用領(lǐng)域，很多領(lǐng)域無需人工智能賦能。所以我們參與撰寫的聯(lián)合國教科文組織《全球人工智能倫理建議書》，其中明確指出人工智能的適度使用。”曾毅說。

鄧志東認(rèn)為，ChatGPT利用了全球約三分之二的海量文本數(shù)據(jù)，其中涉及數(shù)據(jù)安全、知識產(chǎn)權(quán)、隱私保護(hù)等問題。這些數(shù)據(jù)有可能還會(huì)存在種族和性別歧視、認(rèn)知偏見、道德、倫理與價(jià)值導(dǎo)向等問題，甚至有違法數(shù)據(jù)，所以必須設(shè)立安全門。要通過全球合作的方式，提前采取有效的預(yù)防措施，制定相關(guān)國際倫理規(guī)范，而不是等問題發(fā)生了再去應(yīng)對。目前，ChatGPT對人類還無法形成真正的威脅，在發(fā)展之初要以開放的心態(tài)看待新生事物，緊抓機(jī)遇，發(fā)展中國人工智能產(chǎn)業(yè)，賦能經(jīng)濟(jì)和社會(huì)的發(fā)展。

作為全國政協(xié)委員，趙曉光表示，自己是科技界的委員，也進(jìn)行了機(jī)器人和人工智能的研究，未來將在這一領(lǐng)域提出意見和建議，希望人工智能在我國數(shù)字經(jīng)濟(jì)的發(fā)展中和數(shù)據(jù)融通處理中發(fā)揮作用，為實(shí)體經(jīng)濟(jì)發(fā)展賦能，帶來新的經(jīng)濟(jì)增長點(diǎn)和新的業(yè)態(tài)。“未來五年，我將著重關(guān)注人工智能技術(shù)的落地應(yīng)用、新技術(shù)領(lǐng)域的創(chuàng)新，并在這些方面做更多調(diào)查研究工作。”

新京報(bào)記者 張璐 郭薇 周博華 王方杰

編輯 劉夢婕 校對 李立軍