參考消息網(wǎng)2月22日?qǐng)?bào)道英國(guó)《金融時(shí)報(bào)》網(wǎng)站1月25日刊登題為《生成式人工智能：機(jī)器學(xué)習(xí)的新時(shí)代將如何影響你？》的文章，作者是理查德·沃特斯。內(nèi)容編譯如下：

就在10多年前，三名人工智能研究者取得了一項(xiàng)永久改變這個(gè)領(lǐng)域的突破。

【資料圖】

他們用在世界各地拍攝的120萬(wàn)張圖像來(lái)訓(xùn)練“AlexNet”系統(tǒng)，使其能夠識(shí)別從集裝箱船到豹子等各種物體，準(zhǔn)確性遠(yuǎn)高于以往的計(jì)算機(jī)。

這一壯舉不僅幫助三名研究者贏得了圖像網(wǎng)大規(guī)模視覺(jué)識(shí)別挑戰(zhàn)賽（ImageNet）的年度競(jìng)賽，還展示了機(jī)器學(xué)習(xí)的潛力，并在科技界引發(fā)一場(chǎng)將人工智能引入主流的競(jìng)賽。

人工智能競(jìng)賽白熱化

從那時(shí)起，計(jì)算機(jī)的人工智能時(shí)代基本上在幕后形成。機(jī)器學(xué)習(xí)是一項(xiàng)涉及計(jì)算機(jī)從數(shù)據(jù)中學(xué)習(xí)的基礎(chǔ)技術(shù)，已廣泛應(yīng)用于識(shí)別信用卡欺詐、提高在線內(nèi)容和廣告相關(guān)性等領(lǐng)域。如果說(shuō)機(jī)器人開(kāi)始要搶走所有的工作，那基本上是在人們看不到的地方發(fā)生的。

直到現(xiàn)在，人工智能領(lǐng)域的另一項(xiàng)突破剛剛撼動(dòng)了科技界。這一次，機(jī)器在人們看得到的地方運(yùn)行——或許它們終于準(zhǔn)備好兌現(xiàn)取代數(shù)百萬(wàn)個(gè)工作崗位的“威脅”。

去年11月底，問(wèn)答和文本生成系統(tǒng)ChatGPT以一種在科幻小說(shuō)之外罕見(jiàn)的方式，闖入公眾視野。該系統(tǒng)由總部位于舊金山的開(kāi)放人工智能研究中心（OpenAI）研發(fā)，可根據(jù)指令生成內(nèi)容，在新一波所謂“生成式”人工智能系統(tǒng)中最為引人注目。

如果你在ChatGPT中輸入要查詢的信息，它會(huì)用一個(gè)簡(jiǎn)短的段落給出答案和一些背景信息。例如，你問(wèn)它誰(shuí)贏得了美國(guó)2020年總統(tǒng)大選，它會(huì)列出結(jié)果并告訴你喬·拜登何時(shí)就職。

ChatGPT簡(jiǎn)單易用，能瞬間給出答案，就像人類在回答。該系統(tǒng)有望將人工智能引入日常生活。有消息稱，微軟公司已對(duì)開(kāi)放人工智能研究中心投資數(shù)十億美元，這幾乎證實(shí)了，這項(xiàng)技術(shù)將在人工智能革命的下一階段發(fā)揮核心作用。

ChatGPT是一系列日益引人注目的人工智能公開(kāi)展示的最新一個(gè)。開(kāi)放人工智能研究中心的另一個(gè)系統(tǒng)——自動(dòng)書(shū)寫(xiě)系統(tǒng)GPT-3，在2020年年中發(fā)布時(shí)震驚了科技界。其他公司緊隨其后推出了所謂的“大型語(yǔ)言模型”。去年，該領(lǐng)域擴(kuò)展到圖像生成，開(kāi)放人工智能研究中心的系統(tǒng)Dall-E 2、“穩(wěn)定”人工智能公司（Stability AI）的開(kāi)源系統(tǒng)Stable Diffusion以及Midjourney系統(tǒng)紛紛問(wèn)世。

這些突破引發(fā)人們爭(zhēng)相尋找人工智能的新應(yīng)用。

如果計(jì)算機(jī)能夠?qū)懽骱蜕蓤D像，那么在正確的數(shù)據(jù)訓(xùn)練下，還有什么是它們無(wú)法生成的嗎？谷歌展示了兩個(gè)實(shí)驗(yàn)性系統(tǒng)，可以根據(jù)簡(jiǎn)單提示生成視頻，還有一個(gè)可以回答數(shù)學(xué)問(wèn)題?！胺€(wěn)定”人工智能等公司已將這項(xiàng)技術(shù)應(yīng)用于音樂(lè)。

這項(xiàng)技術(shù)還可用于向軟件開(kāi)發(fā)人員建議新的代碼行，甚至整個(gè)程序。制藥公司夢(mèng)想著用它以更有針對(duì)性的方式研制新藥。美國(guó)生物技術(shù)企業(yè)阿布西公司本月表示，它已利用人工智能設(shè)計(jì)出新抗體。該公司表示，這可將一種藥物進(jìn)入臨床試驗(yàn)所需時(shí)間從四年縮短兩年多。

但隨著科技行業(yè)競(jìng)相將這項(xiàng)新技術(shù)呈現(xiàn)給全球受眾，我們需要考慮它可能產(chǎn)生深遠(yuǎn)的社會(huì)影響。

例如，讓ChatGPT以12歲孩子的口吻寫(xiě)一篇關(guān)于滑鐵盧戰(zhàn)役的文章，你就能得到按需交付的小學(xué)生家庭作業(yè)。更嚴(yán)重的是，人工智能有可能被故意用來(lái)生成大量虛假信息，它還可能自動(dòng)完成大量工作，遠(yuǎn)不止最明顯受沖擊的創(chuàng)造性工作。

微軟人工智能平臺(tái)負(fù)責(zé)人埃里克·博伊德說(shuō)：“這些模型將改變?nèi)伺c電腦互動(dòng)的方式?！彼鼈儗ⅰ耙砸环N前所未有的方式理解你的意圖，并將其轉(zhuǎn)化為計(jì)算機(jī)行為”。他還說(shuō)，因此它將成為一項(xiàng)基礎(chǔ)技術(shù)，“涉及現(xiàn)在幾乎所有的東西”。

谷歌研究科技對(duì)社會(huì)影響的高級(jí)副總裁詹姆斯·馬尼卡表示，對(duì)任何需要在工作中提出新想法的人來(lái)說(shuō)，這類系統(tǒng)的輸出可以“打破思維禁錮”。內(nèi)置在日常軟件工具中，它們可以提出想法、檢查工作，甚至生成大量?jī)?nèi)容。

信息可靠性難以保證

然而，盡管生成式人工智能易于使用，并有可能顛覆大部分技術(shù)領(lǐng)域，但對(duì)于構(gòu)建它并試圖將它應(yīng)用于實(shí)踐的公司，以及許多可能不久就會(huì)在工作或個(gè)人生活中遇到它的人來(lái)說(shuō)，它帶來(lái)了巨大的挑戰(zhàn)。

最重要的是可靠性問(wèn)題。計(jì)算機(jī)可能給出聽(tīng)起來(lái)可信的答案，但不可能完全相信它們說(shuō)的話。它們通過(guò)研究海量數(shù)據(jù)，根據(jù)概率假設(shè)做出最佳猜測(cè)，但并沒(méi)有真正理解數(shù)據(jù)產(chǎn)生的結(jié)果。

圣菲研究所教授梅拉妮·米切爾表示：“它們對(duì)單個(gè)對(duì)話之外的事情一無(wú)所知，它們無(wú)法了解你，也不知道詞語(yǔ)在現(xiàn)實(shí)世界中意味著什么。”它們只是對(duì)任何提示給出大量聽(tīng)起來(lái)有說(shuō)服力的答案，它們是聰明但無(wú)腦的模仿者，無(wú)法保證它們的輸出只是數(shù)字幻覺(jué)。

此前已有圖像展示說(shuō)明，這項(xiàng)技術(shù)可以產(chǎn)生聽(tīng)起來(lái)可信但不值得信任的結(jié)果。

例如，去年年底，臉書(shū)的母公司元宇宙平臺(tái)公司展示了名為Galactica的生成系統(tǒng)，該系統(tǒng)接受了學(xué)術(shù)論文的訓(xùn)練。很快人們發(fā)現(xiàn)，該系統(tǒng)可根據(jù)要求發(fā)布聽(tīng)起來(lái)可信但實(shí)際上虛假的研究，導(dǎo)致臉書(shū)不得不在幾天后撤回了該系統(tǒng)。

ChatGPT的研發(fā)者承認(rèn)了這些缺點(diǎn)。開(kāi)放人工智能研究中心表示，該系統(tǒng)有時(shí)會(huì)給出“無(wú)厘頭”的答案，因?yàn)樵谟?xùn)練人工智能方面，“目前沒(méi)有任何真相來(lái)源”；而且，所謂的“監(jiān)督式學(xué)習(xí)”（即由人類直接訓(xùn)練、而不是讓人工智能自己學(xué)習(xí)）并不奏效，因?yàn)橄到y(tǒng)往往比人類老師更善于找到“理想答案”。

一種潛在的解決方案是，在生成系統(tǒng)的結(jié)果發(fā)布之前提交感官檢查。馬尼卡說(shuō)，谷歌在2021年公布了實(shí)驗(yàn)性的LaMDA系統(tǒng)，該系統(tǒng)能對(duì)每個(gè)提示作出約20種不同的響應(yīng)，然后評(píng)估每種響應(yīng)的“安全性、毒性和合理性”。

然而，斯坦福大學(xué)計(jì)算機(jī)科學(xué)副教授珀西·梁（音）表示，任何依賴人類來(lái)驗(yàn)證人工智能輸出結(jié)果的系統(tǒng)都會(huì)引出自己的問(wèn)題。他說(shuō)，這可能會(huì)教會(huì)人工智能如何“生成有欺騙性但貌似可信的東西，愚弄人類”。他說(shuō)：“事實(shí)是，真相如此撲朔迷離，而人類并不擅長(zhǎng)于此，這可能令人擔(dān)憂?！?/p>

這項(xiàng)技術(shù)的支持者說(shuō)，有一些實(shí)用的方法可以利用它，而不必試圖回答這些更深層次的哲學(xué)問(wèn)題。由微軟聯(lián)合創(chuàng)始人保羅·艾倫創(chuàng)立的人工智能研究所A12的顧問(wèn)兼董事會(huì)成員奧倫·埃齊奧尼表示，就像互聯(lián)網(wǎng)搜索引擎既能提供有用的結(jié)果，也能提供錯(cuò)誤的信息一樣，人們將設(shè)法最大限度地利用這些系統(tǒng)。

但讓人類事后批評(píng)機(jī)器也許并不總是答案。研究人工智能應(yīng)用的科技行業(yè)組織“人工智能合作組織”的首席執(zhí)行官麗貝卡·芬利表示，在專業(yè)環(huán)境中使用機(jī)器學(xué)習(xí)系統(tǒng)已經(jīng)表明，人們“過(guò)于相信人工智能系統(tǒng)和模型作出的預(yù)測(cè)”。

她還說(shuō)，問(wèn)題在于，人們傾向于“在與這些模型互動(dòng)時(shí)，灌輸人之所以為人的不同方面”，這意味著，他們忘記了系統(tǒng)并沒(méi)有真正“理解”他們所說(shuō)的話。

信任和可靠性問(wèn)題使這項(xiàng)技術(shù)有可能被壞人濫用。對(duì)任何有意誤導(dǎo)的人來(lái)說(shuō)，這些機(jī)器可能成為虛假信息工廠，能夠生產(chǎn)大量?jī)?nèi)容，淹沒(méi)社交媒體和其他渠道。它們可能還會(huì)模仿特定人物的寫(xiě)作風(fēng)格或說(shuō)話聲音。埃齊奧尼說(shuō)：“制造虛假內(nèi)容將非常容易、廉價(jià)和廣泛?！?/p>

“穩(wěn)定”人工智能公司負(fù)責(zé)人伊馬德·莫斯塔克說(shuō)，這是人工智能固有的問(wèn)題。他說(shuō)：“這是一種人們可以道德或不道德地、合法或非法地、遵循或不遵循倫理使用的手段?！彼f(shuō)，“壞人已經(jīng)擁有先進(jìn)的人工智能”，唯一的防御措施就是盡可能廣泛地推廣這項(xiàng)技術(shù)，并對(duì)所有人開(kāi)放。

受威脅工作崗位增多

生成式人工智能的興起也引發(fā)了有關(guān)人工智能和自動(dòng)化對(duì)就業(yè)影響的新一輪大討論：機(jī)器會(huì)取代工人，還是通過(guò)接管工作的常規(guī)部分，提高現(xiàn)有工人的生產(chǎn)力并增強(qiáng)他們的成就感？

最明顯的是，涉及大量設(shè)計(jì)或?qū)懽鲀?nèi)容的工作面臨風(fēng)險(xiǎn)。去年夏末，Stability Diffusion系統(tǒng)的問(wèn)世令商業(yè)藝術(shù)和設(shè)計(jì)界不寒而栗，因?yàn)樗芨鶕?jù)提示即時(shí)生成圖像。

一些科技公司已經(jīng)在嘗試將這項(xiàng)技術(shù)應(yīng)用于廣告，包括攀登人工智能公司（Scale AI），該公司已經(jīng)在訓(xùn)練人工智能模型生成廣告圖像。

這可能會(huì)威脅到任何內(nèi)容創(chuàng)造者的生計(jì)。莫斯塔克說(shuō)：“它徹底改變了整個(gè)媒體行業(yè)。世界上每一個(gè)主要內(nèi)容提供商都認(rèn)為，他們需要一個(gè)元宇宙策略：他們需要一個(gè)生成媒體策略?！?/p>

據(jù)一些可能被人工智能取代的職業(yè)人士說(shuō)，這不僅僅是薪酬問(wèn)題。當(dāng)歌手兼詞曲作者尼克·凱夫聽(tīng)到ChatGPT寫(xiě)的歌就像自己寫(xiě)的時(shí)，他驚呆了。他在網(wǎng)上寫(xiě)道：“歌曲孕育于痛苦，我的意思是，它們基于人類復(fù)雜的、內(nèi)在的創(chuàng)作斗爭(zhēng)，而據(jù)我所知，算法是沒(méi)有感覺(jué)的。數(shù)據(jù)不會(huì)痛苦?！?/p>

技術(shù)樂(lè)觀主義者認(rèn)為，科技會(huì)放大而不是取代人類的創(chuàng)造力。斯坦福大學(xué)的珀西·梁說(shuō)，有了人工智能圖像生成器，設(shè)計(jì)師可能變得“更加雄心勃勃”。他說(shuō)：“你可以創(chuàng)建完整的視頻或全新的系列，而不僅僅是單個(gè)圖像。”

版權(quán)制度最終可能發(fā)揮重要作用。應(yīng)用這項(xiàng)技術(shù)的公司聲稱，由于美國(guó)法律允許有限使用受版權(quán)保護(hù)的材料（即“合理使用”），它們可以自由地利用所有可用數(shù)據(jù)來(lái)訓(xùn)練自己的系統(tǒng)。

其他人則不同意這種觀點(diǎn)。上周，蓋帝圖像公司和三名藝術(shù)家在美國(guó)和英國(guó)對(duì)“穩(wěn)定”人工智能等公司提起訴訟，這是首個(gè)針對(duì)人工智能公司肆意使用受版權(quán)保護(hù)圖像來(lái)訓(xùn)練其系統(tǒng)的法律訴訟。

人工智能公司的代理律師表示，該領(lǐng)域的每個(gè)人都已經(jīng)為不可避免的訴訟做好準(zhǔn)備，這些訴訟將制定基本規(guī)則。對(duì)科技行業(yè)來(lái)說(shuō)，圍繞數(shù)據(jù)在訓(xùn)練人工智能方面作用的爭(zhēng)論，可能會(huì)變得與智能手機(jī)時(shí)代初期的專利戰(zhàn)一樣重要。

關(guān)鍵詞： 人工智能 chatgpt