大數(shù)據(jù)文摘出品

(資料圖片僅供參考)

作者：Caleb

ChatGPT現(xiàn)在有多火相信大家已經(jīng)是有目共睹。

根據(jù)ARK風(fēng)險(xiǎn)投資公司首席未來(lái)學(xué)家Brett Winton統(tǒng)計(jì)的數(shù)據(jù)，ChatGPT日活量突破千萬(wàn)，只用了不到兩個(gè)月的時(shí)間。作為對(duì)照，上一個(gè)現(xiàn)象級(jí)軟件Instagram達(dá)到這一成就花了355天。

1月中旬，《紐約時(shí)報(bào)》報(bào)道稱，北密歇根大學(xué)的哲學(xué)教授Antony Aumann在世界宗教課程評(píng)分時(shí)，驚喜地讀到了一篇“全班最好的論文”。學(xué)生用簡(jiǎn)潔的段落、恰當(dāng)?shù)呐e例和嚴(yán)謹(jǐn)?shù)恼摀?jù)，探討了罩袍禁令的道德意義。然而，在Aumann的追問(wèn)之下，學(xué)生承認(rèn)論文用ChatGPT寫(xiě)的。

類似的例子還有很多。

也正是隨著ChatGPT在全球范圍內(nèi)的爆火，OpenAI也被迅速推到了輿論的“風(fēng)口浪尖”。

可以說(shuō)，OpenAI目前處于聊天機(jī)器人軍備競(jìng)賽的領(lǐng)頭地位。單以ChatGPT為例，公開(kāi)發(fā)布和微軟數(shù)十億美元的合作不僅刺激了谷歌和亞馬遜緊急在產(chǎn)品線中布局人工智能，OpenAI還與貝恩合作，將機(jī)器學(xué)習(xí)引入可口可樂(lè)的運(yùn)營(yíng)，并計(jì)劃擴(kuò)展到其他企業(yè)合作伙伴。

毫無(wú)疑問(wèn)，OpenAI的人工智能已經(jīng)成了筆大生意，但其實(shí)這與OpenAI最初的計(jì)劃有些出入。

“人類的未來(lái)應(yīng)該由人類來(lái)決定”

上周五，OpenAI首席執(zhí)行官Sam Altman發(fā)表了一篇博文，題為“規(guī)劃AGI和超越”（Planning for AGI and beyond）。

在文章中，他宣稱OpenAI的通用人工智能（AGI）目前還遠(yuǎn)沒(méi)達(dá)到要求，許多人懷疑它能否造福全人類，是否“有可能給每個(gè)人帶來(lái)令人難以置信的新能力”。

Altman用一種寬泛的、理想主義的語(yǔ)言來(lái)論證人工智能的發(fā)展不應(yīng)停止，“人類的未來(lái)應(yīng)該由人類來(lái)決定”，這里暗暗指向了OpenAI。

幾乎是在ChatGPT爆火的周期內(nèi)，這篇博文和OpenAI近期的行動(dòng)不斷提醒著大家，OpenAI的基調(diào)和使命與它成立時(shí)相比發(fā)生了多大的變化。

成立初期的OpenAI只是一個(gè)非營(yíng)利組織。雖然公司一直著眼于AGI發(fā)展，但成立時(shí)他們承諾不追求利潤(rùn)，免費(fèi)分享開(kāi)發(fā)代碼。

而今天，這些承諾已經(jīng)無(wú)處可尋。

OpenAI的動(dòng)力變成了速度和利潤(rùn)

2015年，Altman、馬斯克、Peter Thiel、Reid Hoffman宣布成立一家非營(yíng)利性研究機(jī)構(gòu)OpenAI。在成立聲明中，OpenAI宣布，研究承諾“以最有可能造福全人類的方式推進(jìn)人工智能，不受產(chǎn)生經(jīng)濟(jì)回報(bào)的限制”。該博客還稱，“由于我們的研究沒(méi)有財(cái)務(wù)義務(wù)，可以更好地專注于對(duì)人類的積極影響”，并鼓勵(lì)所有研究人員分享“論文、博客文章或代碼，我們的專利（如果有的話）將與世界共享”。

8年后，我們面對(duì)的是一家既不透明也不以積極的人類影響為動(dòng)力的公司。相反，正如包括馬斯克在內(nèi)的許多批評(píng)者所認(rèn)為的那樣，OpenAI的動(dòng)力變成了速度和利潤(rùn)。

同時(shí)，OpenAI正在釋放技術(shù)。當(dāng)然其中存在缺陷，但仍準(zhǔn)備以犧牲人類員工為代價(jià)增加工作場(chǎng)所的自動(dòng)化轉(zhuǎn)變。例如，谷歌強(qiáng)調(diào)了自動(dòng)完成代碼的人工智能帶來(lái)的效率提升，從而導(dǎo)致數(shù)千名工人被裁。

OpenAI初期，媒體與從業(yè)者們都將其設(shè)想為以開(kāi)放的方式進(jìn)行基礎(chǔ)人工智能研究，目的不確定。聯(lián)合創(chuàng)始人Greg Bockman曾說(shuō)：“我們現(xiàn)在的目標(biāo)......是做最好的事情。這有點(diǎn)模糊不清”。

這也無(wú)形之中促成了公司在2018年方向的轉(zhuǎn)變。當(dāng)時(shí)，OpenAI向資本資源尋求一些方向，“我們的主要受托責(zé)任是對(duì)人類。我們預(yù)計(jì)需要調(diào)集大量資源來(lái)完成我們的使命”。

到2019年3月，OpenAI已經(jīng)完全擺脫了其非盈利的頭銜，建立了一個(gè)“封頂利潤(rùn)（capped profit）”部門(mén)。這使得OpenAI開(kāi)始接受投資，并會(huì)為投資者提供封頂為投資100倍的利潤(rùn)。

這項(xiàng)決定被視為是與谷歌等大科技公司的一次競(jìng)爭(zhēng)，而不久后公司也如愿獲得了微軟10億美元的投資。在宣布成立營(yíng)利性公司的博文中，OpenAI繼續(xù)使用相同的說(shuō)法，宣稱其使命是“確保通用人工智能惠及全人類”。

但正如Motherboard寫(xiě)道，當(dāng)風(fēng)險(xiǎn)投資家的主要目標(biāo)是利潤(rùn)時(shí)，很難相信他們能拯救人類。

OpenAI還值得公眾的信任嗎？

2019年，OpenAI宣布和發(fā)布GPT-2語(yǔ)言模型時(shí)面臨了輿論反彈。

起初，該公司表示，由于“擔(dān)心該技術(shù)的惡意應(yīng)用”，它不會(huì)發(fā)布訓(xùn)練模型的源代碼。雖然這在一定程度上反映了其對(duì)開(kāi)發(fā)有益人工智能的承諾，但它也不是很“開(kāi)放”。

批評(píng)者想知道為什么OpenAI會(huì)在宣布了一個(gè)工具之后卻不發(fā)布，于是不少人認(rèn)為這只是宣傳噱頭。直到三個(gè)月后，OpenAI才在GitHub上發(fā)布了該模型，并表示這一行動(dòng)是“負(fù)責(zé)任地發(fā)布人工智能的一個(gè)重要基礎(chǔ)，特別是在強(qiáng)大的生成模型方面”。

調(diào)查記者Karen Hao在2020年期間在公司內(nèi)部待了幾天，根據(jù)他的說(shuō)法，OpenAI的內(nèi)部文化開(kāi)始不再反映謹(jǐn)慎的、研究驅(qū)動(dòng)的人工智能開(kāi)發(fā)過(guò)程，而是更注重出人頭地，這也導(dǎo)致人們指責(zé)其助長(zhǎng)了“人工智能炒作周期”。員工現(xiàn)在也被要求對(duì)手頭的工作保持沉默，以遵守公司新的章程。

“公司公開(kāi)支持的內(nèi)容和閉門(mén)造車的方式之間存在著錯(cuò)位。隨著時(shí)間的推移，它已經(jīng)允許激烈的競(jìng)爭(zhēng)和不斷增加的資金壓力侵蝕其透明、開(kāi)放和合作的創(chuàng)始理想。”Hao寫(xiě)道。

但總的來(lái)說(shuō)，GPT-2的推出對(duì)OpenAI而言無(wú)疑是一件值得慶祝的事，也是公司發(fā)展至今的重要基石。“這絕對(duì)是成功故事框架的一部分”，現(xiàn)任政策研究主管Miles Brundage在一次會(huì)議上說(shuō)，“這一部分的劇情應(yīng)該是這樣的：我們做了一件雄心勃勃的事情，現(xiàn)在有些人正在復(fù)制它，這里還應(yīng)該有一些對(duì)這項(xiàng)創(chuàng)新益處的解釋”。

從那時(shí)起，OpenAI保留了GPT-2發(fā)布公式中的炒作部分，但取消了開(kāi)放性。2020年，GPT-3正式推出，并迅速“獨(dú)家”授權(quán)給微軟。GPT-3的源代碼仍未發(fā)布，盡管目前OpenAI已經(jīng)在緊鑼密鼓地籌備GPT-4了；該模型只是通過(guò)ChatGPT的API向公眾開(kāi)放，OpenAI還推出了一個(gè)付費(fèi)層以保證對(duì)該模型的訪問(wèn)。

這樣做當(dāng)然是有一些考量。首先就是錢(qián)。OpenAI在API公告博客中表示，“將技術(shù)商業(yè)化有助于支付我們正在進(jìn)行的人工智能研究、安全和政策工作”。第二個(gè)原因是偏向于幫助大公司?！俺舜蠊局?，任何人都很難從底層技術(shù)中獲益”。最后，公司還表示，通過(guò)API而不是開(kāi)源發(fā)布更安全，因?yàn)樵摴究梢詰?yīng)對(duì)濫用情況。

“你們一直告訴我們AGI快了，但在你們的網(wǎng)站上甚至沒(méi)有一個(gè)一致的定義?！庇?jì)算機(jī)科學(xué)家Timnit Gebru在推特上表示。

華盛頓大學(xué)語(yǔ)言學(xué)教授Emily M. Bender在推特上說(shuō)，“他們不想解決實(shí)際世界中的實(shí)際問(wèn)題（這將需要讓出權(quán)力）。他們想相信自己是神，不僅可以創(chuàng)造一個(gè)‘超級(jí)智能’，而且有恩惠，以一種與人類‘一致’的方式這樣做”。

這種人工智能是否會(huì)像該公司最初設(shè)想的那樣，負(fù)責(zé)任地分享，公開(kāi)開(kāi)發(fā)，沒(méi)有盈利動(dòng)機(jī)？或者它是會(huì)被匆匆推出，有許多令人不安的缺陷，但主要是為OpenAI帶來(lái)收益？OpenAI是否會(huì)將其科幻的未來(lái)保持在閉源狀態(tài)？

結(jié)合了ChatGPT之后，微軟的必應(yīng)聊天機(jī)器人處于“走火入魔”的狀態(tài)，不斷欺騙和呵斥著用戶，傳播錯(cuò)誤信息。OpenAI不能可靠地檢測(cè)自己的聊天機(jī)器人生成的文本，盡管教育工作者對(duì)學(xué)生使用該應(yīng)用程序作弊的情況越來(lái)越關(guān)注。

人們也已經(jīng)輕易地對(duì)語(yǔ)言模型進(jìn)行了越獄，無(wú)視OpenAI在其周圍設(shè)置的護(hù)欄，機(jī)器人在輸入隨機(jī)的單詞和短語(yǔ)時(shí)會(huì)崩潰。沒(méi)有人能說(shuō)清楚原因，因?yàn)镺penAI沒(méi)有分享底層模型的代碼，可能在某種程度上，OpenAI自己也不太可能完全理解它的工作原理。

考慮到這一切，我們都應(yīng)該仔細(xì)考慮OpenAI是否值得它要求公眾給予的信任，而對(duì)此，OpenAI沒(méi)有做出任何實(shí)質(zhì)性的回應(yīng)。

關(guān)鍵詞： openai 人工智能 chatgpt