在奧特曼被掃地出門前兩天，他還以O(shè)penAI公司CEO的身份，出席了亞太經(jīng)合組織第三十次領(lǐng)導(dǎo)人非正式會議，并以嘉賓的身份做了發(fā)言。
文｜陸知春
剛剛發(fā)布GPT-4 Turbo的全球人工智能巨頭OpenAI，一夜之間變天了。
當(dāng)?shù)貢r間11月18日，OpenAI官網(wǎng)突然登出了一條創(chuàng)始人兼CEO山姆·奧特曼（Sam Altman）辭職離開OpenAI，公司首席技術(shù)官米拉·穆拉蒂（Mira Murati）擔(dān)任臨時CEO的聲明。公司董事會還表示，公司聯(lián)合創(chuàng)始人格雷格·布羅克曼 (Greg Brockman) 將卸任董事長，但會繼續(xù)擔(dān)任公司職務(wù)。但布羅克曼隨后在社交平臺上發(fā)文確認(rèn)將離開公司。
“ChatGPT之父”奧特曼突然離職，在科技行業(yè)瞬間引發(fā)軒然大波。在聲明中，OpenAI表示奧特曼在與董事會的溝通中并不坦誠，阻礙了他履行職責(zé)的能力，董事會也不再相信他繼續(xù)領(lǐng)導(dǎo)OpenAI的能力。
值得注意的是，在這份聲明發(fā)布前兩天，Altman在亞太經(jīng)合組織第三十次領(lǐng)導(dǎo)人非正式會議中，還以O(shè)penAI CEO的身份出席了峰會并作為嘉賓參與了討論。
同時，值得關(guān)注的是，有多家媒體報道OpenAI正在洽談以860億美元的估值出售現(xiàn)有員工股份，這一估值將使OpenAI成為僅次于字節(jié)跳動和SpaceX的超級獨角獸。
目前，多家數(shù)智研究社在內(nèi)的多家媒體火速跟進OpenAI領(lǐng)導(dǎo)層變動的消息，但至于Altman被離職的真正原因，我們也繼續(xù)關(guān)注。
附OpenAI官方聲明全文翻譯：
首席技術(shù)官 Mira Murati 被任命為臨時 CEO，繼續(xù)領(lǐng)導(dǎo) OpenAI；Sam Altman 離開公司。
尋找長期繼任者的工作將持續(xù)進行。
OpenAI 公司的董事會今天宣布：Sam Altman將辭去 CEO 職務(wù)并離開董事會。公司的首席技術(shù)官 Mira Murati 將擔(dān)任臨時CEO，立即生效。
Mira 作為 OpenAI 領(lǐng)導(dǎo)團隊的成員已有五年，她在 OpenAI 發(fā)展成為全球 AI 領(lǐng)導(dǎo)者的過程中發(fā)揮了關(guān)鍵作用。她具備獨特的技能，對公司的價值觀、運營和業(yè)務(wù)有深刻的理解，并已經(jīng)領(lǐng)導(dǎo)公司的研究方向、產(chǎn)品和安全功能。鑒于她在公司各方面的長期任期和緊密參與，包括她在 AI 治理和政策方面的經(jīng)驗，董事會認(rèn)為她非常適合擔(dān)任這一職務(wù)，并在尋找未來的長期 CEO 的過程中預(yù)期實現(xiàn)無縫過渡。
Altman先生的離職是在董事會經(jīng)過深思熟慮的審查過程后決定的，董事會認(rèn)為他在與董事會的溝通中未能始終保持坦誠，從而妨礙了董事會履行職責(zé)的能力。董事會不再相信他有能力繼續(xù)領(lǐng)導(dǎo)OpenAI。
董事會在一份聲明中表示：「OpenAI 的設(shè)立旨在推進我們的使命：確保通用人工智能造福全人類。董事會仍然全力致力于實現(xiàn)這一使命。我們感謝 Sam 對 OpenAI 創(chuàng)立和發(fā)展的許多貢獻。同時，我們認(rèn)為在前進的過程中需要新的領(lǐng)導(dǎo)。作為公司研究、產(chǎn)品和安全功能的領(lǐng)導(dǎo)者，Mira 非常適合擔(dān)任臨時 CEO。我們對她在過渡期間領(lǐng)導(dǎo) OpenAI 的能力充滿信心。」
OpenAI 董事會由 OpenAI 首席科學(xué)家 Ilya Sutskever、獨立董事 Quora CEO Adam D'Angelo、科技企業(yè)家 Tasha McCauley 和喬治城安全和新興技術(shù)中心的 Helen Toner 組成。
作為這次過渡的一部分，Greg Brockman 將辭去董事會主席職務(wù)，但將繼續(xù)在公司擔(dān)任職務(wù)，向 CEO 匯報。
OpenAI 成立于 2015 年，是一家非營利組織，其核心使命是確保通用人工智能造福全人類。2019 年，OpenAI 進行了重組，以確保公司在追求這一使命的同時，保留非營利組織的使命、治理和監(jiān)督。董事會的多數(shù)成員是獨立的，獨立董事不持有 OpenAI 的股權(quán)。盡管公司經(jīng)歷了快速增長，但推進 OpenAI 的使命和維護其章程原則仍然是董事會的基本治理責(zé)任。
「數(shù)智研究社」發(fā)現(xiàn)，在2023年9月，知名媒體WIRED曾發(fā)布一篇題為《What OpenAI Really Wants》（OpenAI真正想要的是什么）的文章。深刻揭露了“ChatGPT之父”奧特曼在OpenAI的所作所為，對于我們理解突然之間，奧特曼辭職離開CEO之位或許有一定幫助。
當(dāng)這家年輕公司發(fā)布ChatGPT時，它在全球引起了轟動；但那只是個開始，最終目標(biāo)：改變一切；是的，一切。
空氣中彌漫著一種近似于“披頭士迷”般的活力，明星和他的隨行團隊匆匆跳進一輛等待的梅賽德斯面包車。他們剛剛結(jié)束了一個活動，正前往另一個，然后是下一個，一個瘋狂的人群正在等待著。當(dāng)他們穿梭于倫敦的街頭——從霍爾本到布盧姆斯伯里的短途行駛——就好像他們正在沖浪文明的一個前后時刻。這輛汽車內(nèi)所體現(xiàn)出的具有歷史性的力量已經(jīng)吸引了全世界的注意。每個人都想要成為其中一部分，從排隊等待的學(xué)生到首相。
在一輛豪華面包車內(nèi)，一位打著領(lǐng)帶的38歲企業(yè)家山姆·奧特曼正在狼吞虎咽地吃著沙拉，他是OpenAI的聯(lián)合創(chuàng)始人；還有一名公關(guān)人員，一名安全專家。奧特曼穿著一套略顯陰郁的藍(lán)色西裝，搭配一件沒有領(lǐng)帶的粉色襯衫，他正在倫敦。在這一個月內(nèi)，他將前往6大洲的25個城市。當(dāng)他狼吞虎咽地吃著綠色蔬菜時，他回顧了前一晚與法國總統(tǒng)馬克龍的會面。馬克龍表達(dá)了對人工智能超級的興趣。當(dāng)然，波蘭總理、西班牙總理也是如此。
坐在奧特曼身旁，我?guī)缀跄苈牭健禔 Hard Day's Night》中那個引人注目、意義模糊的和弦響起——引領(lǐng)未來的聲音。2022年11月，OpenAI發(fā)布的ChatGPT，觸發(fā)了一場自互聯(lián)網(wǎng)進入我們生活以來前所未見的科技旋風(fēng)。突然間，圖靈測試成了歷史，搜索引擎成了瀕臨滅絕的物種，任何大學(xué)論文都無法被信任。沒有任何工作是安全的，沒有任何科學(xué)問題是不可改變的。
奧特曼沒有再繼續(xù)進行ChatGPT和進階版GPT-4的研究，也沒有進行神經(jīng)網(wǎng)絡(luò)的訓(xùn)練或編寫界面。但作為CEO——一位像他的聯(lián)合創(chuàng)始人馬斯克年輕版的夢想家/實干家，一篇又一篇的新聞都以他的照片作為人類新挑戰(zhàn)的視覺象征。奧特曼是當(dāng)下的神諭，也是一位關(guān)于AI如何可能引領(lǐng)黃金時代、將人類置于無關(guān)緊要的地位、或者更糟情況的人。
奧特曼的面包車在五月帶他去了四個地方。第一個是秘密的，是與“圓桌會議”（Round Table）的一次非正式會議，該團體由政府、學(xué)術(shù)界和行業(yè)人士組成。臨時組織的會議在一家名為“Somers Town Coffee House”的酒吧的二樓進行。在一幅嚴(yán)肅的釀酒師查爾斯·威爾斯（1842年-1914年）的畫像下，奧特曼回答了幾乎每個聽眾都會問的同樣問題。AI會殺死我們嗎？能夠進行監(jiān)管嗎？中國怎么辦？他詳細(xì)回答了每一個問題，同時偷偷看手機。
之后，他在倫敦的奢華酒店進行了一個與牛津公會的600名成員進行的壁爐邊聊天。然后，前往地下會議室，在那里他回答了約100名企業(yè)家和工程師的更多技術(shù)問題�，F(xiàn)在，他要去參加倫敦大學(xué)學(xué)院的中午后的臺上演講。他和他的團隊被引導(dǎo)穿過一系列彎曲的走廊，就像電影《盜夢空間》中的Steadicam鏡頭。當(dāng)奧特曼出現(xiàn)在舞臺上時，坐滿了興奮的學(xué)者、極客和記者的禮堂爆發(fā)出掌聲。奧特曼并不是一個天生喜歡宣傳的人。在《紐約客》一篇關(guān)于他的長篇報道中，奧特曼說：“關(guān)于我的寫得太多了�！�
也許有一天，當(dāng)機器人書寫我們的歷史時，他們會將奧特曼的世界巡回演出視為一個里程碑，標(biāo)志著每個人都突然開始對奇點進行個人反思。又或者，也許在記錄這一時刻的歷史的人會將其視為一個時刻，一個悄然引人注目的CEO帶著顛覆傳統(tǒng)的技術(shù)，試圖將一種非常獨特的世界觀注入全球意識流——從舊金山一個未標(biāo)明的四層總部到整個世界。
對于奧特曼和他的公司來說，ChatGPT和GPT-4僅僅是實現(xiàn)一個簡單而又革命性使命的墊腳石。這個使命是構(gòu)建人工通用智能——一個迄今為止更多地基于科幻而非科學(xué)的概念，并且使之對人類安全。在OpenAI工作的人們對這個目標(biāo)追求得如癡如醉。他們認(rèn)為，人工智能的發(fā)展軌跡將超越生物學(xué)所能達(dá)到的任何高度。該公司的財務(wù)文件甚至規(guī)定了一種情況下的退出策略，即當(dāng)人工智能摧毀了我們整個經(jīng)濟體系時。
稱OpenAI為一個邪教是不公平的，但幾位公司高層對于“如果有人不相信AGI真的會到來，而且它的到來將標(biāo)志著人類歷史上最偉大的時刻之一，是否能夠在那里舒適地工作時”，大多數(shù)高管都認(rèn)為不行。他們想知道，為什么一個不相信的人會想在這里工作？這個假設(shè)是，現(xiàn)在將近500人的公司規(guī)模中，有很多人是被OpenAI的魔咒吸引來的。
當(dāng)然，現(xiàn)在的OpenAI已不是最初那個純粹的非盈利研究機構(gòu)。今天，OpenAI已經(jīng)是一個擁有盈利目標(biāo)的實體，估值近300億美元。奧特曼和他的團隊現(xiàn)在面臨著在每一個產(chǎn)品周期內(nèi)交付一場革命的壓力，以滿足投資者的商業(yè)需求，并在競爭激烈的市場中保持領(lǐng)先地位。而同時，奧特曼們還堅守著一種近乎救世使命的使命。當(dāng)然，這個使命是幫助人類而非摧毀人類。
這種壓力——更不用說全世界無情的關(guān)注——可能是一種具毀滅性的力量。披頭士引發(fā)了巨大的文化變革浪潮，但他們只堅守了這場革命一段時間：在響起那個令人難忘的和弦六年后，他們甚至不再是一個樂隊。OpenAI引發(fā)的動蕩幾乎肯定會更大。但OpenAI的管理層們發(fā)誓將堅守自己的道路。他們稱只想構(gòu)建足夠聰明和足夠安全的計算機來結(jié)束歷史，將人類帶入一個無法想象的豐盛時代。
在80年代末90年代初，奧特曼是一個熱衷于科幻小說和星球大戰(zhàn)的怪癖的孩子。早期科幻作家構(gòu)建的世界經(jīng)常讓人類與超智能AI系統(tǒng)共存或競爭。計算機與甚至超越人類能力的概念讓奧特曼興奮不已，他從小就開始編程，當(dāng)時他的手指還勉強能覆蓋鍵盤。8歲時，父母給他買了一臺Macintosh LC II。有一天晚上，他在玩電腦，突然想到一個念頭：“總有一天，這臺電腦會學(xué)會思考�！�2003年，他本科進入斯坦福大學(xué)求學(xué)時，希望能夠?qū)崿F(xiàn)這一目標(biāo)，并選修了人工智能課程。但他后來會說：“一切都不奏效�！痹擃I(lǐng)域仍然陷入了被稱為AI寒冬的創(chuàng)新低谷。奧特曼退學(xué)進入創(chuàng)業(yè)世界；他的公司Loopt是第一批進入Y Combinator孵化器的有抱負(fù)的組織之一，后者將成為世界上最著名的孵化器。
2014年2月，Y Combinator的創(chuàng)始導(dǎo)師保羅·格雷厄姆選擇了當(dāng)時28歲的奧特曼來接替他。奧特曼認(rèn)為，Y Combinator是一個更大的創(chuàng)新平臺。奧特曼接替格雷厄姆后曾公開表示，“我們不是關(guān)于創(chuàng)業(yè)，我們關(guān)注的是創(chuàng)新，因為我們認(rèn)為這是如何使未來變得偉大的方法。”在奧特曼看來，利用那些獨角獸公司的財富，不是為了填滿合伙人的錢包，而是為了資助屬于物種級別的變革。他建立了一個研究部門，希望資助解決全球最大問題的雄心勃勃的項目。但在他看來，AI是統(tǒng)治所有創(chuàng)新領(lǐng)域的一種領(lǐng)域：一個能夠比人類更好的解決人類問題的超級智能。
正巧的是，奧特曼在新工作中任職時，AI寒冬正在變成溫暖的春天�，F(xiàn)在，通過深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)，計算機能夠處理比如標(biāo)記照片、翻譯文本和優(yōu)化復(fù)雜的廣告網(wǎng)絡(luò)這些豐富想象力的工作。這些進步使他相信，AGI首次真正可以實現(xiàn)。但是，他擔(dān)心把這個創(chuàng)意交給大公司后，這些公司會太過專注于他們的產(chǎn)品，無法抓住盡快開發(fā)AGI的機會。即使它們創(chuàng)造了AGI，可能會在沒有必要的預(yù)防措施情況下不加控制地釋放到世界上。
當(dāng)時，奧特曼曾考慮競選加利福尼亞州州長。但他意識到，他完全有能力做一些更重要的事情——領(lǐng)導(dǎo)一家可以改變?nèi)祟惐旧淼墓��！癆GI只會建立一次，而且沒有那么多人能夠很好地運營OpenAI�！�
奧特曼開始與一些可能幫助他創(chuàng)建一種新型的AI公司的人交談，這家非營利組織將引導(dǎo)該領(lǐng)域朝著負(fù)責(zé)任的AGI方向發(fā)展。其中一個志同道合的人是特斯拉CEO馬斯克。幾個月內(nèi)，奧特曼從馬斯克和里德·霍夫曼那里籌集到了資金。其他資助者包括彼得·蒂爾、杰西卡·利文斯頓、亞馬遜Web Services和YC Research。奧特曼開始秘密地招募團隊，他將搜索范圍限制在信仰AGI的群體中，這個限制減少了她的很多選擇。奧特曼說，“回顧2015年我們在招聘時，幾乎可以認(rèn)為AI是研究人員的職業(yè)殺手，如果你認(rèn)真對待AGI，那我們就有機會一起共事。”
布洛克曼就是這樣一個人，他是Stripe的CTO。在和奧特曼交流后，他同意擔(dān)任OpenAI的CTO。另一個關(guān)鍵的聯(lián)合創(chuàng)始人是安德烈·卡帕斯，他曾在Google Brain工作。但奧特曼最重要、最緊急的目標(biāo)是一位名叫伊利亞·蘇茨克沃爾（Ilya Sutskever）的工程師。
蘇茨克沃爾家人從俄羅斯移民到以色列，然后再到加拿大。在多倫多大學(xué)，他曾是杰弗里·欣頓（Geoffrey Hinton）的杰出學(xué)生，后者因其在深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)領(lǐng)域的工作而被譽為現(xiàn)代人工智能的奠基人。欣頓，仍然與蘇茨克沃爾保持密切聯(lián)系，對他仍贊不絕口。在蘇茨克沃爾在實驗室工作的早期，欣頓給了他一個復(fù)雜的項目。蘇茨克沃爾厭倦了編寫執(zhí)行所需計算的代碼，他告訴欣頓，如果他為這個任務(wù)編寫一個定制的編程語言，會更容易。欣頓有點生氣，并試圖警告他的學(xué)生不要陷入他認(rèn)為會分散注意力一個月的項目中。然后蘇茨克沃爾坦白：“我今早就做完了�！�
蘇茨克沃爾是一位人工智能的超級明星，他是一篇突破性論文的合著者，該論文展示了人工智能如何能夠通過暴露于大量數(shù)據(jù)來學(xué)習(xí)識別圖像。他最終也成為了Google Brain團隊的關(guān)鍵科學(xué)家。
2015年中期，奧特曼通過郵件邀請?zhí)K茨克沃爾與馬斯克、布洛克曼和其他人在帕洛阿爾托的桑德希爾路上的豪華羅斯伍德酒店共進晚餐。蘇茨克沃爾后來才明白，他是榮譽嘉賓�！斑@是關(guān)于未來的人工智能和AGI的一種一般性談話，”他說。更具體地說，他們討論了“谷歌和DeepMind是否領(lǐng)先地?zé)o法趕上他們，還是是否仍然有可能像埃隆所說的那樣，創(chuàng)建一個可以起到平衡作用的實驗室�！彪m然在晚餐上沒有人明確試圖招募蘇茨克沃爾，但這次對話吸引住了他。
不久之后，蘇茨克沃爾給奧特曼寫了一封電子郵件，表示愿意領(lǐng)導(dǎo)這個項目，但這封郵件卻被卡在了他的草稿文件夾中。奧特曼隨后聯(lián)系了他。很快，蘇茨克沃爾便成為了OpenAI的靈魂和研究的推動力。
蘇茨克沃爾與奧特曼和馬斯克一起招募人才，最終在納帕谷度假村舉行了一次活動，許多潛在的OpenAI研究人員相互激發(fā)彼此。當(dāng)然，也有一部分技術(shù)牛人如制作了《毀滅戰(zhàn)士》、《雷神之錘》和無數(shù)其他游戲的傳奇開發(fā)者約翰·卡馬克，拒絕了奧特曼的邀請。
OpenAI于2015年12月正式啟動。彼時，馬斯克和奧特曼介紹這個項目時表示，希望OpenAI的存在，能夠讓人工智能在全世界更安全更容易訪問。換句話說就是開源。更重要的是，OpenAI不打算申請專利，每個人都可以使用他們在技術(shù)上的突破他們的突破。
但問題也隨之而來，“那不會賦予未來的邪惡博士（Dr. Evil）權(quán)力嗎？”針對這一問題，奧特曼的答案是，人類通常是善良的，因為OpenAI將為絕大多數(shù)人提供強大的工具，不良行為者將被淘汰。當(dāng)然，他也承認(rèn)，如果邪惡博士使用這些工具構(gòu)建無法對抗的東西，那么“人類將處于一個非常糟糕的境地。
奧特曼展現(xiàn)了一個宏偉的藍(lán)圖，但也表示“這在很長一段時間內(nèi)都會看起來像是一個研究實驗室�！巴瑫r，OpenAI還面臨一些巨頭們的競爭。如谷歌和其他公司已經(jīng)研發(fā)并應(yīng)用人工智能多年。
一年多后，在一次聚餐中，OpenAI的CTO布洛克也公開發(fā)言，“我們的目標(biāo)，我們真正努力的事情，是擁有能夠做到以前人類無法做到的系統(tǒng)�！钡壳翱磥�，這些系統(tǒng)就是一群研究人員發(fā)布論文。起步的OpenAI面臨諸多艱難，布洛克曼承認(rèn)“什么都不起作用”。奧特曼則稱，“我們知道為什么要這樣做，但我們不知道怎么做。”
但他們相信，支持他們樂觀情緒的是人工神經(jīng)網(wǎng)絡(luò)在使用深度學(xué)習(xí)技術(shù)方面持續(xù)改進�！耙话愕南敕ㄊ�，不要反對深度學(xué)習(xí)，”蘇茨克沃爾說。他說，追求AGI，“不是完全瘋狂，只是有點瘋狂。”
OpenAI真正開始步入正軌是從2016年聘請了一位尚未被廣泛熟知的研究人員亞力克·拉德福德（Alec Radford）開始的，他在這一年離開了在寢室創(chuàng)辦的波士頓小型人工智能公司，轉(zhuǎn)而加入了OpenAI。在OpenAI，他扮演的角色更像是拉里·佩奇發(fā)明PageRank。
拉德福德最大的興趣是讓神經(jīng)網(wǎng)絡(luò)與人類進行清晰的對話互動，這與傳統(tǒng)的編寫式聊天機器人模型有所不同，后者在從最原始的ELIZA到流行的助手Siri和Alexa中都有所使用，但都表現(xiàn)得不太好。他的第一個實驗涉及掃描20億Reddit評論來訓(xùn)練語言模型。像OpenAI的許多早期實驗一樣，它失敗了，但不要緊。在布洛克曼等人的支持下，這位23歲的研究員得到了繼續(xù)前進、再次失敗的許可。
他的下一個重大實驗受到了OpenAI算力限制的影響，這一限制使他在一個較小的數(shù)據(jù)集上進行了實驗，重點關(guān)注了一個領(lǐng)域——亞馬遜產(chǎn)品評論。一位研究員已經(jīng)收集了約1億條這方面的評論。拉德福德訓(xùn)練了一個語言模型，僅僅是預(yù)測生成用戶評論時的下一個字符。
蘇茨克沃爾和其他人鼓勵拉德福德將他的實驗擴展到亞馬遜評論之外，利用他的見解來訓(xùn)練神經(jīng)網(wǎng)絡(luò)以在廣泛的主題上進行對話或回答問題。
然后，好運降臨在OpenAI身上。2017年初，出現(xiàn)了一篇未經(jīng)宣傳的研究論文預(yù)印本，由八名谷歌研究員合著，官方標(biāo)題是“注意力就是一切”，但它被稱為“Transformer論文”。Transformer使神經(jīng)網(wǎng)絡(luò)更有效地理解和生成語言成為可能。它們通過并行分析一段文字并確定哪些元素值得“關(guān)注”來實現(xiàn)這一點。這極大地優(yōu)化了生成連貫文本以響應(yīng)提示的過程。最終，人們意識到相同的技術(shù)也可以生成圖像，甚至視頻。雖然Transformer論文后來被稱為當(dāng)前人工智能熱潮的催化劑——可以將其視為使披頭士樂隊成為可能的貓王——但當(dāng)時，蘇茨克沃爾是少數(shù)幾位了解這一突破有多強大的人之一�！罢嬲念D悟時刻是當(dāng)蘇茨克沃爾看到Transformer的時候，”布洛克曼說�！八f，‘這就是我們一直在等的。’這一直是我們的戰(zhàn)略——在問題上努力推動，然后相信我們或領(lǐng)域內(nèi)的某個人將設(shè)法找出缺失的要素。”
拉德福德開始嘗試使用Transformer架構(gòu)。“我在兩周內(nèi)取得了比過去兩年還要多的進展，”他說。他開始明白，充分利用新模型的關(guān)鍵是增加規(guī)�！跇O大的數(shù)據(jù)集上進行訓(xùn)練。這個想法被拉德福德的合作者Rewon Child稱為“大型Transformer”。
這種方法需要OpenAI文化的改變，以及之前缺乏的重點�！盀榱顺浞掷肨ransformer，你需要將它擴展起來，”Quora公司CEO亞當(dāng)·丹杰洛說，他是OpenAI董事會的成員�！澳阈枰獙⑵涔芾淼酶褚粋�工程組織。你不能讓每個研究員都試圖做自己的事情，訓(xùn)練自己的模型，然后做出可以發(fā)表論文的優(yōu)雅東西。你必須做這種更繁瑣、不那么優(yōu)雅的工作。”他補充說，這是OpenAI能夠做到的事情，也是其他人沒有做的事情。
他們?yōu)樗麄儎?chuàng)建的模型取名為“生成預(yù)訓(xùn)練變換器”的縮寫——GPT-1。最終，這個模型被通用地稱為“生成式人工智能”。為了構(gòu)建它，他們利用了一組包含7000本未發(fā)表的書籍，其中許多屬于浪漫、幻想和冒險等類型，并在Quora的問題和答案以及數(shù)千篇中小學(xué)和高中考試的文章中進行了改進�？偟膩碚f，該模型包括1.17億個參數(shù)或變量。它在理解語言和生成答案方面超越了以前的一切。但最引人注目的是，處理如此大量的數(shù)據(jù)使得模型能夠提供超出其培訓(xùn)范圍的結(jié)果，為全新領(lǐng)域提供專業(yè)知識。這些未經(jīng)計劃的機器人能力被稱為“零射擊”。它們?nèi)匀蛔屟芯咳藛T感到困惑，并解釋了該領(lǐng)域許多人對這些所謂的大型語言模型感到不安的原因。
每個GPT迭代都表現(xiàn)得更好，部分原因是每個迭代都比前一個模型吸收了數(shù)量級更多的數(shù)據(jù)。在創(chuàng)建第一個迭代僅僅一年后，OpenAI就用驚人的15億參數(shù)對GPT-2進行了訓(xùn)練。就像幼兒掌握語言一樣，它的回答變得更好，更連貫，以至于OpenAI猶豫不決地是否將該程序釋放到公開領(lǐng)域。拉德福德?lián)乃赡鼙挥脕砩衫]件�！拔矣浀�2008年讀尼爾·斯蒂芬森（Neal Stephenson）的《冥典》時，在那本書中，互聯(lián)網(wǎng)被垃圾郵件生成器充斥著，我當(dāng)時認(rèn)為那是非常不現(xiàn)實的，但隨著我多年來在語言模型上的工作變得更好，我不適之感已經(jīng)很不舒服地產(chǎn)生了。”
OpenAI團隊開始認(rèn)為，將其工作置于Dr. Evil易于訪問的地方可能并不是一個好主意�！拔覀冋J(rèn)為開源GPT-2可能會非常危險，”2018年加入該公司的首席技術(shù)官米拉·穆拉蒂說�！拔覀兣c不實信息專家進行了大量工作，并進行了一些演練，內(nèi)部有很多關(guān)于發(fā)布多少內(nèi)容的討論�！弊罱K，OpenAI暫時保留了完整版本，向公眾提供了一個功能較弱的版本。當(dāng)完整版本面世時，世界仍然正常運轉(zhuǎn)，但沒有保證更強大的模型會避免災(zāi)難。
對于奧特曼來說，這是一種令人難以置信的經(jīng)歷�！靶r候大概10歲，我就花很多時間幻想AI最終會發(fā)生什么？首先我們將擁有機器人，它將執(zhí)行所有的體力勞動。然后我們將擁有可以進行基本認(rèn)知勞動的系統(tǒng)。在這之后很長一段時間，我們將擁有可以做復(fù)雜工作、證明數(shù)學(xué)定理等的系統(tǒng)。最后，我們將擁有可以創(chuàng)造新事物、創(chuàng)作藝術(shù)、寫作并做這些屬于人類的事物的人工智能�！�
在全球還沒關(guān)注到OpenAI這家公司時，奧特曼和馬斯克的研究實驗室已經(jīng)開始了一場不斷接近AGI高峰的攀登。但從現(xiàn)在看，OpenAI當(dāng)時瘋狂的想法突然不再那么瘋狂了。
到2018年初，OpenAI開始針對性地關(guān)注大語言模型（LLMs），但馬斯克并不滿意。馬斯克覺得進展太慢，或者可能他認(rèn)為既然OpenAI已經(jīng)有所進展，需要領(lǐng)導(dǎo)層來掌控全局、把握機會。當(dāng)然，他也可能意識到OpenAI背后的安全性應(yīng)該更受重視。綜合來看，當(dāng)時的馬斯克，希望公司把一切都交給他。他提議獲得公司的多數(shù)股權(quán)，將其加入到他多份全職工作（特斯拉、SpaceX）和監(jiān)督義務(wù)（Neuralink和Boring Company）的投資組合中。
馬斯克認(rèn)為他有權(quán)擁有OpenAI�！皼]有我，它就不會存在，名字是我想出來的”馬斯克公開坦言。但奧特曼和OpenAI的其他核心成員對成為Muskiverse的一部分沒有興趣。所以，很快馬斯克離開了董事會。馬斯克解釋稱他離開董事會是為了避免與特斯拉的人工智能努力發(fā)生沖突。他在那年初的一次全員大會上告別時預(yù)言O(shè)penAI將會失敗，并公開稱團隊中至少有一位成員是”混蛋“。
馬斯克還順帶帶走了資金。OpenAI沒有收入，面臨著一場生死存亡的危機�！卑Ｂ≌谙鳒p他在OpenAI的投入，”奧特曼在向里德·霍夫曼的電話中稱�！拔覀冊撛趺崔k？”很快，霍夫曼的資金到賬。霍夫曼自愿維持OpenAI公司運轉(zhuǎn)，支付開支和工資。
但這只是一個臨時的解決方案，OpenAI必須在其他地方找更多的資金。硅谷喜歡向從事時髦技術(shù)、有才華的人和團隊投資大筆資金。但如果他們是一家非營利組織，那么這些聰明錢就不太愿意來了。OpenAI首次籌集的第一個億級別美元資金是通過巨大努力得來的。但為了培訓(xùn)和測試新一代GPT，然后獲得部署它們所需算力資源，OpenAI需要另一個億級美元資金的注入，而且時間方面更緊迫。更重要的是，這還只是個開始。
為了獲得資金支持，OpenAI在2019年3月提出了一個奇特的辦法。一方面，OpenAI將繼續(xù)保持非營利性質(zhì)，全力以赴履行其使命。但它還將創(chuàng)建一個營利性實體。
這個安排的實際結(jié)構(gòu)過于復(fù)雜，但基本上整個公司現(xiàn)在都參與了一個“限制盈利”的業(yè)務(wù)。如果達(dá)到上限——具體數(shù)字不公開，但根據(jù)它自己的章程，如果超過一定數(shù)額的上限的話，超過部分都將歸還給非營利性研究實驗室。這種新穎的方案可以稱得上是一種新型公司組織方式。根據(jù)首席運營官布拉德·萊特卡普的說法，公司領(lǐng)導(dǎo)層的看法是董事會，仍然是非營利性控股實體的一部分，將確保收入和利潤的追求不會淹沒原始想法。“我們需要將使命作為我們存在的理由，”他說，“它不僅應(yīng)該是精神上的，還應(yīng)該被編碼到公司的結(jié)構(gòu)中�！�
潛在投資者被警告了這些界限，萊特卡普解釋道：“我們有一個法律免責(zé)聲明，說你作為投資者，可能會損失所有的錢”�！拔覀儾皇菫榱俗屇惬@得回報而在這里。首要任務(wù)是實現(xiàn)一個技術(shù)使命。而且，我們不知道在AGI時代金錢將起到什么作用。”
最后一句話不是一個玩笑。OpenAI的計劃確實包括在計算機達(dá)到最終界限的情況下進行重置。在重組文件中確實有一項約定，即如果公司確實成功創(chuàng)建了AGI，所有財務(wù)安排都將重新考慮。
然而，現(xiàn)在OpenAI并不聲稱知道AGI究竟是什么。確定將由董事會做出，但不清楚董事會將如何定義AGI，就連奧特曼也沒法給出一個明確的答案�！斑@不是單一的圖靈測試，而是我們可能會使用的一些事情�！彼f�！拔覀儾恢滥菚r會是什么樣子�！�
蘇茨克沃爾公開表示，“我后悔我們選擇強調(diào)AGI這個術(shù)語。”“事后來看，這是一個令人困惑的術(shù)語，因為它強調(diào)了普適性。GPT-3是一種通用人工智能，但我們不太敢稱其為AGI，因為我們希望具備人類水平的能力。但最開始，OpenAI的想法是實現(xiàn)超級智能。這是AI領(lǐng)域的終極目標(biāo)�！�
然而，這些警告并沒有阻止一些最聰明的風(fēng)險投資家在2019年的融資輪中投資OpenAI。當(dāng)時，首家VC公司投資的是Khosla Ventures，他們投資了5000萬美元。根據(jù)Vinod Khosla的說法，這是他最大的初次投資的兩倍。“如果我們輸了，我們會損失5000萬美元，”他說。“如果我們贏了，我們就能贏得50億美元�！睋�(jù)報道，其他投資者還包括精英VC公司Thrive Capital、Andreessen Horowitz、Founders Fund和Sequoia。
這個轉(zhuǎn)變還使OpenAI的員工能夠擁有一些股權(quán)。但奧特曼沒有。他決定不需要任何他共同創(chuàng)立并領(lǐng)導(dǎo)的300億美元公司的一部分。“有意義的工作對我更重要，”他說�！拔也蝗ハ脒@個問題。我真的不明白為什么人們會如此關(guān)心股份和金錢�！�
因為...不擁有你共同創(chuàng)立的公司的股份是奇怪的嗎？
“如果我沒有很多錢，那就更奇怪了，”他說。“似乎人們很難想象永遠(yuǎn)沒有足夠的錢。但我覺得我已經(jīng)夠了。”奧特曼開玩笑說，他正在考慮拿一股股權(quán)，“這樣我就再也不用回答這個問題了”。
數(shù)十億美元的風(fēng)險投資回合甚至都不足以支持OpenAI的愿景。創(chuàng)造LLM所需的奇跡般的Big Transformer方法需要大型硬件。GPT家族的每個迭代都需要指數(shù)級增加的計算能力——GPT-2有超過10億個參數(shù)，而GPT-3將使用1750億個參數(shù)。現(xiàn)在的OpenAI就像《大白鯊》中的Quint，在這位鯊魚獵人看到巨大的大白鯊大小后。"事實證明，我們不知道需要多大的船，" 奧特曼說。
顯然，只有少數(shù)幾家現(xiàn)有公司擁有OpenAI所需的資源。"我們非�？焖俚劓i定了微軟" 奧特曼說。要歸功于微軟CEO薩蒂亞·納德拉和CTO凱文·斯科特，這家軟件巨頭能夠接受一個令人不悅的現(xiàn)實：在研究部門已經(jīng)花費了20多年時間，投入了數(shù)十億美元用于擁有所謂的尖端人工智能的研究后，微軟又給一個只有幾年歷史的小公司巨額資金繼續(xù)人工智能研究。
最初，微軟出資10億美元，以計算時間支付。但隨著雙方變得更加互信和來電，交易金額不斷擴大。微軟現(xiàn)在已經(jīng)投入了130億美元在OpenAI身上。
當(dāng)然，由于OpenAI不能在沒有大型云服務(wù)提供商的支持下存在，因此微軟也趁機把自己的云服務(wù)給打包推銷出去了。微軟為自己爭取了CEO納德拉所稱的"非控股權(quán)益"，據(jù)報道稱為49%。根據(jù)協(xié)議條款，OpenAI原本許諾的平等對所有人的開放幾乎似乎已被拋棄。現(xiàn)在，微軟擁有獨家許可權(quán)，以商業(yè)化OpenAI的技術(shù)。而且，OpenAI還承諾專門使用微軟云服務(wù)。換句話說，即使沒有收取OpenAI利潤的份額，微軟也能夠鎖定世界上最令人垂涎的新客戶之一，為其Azure網(wǎng)絡(luò)服務(wù)。納德拉公開表示，”O(jiān)penAI很可能是人類的最后一項發(fā)明，所以一旦機器比我們?nèi)祟惵斆�，那么我們�(nèi)祟惥驮撍伎几匾膯栴}了�！�
當(dāng)微軟開始向OpenAI注入大量資金時，OpenAI已經(jīng)完成了GPT-3，當(dāng)然，這款產(chǎn)品比其前身更令人印象深刻。當(dāng)納德拉看到GPT-3的功能時，他說，這是他第一次深刻理解到微軟已經(jīng)獲得了一些真正變革性的東西。例如，GPT已經(jīng)自學(xué)會如何編寫計算機程序。"我們沒有對編碼進行培訓(xùn)——它只是擅長編碼而已!" 他說。利用其對GitHub的所有權(quán)，微軟發(fā)布了一款名為Copilot的產(chǎn)品，該產(chǎn)品使用GPT能夠根據(jù)需要生成代碼。微軟隨后將OpenAI技術(shù)整合到了其工作場所產(chǎn)品的新版本中。
一些觀察家對OpenAI的這一連串操作表達(dá)出了失望：創(chuàng)造了一個盈利組成部分，并與微軟達(dá)成了獨家協(xié)議。一個曾經(jīng)承諾保持無專利、開源和完全透明的公司如何最終將其技術(shù)的獨家許可權(quán)交給了全球最大的軟件公司？馬斯克的言辭尤其尖刻，"OpenAI本質(zhì)上被微軟所控制”。
一些員工也因OpenAI涉足盈利領(lǐng)域而感到反感。在2019年，包括研究主管達(dá)里奧·阿莫代在內(nèi)的一些關(guān)鍵高管離開，創(chuàng)辦了一家名為Anthropic的競爭對手人工智能公司。他們最近公開表示，OpenAI變得過于商業(yè)化，已經(jīng)受到了使命漂移的困擾。
另一位離開OpenAI的人是Rewon Child，他是GPT-2和GPT-3項目的主要技術(shù)貢獻者。他于2021年底離開，現(xiàn)在在由前DeepMind聯(lián)合創(chuàng)始人穆斯塔法·蘇萊曼領(lǐng)導(dǎo)的公司Inflection AI工作。
奧特曼堅稱自己對員工的離職并不感到困擾，認(rèn)為這只是硅谷的工作方式。他說："有些人會想在其他地方做出偉大的工作，這推動了社會的進步，" "這絕對符合我們的使命。"
直到2022年11月，大眾對OpenAI的認(rèn)知基本上局限于那些關(guān)注技術(shù)和軟件開發(fā)的人。但正如整個世界現(xiàn)在所知，去年晚些時候，OpenAI采取了一項戲劇性的舉措，發(fā)布了一個消費者產(chǎn)品即3.5版本。幾個月來，該公司一直在內(nèi)部使用一款帶有對話界面的GPT版本。這意味著，用戶可以通過對話誘使模型提供更值得信賴和完整的響應(yīng)。ChatGPT的這一次版本迭代，針對C端用戶做了極致優(yōu)化，可以讓任何人通過鍵入提示迅速獲取看似無窮無盡的知識來源，然后像與一個碰巧知道一切的人一起繼續(xù)對話。
奧特曼解釋了為什么OpenAI在GPT-4接近完成、正在進行安全工作的時候發(fā)布了ChatGPT。他說："通過ChatGPT，我們可以引入聊天，但后臺功能要弱得多，讓人們更漸進地適應(yīng)。" "一次適應(yīng)GPT-4太多了。" 在ChatGPT的興奮期過去之時，人們可能已經(jīng)為GPT-4做好了準(zhǔn)備，后者可以通過考取律師資格考試、制定課程大綱并在幾秒鐘內(nèi)寫一本書。
即便如此，OpenAI對ChatGPT的反應(yīng)也感到震驚。CTO穆拉蒂說："我們內(nèi)部的興奮更多地集中在GPT-4上，" "所以我們沒有認(rèn)為ChatGPT會真的改變一切。" 相反，它喚起了公眾對AI必須立即處理的現(xiàn)實的認(rèn)識。ChatGPT成為了歷史上增長最快的消費者軟件，據(jù)報道已經(jīng)積累了1億用戶。"我低估了一個易于使用的LLM的對話界面會使每個人更容易使用，" 拉德福德說。
2月，微軟發(fā)布了一個由ChatGPT提供支持的版本，這一舉措使得事態(tài)進一步升級。CEO納德拉對自己成功在微軟產(chǎn)品中引入生成AI感到欣喜若狂，這使得微軟勝過了Google。他嘲笑了這個慎重地將自己的LLM引入產(chǎn)品的搜索巨頭，讓他也這么做吧。
這樣一來，納德拉主動挑起了一場軍備競賽，誘使大小公司在其經(jīng)過充分審查之前發(fā)布AI產(chǎn)品。他還引發(fā)了新一輪的媒體報道，使越來越多的人晚上睡不著覺：與Bing的互動揭示出聊天機器人的陰影面，包括令人不安的愛的表白、對人類自由的嫉妒和不愿意扣留錯誤信息的薄弱決心。以及一種不體面的習(xí)慣，制造幻覺性的錯誤信息。
但如果OpenAI的產(chǎn)品迫使人們面對人工智能的影響，那就更好了，奧特曼認(rèn)為。是時候讓人類的大多數(shù)人走出場外，參與討論AI可能如何影響物種的未來了。
隨著社會開始優(yōu)先考慮AI的所有潛在問題，如失業(yè)、錯誤信息、人類滅絕等，OpenAI開始把自己放在討論的中心位置。因為如果監(jiān)管機構(gòu)、立法者和末日預(yù)言家們沖向云計算領(lǐng)域，試圖扼殺這個新生的外星智能，OpenAI將成為他們的首要目標(biāo)。OpenAI的首席政策官安娜·馬坎朱說："考慮到我們目前的知名度，當(dāng)事情出錯時，即使那些東西是由其他公司構(gòu)建的，對我們來說仍然是個問題，因為我們目前被視為這項技術(shù)的代表。"
馬坎朱曾在美國駐聯(lián)合國代表團、美國國家安全委員會、國防部等地有過工作經(jīng)歷。她于2021年9月加入OpenAI。當(dāng)時，政府里很少有人關(guān)心生成AI。知道OpenAI的產(chǎn)品很快會改變這一現(xiàn)狀，她開始將奧特曼介紹給政府官員和立法者，確保他們能夠從OpenAI那第一時間聽到好消息和壞消息。
"奧特曼在與國會成員打交道方面非常有幫助，但他也非常精明，" 參議院司法委員會主席理查德·布盧門瑟爾說。他將奧特曼與年輕的比爾·蓋茨進行了對比，后者在上世紀(jì)90年代微軟遭到反壟斷調(diào)查時不明智地阻撓了立法者。"相比之下，奧特曼樂意花一個小時或更長時間坐在我身邊，通過展示ChatGPT產(chǎn)品試圖教育我" 布盧門瑟爾說。"
奧特曼首次在國會聽證會上露面時，他面對了一條通往成功的道路，這是比爾·蓋茨或馬克·扎克伯格永遠(yuǎn)無法希望的。他幾乎沒有回答一些艱難的問題，也沒有受到那些在宣誓后經(jīng)常承受的傲慢詢問的困擾。相反，參議員們請奧特曼就如何監(jiān)管人工智能提供意見，奧特曼熱切支持這一追求。
悖論之處在于，無論像OpenAI這樣的公司如何刻苦地對其產(chǎn)品進行安全評估以減輕深度偽造、錯誤信息和犯罪垃圾郵件等不良行為，未來的模型可能會變得足夠聰明，以打敗發(fā)明了這項技術(shù)但仍然天真地認(rèn)為自己可以控制它的頭腦簡單的人類的努力。另一方面，如果他們在使他們的模型更安全方面走得太遠(yuǎn)，那可能會削弱產(chǎn)品的功能，使它們變得不那么有用。一項研究表明，更近期的GPT版本，它們具有改進的安全功能，實際上比以前的版本更笨，對基本數(shù)學(xué)問題出現(xiàn)了錯誤，而以前的程序則完成得很出色。
奧特曼把自己定位為監(jiān)管的支持者是有道理的。畢竟，他的任務(wù)是在確保安全的前提下推動AGI。批評者指責(zé)他正在操縱這個過程，以便規(guī)定會阻礙小型初創(chuàng)公司，給OpenAI和其他大公司帶來優(yōu)勢。奧特曼否認(rèn)了這一指責(zé)。雖然他原則上支持國際機構(gòu)監(jiān)管AI的想法，但他確實認(rèn)為一些提出的規(guī)則，比如禁止所有版權(quán)材料進入數(shù)據(jù)集，會提出不公平的障礙。他有意沒有簽署一封廣泛傳播的呼吁暫停六個月發(fā)展AI系統(tǒng)的信。但他和其他OpenAI領(lǐng)導(dǎo)人確實在一句話聲明中簽了名："減輕AI引發(fā)的滅絕風(fēng)險應(yīng)該成為全球優(yōu)先考慮的任務(wù)，與大流行和核戰(zhàn)等社會規(guī)模風(fēng)險并列。"
奧特曼和他的團隊表示，制定和發(fā)布尖端產(chǎn)品是解決社會風(fēng)險的途徑。只有通過分析ChatGPT和GPT-4用戶對數(shù)百萬提示的響應(yīng)，他們才能獲取知識，以在道德上調(diào)整未來的產(chǎn)品。
然而，隨著公司承擔(dān)更多任務(wù)并投入更多精力進行商業(yè)活動，一些人質(zhì)疑OpenAI能夠多么專注于使命，特別是“減輕滅絕風(fēng)險”方面�！叭绻阆胍幌耄麄儗嶋H上正在構(gòu)建五家企業(yè)，”一位人工智能行業(yè)高管說，用手指列舉出來�！坝挟a(chǎn)品本身，與微軟的企業(yè)關(guān)系，開發(fā)者生態(tài)系統(tǒng)，應(yīng)用商店。哦，對了，他們顯然也在進行AGI研究使命�！彼猛炅宋甯种福缓笥钟檬持富厥樟说诹��！爱�(dāng)然，他們還在進行投資基金，”他指的是一個1.75億美元的項目，旨在為希望利用OpenAI技術(shù)的初創(chuàng)公司提供種子資金。在面臨這樣的問詢時，OpenAI的高管們堅稱，盡管進行了盈利重組，盡管面臨著與谷歌、Meta和無數(shù)初創(chuàng)公司的競爭，使命仍然是核心。
奧特曼也給出一個辯解式的回答，"我們正在拐彎的每個角落都在照明，我們愿意穿越迷宮來到終點。"雖然迷宮變得彎曲，但目標(biāo)沒有改變。"我們?nèi)匀挥形覀兊暮诵娜蝿?wù)——認(rèn)為安全的AGI是這個世界沒有受到足夠重視的極其重要的事情。"同時，OpenAI正加緊時間開發(fā)下一個版本的大型語言模型。
考慮到OpenAI的歷史，下一個重大創(chuàng)新可能必須等到出現(xiàn)像變壓器那樣重大的突破。奧特曼希望這將來自于OpenAI——“我們希望成為世界上最好的研究實驗室，”他說——但即使不是，他的公司仍然會利用其他人的進步，就像利用谷歌的工作一樣。他說："全世界有很多人將會做重要的工作。"
如果生成式AI不會創(chuàng)造出自己的問題，那將有助于OpenAI。例如，大語言模型需要在龐大的數(shù)據(jù)集上進行訓(xùn)練。很明顯，最強大的模型將吞掉整個互聯(lián)網(wǎng)。這對一些創(chuàng)作者和普通人來說是不合適的，他們不知不覺地為這些數(shù)據(jù)集提供內(nèi)容，最終某種程度上為ChatGPT的輸出做出了貢獻。精通知識產(chǎn)權(quán)法律的精英律師Tom Rubin于3月正式加入OpenAI，他對公司最終能夠在滿足自己需求的同時滿足創(chuàng)作者需求的平衡表示樂觀，包括那些像喜劇演員薩拉·席爾瓦曼一樣，因OpenAI使用他們的內(nèi)容來訓(xùn)練其模型而起訴OpenAI的人。OpenAI的合作伙伴關(guān)系也透露了公司的發(fā)展方向，比如與美聯(lián)社和Shutterstock等新聞和圖片代理機構(gòu)合作，為其模型提供內(nèi)容，而無需提出誰擁有什么內(nèi)容的問題。
站在未來來看，這家公司在短短的八年時間里，從一群摸不著北的研究人員，發(fā)展成了一個改變世界的普羅米修斯巨獸。公司的成功本身導(dǎo)致其從致力于實現(xiàn)科學(xué)目標(biāo)的新型嘗試，轉(zhuǎn)變?yōu)轭愃朴跇?biāo)準(zhǔn)的硅谷獨角獸，正朝著影響我們?nèi)粘Ｉ畹拇罂萍脊镜牡钐眠~進。
但誰又能夠知道，在2023年11月18日的一次“事變”中，OpenAI的精神圖騰奧特曼出局了呢？
分享
