反向出埃及記，為什么OpenAI留不住真大佬？

2024-08-08 09:04

適道

關(guān)注

作者：適道AI組

編輯：白石

Sam Altman曾對《紐約客》侃侃而談：“馬斯克非�？释仁澜纾疤崴仨毷钦仁澜绲哪莻€英雄。”

對于他本人呢？我想到一個有趣的類比：Altman毫不在意世界是否毀滅，但前提他必須在諾亞方舟上，而且必須是船長。

不出意外地，OpenAI又雙叒出現(xiàn)了人事地震。

“ChatGPT架構(gòu)師”、聯(lián)創(chuàng)John Schulman官宣轉(zhuǎn)投Anthropic；去年新加入的產(chǎn)品副總裁Peter Deng官宣離職；大跌眼鏡的是，Altman的堅定戰(zhàn)友，OpenAI總裁兼聯(lián)創(chuàng)Greg Brockman也疑似離場。

如果此前“人員出走潮”是Altman掃除異己；那么Greg Brockman“長期休假”（Altman未回應(yīng)），或許是這位“新王”眾叛親離的開始。

至此，OpenAI最初11位創(chuàng)始人或僅存兩席：Sam Altman，以及楊立昆得意門生，語言與代碼生成部門負責(zé)人Wojciech Zaremba。著名OpenAI爆料人Jimmy Apples發(fā)X：高層已成空殼，你們快上新吧。

與此同時，OpenAI創(chuàng)始人之一，Altman昔日“導(dǎo)師”——馬斯克再次將Altman、Brockman告上法庭，理由是創(chuàng)立之初的“欺騙和敲詐勒索”。

適道來細數(shù)“OpenAI大將叛變”歷程，探討Sam Altman為何留不住真大佬？

“登基”前傳：是安全問題，但也不都是安全

古有PayPal黑幫，今有OpenAI叛將。

據(jù)統(tǒng)計，此前OpenAI已有近75名重要員工離職，創(chuàng)立了約30家AI公司。

前研究副總裁Dario Amodei&前安全與政策副總裁Daniela Amodei兄妹創(chuàng)辦Anthropic，估值180億美元；

前首席科學(xué)家Ilya Sutskever創(chuàng)辦SSI，估值100億美元；

前工程副總裁David Luan創(chuàng)辦Adept AI（被亞馬遜收編），估值超10億美元；

前技術(shù)負責(zé)人Jonas Schneider創(chuàng)辦機器人創(chuàng)企Daedalus，估值4000萬美元；

前研究科學(xué)家Aravind Srinivas創(chuàng)辦Perplexity.AI，估值估值30億美元；

前技術(shù)人員Tim Shi創(chuàng)辦AI客服平臺Cresta Al，估值16億美元；

其中，Anthropic成長為OpenAI的頭號對手、前司員工“庇護所”；Perplexity.AI成長為OpenAI最佳套殼者、Google搜索挑戰(zhàn)者........

對于普通研究員而言，離開是謀求更好的發(fā)展；但對于核心成員，尤其是創(chuàng)始團隊而言，離開基本就是因為三觀不同。

典型代表為馬斯克、Amodei兄妹，以及Ilya Sutskever。他們與Altman過招后反而鞏固了Altman在OpenAI的地位。

第一步，推翻馬斯克“暴政”

2015年，谷歌收購DeepMind。馬斯克與PayPal聯(lián)合創(chuàng)始人、Founders Fund創(chuàng)始人Luke Nosek聯(lián)手提出了一個競購方案，但最終未成功。這成為了馬斯克揮之不去的遺憾。

在此背景下，憂心忡忡的馬斯克參加了一場載入硅谷史冊的晚宴。席間聚集了約十位杰出人物，其中三位尤為耀眼——Altman、Ilya Sutskever，以及Greg Brockman。

他們和馬斯克探討了AI可能引發(fā)的災(zāi)難性后果，和成立一個匹敵谷歌項目所需的各項條件。

四人團隊認為自己具備成功所有要素：Hinton得意門生Ilya Sutskever是AI科學(xué)家；Stripe CTO Brockman是運營高手；YC CEO Sam Altman能協(xié)調(diào)所有要素；特斯拉創(chuàng)始人馬斯克有錢。

晚宴上，馬斯克承諾會投資10億美元，并提議將項目命名為OpenAI——將以非營利性的方式運作，專注于研發(fā)對人類有益的安全AI，而不是追求利潤。

2017年，谷歌發(fā)表著名Transformer論文，揭示了關(guān)鍵在于處理大量數(shù)據(jù)，這需要巨大算力支持（Ilya Sutskever在OpenAI創(chuàng)立之初已有此判斷）。

于是，OpenAI開始缺錢了（馬斯克共為OpenAI捐贈了4400萬美元，并承擔(dān)了租金）。

Brockman和其他OpenAI成員建議將該組織轉(zhuǎn)變?yōu)闋I利性機構(gòu)，以便從微軟等投資者那里籌錢。

一開始，馬斯克堅決反對。但當(dāng)他意識到成立營利性實體很必要性時，就希望自己獲得多數(shù)股權(quán)、初步董事會控制權(quán)，并擔(dān)任CEO。馬斯克甚至提出將OpenAI并入特斯拉。原因是，特斯拉是唯一有希望與谷歌比肩的公司。

眼看沒人答應(yīng)，馬斯克又開始游說OpenAI研究人員跳槽特斯拉。

終于，“作妖不斷”的馬斯克被董事會投票出局。

走之前，他還詛咒OpenAI戰(zhàn)勝DeepMind/Google的概率為0%。

不過，與Altman密切的人透露，馬斯克純粹是嫉妒Altman搶了自己在AI領(lǐng)域的風(fēng)頭，他更加關(guān)注如何擊敗OpenAI，而非AI安全。與馬斯克親近的人則堅稱，他對AI安全的擔(dān)憂是真實且深刻的，比如開發(fā)xAI替代OpenAI。

但無論如何，趕走“獨裁者”馬斯克絕對是Altman登基的第一步。

第二步金蟬脫殼追求利潤最大化

2019年，OpenAI從微軟手中拿到了10億美元，以繼續(xù)開發(fā)“好”AI。

當(dāng)你拿到10億美元時，你就必須回報“金主”，這其實已經(jīng)讓一些元老心懷疑慮。

但Altman相當(dāng)靈活——不留戀非營利組織的名聲，留戀非營利組織的殼子。

他創(chuàng)造性地構(gòu)建了一種全新的架構(gòu)。一方面，OpenAI能像普通公司運作，比如籌資、發(fā)放員工股權(quán)；另一方面，OpenAI投資者的回報有上限。

本質(zhì)上，OpenAI成為了一個由非營利組織董事會控制的營利公司。

這聽起來就不穩(wěn)定，團隊內(nèi)部分裂開始逐步出現(xiàn)。

2021年，Dario Amode創(chuàng)立Anthropic時說：

“OpenAI內(nèi)部有一群人，當(dāng)我們創(chuàng)造GPT-2和GPT-3后，對兩件事有非常強烈的信念。一是認為這些模型中投入的計算資源越多，它們會變得越好，幾乎沒有盡頭。我認為現(xiàn)在這個觀點得到了更廣泛的認可，但我們是最早的信仰者。

第二點是認為，需要除了擴大模型規(guī)模之外的東西，那就是對齊或安全性。因為只通過增加計算資源并不能告訴模型它們的價值觀。所以我們秉持著這個想法，成立了自己的公司。”

雖然Anthropic看起來更加“安全”，并在準(zhǔn)確性方面下足了功夫。例如，Anthropic使用了大量復(fù)雜的事實問題來針對模型已知的弱點，將答案分為正確答案、錯誤答案（幻覺）、承認“不知道”。相應(yīng)地，Claude3可以表示自己不知道答案，而不是提供不正確的信息。除了更準(zhǔn)確的回復(fù)，Claude 3甚至還能“引用”，指向參考材料中的精確句子來驗證他們的答案。

但正如OpenAI回報微軟，Anthropic也要回報亞馬遜，以合乎道德的方式經(jīng)營一家大型AI公司幾乎是不可能的。

最近，Anthropic就被曝24小時抓取百萬次網(wǎng)站數(shù)據(jù)等等。

“質(zhì)疑、理解、成為”或許才是大模型初創(chuàng)公司的必經(jīng)之路。

第三步清洗叛徒 “黃袍加身”

陳橋兵變，宋太祖趙匡胤在半夜熟睡中，被兵變將士們偷偷地將黃袍披在身上。第二天，他痛苦地接受了大家的“逼迫”。主打一個民心所向。

而在去年11月OpenAI宮斗中，也上演了一出“硅谷版”黃袍加身。彼時，數(shù)百名OpenAI員工簽署聯(lián)名信，要求所有“叛變”董事會成員辭職、恢復(fù)Altman職位，否則簽署聯(lián)名信的員工將采取行動，“可能會加入Altman和Brockman在微軟新成立的子公司”。

這威望和影響力，簡直是所有CEO的夢想。

等等，故事還有另一個版本。

其實這場風(fēng)波，除了“比心隊列”，還有一個關(guān)鍵因素——金錢。

就在逼宮事件前不久，OpenAI剛剛為員工組織了一場股票出售活動，讓大家有機會套現(xiàn)部分股權(quán)。結(jié)果，錢還沒拿到手呢，老板先被干下去了。

一些投資者表示，如果Altman不回歸，他們會暫停執(zhí)行要約收購。眼看拿這筆錢提前退休，居然被“大惡人”Ilya Sutskever攪黃了！換誰能不生氣。

因此，簽署請愿書確實是民心所向。而且，當(dāng)你身邊95%同事都簽名支持時，你很可能也會簽上字。

至于Ilya Sutskever逼宮失敗與被迫出走，除了不那么懂人性之外，還和Altman極強的弄權(quán)能力有關(guān)，具體如下。

“新王”剪影：專權(quán)、欺騙、牟利、放任

時間回到2016年。彼時，OpenAI辦公地點是Brockman的私人公寓——沙發(fā)、廚柜，甚至床鋪，都是員工的工作臺。這個不起眼的地方，居然讓20位世界頂尖的AI大神齊聚一堂。

當(dāng)時Altman和馬斯克不常駐，是Brockman和Ilya Sutskever攜手撐起了團隊。

Ilya Sutskever是AI領(lǐng)域的領(lǐng)軍人物，Brockman則被視為OpenAI業(yè)務(wù)運營的頂梁柱，

員工們記得，他們曾與Ilya Sutskever一同漫步于舊金山大街，深入討論宏觀議題，自問是否在正確的研究道路上踟躕。Ilya Sutskever對AI有著超前洞察力，他能用簡單的類比來闡釋復(fù)雜的技術(shù)概念，比如將神經(jīng)網(wǎng)絡(luò)比作一種特殊的計算機程序或電路。

甚至在OpenAI成立之初，Ilya Sutskever就意識到AI的巨大飛躍不是來自某個特定的調(diào)整或新發(fā)明，而是源自海量數(shù)據(jù)的積累，就像為引擎不斷注入燃料。

也正是這個原因。2017年，谷歌Transformer論文一經(jīng)發(fā)表，Ilya Sutskever就能及時帶領(lǐng)OpenAI探索并采用Transformer架構(gòu)，成為行業(yè)內(nèi)最早采納這項先進技術(shù)的先鋒之一。

Brockman的勤奮眾所周知。一位前員工回憶，每天早晨到達辦公室時，總能看到Brockman對著電腦，晚上離開時，他也在鍵盤上敲打。幾年后，Brockman的婚禮在OpenAI辦公室舉行，婚禮由Ilya Sutskever主持，這一場景成為了公司文化的一部分。

在Brockman和Ilya Sutskever加入OpenAI時，他們已經(jīng)實現(xiàn)財富自由了。披星戴月只不過是被一個共同的夢想驅(qū)動——利用AI為人類未來做貢獻。

后續(xù)如我們所知，二人分道揚鑣。不過，相隔幾個月“被逼走”的二人未來也可能殊途同歸。

第一宗罪：專權(quán)

很多人可能將11月宮斗視為Altman的無妄之災(zāi)，實際并非如此。

故事還是要從Anthropic說起。

起因是，Altman與董事會成員Helen Toner本來就不對付。

去年10月，Toner在喬治城大學(xué)的智庫發(fā)表了一篇論文，傾向于認為Anthropic在安全性更勝一籌，并輕微批評ChatGPT“偷工減料”發(fā)布。

盡管論文結(jié)論挺溫和，但Altman氣炸了，并開始私下與董事會成員逐一接觸，想把Toner投出去。

而且Altman顛倒黑白，聲稱Toner的一位支持者也想逐出她。

最終結(jié)果大家都知道了，被投出去的人是Altman。

第二宗罪：欺騙

董事會之所以想讓Altman走人，主要是不信任他。

比如去年7月，OpenAI成立超對齊團隊，由Ilya Sutskever和Leike領(lǐng)導(dǎo)。團隊旨在為公司內(nèi)部和非OpenAI模型的安全性提供研究。

但逃不過“先野蠻生長，再安全有序”的規(guī)律。OpenAI對AGI安全治理的優(yōu)先級，顯然放在了推出“閃亮產(chǎn)品”之后。初期承諾給超級對齊團隊的20%算力，也遭不斷蠶食，傷及“建立一個更負責(zé)任的AGI”員工的信心。

有趣的是，本次轉(zhuǎn)投Anthropic的John Schulman離職也和AI對齊相關(guān)：“希望加深對AI對齊的關(guān)注，并開啟我職業(yè)生涯的新篇章，讓我可以重返實際的技術(shù)工作。”

今年7月末，OpenAI還把安全部門高級主管Aleksander Madry調(diào)離了安全崗位，并給他重新分配了“AI推理”的工作。

但OpenAI告訴媒體，Madry到新職位上后，仍致力于安全工作。Altman居然還強調(diào)，OpenAI堅持了“給整個安全團隊至少20%算力”的承諾。

請注意，此時“超級對齊團隊”被他偷偷換成了“整個安全團隊”。

第三宗罪：牟利

如果欺騙升級呢？小道消息，去年董事會對Altman的驅(qū)逐和他隱瞞投資有關(guān)。

今年6月，WSJ指出——Altman投資了400多家公司，所持股份價值至少有28億美元。這個隱秘且龐大的投資帝國因OpenAI成功而直接受益。

表面上，Altman作為OpenAI CEO，年薪僅6.5萬美元，且不持有任何股份，原因是不想讓金錢腐蝕AI的安全發(fā)展。

實際上，在Altman的投資帝國中，越來越多的公司直接和OpenAI做起了生意，要么是OpenAI客戶，要么是主要業(yè)務(wù)合作伙伴。

例如，OpenAI正與核能創(chuàng)業(yè)公司Helion達成協(xié)議，希望通過后者購買大量電力，為數(shù)據(jù)中心供電。幕后老板正是Altman。

又例如，OpenAI想付費使用Reddit內(nèi)容來訓(xùn)練ChatGPT。而Altman和他所控制的實體持有7.6%的Reddit股份。甚至早在2014年，Altman還短暫地擔(dān)任過Reddit CEO。合作傳出后，此前瘋狂掉血的Reddit股價大漲10%，結(jié)果就是Altman所持股份一舉增長6900萬美元，達到7.54億美元。

第四宗罪：放任

Altman之所以對AI安全放任，有一部分原因是他非常樂觀？

如果你知道真正答案，可能會五味雜陳。

2015年，Altman就明確地表達過自己的擔(dān)心，認為高級AI會成為人類生存的最大威脅。甚至在早期談話中，他還用一種輕佻語氣提到，AI有可能終結(jié)世界。

甚至面對《紐約客》記者，Altman透露，自己早就儲備了槍支、黃金、彈藥、抗生素，以及以色列國防軍的防毒面具。他還提到自己在美國加州Big Sur有一片地，確保能在世界末日避難。

而當(dāng)媒體再次提出時，Altman口風(fēng)又變了：這不就是每個小男孩夢想的秘密基地嗎？

而他的妹妹安妮表示，這很符合她對自己哥哥的了解——一個極度注重安全、準(zhǔn)備在最壞情況下囤積資源的人�？梢酝茰y，Altman確實擁有足夠的儲備，只是懂得閉嘴了。

據(jù)稱，Altman的野心也在不斷擴張。例如，他正在進行普遍基本收入的研究，以防AI導(dǎo)致大規(guī)模失業(yè)；他推出Worldcoin加密貨幣，該項目通過掃描眼球來分配收入。

了解Altman的人透露，他的目標(biāo)遠不止于此，他甚至想成為“世界之王”，接管整個世界。反正，Altman確實曾考慮競選加州州長。而Altman曾經(jīng)的導(dǎo)師Paul Graham說：我認為他的目標(biāo)是掌控整個未來！

原文標(biāo)題 : 反向出埃及記，為什么OpenAI留不住真大佬？

OpenAI AI 高管