來(lái)源:未盡研究公號(hào)

直到周五夜晚,OpenAI的聯(lián)合創(chuàng)始人、董事長(zhǎng)兼總裁布洛克曼(Greg Brockman)還處于五雷轟頂之后的懵懂之中。他需要回顧一下,過(guò)去的24小時(shí)內(nèi),究竟發(fā)生了什么。

“政變” 發(fā)生

上周的舊金山和灣區(qū),洋溢在APEC首腦峰會(huì)的熱鬧氣氛中,尤其是兩位大國(guó)首腦相見(jiàn),分外矚目。

OpenAI的聯(lián)合創(chuàng)始人、CEO奧特曼 (Sam Altman),周四那天出現(xiàn)在APEC的工商峰會(huì)上,晚上還參加了一個(gè)火人節(jié)的活動(dòng),大談AI與藝術(shù)。

他收到了另一位聯(lián)合創(chuàng)始人,首席科學(xué)家蘇茨克沃( Ilya Sutskever)的短信,約在周五中午談下。

周五中午,奧特曼打開(kāi)了蘇茨克沃發(fā)來(lái)的Google Meet鏈接,發(fā)現(xiàn)除了布洛克曼之外,還有其他3位獨(dú)立董事。蘇茨克沃告訴奧特曼,他被炒掉了,而且這個(gè)消息會(huì)很快發(fā)布。

官方聲明稱(chēng),因?yàn)閷?duì)董事會(huì)不坦誠(chéng),奧特曼被免去了CEO和董事職位。奧特曼一小時(shí)后即在X上宣布離開(kāi)OpenAI,并稱(chēng)稍晚會(huì)宣布他下一步的打算。

12:19,布洛克曼收到了蘇茨克沃的一條短信,要求快速通個(gè)電話。4分鐘后,他也收到了一個(gè)Google Meet鏈接,點(diǎn)開(kāi)之后,馬上就被告知,自己被解除了董事會(huì)的職務(wù),但因?yàn)樗麑?duì)公司舉足輕重,還是保留了他的總裁職位。他還被告知,奧特曼被炒了,已經(jīng)在官網(wǎng)上宣布了。

官方聲明稱(chēng),布洛克曼將向臨時(shí)CEO Mira Murati匯報(bào),她去年5月剛升任公司CTO。但布洛克曼聽(tīng)到消息后,立刻宣布辭職。

這件爆炸性的新聞,沖擊了整個(gè)公司,除了Mira。她在周四晚上已經(jīng)知道,自己將接替奧特曼,擔(dān)任臨時(shí)CEO。OpenAI內(nèi)部像是炸了鍋,Mira不得不安撫全公司,與微軟的合作將繼續(xù)。她轉(zhuǎn)述了微軟CEO納德拉和CTO 斯科特(Kevin Scott)的表態(tài),仍然對(duì)OpenAI保持“極度信任”。

當(dāng)天晚上,三名高級(jí)人員辭職,他們是公司研究總監(jiān)Jakub Pachocki,負(fù)責(zé)評(píng)估人工智能潛在風(fēng)險(xiǎn)的團(tuán)隊(duì)負(fù)責(zé)人Aleksander Madry, 以及工作了7年的研究員Szymon Sidor。預(yù)計(jì)這個(gè)周末,OpenAI還將會(huì)有大批員工辭職。

如日中天的OpenAI,陷入創(chuàng)辦八年以來(lái)最大的危機(jī)。

自左至右:Mira,奧特曼,布洛克曼,蘇茨克沃

安全與盈利之間的沖突

這一場(chǎng)OpenAI內(nèi)部的“政變”,微軟居然事先一無(wú)所知,直到消息公布前幾分鐘?？上攵?所有其他的投資人,也都蒙在鼓里。

這暴露了OpenAI的非贏利與贏利雙層架構(gòu)之間潛在的矛盾。最重要的投資方,無(wú)法在公司的治理上發(fā)揮作用。而現(xiàn)有非贏利部分的董事會(huì),由于無(wú)人持股,6名董事采取一人一票制,潛藏了不穩(wěn)定的風(fēng)險(xiǎn)。

OpenAI剛剛舉辦的開(kāi)發(fā)者大會(huì),加速了矛盾爆發(fā)。在OpenAI內(nèi)部的“非贏利派”與“贏利派”之間,關(guān)系近來(lái)一直緊張。蘇茨克沃領(lǐng)導(dǎo)著公司的研發(fā)團(tuán)隊(duì),他代表的非盈利派強(qiáng)調(diào)安全,強(qiáng)調(diào)OpenAI的基本價(jià)值觀;而奧特曼所代表贏利派強(qiáng)調(diào)加快發(fā)展,在開(kāi)發(fā)者日那天,推出了定制GPT商店,并且提供給開(kāi)發(fā)者API助手,啟動(dòng)了與開(kāi)發(fā)者分享收益的商業(yè)變現(xiàn)模式。

但激增的用戶,很快超出了OpenAI的承受能力,奧特曼不得不宣布暫停新的ChatGPT Plus用戶注冊(cè)。這進(jìn)一步增加了蘇茨克沃對(duì)安全的擔(dān)心。

事實(shí)上,在董事會(huì)中,以?shī)W特曼和布洛克曼為一派,以蘇茨克沃和另一位董事Helen Toner為另一派,對(duì)于接下來(lái)發(fā)展的速度,意見(jiàn)分歧日益擴(kuò)大,雙方漸行漸遠(yuǎn)。

董事會(huì)其他成員在一些重大的戰(zhàn)略問(wèn)題上,也與奧特曼意見(jiàn)相左。如奧特曼想從中東主權(quán)財(cái)富基金融資數(shù)百億美元,開(kāi)發(fā)芯片挑戰(zhàn)英偉達(dá)。他還找過(guò)孫正義,想用軟銀的數(shù)十億美元投資,聯(lián)手蘋(píng)果前設(shè)計(jì)師Johny Ive ,打造一家AI原生的硬件公司。

還有知情人士透露,蘇茨克沃們對(duì)奧特曼試圖借助OpenAI的名聲籌集資金感到不滿,他們擔(dān)心新的業(yè)務(wù)可能不會(huì)采用合適的治理模式。

有報(bào)道稱(chēng),周四上午十點(diǎn)鐘左右,蘇茨克沃找到了另外三位董事,讓兩位技術(shù)人員向董事們說(shuō)明了系統(tǒng)面臨的安全和穩(wěn)定等方面的嚴(yán)重隱患,這個(gè)代表了董事會(huì)三分之二席位的會(huì)議,隨即做出了炒掉奧特曼的決定。

奧特曼的支持者稱(chēng)之為一場(chǎng)“政變”。

董事會(huì)成員“缺乏經(jīng)驗(yàn)”

董事會(huì)用了三分之二的票數(shù),即蘇茨克沃與三位獨(dú)立董事達(dá)成一致之后,做出了炒掉奧特曼的決定。但并沒(méi)有召開(kāi)全體董事會(huì)議,而且這樣的董事會(huì)議,也沒(méi)有通知身為董事長(zhǎng)的布洛克曼。公司的兩位最重要的創(chuàng)始人、CEO和董事長(zhǎng),根本沒(méi)有參會(huì)和投票的機(jī)會(huì),各自在一次Google Meet會(huì)議里,就被趕出了公司。

“如果我放開(kāi)說(shuō),OpenAI董事會(huì)就會(huì)追著要我所有股份的全部?jī)r(jià)值?！?/p>

OpenAI應(yīng)該是當(dāng)今最重要的一家非上市公司,我們看下做出這樣決定的董事會(huì)成員:

獨(dú)立董事Adam D’Angelo, Quora創(chuàng)始人,CEO。2018年4月加入董事會(huì)。他認(rèn)為OpenAI要堅(jiān)持非盈利,控制盈利上限部分,以保證不成為硅谷的另外一家科技巨頭。

獨(dú)立董事Tasha McCauley,今年才開(kāi)始擔(dān)任蘭德公司兼職高級(jí)管理科學(xué)家。之前她有過(guò)兩次不成功的創(chuàng)業(yè),嫁給了猶太裔知名演員和創(chuàng)業(yè)者Joseph Gorden-Levitt。她積極參與“有效利他主義(Effective Altruism)”運(yùn)動(dòng)。

獨(dú)立董事Helen Toner,2021年9月加入董事會(huì),喬治敦大學(xué)安全與新興技術(shù)中心(CSET)戰(zhàn)略與基礎(chǔ)研究資助主任。她以前是Open Philanthropy的一位政策研究人員,該機(jī)構(gòu)曾向OpenAI捐款;加入智庫(kù)CSET之前,她曾住在北京,研究過(guò)中國(guó)的人工智能創(chuàng)新生態(tài);該智庫(kù)在中美人工智能與地緣政治政策研究中發(fā)揮著重要作用。

Helen和Tasha,還都加入了英國(guó)的人工智能治理中心(GovAI),該機(jī)構(gòu)關(guān)注的重點(diǎn)是通用人工智能系統(tǒng)可能對(duì)安全構(gòu)成的威脅。

蘇茨克沃成為了公司僅存的聯(lián)合創(chuàng)始人。他出生在俄羅斯,從以色列移民到加拿大,是深度學(xué)習(xí)之父Geoffrey Hinton的博士生,歷經(jīng)DeepMind、Google AI、OpenAI,過(guò)去十年,他處于強(qiáng)化學(xué)習(xí)和深度學(xué)習(xí)的最前沿,并把通用人工智能推到了全新領(lǐng)域。

他主張?jiān)诮⒊?jí)人工智能的過(guò)程中,建立起與人類(lèi)的超級(jí)對(duì)齊(superalignment)。他正帶領(lǐng)團(tuán)隊(duì),動(dòng)用OpenAI的20%的算力,力爭(zhēng)在AI變得比人類(lèi)聰明前,從技術(shù)上建立內(nèi)在的監(jiān)督機(jī)制。他在最近的一次社交媒體上發(fā)言警告說(shuō):“如果你把智能的價(jià)值,凌駕于人類(lèi)所有其他的品質(zhì)之上,你就要承擔(dān)糟糕的后果。”

在董事會(huì)中,奧特曼與蘇茨克沃,就OpenAI如何在安全與賺錢(qián)之間平衡,發(fā)生了尖銳的沖突。奧特曼主張推進(jìn)商業(yè)化應(yīng)用,試圖擴(kuò)大OpenAI的業(yè)務(wù)范圍,并且張羅下一輪融資;而蘇茨克沃認(rèn)為,要堅(jiān)持研究安全和造福人類(lèi)的通用人工智能,在盈利方面不能急于求成。

正是這四位OpenAI的董事,不由分說(shuō)就同時(shí)趕走了另外兩位董事,而且是受到高度認(rèn)可的聯(lián)合創(chuàng)始人,這在硅谷被許多創(chuàng)業(yè)者、投資機(jī)構(gòu)詬病。

他們首先質(zhì)疑這個(gè)董事會(huì)中,有成員缺乏經(jīng)驗(yàn)擔(dān)任這么重要的一家公司的董事。與OpenAI早期的董事會(huì)成員,如馬斯克、領(lǐng)英創(chuàng)始人霍夫曼、以及硬科技投資人科斯拉(Vinod Khosla)等經(jīng)典的硅谷創(chuàng)始人相比,目前的董事會(huì)偏弱,還被硅谷媒體說(shuō)成有一些“有效利他主義” 的味道。

其次,這么重大的事件,OpenAI的前任董事、最重要的投資人,都被蒙在鼓里。尤其是微軟在OpenAI投入了上百億美元,就在消息發(fā)布前幾分鐘才知道。更不用說(shuō)其他投資人了,他們幾乎囊括了硅谷和全球最頂級(jí)的投資機(jī)構(gòu)。

微軟CEO納德拉,立刻在博客上發(fā)表聲明:微軟與OpenAI擁有長(zhǎng)期協(xié)議,可以使用一切(技術(shù)),將繼續(xù)與Mira合作,推進(jìn)人工智能戰(zhàn)略。

治理架構(gòu)的內(nèi)在矛盾

不管因?yàn)槭裁丛?奧特曼和布洛克曼是OpenAI最重要的締造者,他們已經(jīng)成為自己設(shè)計(jì)的治理結(jié)構(gòu)的犧牲品。

2015年,OpenAI是以非盈利機(jī)構(gòu)的身份成立的。它的目標(biāo)是建立一個(gè)達(dá)到和超過(guò)人類(lèi)水平的、開(kāi)放的和造福人類(lèi)的通用人工智能系統(tǒng)。

后來(lái),因?yàn)榘R斯克等人承諾的10億美元資金,僅到位1億多美元,先進(jìn)算力與一流人才的成本巨大,公司研究與運(yùn)營(yíng)難以為繼,決定成立一家盈利性質(zhì)的子公司OpenAI Global LLC,它由非盈利的OpenAI 完全控制。

OpenAI Global 可以對(duì)外融資,但為投資者設(shè)定了一個(gè)利潤(rùn)分配上限。據(jù)媒體披露,OpenAI的利潤(rùn)分配可以被劃分為四個(gè)階段:產(chǎn)生利潤(rùn)后,先讓馬斯克等的首批投資者退出;后續(xù)利潤(rùn)的75%分配給微軟,直到微軟收回其130億美元的投資;在利潤(rùn)達(dá)到920億美元之后,微軟的持股比例下降到49%,剩余部分利潤(rùn)由其他風(fēng)險(xiǎn)投資者和OpenAI的員工分享;當(dāng)利潤(rùn)達(dá)到1500億美元之后,微軟和其他風(fēng)險(xiǎn)投資者的股權(quán)將無(wú)償轉(zhuǎn)讓給OpenAI的非營(yíng)利基金。

其中最重要的投資者當(dāng)然是微軟,在2019年、2021年、2023年三次投資OpenAI,累計(jì)投資上百億美元。但從最終意義上看,微軟并不擁有任何OpenAI的股權(quán),而更像是一個(gè)商業(yè)合作伙伴,包括微軟可以獨(dú)家獲得OpenAI所有的技術(shù),OpenAI使用微軟的Azure云訓(xùn)練其基礎(chǔ)模型,并且通過(guò)其API提供的服務(wù),都要使用微軟的云等等。

微軟提供的資金、云服務(wù),以及微軟與OpenAI在應(yīng)用方面的商業(yè)合作,都對(duì)OpenAI能在長(zhǎng)達(dá)8年的時(shí)間內(nèi),心無(wú)旁騖地專(zhuān)注于大型語(yǔ)言模型的研究,并且最終取得突破,起到了關(guān)鍵作用。

但是OpenAI與微軟的合作,也被許多人批評(píng)為背離了初心,它從一家獨(dú)立的、非贏利的人工智能研究機(jī)構(gòu),變成了一家科技巨頭的戰(zhàn)略棋子;它承諾基礎(chǔ)模型開(kāi)源,但從GPT-3以后,就變得日益封閉。作為OpenAI的聯(lián)合創(chuàng)始人的主要的捐資者,馬斯克提出了尖銳的批評(píng)。OpenAI的核心員工,也有離開(kāi)創(chuàng)辦新的公司,如目前OpenAI的主要競(jìng)爭(zhēng)對(duì)手Anthropic。

OpenAI一年前推出的ChatGPT,捅破了通用人工智能的窗戶紙,驚艷了世界,但其可能帶來(lái)的風(fēng)險(xiǎn),也引發(fā)了巨大的爭(zhēng)議,并且加速了有關(guān)國(guó)家和跨國(guó)治理體系的研究與制定。

根據(jù)OpenAI的架構(gòu),6名董事會(huì)成員可以“確定我們何時(shí)達(dá)到了通用人工智能(AGI)”。

盡管通用人工智能存在很大爭(zhēng)議,OpenAI下了一個(gè)定義:通用人工智能指的是一種高度自治的系統(tǒng),在大多數(shù)經(jīng)濟(jì)上有價(jià)值的工作中勝過(guò)人類(lèi)。奧特曼等人曾認(rèn)為,十年之內(nèi)人類(lèi)將實(shí)現(xiàn)通用人工智能。

而這個(gè)董事會(huì)一旦認(rèn)定OpenAI已經(jīng)實(shí)現(xiàn)了通用人工智能,它將收回對(duì)于商業(yè)機(jī)構(gòu)的獨(dú)家使用與合作,將其用于整個(gè)人類(lèi)。其中,在有關(guān)微軟的條款中提到:“這樣的系統(tǒng)不包括在與微軟的知識(shí)產(chǎn)權(quán)許可和其他商業(yè)條款中,這些條款僅適用于通用人工智能之前的技術(shù)。”

從設(shè)計(jì)的架構(gòu)上來(lái)看,非贏利的OpenAI董事會(huì),擁有至高無(wú)上的權(quán)力。

OpenAI仍然處于虧損狀態(tài),但收入正在快速增長(zhǎng)中,目前年化收入已達(dá)13億美元,明年可能達(dá)到數(shù)十億美元。在年初的那一輪融資中,OpenAI的估值達(dá)到了290億美元。

目前,OpenAI正在以860億美元的估值,進(jìn)行新一輪融資,為其訓(xùn)練GPT-5準(zhǔn)備資金,其中對(duì)齊訓(xùn)練將變得更為重要。

初創(chuàng)公司拋棄創(chuàng)始人,是硅谷反復(fù)出現(xiàn)的故事。蘋(píng)果在1985年解雇了喬布斯;Twitter在2008年解雇了聯(lián)合創(chuàng)始人多西(Jack Dorsey)。他們最終都王者歸來(lái),重新領(lǐng)導(dǎo)自己創(chuàng)辦的公司走向輝煌。

但奧特曼的離職,對(duì)所代表的行業(yè)產(chǎn)生的影響可能會(huì)更大。生成式人工智能可能會(huì)因此受挫嗎?未必!

生成式人工智能所帶來(lái)的影響,已經(jīng)遠(yuǎn)遠(yuǎn)超過(guò)研制更先進(jìn)和安全的大模型。它所引發(fā)的革命,才剛剛開(kāi)始。

也許,奧特曼和布洛克曼在OpenAI的使命已經(jīng)完成。生成式人工智能,正在從實(shí)驗(yàn)室里走向千行百業(yè)。他們振臂一呼,依然會(huì)有包括OpenAI員工在內(nèi)的頂級(jí)人才跟隨,依然會(huì)有從硅谷到世界各地的幾十億甚至上百億美元的投資。生成式人工智能更加廣闊的大門(mén)正在Open。

而OpenAI會(huì)堅(jiān)守其初心,為人類(lèi)研究安全的通用人工智能。它可能不再具備奧特曼所帶來(lái)的商業(yè)想象,但依然需要大量的投資支撐它的研究。OpenAI的價(jià)值,終究可能不是成為另一家科技巨頭,而是成為與科技巨頭比肩而立的社會(huì)影響力公司,把生成式人工智能的潛力,開(kāi)放給無(wú)數(shù)的研究者、創(chuàng)業(yè)者、開(kāi)發(fā)者、使用者。應(yīng)該樂(lè)見(jiàn)OpenAI獨(dú)特治理架構(gòu)走得更遠(yuǎn)。

“謝謝你,讓我們距離未來(lái)更近?！?布洛克曼在社交媒體上收到這樣的回復(fù)。