來源:未盡研究公號
直到周五夜晚,OpenAI的聯(lián)合創(chuàng)始人、董事長兼總裁布洛克曼(Greg Brockman)還處于五雷轟頂之后的懵懂之中。他需要回顧一下,過去的24小時內(nèi),究竟發(fā)生了什么。
“政變” 發(fā)生
上周的舊金山和灣區(qū),洋溢在APEC首腦峰會的熱鬧氣氛中,尤其是兩位大國首腦相見,分外矚目。
OpenAI的聯(lián)合創(chuàng)始人、CEO奧特曼 (Sam Altman),周四那天出現(xiàn)在APEC的工商峰會上,晚上還參加了一個火人節(jié)的活動,大談AI與藝術。
他收到了另一位聯(lián)合創(chuàng)始人,首席科學家蘇茨克沃( Ilya Sutskever)的短信,約在周五中午談下。
周五中午,奧特曼打開了蘇茨克沃發(fā)來的Google Meet鏈接,發(fā)現(xiàn)除了布洛克曼之外,還有其他3位獨立董事。蘇茨克沃告訴奧特曼,他被炒掉了,而且這個消息會很快發(fā)布。
官方聲明稱,因為對董事會不坦誠,奧特曼被免去了CEO和董事職位。奧特曼一小時后即在X上宣布離開OpenAI,并稱稍晚會宣布他下一步的打算。
12:19,布洛克曼收到了蘇茨克沃的一條短信,要求快速通個電話。4分鐘后,他也收到了一個Google Meet鏈接,點開之后,馬上就被告知,自己被解除了董事會的職務,但因為他對公司舉足輕重,還是保留了他的總裁職位。他還被告知,奧特曼被炒了,已經(jīng)在官網(wǎng)上宣布了。
官方聲明稱,布洛克曼將向臨時CEO Mira Murati匯報,她去年5月剛升任公司CTO。但布洛克曼聽到消息后,立刻宣布辭職。
這件爆炸性的新聞,沖擊了整個公司,除了Mira。她在周四晚上已經(jīng)知道,自己將接替奧特曼,擔任臨時CEO。OpenAI內(nèi)部像是炸了鍋,Mira不得不安撫全公司,與微軟的合作將繼續(xù)。她轉(zhuǎn)述了微軟CEO納德拉和CTO 斯科特(Kevin Scott)的表態(tài),仍然對OpenAI保持“極度信任”。
當天晚上,三名高級人員辭職,他們是公司研究總監(jiān)Jakub Pachocki,負責評估人工智能潛在風險的團隊負責人Aleksander Madry, 以及工作了7年的研究員Szymon Sidor。預計這個周末,OpenAI還將會有大批員工辭職。
如日中天的OpenAI,陷入創(chuàng)辦八年以來最大的危機。
自左至右:Mira,奧特曼,布洛克曼,蘇茨克沃
安全與盈利之間的沖突
這一場OpenAI內(nèi)部的“政變”,微軟居然事先一無所知,直到消息公布前幾分鐘?？上攵?所有其他的投資人,也都蒙在鼓里。
這暴露了OpenAI的非贏利與贏利雙層架構(gòu)之間潛在的矛盾。最重要的投資方,無法在公司的治理上發(fā)揮作用。而現(xiàn)有非贏利部分的董事會,由于無人持股,6名董事采取一人一票制,潛藏了不穩(wěn)定的風險。
OpenAI剛剛舉辦的開發(fā)者大會,加速了矛盾爆發(fā)。在OpenAI內(nèi)部的“非贏利派”與“贏利派”之間,關系近來一直緊張。蘇茨克沃領導著公司的研發(fā)團隊,他代表的非盈利派強調(diào)安全,強調(diào)OpenAI的基本價值觀;而奧特曼所代表贏利派強調(diào)加快發(fā)展,在開發(fā)者日那天,推出了定制GPT商店,并且提供給開發(fā)者API助手,啟動了與開發(fā)者分享收益的商業(yè)變現(xiàn)模式。
但激增的用戶,很快超出了OpenAI的承受能力,奧特曼不得不宣布暫停新的ChatGPT Plus用戶注冊。這進一步增加了蘇茨克沃對安全的擔心。
事實上,在董事會中,以奧特曼和布洛克曼為一派,以蘇茨克沃和另一位董事Helen Toner為另一派,對于接下來發(fā)展的速度,意見分歧日益擴大,雙方漸行漸遠。
董事會其他成員在一些重大的戰(zhàn)略問題上,也與奧特曼意見相左。如奧特曼想從中東主權財富基金融資數(shù)百億美元,開發(fā)芯片挑戰(zhàn)英偉達。他還找過孫正義,想用軟銀的數(shù)十億美元投資,聯(lián)手蘋果前設計師Johny Ive ,打造一家AI原生的硬件公司。
還有知情人士透露,蘇茨克沃們對奧特曼試圖借助OpenAI的名聲籌集資金感到不滿,他們擔心新的業(yè)務可能不會采用合適的治理模式。
有報道稱,周四上午十點鐘左右,蘇茨克沃找到了另外三位董事,讓兩位技術人員向董事們說明了系統(tǒng)面臨的安全和穩(wěn)定等方面的嚴重隱患,這個代表了董事會三分之二席位的會議,隨即做出了炒掉奧特曼的決定。
奧特曼的支持者稱之為一場“政變”。
董事會成員“缺乏經(jīng)驗”
董事會用了三分之二的票數(shù),即蘇茨克沃與三位獨立董事達成一致之后,做出了炒掉奧特曼的決定。但并沒有召開全體董事會議,而且這樣的董事會議,也沒有通知身為董事長的布洛克曼。公司的兩位最重要的創(chuàng)始人、CEO和董事長,根本沒有參會和投票的機會,各自在一次Google Meet會議里,就被趕出了公司。
“如果我放開說,OpenAI董事會就會追著要我所有股份的全部價值?！?/p>
OpenAI應該是當今最重要的一家非上市公司,我們看下做出這樣決定的董事會成員:
獨立董事Adam D’Angelo, Quora創(chuàng)始人,CEO。2018年4月加入董事會。他認為OpenAI要堅持非盈利,控制盈利上限部分,以保證不成為硅谷的另外一家科技巨頭。
獨立董事Tasha McCauley,今年才開始擔任蘭德公司兼職高級管理科學家。之前她有過兩次不成功的創(chuàng)業(yè),嫁給了猶太裔知名演員和創(chuàng)業(yè)者Joseph Gorden-Levitt。她積極參與“有效利他主義(Effective Altruism)”運動。
獨立董事Helen Toner,2021年9月加入董事會,喬治敦大學安全與新興技術中心(CSET)戰(zhàn)略與基礎研究資助主任。她以前是Open Philanthropy的一位政策研究人員,該機構(gòu)曾向OpenAI捐款;加入智庫CSET之前,她曾住在北京,研究過中國的人工智能創(chuàng)新生態(tài);該智庫在中美人工智能與地緣政治政策研究中發(fā)揮著重要作用。
Helen和Tasha,還都加入了英國的人工智能治理中心(GovAI),該機構(gòu)關注的重點是通用人工智能系統(tǒng)可能對安全構(gòu)成的威脅。
蘇茨克沃成為了公司僅存的聯(lián)合創(chuàng)始人。他出生在俄羅斯,從以色列移民到加拿大,是深度學習之父Geoffrey Hinton的博士生,歷經(jīng)DeepMind、Google AI、OpenAI,過去十年,他處于強化學習和深度學習的最前沿,并把通用人工智能推到了全新領域。
他主張在建立超級人工智能的過程中,建立起與人類的超級對齊(superalignment)。他正帶領團隊,動用OpenAI的20%的算力,力爭在AI變得比人類聰明前,從技術上建立內(nèi)在的監(jiān)督機制。他在最近的一次社交媒體上發(fā)言警告說:“如果你把智能的價值,凌駕于人類所有其他的品質(zhì)之上,你就要承擔糟糕的后果?！?/p>
在董事會中,奧特曼與蘇茨克沃,就OpenAI如何在安全與賺錢之間平衡,發(fā)生了尖銳的沖突。奧特曼主張推進商業(yè)化應用,試圖擴大OpenAI的業(yè)務范圍,并且張羅下一輪融資;而蘇茨克沃認為,要堅持研究安全和造福人類的通用人工智能,在盈利方面不能急于求成。
正是這四位OpenAI的董事,不由分說就同時趕走了另外兩位董事,而且是受到高度認可的聯(lián)合創(chuàng)始人,這在硅谷被許多創(chuàng)業(yè)者、投資機構(gòu)詬病。
他們首先質(zhì)疑這個董事會中,有成員缺乏經(jīng)驗擔任這么重要的一家公司的董事。與OpenAI早期的董事會成員,如馬斯克、領英創(chuàng)始人霍夫曼、以及硬科技投資人科斯拉(Vinod Khosla)等經(jīng)典的硅谷創(chuàng)始人相比,目前的董事會偏弱,還被硅谷媒體說成有一些“有效利他主義” 的味道。
其次,這么重大的事件,OpenAI的前任董事、最重要的投資人,都被蒙在鼓里。尤其是微軟在OpenAI投入了上百億美元,就在消息發(fā)布前幾分鐘才知道。更不用說其他投資人了,他們幾乎囊括了硅谷和全球最頂級的投資機構(gòu)。
微軟CEO納德拉,立刻在博客上發(fā)表聲明:微軟與OpenAI擁有長期協(xié)議,可以使用一切(技術),將繼續(xù)與Mira合作,推進人工智能戰(zhàn)略。
治理架構(gòu)的內(nèi)在矛盾
不管因為什么原因,奧特曼和布洛克曼是OpenAI最重要的締造者,他們已經(jīng)成為自己設計的治理結(jié)構(gòu)的犧牲品。
2015年,OpenAI是以非盈利機構(gòu)的身份成立的。它的目標是建立一個達到和超過人類水平的、開放的和造福人類的通用人工智能系統(tǒng)。
后來,因為包括馬斯克等人承諾的10億美元資金,僅到位1億多美元,先進算力與一流人才的成本巨大,公司研究與運營難以為繼,決定成立一家盈利性質(zhì)的子公司OpenAI Global LLC,它由非盈利的OpenAI 完全控制。
OpenAI Global 可以對外融資,但為投資者設定了一個利潤分配上限。據(jù)媒體披露,OpenAI的利潤分配可以被劃分為四個階段:產(chǎn)生利潤后,先讓馬斯克等的首批投資者退出;后續(xù)利潤的75%分配給微軟,直到微軟收回其130億美元的投資;在利潤達到920億美元之后,微軟的持股比例下降到49%,剩余部分利潤由其他風險投資者和OpenAI的員工分享;當利潤達到1500億美元之后,微軟和其他風險投資者的股權將無償轉(zhuǎn)讓給OpenAI的非營利基金。
其中最重要的投資者當然是微軟,在2019年、2021年、2023年三次投資OpenAI,累計投資上百億美元。但從最終意義上看,微軟并不擁有任何OpenAI的股權,而更像是一個商業(yè)合作伙伴,包括微軟可以獨家獲得OpenAI所有的技術,OpenAI使用微軟的Azure云訓練其基礎模型,并且通過其API提供的服務,都要使用微軟的云等等。
微軟提供的資金、云服務,以及微軟與OpenAI在應用方面的商業(yè)合作,都對OpenAI能在長達8年的時間內(nèi),心無旁騖地專注于大型語言模型的研究,并且最終取得突破,起到了關鍵作用。
但是OpenAI與微軟的合作,也被許多人批評為背離了初心,它從一家獨立的、非贏利的人工智能研究機構(gòu),變成了一家科技巨頭的戰(zhàn)略棋子;它承諾基礎模型開源,但從GPT-3以后,就變得日益封閉。作為OpenAI的聯(lián)合創(chuàng)始人的主要的捐資者,馬斯克提出了尖銳的批評。OpenAI的核心員工,也有離開創(chuàng)辦新的公司,如目前OpenAI的主要競爭對手Anthropic。
OpenAI一年前推出的ChatGPT,捅破了通用人工智能的窗戶紙,驚艷了世界,但其可能帶來的風險,也引發(fā)了巨大的爭議,并且加速了有關國家和跨國治理體系的研究與制定。
根據(jù)OpenAI的架構(gòu),6名董事會成員可以“確定我們何時達到了通用人工智能(AGI)”。
盡管通用人工智能存在很大爭議,OpenAI下了一個定義:通用人工智能指的是一種高度自治的系統(tǒng),在大多數(shù)經(jīng)濟上有價值的工作中勝過人類。奧特曼等人曾認為,十年之內(nèi)人類將實現(xiàn)通用人工智能。
而這個董事會一旦認定OpenAI已經(jīng)實現(xiàn)了通用人工智能,它將收回對于商業(yè)機構(gòu)的獨家使用與合作,將其用于整個人類。其中,在有關微軟的條款中提到:“這樣的系統(tǒng)不包括在與微軟的知識產(chǎn)權許可和其他商業(yè)條款中,這些條款僅適用于通用人工智能之前的技術。”
從設計的架構(gòu)上來看,非贏利的OpenAI董事會,擁有至高無上的權力。
OpenAI仍然處于虧損狀態(tài),但收入正在快速增長中,目前年化收入已達13億美元,明年可能達到數(shù)十億美元。在年初的那一輪融資中,OpenAI的估值達到了290億美元。
目前,OpenAI正在以860億美元的估值,進行新一輪融資,為其訓練GPT-5準備資金,其中對齊訓練將變得更為重要。
初創(chuàng)公司拋棄創(chuàng)始人,是硅谷反復出現(xiàn)的故事。蘋果在1985年解雇了喬布斯;Twitter在2008年解雇了聯(lián)合創(chuàng)始人多西(Jack Dorsey)。他們最終都王者歸來,重新領導自己創(chuàng)辦的公司走向輝煌。
但奧特曼的離職,對所代表的行業(yè)產(chǎn)生的影響可能會更大。生成式人工智能可能會因此受挫嗎?未必!
生成式人工智能所帶來的影響,已經(jīng)遠遠超過研制更先進和安全的大模型。它所引發(fā)的革命,才剛剛開始。
也許,奧特曼和布洛克曼在OpenAI的使命已經(jīng)完成。生成式人工智能,正在從實驗室里走向千行百業(yè)。他們振臂一呼,依然會有包括OpenAI員工在內(nèi)的頂級人才跟隨,依然會有從硅谷到世界各地的幾十億甚至上百億美元的投資。生成式人工智能更加廣闊的大門正在Open。
而OpenAI會堅守其初心,為人類研究安全的通用人工智能。它可能不再具備奧特曼所帶來的商業(yè)想象,但依然需要大量的投資支撐它的研究。OpenAI的價值,終究可能不是成為另一家科技巨頭,而是成為與科技巨頭比肩而立的社會影響力公司,把生成式人工智能的潛力,開放給無數(shù)的研究者、創(chuàng)業(yè)者、開發(fā)者、使用者。應該樂見OpenAI獨特治理架構(gòu)走得更遠。
“謝謝你,讓我們距離未來更近?！?布洛克曼在社交媒體上收到這樣的回復。
