奧特曼悔不當初：OpenAI因無知選擇“非營利”

OpenAI最新互動資料，就這麼水靈靈被奧特曼全抖出來了：

每週超過 3億活躍使用者

每天使用者們在上面傳送 10億條訊息

130萬美國開發者使用OpenAI開發，全球數量更龐大

使用者快速增長和頻繁使用帶來的計算量劇增，OpenAI自己都沒預料到。

奧特曼親口表示，如果當時知道這些，OpenAI一開始就不會選擇非營利結構。

以上，是OpenAI CEO奧特曼在剛剛結束的2024年紐約時報DealBook峰會上接受採訪時的最新發言。

他往外吐露的當然不止這些，還有：

和微軟的微妙關係

對馬斯克xAI對壘的心態

預計能實現Super Intelligence的ddl

AGI來得比想象中更快，但影響或許遠低於預期

繼續走Scaling AI的三大關鍵

轉道以營利為導向的背後考量

為什麼不拿股份只領年薪

對AI安全當下狀況的思考

AI出現後對人類創作者的保障

（即將）作為一名父親，怎麼看待AI

……

與此同時，奧特曼不忘抽空發了條推特，丟下了足以讓全球所有科技工作者或緊張或雀躍的Christmas gift——

OpenAI從今天起，連續12天，每天直播1場，釋出一堆大大小小的新事物。

好吧，在正式開啟12月的狂歡前，讓我們一起看看奧特曼的採訪都說了些什麼新東西。

37分鐘完整影片放在文末，想自己觀看的朋友們可以下拉直通（手動狗頭）。

（以下內容以奧特曼本人口吻展開；部分內容在不改變發言者原意的基礎上，做了刪減調整）

Topic 1：不曾預料推出ChatGPT是正確的決定

你知道的，在某個時刻，出於某種原因，你突然就會清楚一項技術正在發揮作用。

那時候在OpenAI內部，我們明顯感知到語言模型將繼續拓展，它們可以做所有的有用的事。

可能會問，為什麼是兩年前釋出ChatGPT，而不是在推出GPT-3和API的時候，或者是在晚幾個月推出GPT-4的時候？為什麼是那個確切的時刻在釋出了？

早期的GPT-3和API，對很多事情都無能為力。但它作為殺手級應用的應用場景之一，就是開發者可以在playground裡真正呼叫API之前，和ChatGPT聊聊天，快速測試一下想法能不能跑通。

是的沒錯，人們對著GPT-3無所不談，這就是人們使用它的主要目的。

所以我們團隊就覺得，如果這就是人們想要的，我們就讓它變得更易用吧！不用註冊開發者賬號，也不用其它繁瑣步驟。

所以我們說，如果這是人們想要的，我們可以讓它更容易使用。

使用者不必註冊開發者賬戶並執行所有這些其他操作，甚至根據大夥兒最喜歡的使用場景，我們可以讓它更擅長對話聊天。

於是我們就決定：Fine，把它變成一個產品吧！

本來一直計劃用GPT-4作為背後模型，因為我們在2022年8月左右就完成了GPT-4。但我們還是把GPT-4往後壓了一段時間。

說回開頭的“某個時刻”。

我們一直堅信世界上會有一個重要時刻。

但你要說我們當時就知道推出ChatGPT是個正確的決定？當然不！

Topic 2：預計明年，對AI持懷疑態度的人會“哇”

萬事萬物都存在不確定性，就像人們對於Super Intelligence（超級智慧），也有不同的定義。

兩年前我說過，人類可能在幾千天內擁有Super Intelligence。兩年前，我覺得我們處於一個相當陡峭的曲線上，並且開始睜眼看世界。

因此我覺得“幾千天內擁有Super Intelligence”是可能的，如果進展順利的話，也許這一天還來得很快——我們當然希望前方是大道坦途，就像我們相信深度學習是人類難以置信的新發現一樣。

我們認為我們可以觸達Super Intelligence，並且OpenAI有責任把AI推進到這個階段，然後讓大家廣泛從中獲益。

是的，我們相信我們可以，並且現在也相信我們可以。

但一切充滿未知，還有很多艱苦的工作，研究啊、工程啊之類的。

在不遠的將來，我們可以擁有Super Intelligence。

我估摸著大概2025年吧，我們將擁有人們矚目的AI系統。到時候，那些現在仍持懷疑態度的人也會出乎他們意料的一切“哇”出聲。

你知道的，可以給AI系統一個很複雜的任務，就像給一個聰明的人佈置任務一樣。它需要花點時間，使用一些工具，然後創造一些有價值的東西

——我預計這種情況會在明年發生。

Topic 3：Scaling將繼續，關鍵在計算+資料+演算法

幾周前我釋出了一條推文：

there is no wall

不故弄玄虛地說，Scaling會繼續下去。

好多人老是喜歡猜來猜去，比如是不是撞牆了呀、Scaling還有沒有效啊……有的時候我都被大家的猜測震驚到。

為什麼不直接看看進展曲線呢？在我看來，賭一個指數對抗另一個指數是個糟糕的選擇。

這麼說吧，Scaling有三個關鍵：算力+資料+演算法。

它們之間沒有固定的搭配比例，比如如果有更好的資料，可以少計算些；或者如果有更多的算力，可以用它弄合成資料，製作更多資料。

有段時間，擺在我們面前的是難以置信的收益，還是輕輕鬆鬆獲得的那種；不過最近，我們在演算法方面取得了很多進展。

在不同的時間，得到的回報可能不同。

但說實話，演算法的進步是“the big, the biggie, the biggest one”。

Transformer就是最近的一個極佳案例。這種情況很少見，但一旦發生，就受益無窮。

但實際上，這三個領域需要同步推進，不同時間可能某一個方面的回報會更高，但我們始終關注這三個領域的協調發展。

雖然現實是我認為所有的事情都存在競爭，但算力競爭（the computer one）是最有趣、最戲劇化、最重要的一環，它最受關注。

這真的很重要，我不想忽視它，但大家都異常努力，保不齊誰能想到更好的演算法、誰能保護新的資料來源。

所以我認為算力、演算法、資料三者都需重視。

不過！

無論如何，我們還有一堆新的好東西，所以我們正在做一些有趣的事：

從明天開始，我們將進行為期12天的OpenAI直播，在接下來的12個工作日內，每天推出一些東西或進行演示。

這裡就不多劇透了，但總之是持續的進步。

Topic 4：“從沒聽過誰因為用微軟的服務而憂心”

（採訪者提及：你們和微軟有合作關係，OpenAI現在依賴他們……但很明顯，你們正在解綁）

我不認為我們在劃清界限。

我是不會假裝說完全沒有分歧或挑戰，但總體上，這種合作對兩家公司來說都是非常積極的事情，我們也期待未來能一起做更多的事情。

也許我們有一些想法，外界會覺得非常瘋狂，比如高風險、高回報。

OpenAI需要確保獲取足夠的、我們想要的算力資源，但這並不意味著OpenAI需要成為一家擅長搭建超級叢集的公司，我們可以依賴和微軟的合作。

這或許就是我自己成長習慣帶來的結果。

之前的創業者每個人都必須搞硬體，要搞計算叢集。然後突然之間，AWS改變了這個局面，不是嗎？

所以我一直持開放態度。一開始可能必須全靠自己，但隨著時間的推移，一些整合工作重要性會增加。

而且OpenAI更願意專注於我們擅長的研究和產品開發。

11月1號的時候，ChatGPT推出了AI搜尋體驗，這是這麼久以來我最喜歡的我們的產品/功能。我是重度使用使用者，它完全改變了我對網際網路的使用方式。

現在我們的產品已經擴充套件到了相當大的規模：

2年前，ChatGPT門可羅雀，但現在每週有超過3億的活躍使用者，每天使用者向ChatGPT傳送超過10億條訊息，還有大概130萬美國開發者在使用，全球總數就更別提了。

所以我們需要大量的算力，比我們預期中的還要多得多。

從商業史上來看，迅速擴張是一件不尋常的事情。不過，我從沒聽過有人因為使用微軟的服務而心煩意亂。

我們有自己擅長的事，微軟也真的很擅長自己的業務，的確也需要在兩者之間找到平衡。

但我再重申一遍，我們之間並沒有劍拔弩張，總體來說，我認為兩者的動機是一致的。

Topic 5：AGI飛速來臨，但影響力將遠低於預期

之前放話說，OpenAI的目標是視AGI為里程碑。

一路上我們也給自己留了很多機動空間，因為我們不知道會發生什麼。

但我猜哈，AGI的到來比大多數人預期得更快，但其實際影響卻可能遠低於大眾想象。

AGI出現後，世界會繼續運轉，只是經濟發展會更快，增長速度加速。

更大的挑戰來自於AGI之後的Super Intelligence，那才是我們需要更加關注的階段。

但是從AGI進化到Super Intelligence，是會有一個漫長而曠日持久的過程的。

然而即使在AGI時刻，有一些事情也要提起重視。比如對一些社會慣性的影響，在AGI到來的幾年後會更加凸顯；隨著每一次重大技術變革，都會有許多人的工作變動或流動，但我認為我們總能找到事做。

但我敢打賭，我們從未見過它發展得這麼快。我相信研究人員會想方設法儘可能規避危險。

我這人吧，天生過於樂觀，我的意思是世界上最聰明的人會解決一系列技術問題，OpenAI正在盡全力工作，其他人也正在非常努力地工作，我們還有令人難以置信的深度學習可以幫助我們解決這些非常困難的問題。

AGI帶來的不僅是社會的影響，也不僅僅是創造大量工作和經濟價值的事情。

但就像真正的Super Intelligence一樣，這個系統不僅比你或我更聰明，而且比我們所有人加起來還要聰明，真的非常不可思議。

我們在技術方面負責讓它安全，肯定也會有相關政策問題出爐，我還覺得應對這種情況必須全球協調。

Topic 6：迭代式發展是保障安全的最佳途徑

AI大模型是一項發展非常迅速的新技術，新到一開始我們都不知道如何用它協調各方。

而現在，社會上大多數人普遍認為它是可以接受的安全和可靠的安全。

要準確定義ChatGPT意味著什麼其實很難。

肯定有人認為和ChatGPT聊天不夠安全，它允許一些不應該或者不能做的事情；有些人會說，可以找ChatGPT聊天喲，它可能比我們想象中要安全些。

但下一個系統的計劃是啥？我們該怎麼辦？有人會堅持推出這樣的AI系統就是不安全的，因為它加速了全球競爭，這就減少了我們在安全方面的工作時間。

所以，我們堅持己見，按照自己的立場迭代部署。

我們必須將這些系統推向世界，社會和技術必須共同發展。同時又必須在風險較低的時候就入局，要了解人們會如何使用它、它在哪些方面不靈光、它能起到什麼作用。

還有其他人說，當然有益處了，但那不值得付出帶來的代價呀！

但我們堅持認為，這種迭代式的方法才是通向安全的最佳途徑。

Topic 7：偏愛把AI類比為電晶體

如果把深度學習看作一種類似物理定律的東西，然後人類發現了這個重要的科學規律，那麼這部分技術肯定會被很多人掌握的。

關於AI的類比，每個人都有自己的看法：有人把它比作電力，有人說它像工業革命，還有人說它像文藝復興。

我個人偏愛把AI比作電晶體。

電晶體是一項科學發現，最初只有少數公司掌握，但它徹底改變了我們的社會，並實現了驚人的規模化。多說一句，而當人們談論“規模化定律”時，我認為最好的類比是摩爾定律。

後來，電晶體被全球範圍內的企業廣泛使用，今天我們周圍的一切幾乎都離不開電晶體，但我們不會說某樣東西是“電晶體裝置”，也不會稱Google是“電晶體公司”，儘管他們的存在離不開電晶體。

我認為AI會有類似的趨勢，未來會出現令人震驚的強大模型，廣泛應用於各個領域。

人們將無法想象他們使用的裝置、產品和服務不是智慧的，而這些企業和產品可能會自稱AI公司或AI產品。從某種意義上來說，AI本身作為一種“引擎”會變得商品化。

這沒有問題，這很好——科學應該普及到整個社會，這也是我們專注於構建ChatGPT等產品的原因。

Topic 8：從小視馬斯克為超級英雄，他起訴是因為“我們很棒”

馬斯克的xAI是OpenAI的競爭者，是一個非常值得嚴肅認真對待的競爭對手。

這一點我們從一開始就預料到了，而且現在來看，xAI的許多前沿模型已經和我們的非常接近了。

我對他們能夠這麼速度地建立起超級叢集非常之敬佩。

最近馬斯克正在起訴我們，這讓我感到非常難過。

我從小就把馬斯克視為超級英雄，他為世界所做的事情曾讓我覺得極為了不起。

當然，現在我的感受有所不同，但我仍然很高興他存在。

這不僅僅是因為我認為他的公司很棒——這也的確是事實——還因為他在一個大多數人對未來缺乏雄心的時代，推動了很多人，包括我自己，更有野心地去思考問題。

我對此充滿感激，或者說欣賞。

我們共同創立了OpenAI，但後來他完全不信任OpenAI，選擇了自己的方向。

這也沒問題。

我一直認為馬斯克是個建設者，一個非常在乎自己能否成為“那個關鍵人物”的人。我覺得他是那種會在市場和技術領域競爭的人，而不是訴諸法律手段。

無論他的指控是什麼，我認為他之所以這樣做，是因為他是競爭者，而我們做得很好。

這讓我感到遺憾。

最近《華爾街日報》有一篇文章推測我們是否忌憚馬斯克的影響力。其實我並不擔心，當然，可能最終我會錯，但我堅信馬斯克會做正確的事情。

利用政治權力來打擊競爭對手、為自己的企業謀利，我不認為人們會容忍這種行為，也相信馬斯克也不會這麼做。

儘管他身上有很多我不喜歡的地方，但如果他這麼做，那將完全違揹我相信他珍視的核心價值觀。

至於他認為OpenAI在阻止一些潛在投資者同時支援他創立的xAI和其他競爭者，絕無此事。

我們的非常明確地表示：

如果有人投資我們，同時也想投資我們的競爭對手，這是完全可以的，但我們會限制他們的資訊訪問權。

這是我們公司規模和影響力下的一個非常常見條款。我們不會再向這些投資者披露我們的研究路線圖等資訊，但他們仍然可以投資競爭對手。

很多人對此都覺得合理。

Topic 9：早知今日，OpenAI一開始就不選非營利模式

現在我想談談我們為何最初選擇非營利模式。

起步時，OpenAI並沒有計劃成為一家產品公司，也不瞭解我們需要多大規模的資本。

如果當時知道這些，我們會選擇不同的結構。

很難想象，但2016年的環境與現在完全不同。當時，我們沒有研究出大語言模型，也沒有任何產品。我們的重點是撰寫論文、開發新的強化學習演算法、研究理論、讓機器人玩電子遊戲，甚至是開發一隻機械手。

那時候，我們不確定是否會有產品或收入來源，也不清楚是否需要。

後來，隨著GPT-1的釋出以及其他工作成果，我們意識到需要大規模擴充套件。

同時，馬斯克也停止為OpenAI提供非營利的資金支援，我們無法找到其他資金來源，於是決定嘗試設立一個有限利潤模式。

這個模式在一段時間內有效，也在某種程度上仍然適用。但隨著我們進入下一個發展階段，所需的資金規模已經開始挑戰這種非營利機構控制下的模式。

但不管怎樣，非營利組織都不會消失。

例如，董事會討論過的一種可能性是建立一個由非營利機構持有大部分股份的公共利益公司（PBC），然後利用這筆財富服務於非營利機構的目標。當然也有一些其他的想法。

Topic 10：想回到過去拿一點股份，只為現在不用回答“為啥不拿”

我從未在公司裡拿過股份，年薪是76,000美元。

這方面確實有很多媒體報道，不過我沒有拿股份這事兒說出去確實有點奇怪。

如果可以回到過去，我可能會選擇拿一點點股份，只是為了現在不用向別人回答這個問題（笑）。

我已經解釋了很多次，我現在的工作是世界上最有趣、最酷的工作，這是我職業生涯之後的夢想工作。

我的職業生涯已經不錯了，現在我可以把時間花在自己喜歡的事情上，參與這些專案，即使收入很少甚至沒有報酬，這對我來說也不奇怪。

但不管怎麼說，這種解釋往往不能被完全理解。所以我確實有點後悔沒拿一些股份。

但這並不會影響我的工作態度或努力程度，但可能會讓我和投資者之間的目標更清晰一些，而且這確實會讓融資更容易。

就像有些投資者因為我沒有股份，所以選擇不投資OpenAI——這種情況出現過好幾次。

對我來說，這份工作是我兒時的夢想……雖然並不是每天都很輕鬆，也有很多讓我“撞牆”的時刻。

但能夠參與AGI的研發，和世界上最聰明的研究者一起工作，參與這場瘋狂的冒險，這就是我一直以來的夢想。

這些奇怪的問題和狀況都無法掩蓋一點：

對我來說，這種經歷比任何額外的金錢都更有價值。

Topic 11：支援類“學習權”的新標準保障創作者權益

《紐約時報》目前正在對OpenAI和微軟提起訴訟，涉及訓練模型時使用內容的問題。有很多內容創作者，他們的生計依賴於創作。

我認為我們確實需要一套新的協議或標準，無論你怎麼稱呼它，用來保障創作者獲得應得的回報。

我非常支援“學習權”這種理念。

就像如果一個AI閱讀了一本物理學教科書並學會了物理學，它應該可以像人類一樣將這些知識應用到其他事情上。我覺得版權法和合理使用的某些部分需要繼續適用。

但與此同時，還有許多新探索的方向。

比如，我一直非常關注如何實現微支付（micro payments）系統。

假如某人生成了Aaron Sorkin（美國著名的美國編劇、導演和製片人，代表作《新聞編輯室》《白宮風雲》《史蒂夫·喬布斯》）風格的劇本，創作者可以選擇允許他們的名字、形象和風格被使用，並從中獲得收益。

△

Aaron Sorkin

不過，我認為關於現在討論AI合理使用的層面是錯誤的。

當然，我們非常支援類似“學習權”的方式。但我相信我們確實需要新的經濟模式，幫助創作者開闢更多的收入來源。

至於《紐約時報》的立場，我不想在別人的“家”裡做客時表現得無禮。

這場對談發生在《紐約時報》的DealBook峰會，所以採訪者聽後笑道：“我們會對此進行討論和辯論，或許法庭見。”

Last Topic：從人類存在的意義來說，新技術的發展意義渺小

明年我可能會和愛人要一個孩子。

說實話，沒有什麼事情像迎接一個孩子這樣讓我感觸深刻。

即使只是準備迎接孩子，就讓我覺得AGI變得微不足道了——雖然我對AGI充滿了熱情。

但相比之下，對孩子的期待讓我感到更加興奮。這讓我重新審視了什麼才是真正重要的。

這其實反映了一個普遍現象。

我們一直在開發令人驚歎的新技術，每次都有類似的討論：工業革命時，機器搶走了我們的工作；計算機革命時，電腦取代了許多職業。

那麼，這意味著什麼呢？

從人類存在的意義來說，其實並沒有太大變化。經濟會增長，人們的工作內容會發生變化。但無論技術多麼先進，人們對孩子的愛始終遠遠超過對AGI或其他技術的關注。

深層次的人類驅動力是如此強大，而且已經持續瞭如此之久，以至於即使我的孩子在一個截然不同的世界中成長，某種程度上，這個世界對他們來說依然會和現在一樣。