ADVERTISEMENT
生成式 AI 的爆火，讓矽谷的錢尋找到了新方向。Open AI 去年先後推出的繪畫模型 DALL- E 和對話機器人 ChatGPT，成為了 AIGC 浪潮中的引領者。
前不久，微軟決定向 Open AI 投資數十億美元，新一輪投資也讓其估值達到 290 億美元。似乎又回到了上一次 AI 給人們帶來無限想像的時候。
OpenAI 的創始人山姆·奧特曼（Sam Altman），則成為了這次 AI 新浪潮絕對的代言人。
如果要舉出當下離 AI 技術革命最近的人，山姆·奧特曼（Sam Altman）必然是其中之一。
2017 年，他在 Medium 上寫道「我們已經來到同進化的階段ーーAI 的影響、作用並感染我們，我們改進 AI」。那時候，他仍擔任創業育成 Y Combinator 的總裁，並和伊隆·馬斯克、彼得·提爾、里德·霍夫曼等人一起投資了 10 億美元，共同成為 Open AI 的創始人。
又過了兩年，他將工作重心轉移到了 AI，擔任 OpenAI 的 CEO 直到今天。
去年秋季，投資機構格雷洛克（Greylock) 舉行了一次 AI 主題峰會。在一場與 Open AI 創始人之一的老友里德·霍夫曼，以及在座觀眾的交流中，山姆·奧特曼分享了對於未來的預測：AI 大模型技術，將成為繼行動網路之後，未來最大的技術平臺；而以聊天機器人為介面，加上圖像、音樂、文本等多模態模型的發展，將誕生大型企業。
甚至有一些更激進的預測，比如 AI 科學家將學會自我反覆運算，它不僅僅降本增效，而是為人類帶來新知，增加人類知識的總和。不過如果瞭解他早些時候的想法，便會覺得這樣的預測並不出乎意料，他曾說，人類以超群的智力為傲，或許在 AI 看來，「我們和黑猩猩之間的差異幾乎不值一提。」
他形容「我們正處在AI的懸崖邊上」，他感到巨大的驚喜和危險都近在咫尺。不過，堅信科技的發展會帶來人類進步和經濟增長的他，選擇保持樂觀，為一個更美好的未來努力。
這是當天對話主要內容的編譯，提問有些來自里德·霍夫曼，有些來自現場觀眾，不再單獨標出。
大模型——新的技術平臺
Q：就大模型的API（application programming interface，應用介面）而言，真正的商業機會是什麼？如何在它們上面創建獨特的業務？
A：目前為止，在這個領域裡，可以做一個極好的文案業務、教育服務或者其它。但還沒看到有人追求繼Google之後的兆美元級（產業）。我覺得就要發生了，可能會成功。或者Google會自己做。不過我猜測，隨著未來幾年語言模型品質的提升，作為搜尋產品的Google會遇到第一個嚴肅挑戰。
人們太早嘲笑許多趨勢，人性化聊天機器人介面這個時候真正有作用了。聊天機器人蠻好的，只是太早了。現在它可以工作了。新的醫療服務能以這種方式實現，可以擁有很好的建議或者新的教育服務，這些會是非常大的公司。
不久就會有多模態模型，這將開闢新的事物。這將是一個巨大的趨勢，大型企業將以此作為介面建立起來。更普遍而言，這些非常強大的模型將成為真正的新技術平臺之一，行動電話以來我們還沒有真正擁有過這種平臺。之後總會有新公司大量湧現，所以會很酷。
Q：作為大型語言模型 API 的服務提供者，關鍵是什麼？如何創建一個持久的差異化業務？
A：我認為將會有一小部分的基本大模型。但現在發生的是，一個公司製作了一個大語言模型 (API 可以在此基礎上構建)，中間層會變得非常重要。我對所有試圖培訓自己模型的創業公司持懷疑態度。我覺得不會一直這樣下去。但將會發生的是，有一批新的創業公司採用已有的大模型，並對其進行調整，不僅僅是微調。
會有很多方式，創建醫學模型、或者把電腦當作朋友之類。這些公司將創造很多的長期價值，因為他們將有一個特殊版本。不必創建基本模型，他們可以只為自己或與人共用來創造。它們有獨特的資料飛輪，隨著時間的推移不斷改進。我認為中間那一層會創造很多價值。
Q：一個大型語言模型初創企業，如何區別於另一個大型語言模型初創企業呢？
A：我覺得應該是中間層。從某種意義而言，創業公司會訓練自己的模型，只不過不是從頭開始。他們將採用基礎模型，這些模型經過大量的運算和資料訓練，然後在這些模型之上進行訓練，為每個垂類創建模型。
他們所做的 1% 的訓練對於應用來說真正重要。我認為，這些創業公司將會非常成功，並且與眾不同。這是創業公司能夠做的關於資料飛輪的事。這可能包括一段時間記憶體在的 prompt engineering（提示工程）或基礎核心模型（core base model）。我認為這會變得過於複雜和昂貴，而且世界上也沒有足夠的晶片。（注：提示工程是指將任務的描述、或者提問放在輸入中，讓 AI 模型輸出理想結果的調試過程；ChatGPT 走紅之後，提示工程師這一職務也被人所關注。）
Q：五年內，大多數使用者與基礎模型互動的方式是什麼？prompt engineering 將是許多組織的內部功能嗎？
A：我不認為五年後我們還做 prompt engineering，這將被整合進所有地方。無論用文本還是語音，取決於上下文，只需要語言介面，讓電腦做你想做的任何事情。也許產生一個圖像還需要做一些 prompt engineering，但這僅僅是讓它啟動做這個複雜的事情，或者只是做我的治療師，幫助我弄清楚如何讓我的生活更美好，或者為我使用我的電腦，做這件事情或其他事情。我認為基本的介面將是自然語言。
Q：當有一個偉大的視覺思考者，他們可以從 DALL-E 中獲取更多，因為他們知道如何更深入思考，知道如何在測試中反覆運算迴圈。你認為這是大部分這類事的普遍真理嗎？
A：百分百確定。重要的是思想的品質，和對你想要的東西的理解。所以藝術家仍然會在圖像生成方面做得最好，不是因為他們在圖像最後加上了這個神奇單詞。因為他們能用我沒有的創造性的眼光來表達。
Q：最令你驚訝的是什麼？如果沒有意識到事情已經發展到這一步，你認為會有什麼樣的驚喜呢？
A：人們現在所犯的最大的系統性錯誤，就是他們會說，「好吧，我也許持懷疑態度，但是這種語言模型真的會起作用，當然，圖像和影片也會起作用。但它不會為人類產生新知。它只會做其他人已經做過的事情。還是很棒。這還是讓智力的邊際成本非常低，不能治癒癌症。它不會增加人類科學知識的總和。」 我認為這將被證明是錯誤的，讓目前該領域的專家最感到驚訝的地方。
當 AI 科學家可以自我反覆運算
Q：無論是建立在 API 之上，還是科學家使用 API，有哪些地方的科學會加速，以及如何加速？
A：其中之一是專注科學的產品，比如 AlphaFold。這些都會增加巨大的價值，你會看到這種方式越來越多。我想如果我有時間做點別的事，現在就會興奮地找一家生物公司。
還有另外一件正在發生的事，就是使我們更有效率的工具，它幫助我們思考新的研究方向，編寫一大堆程式，這樣效率就可以提高一倍。這種對一個工程師或科學家的淨產出的影響，將是人工智慧對科學貢獻的驚人方式，它超越了顯而易見的模型。CoPilot 就是一個例子（注：GitHub 和 OpenAI 合作開發的一個 AI 工具，幫助程式師在程式設計過程中自動補全程式碼）。還有更酷的東西。這將是技術發展、科學發展方式的重大變革。目前，這兩個是是巨大的，帶來加速的進展。
但我認為人們開始探索的一件大事是——我不想使用這個詞，因為我覺得它有一種好的使用方式，另一種更可怕——AI可以開始成為 AI 科學家，並自我反覆運算。作為 AI 開發者，首先能把自己的工作自動化嗎？這能幫助解決不知道如何解決的、困難的「對齊問題」（alignment problems）嗎？說實話，我認為這就是未來的發展趨勢。
我堅信，人類進步和長期經濟增長的唯一真正驅動力是促成科學進步的社會結構，然後是科學進步本身。我覺得我們會做得更多。
Q：「對齊問題」可能值得解釋一下？
A：建立一個非常強大的系統，如果它不按我們的意願行事，或者它的目標與我們的衝突，就會變得非常糟糕。
因此，對齊問題是：我們如何建立做最符合人類利益事情的 AGI（Artificial General Intelligence 通用人工智慧）？如何確保人類能夠決定人類的未來？
我們如何避免意外和故意誤用，前者是沒有預料到的錯誤，後者是一個壞人使用 AGI 造成巨大傷害；內在而言的對齊問題是，如果這個東西變成一個生物，視我們為威脅怎麼辦？
我們對如何在小範圍內解決對齊問題有一些想法，已經能夠使 OpenAI 最大的模型（表現得）比想像的要好。我們對下一步做什麼有些想法，但不能誠實地看著任何人的眼睛說，看到了 100 年後將如何解決這個問題。但是，一旦人工智慧足夠好，我們可以問它，「嘿，你能幫助我們做對齊研究嗎？」這將是工具箱裡的一個新工具。
Q：我們之前的一次談話是，能不能告訴 agent(注：AI 中的一個概念，通常指環境中的智慧主體），「不要種族歧視」？
A：當然。一旦模型變得足夠聰明，真正理解了種族主義是什麼樣子，以及它有多複雜，你就可以說，「不要成為種族主義者。」
Q：「AGI」這個術語已經被廣泛使用。有時困惑來自於人們對 AGI 有不同定義。你如何定義 AGI，怎樣知道我們什麼時候實現它？
A：有很多有效的定義。但對我來說，AGI 基本上相當於可以雇傭作為同事的中等人類。它們可以做任何你喜歡與電腦後面的遠端同事做的事，包括學習如何成為一個醫生，學習如何成為一個非常有能力的程式設計師。
一個普通人能做好很多事。我認為 AGI 的一個技能不是任何特定的里程碑，而是學習解決問題的元技能，它可以去做好你需要的任何事情。超級智慧則比全人類加起來還要聰明。
Q：如何看待像 GPT-3 這樣的基礎技術，對生命科學研究進度的具體影響？生命科學研究中速率限制的因素是什麼？我們無法超越這個限制，因為自然法則就是這樣？
A：我認為現有的模型還不夠好，不足以對該領域產生重大影響。至少大多數生命科學研究人員這麼告訴我。他們都看過了，覺得目前在某些情況下能有點説明。我覺得這會改變的。在這些領域中，將會有新的 1000 億到 1 兆美元的公司誕生，這些領域不多。
生物技術的發展速度仍然有限，人體試驗需要很長時間。所以有趣的是，在哪裡可以避免這種情況？我見過的最有趣的合成生物公司是那些能夠讓生物週期變得超快的公司。這對 AI 有好處，AI 會給你很多好主意，但你還是要測試它們，現在就是這樣。
我非常相信創業公司，如果有低成本和快週期，就可以作為一個初創公司，與現有的大公司競爭。我不會選擇心臟病作為這家新公司的第一個目標。不過用生物技術製造東西挺好。另一件事是模擬器還是那麼糟糕。如果我有一家生物與 AI 相結合的創業公司，肯定會設法在這方面努力。
未來十年：當成本的結構發生變化
Q：你認為登月計畫（指 AI 的進化）在未來幾年中有什麼值得人們關注的地方？
A：從更有確定性的事情開始。我認為語言模型將會比人們想像的走得更遠。很多人都說電腦用完了，資料用完了。但是我認為在演算法方面還有很多進展，我們將會有一個非常激動人心的時刻。
另一件事是，真正的多模態模型將起作用。因此，不僅僅是文字和圖像，而是一個模型中，你擁有的每一種形式，都能夠輕鬆地在事物之間流暢移動。會有不斷學習的模型。現在如果你使用 GPT，它會停留在它被訓練的時間。你用得再多，效果也不會好。我想會改變的。所以我對這一切感到非常興奮。
如果想一想，僅憑這一點能解鎖什麼，以及人們能用來開發什麼應用程式，那將是一個所有人的巨大勝利。是一個巨大的進步，一場真正的技術革命——如果這一切都發生了的話。但我認為，我們也可能繼續在新範式上取得研究進展。我們對正在發生的事感到驚喜。我認為所有這些問題都關於新知識的產生 (我們如何才能真正促進人類進步？) 我認為會有系統説明我們。
Q：談一談目前被廣泛討論的領域，例如，AI 和核融合。
A：我們在討論，有沒有人在說「我正在將這些強化學習模型用於核融合或其它什麼」，而且就我們所知，它們都比聰明的物理學家的發明糟糕得多。
一件不幸的事情是，AI 已經成為一個流行詞（buzzword），這通常是個很糟糕的跡象。我希望這並不意味著這個領域即將分崩離析。但從歷史上來看，這對於新的創業公司來說是一個非常糟糕的訊號。我認為這是個人們會說一切都是「這個加上 AI」的領域，很多事情都是真的。我確實認為這將是這一代最大的技術平臺。
我們喜歡在尖端領域做預測，預測和理解規模理論（scaling laws）是怎樣的（或是研究之後），然後說「好，這個新事物將發揮作用，就根據種方式來預測推演。」
這就是我們嘗試營運 OpenAI 的方式，很有信心的時候，就做眼前的下一件事，拿出公司 10% 放手探索，這已帶來了巨大的勝利。
我懷疑五年後是不是還用 transformers。我希望能找到更好的辦法。但 Transformer 顯然是非凡的。因此，我認為，重要的是要始終尋找將在哪裡找到下一個全新的範例。我認為這是做出預測的方法。不要什麼事都關注 AI。我能看到某些東西在起作用嗎？我能看到它是如何變得更好的嗎？當然要留出空間，你不能計畫偉大，但有時研究發生突破。
Q：AI 應用在非常重要的系統，例如金融市場，將會發生什麼？
A：AI 將滲透到每一個角落。我對未來十年的基本模型是，智力和能源的邊際成本將迅速趨於零，而且幅度之大令人驚訝。
必須假設這將涉及到幾乎所有事情。當整個社會的成本結構發生變化時，就會發生翻天覆地的變化。這種變化以前發生過很多次，人們總是容易低估這些變化。我不會對任何變化不大，或沒有應用的東西做出高信心的預測。
Q：AI 可以為人類創造者提供工具，拓展創造力。那麼，讓創造者更有生產力\AI 用創造力自己去做每件事的界限是什麼？
A：至少目前看到的不是取代，主要是增強。在某些情況下，它正在取代。但對於這些領域的人們想從事的大多數工作來說，它是增強。這種趨勢將持續很長一段時間。可能展望 100 年，它可以完成整個創造性工作。
我覺得有意思的是，如果 10 年前問人們，AI 將如怎樣帶來影響，多數人會很有信心（地說），首先它將取代工廠的藍領工作，卡車司機等，然後將取代低技能的白領工作，然後是高技能、高智商的白領工作，比如程式師。也許永遠不會取代那些創造性的工作。現在的發展正好相反。
這裡有一個有趣的提示：預測是多麼困難。更具體而言，我們並不總是很清楚（甚至對於自己而言）什麼技能是困難或容易的，哪些使用到大腦或者不使用，控制身體是多麼難。
Q：你認為 AI 不會改變生活的哪些方面？
A：所有深層生物學的東西。我們仍然會真正關心與他人的互動，仍然會享受樂趣，大腦的獎勵系統仍然會以同樣的方式工作。我們仍然會有同樣的動力去創造新事物，為愚蠢的地位競爭，去組建家庭等。所以我認為人們在 50000 年前關心的東西更有可能是 100 年後人們關心的東西，而不是 100 年前。
Q：在未來的 20 到 30 年裡，隨著人工智慧的不斷發展，會出現主要的社會問題嗎？我們今天能做什麼來緩解這些問題？
A：對經濟的影響是巨大的。如果它像我認為的那樣，一些人做得非常好，一些人做得不好，社會就不會容忍這種情況。所以要弄清楚什麼時候會擾亂這麼多經濟活動，即使 20 年或 30 年後還沒有完全擾亂。我認為很明顯是會發生的。
新的社會契約是什麼？我推測，必須弄清楚，怎樣考慮公平分配財富。涉及 AGI 系統，這將是一個帶有領域屬性的商品，涉及治理，我們如何集體決定它們能做什麼，不做什麼等。找到這些問題的答案將會是一件大事。
我樂觀地認為，人們會想辦法度過自己的時間，並感到非常滿足。我覺得人們擔心的方式有點傻。我相信人們做的會非常不同，但總是能解決這個問題。我確實認為，財富、機會和治理的概念都將發生變化，我們如何解決這些問題，將是巨大的（事情）。
我們進行了世界上最大的 UBI 實驗（Unconditional Basic Income，無條件基本收入）。五年計劃還剩下一年零四分之一的時間。這不是唯一的解決辦法，但我認為這是一件偉大的事情。應該再嘗試 10 件這樣的事情。我們還嘗試了不同的方法，從我們認為將受到最大影響的群體那裡獲得意見，並看如何在週期的早期階段行動。最近我們探索了如何將這項技術用來重新培訓那些早期將受到影響的人，也會嘗試做更多這樣的事情。（注：無條件基本收入，指沒有條件、沒有資格審查，公民可以定期領取由政府或特定組織給予的一筆資金。）
One more thing
我想，沒人知道我們正處在 AI 的懸崖邊上。人們會說「要嘛會很棒，要嘛會很糟糕」，你得做最壞的打算。說一切都會好起來，這並不是一個策略。不過你可能會有某種感覺：我們將到達一個美好的未來，並且盡所能的努力工作，為之奮鬥，而不是一直從充滿恐懼和絕望的地方採取行動。
資料來源：
請注意！留言要自負法律責任，相關案例層出不窮，請慎重發文！