OpenAI 在今年可能只會發佈 GPT-4.5 ,而不是 GPT-5

OpenAI 在今年可能只會發佈 GPT-4.5 ,而不是 GPT-5

儘管 GPT-4 目前在日益錯綜複雜的生成式人工智慧世界中處於頂峰,但其競爭對手,包括 Anthropic 的 Claude 和 Meta 的開源 Llama 都在不斷進步,因此 OpenAI 的旗艦產品大型語言模型(LLM)有必要進行新一輪迭代。雖然不少人預計山姆.奧特曼的非營利組織將在 2024 年發佈 GPT-5,但一些分析師現在斷言,這種預期仍然很牽強,尤其是考慮到所需的資源規模。

GPT每換代一次,運算資源就增加10倍

據人工智慧安全中心(Center for AI Safety)主任丹.亨德里克斯(Dan Hendrycks)稱,OpenAI 的 GPT LLM 每換代一次,所需的計算資源就增加 10 倍。因此,如果 OpenAI 跳過 GPT-4.5,直接跳到 GPT-5,那麼計算需求將比 GPT-4 增加約 100 倍,相當於約 100 萬個 H100 晶片連續運行三個月。

OpenAI 在今年可能只會發佈 GPT-4.5 ,而不是 GPT-5

Anthropic 公司首席執行長達里奧.阿莫代(Dario Amodei)最近指出,目前培養一個最先進的 LLM 需要花費約 10 億美元,預計到 2025/26 年,這一成本將激增到 50 億到 100 億美元之間。重要的是,10 億美元的培訓成本與 GPT-4.5 可以合理推斷出的 10 倍計算資源激增相吻合。

NVIDIA 今年部署的 H100 裝置預計年耗電量約為 13000 GWh,相當於立陶宛和瓜地馬拉等國的年耗電量。到 2027 年,全球資料中心的耗電量預計將達到 85 到 134 太瓦時(TWh)!

OpenAI 在今年可能只會發佈 GPT-4.5 ,而不是 GPT-5

競爭對手正迎頭趕上

GPT-4 的競爭對手正在迅速迎頭趕上。Meta 公司的 Llama 3 LLM(700 億參數)目前在 Arena 排行榜上排名前五。重要的是,Llama 3 現在已經超越了所有其他開源 LLM,這還是在沒有即將推出的 4050 億參數模型的情況下。

OpenAI 在今年可能只會發佈 GPT-4.5 ,而不是 GPT-5

此外,一些專家現在認為,GPT-5 學習的過程必須「重修」,其中包括利用「不完善的人類對話」和整體「幼稚」的訓練過程,才能改善目前已知GPT的相關問題,而這也需要花費很多時間。這與我們最初的觀點不謀而合,即 OpenAI 很可能會在今年發佈一個 GPT-4.5 模型,而不是在 GPT-5 中徹底改變賭注。

 

 

cnBeta
作者

cnBeta.COM(被網友簡稱為CB、cβ),官方自我定位「中文業界資訊站」,是一個提供IT相關新聞資訊、技術文章和評論的中文網站。其主要特色為遊客的匿名評論及線上互動,形成獨特的社群文化。

使用 Facebook 留言
發表回應
謹慎發言,尊重彼此。按此展開留言規則