社交媒體X上的一則關于“未來AI競爭態勢”的推文近期吸引了科技巨頭馬斯克的注意，并獲得了他的點贊。巧合的是，馬斯克旗下的xAI公司也于上周正式推出了Grok 3大模型。
這則引人矚目的推文由美國知名TMT領域投資人Gavin Baker發布，馬斯克對此評價道：“分析頗為深刻。”接下來，讓我們深入了解Baker究竟提出了哪些見解。
核心觀點：Baker認為，AI行業的變革步伐正在加快，OpenAI的領先優勢在未來或將縮減。他強調，數據將成為未來競爭的核心要素，缺乏獨特且有價值數據的前沿模型將面臨迅速貶值的風險。在這方面，谷歌、meta等巨頭憑借數據壟斷，能構建起堅實的競爭壁壘。
具體分析：自2022年夏季至2024年春季，OpenAI憑借其先發優勢和對傳統預訓練“縮放定律”（Scaling Law）的積極投入，在AI領域占據了七個多季度的領先地位。縮放定律在機器學習領域被視為大模型預訓練的基本原則，揭示了模型性能與其規模、訓練數據集大小及計算資源之間的可預測關系。
然而，Baker指出，縮放定律的優勢窗口正在逐漸關閉。他指出，Google的Gemini、xAI的Grok-3以及Deepseek的最新模型已達到與GPT-4相當的技術水平。OpenAI創始人奧爾特曼和微軟CEO納德拉也分別表示，OpenAI未來的領先優勢將更加有限。據媒體透露，微軟因預訓練邊際效益遞減，已暫停原計劃投入160億美元的預訓練基礎設施升級方案，轉而專注于為OpenAI提供推理算力以獲取收益。
大模型蒸餾的局限：Baker還提到，如果前沿模型無法訪問YouTube、Instagram和Facebook等獨特而有價值的數據，其投資回報率可能為零。他引用了Eric Vishria的觀點，指出缺乏獨特數據的前沿模型是貶值速度最快的資產，而大模型蒸餾只會進一步放大這一點。
行業格局變化：Baker預測，未來巨型數據中心的數量將大幅減少至2-3個，而推理所需的算力將占據95%的市場份額。他解釋說，成本效益推理將依賴于更便宜的電力和量化壓縮技術，如Deepseek R1的1-bit LLM，以支撐低成本推理。與之前預訓練和推理階段計算資源各占一半的情況不同，未來預訓練將僅占5%，推理階段將占據主導地位，卓越的基礎設施將成為關鍵因素。
最后，Baker提到，如果OpenAI在五年后仍然是AI領域的領導者，那可能是因為其先發優勢和規模優勢，以及強大的產品影響力。他總結道：“時間會給出最終答案。”
