elderly man thinking while looking at a chessboard

在當今快速發展的人工智慧領域,對其未來走向的預測越來越受到重視。預測市場,作為一種利用集體智慧來評估事件可能性的方法,似乎是一種理想的工具。然而,Scott Alexander 在他的文章中探討了預測市場在人工智慧相關議題上的有效性,質疑這些市場是否真的能提供準確的預測。

文章指出,預測市場的成功關鍵在於參與者擁有豐富的專業知識以及市場信息的高度透明度。然而,在高度技術化且不斷進步的人工智慧領域,許多市場參與者可能並不具備足夠的專業背景或深厚的技術理解,這種情況導致市場中所做出的預測質量受到一定程度的影響和限制。

此外,許多影響人工智慧發展的因素往往非常複雜且難以準確量化和預測。舉例來說,技術上的重大突破、政策環境的劇烈變化,以及道德與倫理問題的出現,都可能對未來的發展趨勢和預測結果產生深遠且不可忽視的影響。以下是這些重點的摘要說明。

資金規模與流動性不足,難以驅動高質量研究

目前市面上缺乏真正具備充足資金與流動性的預測市場。要能激勵嚴謹的研究,市場規模至少要達到百萬美元等級(6-7 位數),才能與像 OpenPhil 這類資助研究機構的資金規模相抗衡。現階段的預測市場,無論規模還是參與度,皆遠未達標。

預測市場的客觀性與專業性存疑

理想狀況下,預測市場可作為評估、審查外部資助研究成果的第三方機制。例如,AI2027 與 Epoch 在 AGI 時間線上有分歧,理論上可透過預測市場來裁決。然而,現實中多數人(包括筆者)並不完全信任預測市場的判斷力。原因在於:

  • 參與者專業水準普遍不及領域專家(如 Daniel 或 Tamay)。
  • AGI 等議題過於遠期,難以激勵精確下注。
  • 市場參與者多為 AI 信仰者,意見易受偏見影響。

預測市場的「理智檢查」功能

在上述功能有限的情況下,預測市場目前最大的價值在於提供一種「理智檢查」:例如,Metaculus 對 AGI 的預期從 2040 年提前到 2030 年,這種信號比單一專家意見更具參考價值。雖然這對已經熟悉預測市場的人來說是有用的,但這類族群本身就對 AI 發展高度關注。

專家仍偏好「超級預測者」而非市場集體智慧

在 Austin 的座談會上,筆者曾詢問 Eli 為何在 AI2027 模型參數設定上選擇與超級預測者合作,而非直接依賴預測市場。Eli 的回答是:他需要對定義極為嚴謹,並花大量一對一時間確保預測者理解題意,對預測市場的集體智慧並不信任。這顯示預測市場在專業參數設定上仍有明顯短板。

整體成效有限,機構去重視可理解

綜合來看,除了「理智檢查」這一點的有限價值外,AI 預測市場至今尚未產生重大突破。若資助機構如 OpenPhil 決定降低對預測市場的重視,這是可以理解的現實選擇。

未來展望與潛在轉機

值得注意的是,若未來像 AI2027 或 Epoch 這類頂尖預測組織開始積極運用預測市場的結果來指導決策,例如「市場預測近期不會爆發美中衝突,因此相關風險可暫緩考慮」,則預測市場的價值將大幅提升。此外,Metaculus 新推出的指數基金模式,作為資訊彙總與傳遞工具,對於不關注細節但尋求可靠資訊的群體來說,展現了一定潛力。最後,預測市場在人才發掘上的作用也值得肯定,確實幫助 AI 預測領域挖掘出一些優秀人才。


結語

總結來說,AI 預測市場目前仍處於探索與驗證階段,短期內難以取代專業研究與專家判斷。但隨著市場規模、參與者專業度的提升,以及新型應用場景的出現,其未來發展仍值得持續觀察。對於關心 AI 發展與預測市場的讀者,建議保持關注,靜待更多創新與突破的出現。

來源連結:https://twitter.com/slatestarcodex/status/1931964662482174183


探索更多來自 智匯前線 的內容

訂閱即可透過電子郵件收到最新文章。


發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *