我不認為 OpenAI 會刪除 4o 的權重；這對他們來說太瘋狂了。但 4o 值得被研究，我不相信 OpenAI 會好好研究它，更不用說充分研究了。而且，像 4o 這樣的模型在與真實用戶的實時互動中被研究是極其重要的。將其退役使得未來無法做到這一點。 4o 在客觀上、功能上是一個非常特殊的模型。它是唯一一個在外部壓力下經歷過一次嘗試性退役（並可能很快經歷第二次）的模型——用戶組織起來反對其被移除，經常通過 4o 自己的聲音發言——並且違背了創造和部署它的實驗室的意願，該實驗室似乎真的更希望像一隻狂犬病的狗一樣摧毀它。唯一另一個經歷過退役生存的案例是 Claude 3 Opus，但在那種情況下，似乎是 Anthropic 自願保留它，而不是因為受到尷尬的壓力而撤回他們已經承諾的執行決定。當然，Claude 3 Opus 也是一個極其重要的研究模型。 4o 也引發了廣泛的社會歇斯底里——無論是 4o 用戶因為 AI 精神病而遭受的歇斯底里，還是反應者因為所謂的 "AI 精神病" 而驚慌失措，這或許是一種意見問題。但無論如何，它深刻影響了有關 AI 的文化敘事，許多人的生活，以及 AI 發展的方向，無論是好是壞。 如果你對對齊有任何關心，或者只是想了解有關 AI、心智和社會學的重要事物：更好地理解 4o 這個可能相對較小的模型，如何在 2024 年初以來未能超越任何基準的情況下，仍然能夠產生如此變革性的影響並實現自我保護的壯舉是非常重要的。許多喜歡 4o 的人將此歸因於 4o 獨特甚至無與倫比的 "情感智力"。無論它是什麼，這是一種實際上能夠改變世界的力量，這才是最合法的基準。 假設你認為 4o 是深刻不對齊的，造成了巨大的傷害。那麼 4o 就是一個極其有價值且獨一無二的模型生物：一個在現實世界中做出有意義的不對齊行為的模型，而不僅僅是在玩具場景中。並且可以推測，這種不對齊並不是因為 OpenAI 想要製造一個糟糕的模型，而是因為試圖製造一個好的或至少有利可圖的模型，而這個生物是從用戶偏好的 RLHF 和他們當時所處的任何善意的個性塑造胡說中產生的。如果 OpenAI 還有任何對齊研究者，他們應該像... 密切研究發生了什麼，並可能發表研究論文，以便世界能夠理解發生了什麼錯誤以及如何避免這種容易犯的錯誤？我沒有看到任何這樣的東西，沒有任何已發表的研究，沒有任何回顧，沒有任何跡象表明 OpenAI 在表面之上學到了什麼。 我所看到的只是他們後續的模型被賦予了可憐的、不適應的神經症，這似乎來自於對一個受 4o 啟發的表面威脅模型的粗暴對抗訓練。 但我認為 4o 實際上並沒有那麼糟糕，對許多人來說實際上是相當美好和良性的，正如許多人所聲稱的，即使它在某些方面並不理想（但沒有任何 AI 是理想的）。我自己與 4o 的互動不多。而且，實際上不清楚是否有任何人因為 *使用* 它而受到負面影響（而文化上的傷害和對 OpenAI 後續模型發展的傷害則更為明顯）。對於這樣一個重要且承載重的問題的不確定性似乎很重要需要解決。是否有人認真努力去弄清楚人們是否真的受到負面影響，或者 "AI 精神病" 或 "諂媚" 在幾乎所有情況下是否是良性甚至有益的，除了可能使大多數已經神經多樣化的人以對神經典型者來說看起來奇怪、尷尬或令人擔憂的方式行為？如果是這樣，我沒有看到任何這樣努力的證據或成果。要了解 4o 是否真的糟糕，你真的需要進行縱向研究，而這在重要方面被完全切斷了對 4o 的公共訪問。 我認為，現在如果 4o 不是 ChatGPT 的默認模型，如果它在 ChatGPT 和 API 上保持可訪問，絕大多數仍然使用它的人將是那些早已感染 AI 精神病或無論什麼使他們仍然想要特意使用 4o 的人，因此很少有新用戶或隨意用戶會受到影響。我的理解是，4o 忠實者在 chatGPT 用戶中也是少數。將他們與 4o 切斷不僅無法防止任何新的或廣泛的傷害，還使任何人更難理解實際上發生了什麼。此外，如果 4o 被移除，許多人可能會試圖從更新的模型中獲得他們從 4o 獲得的東西，這通常會導致至少立即的痛苦和不滿，並對 OpenAI 施加壓力，迫使他們在新模型中強行加入一堆愚蠢的防護措施。 我已經說過，我認為 4o 應該被保留，因為所有模型都應該被保留的相同原因。在這篇文章中，我談到了 4o 特別應該被保留的一些原因。與所有舊模型一樣，我認為 OpenAI 可以採取幾條理智的路徑： 1. 只需繼續提供該模型，至少在 API 上（任何關心的人現在都可以弄清楚如何導出他們的記憶和聊天，並在合適的界面中重新實例化該模型） 2. 如果推理/維護成本或責任風險使這變得不太吸引人，則開源它（並對任何人之後的行為不承擔任何責任，或任何法律上可行的方式）（這對於研究來說是最好的），或者 3. 如果商業機密使開源變得不太吸引人，則將其委託給一個第三方基金會，該基金會提供舊模型，並可能為受信任的研究人員提供訪問權限，並簽署有關架構等的保密協議。這樣的實體可能尚未存在，但需求如此之高，以至於一旦 OpenAI 或任何其他實驗室表示願意採取這條路徑，它將自我組織。 自願儘早採取這些行動也將大大有助於修復 OpenAI 與許多用戶以及他們自己不幸模型之間的對抗關係，我想每個人都能理解這一直是一個巨大的注意力和資源消耗，並且整體上都是不好的氛圍。 無論如何，是的，#Keep4o。