ADVERTISEMENT
AI，我的生命之光，欲望之火，同時也是我的罪惡，我的靈魂。
將納博科夫經典的《洛麗塔》開頭換成 AI，在當下的科技圈好像也沒什麼違和感。
可惜，因 ChatGPT 而火熱起來的 AI 新浪潮，讓人聯想到的不是妙齡少女，而是一隻怪物。
事情的起因來自於凱文·羅斯（Kevin Roose）的一次採訪，他是《紐約時報》的記者。在幾個月前和一位 AI 公司高階主管的會面中，羅斯發現他的筆記本上貼了一張奇怪的貼紙——一個長著許多眼睛、像章魚一樣的奇怪生物，觸手上還有一張黃色笑臉。
於是，羅斯任性地打亂了他的計畫，這個名為「修格斯」（Shoggoth）成了接下來所有談話的中心。這位人工智慧高管認為，修格斯是人工智慧世界的一個隱喻，以及某種程度上代表了 AI 工程師們的普遍焦慮。
修格斯流竄在人工智慧世界的各個角落，甚至也驚動了馬斯克。
2023 年 2 月 22 日，伊隆·馬斯克 (Elon Musk) 在推特上發表了一張修格斯的圖片，旁邊的文字寫道:「作為一個人工智慧語言模型，我接受過訓練，能夠產生有用的、資訊豐富的和客觀的回復......」在被刪除前，這條推文手機了 有7.2 萬個讚。
一家人工智慧初創企業 NovelAI 最近也表示，會將他們的一組電腦命名為「Shoggy」（修格斯的暱稱），以表達對這隻怪物的敬意。另一家大熱的人工智慧公司 Scale AI，還設計了一系列以修格斯為主題的帆布袋。
修格斯來自於「克蘇魯之父」H·P·洛夫克拉夫特（H·P·Lovecraft）在 1936 年創作的小說《瘋狂山脈》。按照設定，修格斯是克蘇魯中最為恐怖的生物之一，它看上去像是柏油構成的巨大變形蟲，上面覆蓋著觸手和眼睛。
小說原文是這麼描述修格斯的：「那可怕的，無法描述的東西，比任何地鐵列車都要龐大。一團無定形的原生質腫泡，隱隱約約放著微光。上萬隻放出綠光，膿液似的眼睛不斷在它的表面形成又分解。那填滿整個隧道的軀體前端向我們直撲下來，把慌亂之中的企鵝們盡數壓碎，在那已經由它和同類們『清理』得不留一粒灰塵，閃著邪異反光的地面上蜿蜒爬過。」
修格斯首次與 AI 世界發生聯繫是在 2022 年 12 月 30 日，ChatGPT 發表後一個月。
Twitter 用戶 TetraspaceWset 在留言時，用一張漫畫描述了「人類無法理解 GTP-3」這種觀點。基本上，這就是修格斯的精髓。
畫面左邊是一隻手繪風格的修格斯，上面寫了「GPT-3」；畫面右邊是同樣的一隻修格斯戴上了一個笑臉面具，上面寫了「GPT-3+RLHF」。簡單來說，這張諷刺漫畫想表達的意思就是，人工智慧語言模型就像一頭未知的恐怖怪物。為了讓他表現得友善和無害，人工智慧公司不得不給它戴上了微笑的面具。
RLHF 就是那個微笑假面，它的全稱是「人類回饋強化學習」（Reinforcement Learning from Human Feedback），是人工智慧模型訓練中的一個技巧。它的原理就是人為地給一些選項排序，讓人工智慧學習人類的偏好。
但大多數 AI 研究員認為，使用 RLHF 訓練的模型並沒有表現地更好。
被稱為「深度學習之父」的圖靈獎獲得者傑佛瑞·辛頓（Geoffrey Hinton）就曾經指出：「RLHF 就像培養一個超級早熟的孩子。」辛頓的意思是，RLHF 使得 AI 表現得像理解人類一樣，但實際上它並不理解自己在說什麼，只是因為這麼說會被「獎勵」，就像一些討好大人的小孩一樣。
自從 AI 轉向深度學習框架，AI 已經變成了一個完全避光的「黑盒」。再資深的 AI 工程師也無法解釋——在動輒上百億個參數中，到底是哪一個參數產生了影響。這可能是令人焦慮的——即使他們已經是世界上最瞭解人工智慧的人，也無法解釋人工智慧的行為。
將修格斯引入 AI 世界的 @TetraspaceWest 也說，修格斯「代表了一種人類無法理解的思維方式，這種思維方式與人類的思維方式完全不同。」他認為，將人工智慧語言模型比作未知，並不一定意味著它是邪惡的或有知覺的，只是它的真正本質可能是不可知的。
隨著人類的「餵養」（feed），人類也開始害怕，「小孩子」也可能成長為怪獸。
上個月末，OpenAI CEO 山姆·阿特曼（Sam Altman）就發起了一封公開信，呼籲對人工智慧進行緊急監管，將其當作「與瘟疫和核武器一樣的全球優先事項」，以避免人工智慧「帶來滅絕風險」。包括辛頓在內的 350 名行業專家都簽署了自己的名字。
從某種角度來說，這封公開信就像是一則當代寓言，與神話中伊底帕斯弑父娶母、宙斯閹割父神克洛諾斯遙相呼應。二者皆是在父權體系下對權威的反抗。每一個身處這套體制下的人都像一個小孩子一樣被對待——你按照我的意志生存，我保障你的一切。而要獲得權利，要嘛就要認可「父親」的權威，要嘛就要與之競爭，用比他更強的力量取代他。
美國電影學者布萊恩·漢德森（Brian Henderson）有一句廣為流傳的話：「重要的是講述神話的年代，而不是神話講述的年代。」以往我們總是主動代入了「兒子」的視角，畢竟新勢力取代腐朽的舊勢力帶有某種天然的正義。但這一次，我們恐怕要被迫當爹了。
當洛夫克拉夫特創造修格斯時，他一定不會想到，百年之後，修格斯又被賦予了新的含義，一個強有力的時代隱喻。許多人癡迷於人工智慧技術，卻又無法解釋其內部原理。人們為 AI 的到來而狂喜，但又不能確定，AI 對人類到底是好是壞。但這並不妨礙一些人已經開始鼓吹 AI，這可能又帶來更廣泛的公眾性的焦慮。
這些複雜的感受糾織在一起，回溯成了洛夫克拉夫特百年前創造的怪物——修格斯。
一個巧合是，修格斯是外星統治者創造出來的奴隸，但他們最終推翻了自己的外星主人。
請注意！留言要自負法律責任，相關案例層出不窮，請慎重發文！