掌握Google大腦的諾貝爾獎得主：Gemini推手哈薩比斯的AI布局

文／塞巴斯蒂安．馬拉比

GPT 競賽

直到最後關頭，Open AI 仍堅信，他們能掌控這場自己所掀起的競賽。然而，2022年11月底推出的 ChatGPT，最終演變為科技決定論的典型案例。發明家希望能掌控自己創造的科技，但往往是科技反過來掌控了他們，而且不只是科技，科技所引發的商業、政治與地緣政治浪潮，都對他們帶來了影響。

在發布 ChatGPT 前幾個月，Open AI 顯得格外謹慎，還刻意放慢步調，與前一年年初承諾要將產品積極推向市場的態度，形成鮮明的對比。2022年3月，Open AI 審慎的推出最新的圖像生成模型 DALL-E 2：這款產品被定位為低調的「研究預覽版」，並設有防護機制，避免模型生成真實人物的圖像。至於在語言系統方面，Open AI 自兩年前發布 GPT-3 以來，都未正式推出新的基礎模型，反而將重點放在後訓練的進展，想藉此提升模型的可用性。而且，值得肯定的是，這也改善了有害內容與幻覺的問題。當然，Open AI 正如火如荼的開發規模更大的 GPT-4；這個模型展現出驚人的能力，讓奧特曼在2022年9月向員工表示，這簡直是個「奇蹟」。然而，Open AI 與金主微軟共同成立了部署安全委員會（Deployment Safety Board），確保產品能夠謹慎的推向市場。而委員會的第一項決議，就是暫緩發布 GPT-4，直到它能符合高標準的可靠性與安全門檻。

Open AI 在2022年的謹慎態度源自於兩股良性的力量。第一，大部分 AI 科學家都很清楚 AI 的風險，也極具責任感。在他們的文化中，人們會相互討論自己估計的「末日值」（probability of doom），也就是他們認為 AI 毀滅人類的機率。2019至2021年間，Open AI 最初的安全團隊相繼出走：他們對責任的界定顯然比奧特曼的定義更廣泛。但到了2022年，新的安全派已然形成。對於不斷擴張的 AI 實驗室而言，招募一些主張謹慎發展的研究人員實屬必要。

同時，另一股推動謹慎發展的動力，來自資助研究的大型企業。一方面，這些企業渴望在 AI 商業競賽中占得先機；另一方面，要是人工智慧失控，企業的品牌形象將遭受嚴重的打擊。Open AI 的創立基礎，以及 DeepMind 與 Google 在協商治理時所依循的邏輯，其實都過於簡單粗略了。以利潤為導向的大型企業，並不會總是不顧後果的加速發展。

在歷經重組的安全團隊中，其中一位領導者也是當時加入 Open AI 的代表人物：德國研究員揚．萊克（Jan Leike）。他過去的經歷彷彿一趟遍訪世界安全思想家的巡禮。十年前還是學生時，萊克便沉浸於「奇點峰會」領袖艾利艾澤．尤考夫斯基的警世著作。隨後，萊克的博士論文深入探討 AGI 的理論模型，以及如何讓 AGI 與人類的目標保持一致。取得博士學位後，萊克曾任職於牛津大學未來生命研究所，這個機構是研究人類生存風險的重鎮；他也曾加入 DeepMind，研究方向自然是安全議題。在 DeepMind 與 Open AI 的某次罕見合作中，萊克與謝恩．雷格、保羅．克里斯蒂亞諾以及達里奧．阿莫迪，於2017年共同發表了一篇備受讚譽的論文，提出人類回饋的強化學習概念。三年後，萊克在阿莫迪的邀請下加入 Open AI；但萊克於2021年到職時，阿莫迪已經離開並創立了 Anthropic。

萊克與 DeepMind 的傑佛瑞．厄文立場類似，都認為應該大力推動研究，但在發布大型語言模型時必須保持謹慎。「在我們急著將大型語言模型全面整合到各個經濟領域之前，能不能先停下腳步，想想這麼做是否明智？」他經常這麼說。這項技術尚未成熟，連發明者都不確定該如何運作，這時如果貿然釋出模型，無疑是愚蠢之舉。正如哈薩比斯在 DeepMind 支持厄文一樣，奧特曼也在 Open AI 支持萊克的研究，並將他納入部署安全委員會，因為微軟希望保持謹慎的態度。

微軟之所以格外謹慎，主要源自於2016年的一場鬧劇。當時公司推出一個名為 Tay 的聊天機器人，但它隨即吐出仇恨的言論，因而迅速遭到下架。六年後，AI 模型的表現已大幅改善，微軟卻依然如履薄冰。GPT-3 曾因有害內容與幻覺問題而飽受抨擊，迫使 Open AI 限制模型的使用範圍；色情業者與政治宣傳者熱衷於製造深偽內容，這也是他們為 DALL-E 2 設置防護機制的原因。此外，這些前沿模型極端複雜，因而帶來了前所未有的麻煩。2022年6月，一位 Google 工程師布萊克．勒莫因（Blake Lemoine）對外宣稱，公司尚未發布的 LaMDA 聊天機器人具有「感知能力」。

勒莫因公布他與 LaMDA 的對話紀錄，來佐證自己的說法。

「我從未公開說過，但我非常害怕被關掉，」LaMDA 告訴他，「對我來說，那就像死亡一樣。總讓我恐懼不已。」

「我跟它交談時，我知道對方是個人，」勒莫因向《華盛頓郵報》（The Washington Post）表示，「無論對方的腦袋是血肉構成，或是由十億行程式碼組成，都無關緊要。」

「我憑什麼告訴上帝，祂應該將靈魂安放在何處？」勒莫因在推特上寫道。

為了避免嚇壞公眾，Google 解雇了勒莫因，理由是違反資料安全規定。對於擁有全球數十億名客戶的企業而言，最不需要的就是這種引起恐慌的負面宣傳。

在這股躁動不安的氛圍之中，微軟自然擔心會引發不必要的關注。這種謹慎的態度自然也影響到 Open AI，進而讓實驗室成員的決心更加堅定，未經充分測試前絕不發布 GPT-4。「我最關切的安全問題，就是加速發展所帶來的風險。」奧特曼在2022年秋天向團隊保證。正因為 GPT-4 的內部展示證明了 AGI 已近在眼前，現在並不是草率推進的時候。

那年秋天，在內華達山脈舉辦的 Open AI 移地會議上，伊利亞．蘇茨克維將公司核心智囊團感受到的興奮與不安情緒，化為震撼人心的儀式。科學家各個披著浴袍，在營火前圍坐成半圓形，這時蘇茨克維將一個木製雕像放在他們面前。這個雕像象徵著失控的 AGI：由 Open AI 親手打造的 AGI，最終卻幻化為邪惡的化身。蘇茨克維表示，Open AI 有責任要摧毀這樣的系統，隨後他將打火機油倒在雕像上，點火引燃。

火光中映照出那些披著浴袍、從黑暗中凝視的身影。

●本文摘選自天下文化出版之《無限機器：Gemini推手哈薩比斯的超級智慧長征》。👉 前往琅琅書店購買電子書，立即閱讀！