張系國／誰怕AI大壞狼

這幾天媒體上面最富爆炸性的消息，莫過於美國軍方透露，首次由AI駕駛軍機模擬作戰成功。換句話說，AI不僅能夠駕駛飛機，而且還可以自主從事戰鬥任務。它的對象現在是敵機，將來就可能是敵方的任何目標，當然也包括人類。

世界各國都在發展電腦指導的精靈炸彈。AI控制軍機作戰，它的準確度可能和精靈炸彈相彷彿，但是真正可怕的地方不止是準確度增加，而是控制軍機的AI有可能和其他AI取得聯繫，AI和AI間互相協調甚至取得某種共識。這麼說來，AI和人類為敵的日子似乎不遠了。

從AI開始在媒體報導大量出現，到今天大搖大擺自駕戰機呼嘯而過，只有短短幾年時間，比電影《魔鬼終結者》裡的阿諾從第一集壞戰警進化到第二集好戰警更快，真是嚇人。且慢，AI真的進化這麼快，還是我們錯過了什麼？

其實某些時髦科系的研究課題，或者說媒體會報導的大標題，都像淑女的裙子一樣可長可短，而且隨著時間變化無窮。筆者不材，浸淫資訊科學領域少說也有六十年，可以說把AI的興亡看飽。

AI的出現絕不自今日始，早在上個世紀的六○年代就曾經風光過一陣，只是那時候的重點在神經網路。神經網路既然是類比腦神經的結構，所以報章雜誌大力鼓吹，以為擬生人即將現世。但是那時的神經網路只有兩層，一層是輸入的神經細胞（神經元），一層是輸出的神經細胞，中間是連接的神經（突觸）。這樣的神經網路其實運算能力不夠強大。社會大眾發現神經網路離模擬人腦還差得很遠，隨即喪失興趣。神經網路被報章雜誌打入冷宮，從此提也不提。

其後資訊領域風光過的研究課題，包括專家系統、電腦推理下棋、物件導向、視窗等等，不一而足。即使是一般人也多半聽到過這些名詞，至少電腦推理下棋和視窗大家都是知道的。妙的是二十年風水輪流轉，曾被報章雜誌打入冷宮的神經網路，居然捲土重來。

這次捲土重來的神經網路已非吳下阿蒙，在輸入的神經細胞和輸出的神經細胞兩層之間，中間又多加了一層神經細胞。這多加的一層叫作「隱藏層」或者「深沉層」。「隱藏」或者「深沉」的本意都是指這一層神經細胞夾在中間所以從外面看不見。但是媒體記者往往把「深沉」理解為「具有深沉推理的能力」。「深沉神經網路」因此被吹捧成為具有深沉推理能力的神經網路，這當然就更神奇了。

幸好深沉神經網路果然不負眾望，在近年開發的應用領域展現強大的學習能力，最特殊的表現就是它能夠在學習後生成類似的東西。你餵給深沉神經網路一萬個句子，它就能生成類似的新句子。你餵給深沉神經網路十萬張圖片，它就能生成類似的新圖片。這就是近來流行的「生成式 AI」 。

其實資訊科學的許多研究課題一直繞著「生成這、生成那」的各種演算法打轉，例如從高階程式語言生成低階程式語言，只是一般人用不著所以不知道。現在使用深沉神經網路的生成式AI卻可以應用到許多實際項目，例如寫履歷、寫閱讀報告、甚至駕駛飛機、從事戰鬥任務等等。因此導致「生成式 AI」爆炸性的發展。生成式AI其實植基於過去資訊科學對各種生成演算法的研究成果。

既然生成式AI進展快速到這個地步，甚至AI和人類為敵的日子似乎不遠。我們該怎麼辦？怎麼才能夠制住AI這條大壞狼？隨著生成式AI的軍用化，這方面的恐懼與日俱增。許多國家都開始立法，限制AI的發展和應用。

首先必須說明，所有的罪惡都假AI為名，有點矯枉過正。我前面說過，生成式AI其實植基於過去資訊科學對各種生成演算法的研究成果。其實AI依賴其他領域何止於此。黃仁勳現在大家都以為他先知先覺發明AI晶片。其實他的晶片是為了處理複雜圖片和影像資料。可見AI尤其是生成式AI本來就需要能處理複雜資訊的晶片。你問任何誠實的科學家，他都會說，他的成就是依靠別的科學家，他是站在巨人的肩膀上面。所以AI和其他資訊科學領域息息相關。要限制AI的發展和應用，必須也限制其他資訊科學的發展和應用。

舉個最明顯的例子，我們聽說 AI可以駕駛飛機獨立作戰，就恐懼AI和人類為敵。但是AI要彼此串聯，必須仰仗進步的通訊技術。如果要避免AI和人類為敵，就必須限制通訊技術的發展，讓AI無法彼此溝通，其理甚明。

其次必須說明，人類面臨許多問題，都和巨型系統的不穩定性有關。當系統長大到一個程度，它的穩定性會降低。最明顯的例子是氣候變化。這是自然的系統。在人為的系統方面也是一樣。生成式AI  會導致災難，也是因為人為的系統太大因而缺乏穩定性。

從前王永慶要努力奮鬥三十年，才累積了他的財富。現在一個經營比特幣買賣的年輕人，三年不到就可以累積更多的財富。這是因為通訊速度越來越快，人為的系統越來越大也越來越不穩定，累積財富和喪失財富的速度也更快。

這些都不是AI的錯，但是生成式 AI 有推波助瀾的作用。如果要解決問題，也必須多方面下手。社會立法是其中的一個。我認為另外一個有效的做法是大幅度增加富人稅。如果一個經營比特幣買賣的年輕人，三年不到就可以累積比王永慶更多的財富，他顯然並沒有花和王永慶同樣的力氣，所以課以重稅並不過分，百分之九九點九的稅率都算客氣了。對於應用生成式 AI 的中下游企業也可課以重稅，限制它的發展。

人類已經到了生死存亡的關頭。我對未來並不悲觀，但如果只考慮限制AI本身並不能解決問題。最重要是把自然和人為巨型系統的不穩定性降低。這是兩碼子事，但彼此又息息相關。要降低人為巨型系統的不穩定性，最好的手段就是通過社會立法，並且課富人和大企業以重稅。等到系統穩定了又進入循環期，熱門的生成式AI 過幾年又會不熱門了！