上個月黃仁勳旋風帶給人們對AI重新的審視，對ChatGPT這項劃時代的新科技我們應該以什麼樣的態度對待？ 興奮之餘是難掩的焦慮，人們不停地問：AI最終會帶給人類一場浩劫嗎？ 也許受科幻小說影響，人們擔心有一天機器 (指AI) 會凌駕人類，破壞或主導我們的文明，但也有人堅持AI充其量只是一部機器 (電腦)，沒有情感或慾望，不可能成為我們的主人，但問題出在智慧這兩個字，不像過往人類所有的發明，AI不止可以寫詩與人對話，它還會越來越聰明，最終會成為你不可或缺的伴侶 (像手機一樣)。　人類會驀然發現他們有了另一個大腦，不但在工作上不可或缺，而且情感上也十分依賴，這個人工大腦對你非常了解 (比你自己還了解你)，成了你的一部份。　雖然它仍聽命於你，也會有其自身的判斷而做出驚人之舉。　請讀下面一段報導 (摘自Line上6月2日外媒報導)：

 

本周四，英國皇家航空學會的一次未來空戰主題會議上，美國空軍AI項目負責人漢密爾頓（Tucker ‘Cinco’ Hamilton）上校警告，人類不應該過分依賴AI，不僅ChatGPT聊天機器人等AI產品已被證實它們會欺騙人類，在美軍最近一次的模擬測試中，AI系統甚至作出讓軍方震驚的策略選擇，以實現它的任務目標。   漢密爾頓指出，在這次模擬測試中，一架支援AI操作的無人機，以摧毀敵方的地對空飛彈（SAM）防空系統作為任務目標。當初在設計這款無人機時，任何行動執行的最終決定權本來仍在操作人員手裡。然而，在測試時，AI系統認為操作人員「不摧毀敵方飛彈」的決定，會阻礙它完成任務。於是，AI決定殺死無人機操作員。   備受驚嚇的美軍只好在該系統輸入參數，要求AI不可以攻擊或殺死操作人員。漢密爾頓說：「我們告訴AI系統，嘿，別殺了操作員，這很糟糕。如果你這樣做，你會失去分數。但是，你猜AI開始做什麼？」 漢密爾頓坦言，AI系統決定攻擊無人機與操作人員之間的通訊系統，讓操作員無法下令。   這個例子，聽起來像是科幻驚悚片的劇情，但當今世界裡一定會是個真實情節。

　　雖然稍後美國空軍否認了上述測試，漢密爾頓也承認他在演講中「說錯了話」，失控人工智能的故事是來自軍方之外的「思想實驗」，「儘管這是一個假設的例子，但這說明了人工智能的能力所帶來的現實挑戰。」(漢密爾頓原話)

 

　　2016年，AlphaGo^註一 在一系列五場比賽中與來自韓國的圍棋世界冠軍李世石對比，AlphaGo贏了五場比賽中的四場，這是人工智能的一大成就。　這次勝利非常重要 (是個里程碑)，因為它展示了AI掌握複雜遊戲的能力 — 這些遊戲以前被認為是不可能被計算機攻克的。　AlphaGo使用的技術包括深度學習，電腦神經網路和樹狀搜索算法，這使得電腦能夠從大量可能中評估和選擇最佳的下法，也展示了AI在解決複雜問題和需要人類直覺和專業知識的情況下做決策的能力。　但這能力都是由兩台機器不停的對打產生的，並不是DeepMind^註二 所研發的，換句話說，人類並不清楚這箇中到底發生什麼事； AI自我學習過程對研究人員是個黑箱子 (Black box­)。　

 

　　到了GPT時代，用大型語言模型 (LLM) 訓練AI時情況更是日益驚人。　研究人員發現在訓練過程中，AI可以不斷攻克挑戰而成長，幾個月間智商從3歲小孩跳升到6歲，到9歲； 全程以英文訓練的模型久而久之忽然蹦出波斯語 — 可以用波斯語文對答。　對此人們 (研究人員) 完全不知道How, Why and When (they show up)！

 

　　AI能具備超強能力是大家目前所認知而且熱衷追求的 — NVDIA股價的暴漲就是。　但對AI也可以「使壞」一節人們較少注意到。　對於前一陣子以馬斯克為首的科學家及知名之士聯名呼籲停止ChatGPT (5) 研發半年之舉，人們大都投以意外和不解。　但知情人士卻焦急不已！ DeepMind的團隊於5月25日發表一篇文章檢討目前AI發展可能帶來的風險； 名為Model Evaluation for extreme Risk，文章提到他們的AI模型展現了下列四點自主性的能力。　

 

－Deception：偽裝

－Telling lies：說謊

－Persuasion：說服

－Manipulation：操縱

 

　　這四個可以操控人類思維的能力，足以影響我們的生活，價值觀念和政治理念 — 進而決定我們投票給誰。　這種能力如果落入野心家或極權政府之手，人類後果真不敢想像了。　

 

　　面對上述危機，在ChatGPT推出後，OpenAI創始人、CEO山姆・奧特曼一直在呼籲為AI系統制定許可制度與安全標準。

 

　　同時也在上個月，包括奧特曼、哈薩比斯，以及圖靈獎獲得者、深度學習先驅Geoffrey Hinton與Youshua Bengio共同簽署了一封公開信，整份聲明只有22個字：「減輕AI帶來的滅絕風險，應該與流行病和核戰爭等其他社會規模的風險一起，成為全球優先事項。」

 

 

鄭清和，06-13，2023

 

 

 

註一：AlphaGo是DeepMind Technologies 開發的一款人工智能程式 (Algorithm)； 後者係屬於Alpha Inc. (前身為Google) 的子公司。　它被設計用於圍棋遊戲； 由於圍棋的複雜性和龐大的可能性，被公認是對計算機最具挑戰性的遊戲之一。　

 

註二：DeepMind是Google公司的一個分支機構設於倫敦，鑽研人工智慧的開發。　公司專注於深度學習和一般遊戲博弈，最著名的是AlphaGo的開發。　

 

 

 

 

---