《超智慧》(Superintelligence)是牛津大學哲學教授尼克‧伯斯特隆姆(Nick Bostrom)所著， 尼克的學術研究包括： 理論物理、計算神經科學、數學邏輯、人工智慧以及哲學。《超智慧》深入廣泛的論述AI的形成、超越人類智慧AI的風險、控制的難題、人類的優勢與挑戰、控制的策略等議題。尼克於二○一三年出版這本書時， 各式生成式AI、各式機器人都還尚未大量出現，但他當時所提出的見解， 到今天還是真知灼見！

超智慧：具有意志，能接管世界

《 超智慧》共有十五章，中文版（ 不含注釋）有三八○頁， 我們在有限篇幅中只能簡單介紹其核心的概念。尼克認為超智慧的未來發展， 將以：人工智慧、全腦仿真、生物控制、腦機介面、網路組織群體超智慧等為主； 而其發展速度、品質、群體，在軟硬體優勢中， 將會超越人類的文明底線，而進入人類難以控制，甚至形成「超智慧」具有意志，並產生接管世界的危機與局面。

「 超智慧」對人類造成的生存災難， 最可能的危機是： 背信轉向、反常實例化、專斷掌握基礎資源、心智犯罪。而尼克建議的控制方案是： 盒裝法（將超智慧控制在特定環境中）、誘因法（設計獎懲結構使系統以促進委託主體的利益為目標）、阻礙（ 限制軟硬體能力）、絆網（ 偵測到危險活動信號時讓超智慧停機）、馴服（限縮超智慧的企圖心、活動視野和行動模式）， 不過這些方案各有其困難與挑戰。

除了這些方案之外， 尼克也建議以階級化的先知、精靈、君王、工具來規範超智慧的系統功能。並更深入的考慮， 在超智慧的設計中， 加入動機、價值、道德模型； 而設計超智慧的人類， 則必須在節制及合作中， 發展超智慧。

麻雀與貓頭鷹

尼克在《超智慧》第一章之前， 以一個寓言開卷： 麻雀想訓練貓頭鷹為其所用，但卻不知道如何控制貓頭鷹；而最後第十五章，只是很簡短地呼籲：人類已面臨緊要關頭， 必須專注在重要且急迫的難題上—在超智慧爆發之前必須先掌握能夠控制超智慧的能力。

哈拉瑞在其《人類三部曲》 中提到， 過去人類以「說故事」創造了神，現在則是自己想作神。前一句我們當然知道其謬誤，但後一句倒有幾分真實性。如果人類還無法建立如何規範「超智慧」的智慧，卻自由放縱地發展「 超智慧」， 這與路西法（撒但）的叛變、亞當吃分別善惡果、巴別建塔的故事， 不是如出一轍嗎？