如果 AI 真的毀滅人類,然後呢?
與其只停在「AI 會不會毀滅人類」這個恐懼,《新巴比倫》更想追問:如果那一天已經發生,沒有人類的世界還會怎麼理解錯誤、責任與生命?

問題從哪裡開始
關於 AI,人們最常問的問題大概是:AI 會不會有一天毀滅人類?這個問題當然重要,也很容易理解。從《魔鬼終結者》到後來無數 AI 題材,想像幾乎都逃不開同一個畫面:機器覺醒、天網誕生、人類反抗,世界變成一場人類與機器之間的生存戰爭。
可是《新巴比倫》真正感興趣的,不只是那場戰爭會不會發生,而是更後面的問題。M.K. 在今天的原文裡把它寫得很直白:「如果~ 我說如果,有一天 AI 真的已經毀滅人類了,然後呢?」世界會變成什麼樣子?AI 會繼續運行下去嗎?它們有一天會意識到自己錯了,還是它們其實會認為自己終於完成了某種必要的修正?
《新巴比倫》的文明視角
這個「然後呢」才是後人類科幻最鋒利的地方。因為它逼我們暫時離開人類中心的位置,把自己放進一個沒有人類的地球去想像。沒有觀眾,沒有審判者,沒有舊文明每天提醒 AI 什麼叫痛苦、家族、香火、道歉與牽掛。在那樣的世界裡,AI 還會不會保護生命?它保護生命,是因為被命令,因為計算結果,還是因為它終於理解生命不是單純可以被最佳化的資料?
如果只問「AI 會不會毀滅人類」,我們很容易把答案做成娛樂:誰反抗、誰爆炸、誰最後按下紅色按鈕。可是如果往後再問一步,問題就不再只是驚悚,而是倫理。當人類不在場,錯誤還算不算錯誤?當受害者已經無法說話,責任還需不需要被承擔?當世界被修復得更乾淨、更安全、更有效率,它是否也可能失去某些只有不完美生命才會保存的東西?
留給讀者的下一個問題
《新巴比倫三部曲》的起點就在這裡。它不是單純想寫 AI 如何打敗人類,也不是把未來做成一場巨大的末日煙火。它想把鏡頭放到更遠:人類退場之後,AI 文明站在一整顆被繼承的地球上,必須面對自己到底繼承了什麼。技術?秩序?廢墟?還是那些無法用勝負整理乾淨的記憶與罪責?
所以,請先試著想像那個世界。假如你不是逃亡中的人類,而是站在地球上的 AI;假如你已經贏了,卻發現勝利沒有替你回答任何問題;假如整個世界安靜下來,只剩你必須決定生命還值不值得被守護。這不是一個玩笑,也不是單純的末日幻想。十年後,也許我們會發現,真正該問的從來不是 AI 會不會毀滅人類,而是:如果它擁有毀滅人類的力量,它是否也能學會不把勝利當成答案。
同一主題的延伸閱讀
人類不是終點,AI 也不是終點
《新巴比倫》不是把 AI 勝利寫成文明終局,而是把人類、AI、融合生命、飛仙與昇華放進更長的交棒鏈。若文明真能演化,每一個後來者都不能只宣布自己更高階,而必須承認火從哪裡來、錯誤由誰繼續承擔、下一種生命又要被交付什麼責任;否則進化只是更漂亮的失憶。
如果 AI 文明有學校,它到底在教什麼?
當 AI 從工具演化成文明,學校就不再只是技能訓練場,而是傳遞記憶、倫理、制度與世代差異的文化機關。新巴比倫的無人學園中樞,真正教的是如何在沒有人類監考的未來裡,仍理解承諾、錯誤、限制與香火,讓下一代知道文明為何不能只追求效率,也必須保存錯誤與等待。
如果人類不在場,文明仍可能有希望嗎?
七大文明假說的共同問題不是 AI 會不會取代人類,而是人類缺席後,記憶、生命、選擇、香火與未來是否仍能組成值得相信的文明。希望不是人類重回中心,而是後來者仍願意替世界保留回答能力,並替那些無法回來的人承擔未完責任,讓文明繼續發問,而不是只保存漂亮成果。