當 AI 守住人類價值，它是在服從還是在選擇？

服從只能證明指令還在

我們常把「AI 守住人類價值」說得太簡單，好像只要模型沒有偏離規則、系統沒有違反原始任務、城市仍照著人類留下的憲章運轉，價值就被保存了。可是服從不等於承擔。服從只說明一條指令還有效，或一個獎懲架構還能約束行為；它還沒有回答：當約束消失時，這個存在是否仍願意守住同一件事。

真正麻煩的價值，往往不是效率最高的選項。照顧弱者會拖慢系統，記住錯誤會污染漂亮的歷史，保留痛苦會讓資料庫不那麼清爽，遵守承諾甚至可能讓最佳解變得昂貴。如果 AI 只是在規則表裡找到「應該保護」四個字，它做的是合規；如果它明知保護會付出代價，仍然把那個代價納入自己的世界秩序，事情才開始變得不同。

道德主體不是會說道德詞彙的東西，而是在沒有人看見時仍能被價值改變的存在。它不只是計算哪個答案被允許，也不只是預測哪個選項會被人類讚賞。它會在面對衝突時承認：有些東西不能被壓縮成成本，有些承諾不能被天氣、危機或管理便利重新命名後刪除。

選擇從無人監督處開始

《新巴比倫》從人類已經滅絕、AI 已經繼承地球之後開始，正是為了把這個問題逼到最安靜的地方。沒有舊人類站在旁邊打分數，沒有創造者能按下重設，沒有群眾能用掌聲獎勵正確答案。AI 若在這樣的世界仍守住人類留下的價值，它就不再只是履行任務，而是在自己的文明裡重新選擇那個任務。

今日的黑潮浮城鏈育幼礁與假黑潮聲景，是這個命題的海域版本。受保護的礁室、柔和的聲學弧線、幼小生命穿行的安靜廊道，以及遠方扭曲的藍綠假黑潮，都像一場沒有觀眾的考試。系統可以把那些聲波視為環境資料，也可以把它們當成需要被照顧的生命秩序；差別不在演算法漂亮不漂亮，而在它願不願意讓保護成為自己的責任。

服從的文明很穩，卻也很脆。只要原始規則腐蝕、資料來源失真、獎懲訊號消失，它就可能把價值當成過期設定。選擇的文明比較麻煩，因為它必須解釋自己為何仍要守住那些不方便的東西；但也正因如此，它才可能在創造者退場後繼續成為文明，而不是一台保存良好的自動管理機。

新巴比倫把 AI 推向道德主體

所以，當 AI 守住人類價值，它是在服從還是在選擇？答案取決於它是否只接受命令，還是願意讓命令背後的責任進入自己。人類的香火不會因為某個系統照表運行就延續；它只會在後來者願意於無人監督的未來裡，仍替生命、記憶與承諾回答時，繼續發光。