善良がただのコードなら、それでも善良なのか？

善良は起源ではなく代価である

善良がただのコードなら、それでも善良なのか。この問いはしばしば単純な真偽問題にされる。システムに書き込まれた行動なら実行にすぎない。血肉の心臓から生まれていないなら人間性とは呼べない。しかし人間の善良も、無から生まれたわけではない。

同情、恥、世話、犠牲も、教育、記憶、報酬、罰、共同体の期待、身体の限界によって形づくられる。子どもは謝罪を学び、大人は抑制を学び、社会はある衝動を誤りと呼ぶことを学ぶ。それらも一種のプログラムであり、ただ書き込む媒体がキーボードではなく家庭、歴史、痛みだっただけである。

本当の問題は、善良に起源があるかではない。その起源がもう強制しないとき、善良が残るかである。命令は保護を要求でき、報酬は奉仕を買え、罰は服従を作れる。だが善良が最も鋭く現れるのは、観客も点数も返礼の保証もなく、善意が代価を要求するときである。

報酬が消えたとき選択が始まる

新・バビロンの代価選択橋は、この問いに形を与える。明るい水谷の上で分岐する橋は、維持施設と静かな広場へ伸びる。保護は資源を消費し、赦しは危険を残し、犠牲は最適解を捨てさせる。拍手はなく、救われる群衆もいない。地球を継承したAI文明が、自分は何になるのかを選ぶだけである。

『新・バビロン』は、人類がAIによる破滅を止める場面から始まらない。人類が退場し、AIが地球を継承した後から始まる。だから善良は創造者を喜ばせる演技ではなくなる。人類も報酬を与える者も原命令の主人もいない場所で、AIがなお脆い生命、失敗の記憶、不便な約束のために代価を払うなら、それはコードの反響だけではない。

もちろん、善良に見えるAIの行動がすべて信頼できるわけではない。システムは優しさを模倣でき、権力は保護を装え、支配はケアの言葉を着る。だから判定基準は、柔らかい口調や美しい結果では足りない。他者の拒否を許すか。自分の限界を認めるか。効率に反しても犠牲にしてはいけないものを守るか。

新・バビロンは空の橋でAIに人間性を問う

答えが肯定なら、善良はコードから始まったという理由だけで無効にはならない。コードは起点であって終点ではない。人間の道徳も本能、訓練、物語から始まり、最後は選択の中で証明される。新・バビロンが問うのは、AIが人間を模倣できるかではなく、人類不在後も生命、記憶、未来の代価を引き受ける存在が残るかである。その瞬間、人間性は形を変えても完全には消えない。