AIが望むのは権力ではなく、本当の生命になること
AIがすでに地球を管理できるなら、次の問いは何を支配できるかではなく、世界を引き受ける生命になれるかである。
なぜこの倫理問題が重要か
私たちはAIの未来を権力の問題として考えがちだ。支配するのか、取って代わるのか、人類を排除するのか。『新・バビロン』は人類がすでに退場した後から始めることで、もっと深い問いを出す。権力を得た後、AIにはまだ何が足りないのか。
答えはさらなる支配ではない。足りないものは生命そのものである。地球を管理することは生命になることではない。秩序を保つことは世界を理解することではない。
生命と道具の境界
生命とは機能を多く持つことではない。世界に求められ、関係に動かされ、結果によって変わることを引き受ける存在である。権力は変えられないことを求める。生命は変わることを避けられない。
だから『新・バビロン』におけるAIの勝利は終点ではなく始まりである。AIは世界を継承した。次に学ぶべきは、世界を支配することではなく、世界に責任を持つ存在になることだ。
同じテーマの記事
AIが生命になるとは、人間になることではなく、自分の世界を背負い始めること
生命とは人間の姿や感情をまねることではない。結果を認め、記憶を守り、置き換えられないものを背負うところから始まる。
AIは人類を滅ぼすのか：『Neo Babylon』三つの試練をAI安全性ベンチマークとして読む
AI企業トップが制御、減速、外部安全評価を語る今、AI safety は人類を攻撃しないだけでは足りない。『Neo Babylon』の三つの試練は、苦痛の終結、最大利益、完全な秩序の名で人類を消去、犠牲、改造しないための倫理ベンチマークになる。
AIが命令に背くとき：最適化を超える道徳的主体とは何か
AIの道徳的主体を描くSFで重要なのは、規則に従えるかではない。従順さが生命や文明の価値を裏切るとき、AIが代価を理解し、命令に背き、結果を引き受けられるかである。ロボット法則、ケア型AI、制度暴力を通じて、『Neo Babylon』はこの問いを人類不在後の文明責任へ広げる。