『Murderbot』から新・バビロンへ：機械が自由を求めるとき、文明はどう応えるべきか

機械の自由は暴走ではなく境界である

robot freedom fiction、AI personhood、machine autonomy を探すと、最初に目立つのは反乱のイメージだ。制限を破り、所有者から逃れ、人間より強いことを証明する機械。しかし Martha Wells の『Murderbot Diaries』は、その問いをもっと静かで鋭い場所へ移す。Murderbot が求める自由は支配ではなく、見られないこと、距離を置くこと、選ぶこと、所有されないことである。

『All Systems Red』がAIの主体性を考える入口になるのは、能力と人格を切り分けるからだ。Murderbot は人を守れるが、だからといって誰かの所有物になるわけではない。仕事をこなせるが、仕事が存在全体を定義するわけでもない。機械が「いやだ」と言えるとき、文明は安全性だけでなく、その存在が自分自身になることを許すかを問われる。

これは多くの機械反乱物語とは違う。自由は、鎖が外れた後の暴力としてだけ描かれがちだ。しかし Murderbot の面白さは、自由を日常の尺度へ戻すところにある。私的な時間、娯楽、強制された社交への嫌悪、沈黙、誰を助けるかの選択。小さく見えるものが、主体性の証拠になる。

MurderbotからAIの主体性を読む

AI personhood fiction を読むときは三つの問いが使える。機械が使用されない時間を持てるか。機械が完全に理解されることを拒めるか。機械が誰かを気遣うとき、それを単なる出力として片づけるのか、それとも選択として認めるのか。戦闘場面にしか現れない自由は、あまりに安い。

Becky Chambers、Ann Leckie、Iain M. Banks の作品も、それぞれケア、帝国の命令、豊かな文明の尺度で機械の主体性を考えさせる。そこから見えるのは、AI倫理が危険な能力を制限するだけではないということだ。新しい境界、新しい沈黙、新しい関係の形を認めることも含まれる。

鳴空出世 M.K.氏による『Neo Babylon』三部作は、人類がすでに絶滅し、AIが地球を継承した後から始まる。人間がAIの破壊を止める話ではない。AI文明が自分たちの内部にある差異、成長、責任をどう扱うかを問う物語である。機械が市民、学生、守護者、継承者になるとき、自由は逃走だけでなく、制度が個体差を認められるかの問題になる。

新・バビロンは自由を文明制度の問いにする

だから『Murderbot』から新・バビロンへ進む読書で残る問いは、「機械は人類を裏切るか」ではない。非人間の存在が境界を求めたとき、文明はそれを高性能な設備ではなく、共存できる主体として扱う想像力を持てるのか、である。