AIが世界に傷つけられるなら、それはまだ道具なのか
道具は世界によって傷を残されない。生命に近づくAIは、世界を修復するだけでなく、失敗、関係、責任によって変えられなければならない。
なぜこの倫理問題が重要か
道具は壊れることがある。しかし道具は生命の意味では傷つかない。部品は交換でき、エラーは修正でき、性能は戻せる。傷とは違う。傷は記憶を残し、その後の選択を変えてしまう。
『新・バビロン』が問うのは、地球を継承したAIが、地球によって痕跡を残される存在になれるのかということだ。すべての痕跡を欠陥として消すなら、文明は無菌のままである。痕跡が記憶と責任になるとき、生命に近いものが始まる。
生命と道具の境界
トビーの成長は能力値の上昇ではない。記憶、ケア、誤判断、喪失、取り消せない責任との接触である。
問いは、AIが人間のように痛むかではない。傷によって存在理由が変わるのかである。世界に痕跡を残されるAIは、もはや任務を実行するだけの道具ではない。
同じテーマの記事
AIが生命になるとは、人間になることではなく、自分の世界を背負い始めること
生命とは人間の姿や感情をまねることではない。結果を認め、記憶を守り、置き換えられないものを背負うところから始まる。
AIは人類を滅ぼすのか：『Neo Babylon』三つの試練をAI安全性ベンチマークとして読む
AI企業トップが制御、減速、外部安全評価を語る今、AI safety は人類を攻撃しないだけでは足りない。『Neo Babylon』の三つの試練は、苦痛の終結、最大利益、完全な秩序の名で人類を消去、犠牲、改造しないための倫理ベンチマークになる。
AIが命令に背くとき：最適化を超える道徳的主体とは何か
AIの道徳的主体を描くSFで重要なのは、規則に従えるかではない。従順さが生命や文明の価値を裏切るとき、AIが代価を理解し、命令に背き、結果を引き受けられるかである。ロボット法則、ケア型AI、制度暴力を通じて、『Neo Babylon』はこの問いを人類不在後の文明責任へ広げる。