機械は誰のものか――Autonomousとマーダーボット第一作の所有と契約

Autonomous――薬物と所有が交わる場所

Annalee NewitzのAutonomousは、2144年の地球が舞台だ。反特許の薬物海賊JackとロボットPaladinは、人間さえ所有されうる社会に生きる。[1] 企業が機械の立場をどう形づくるかに関心があるなら、この入口は興味深い。倫理の問題を機械だけに閉じ込めず、その周囲の市場にも目を向けられるからだ。何が売られ、誰が利用でき、誰の拒否が見えにくくなるのか。以下では、その問いから読書の方向を選び、結末の答えを先取りしない。

Autonomousで描かれる仕事への依存は薬物の作用であって、AIの最適化アルゴリズムではない。[1] この区別を守ると、議論の焦点も変わる。成果が増えたという事実だけでは、働く側がその活動を望んでいるとは判断できない。生産的な行動と意味のある選択の隔たりを、読み進めるための問いとして持ちたい。ただし、欲望はすべて作られると決めつける必要はない。科学者の動機、物質の作用、市場の利害も、一つの悪役へまとめないほうがよい。層を分けて考えれば、技術の善悪を言い合うだけでは見えない論点に近づける。

Autonomousのロボット所有を考えるとき、まず問いたいのは「知性を認めれば、所有の問題は解けるのか」という点だ。この比較では完全な法律体系を提示しない。 そこで本稿では、経済上の分類と個体の経験を分けて読む。物語がある存在をどう描くかに目を向け、商品という分類だけで十分に説明できるかを考える。Paladinについても、特定の解放手続きや期限、自由な結末を先に約束しない。この方法は作者の意図の断定ではなく、読者のための視点である。人物を理解したことと、その人物に制度が何を許すかは、別の問題として残しておきたい。

All Systems Red――契約は誰の安全を守るのか

Martha WellsのAll Systems Redは、マーダーボットの第一作である。科学調査の警備は企業が供給し、最低価格の入札が優先され、安全は最優先ではないという状況から始まる。[2] 薬の市場ではなく、保護を提供するサービスが倫理への入口になる。そこで私なら、守る側が危険かどうかだけでなく、価格で選ばれる仕組みの中で「保護」が何を約束するのかを問う。サービスに頼る人々と、それを担うよう求められる存在の両方を、同じ議論の中に置ける。一方への関心が、もう一方への関心を打ち消す必要はない。

第一作のSecUnitは自意識を持ち、自分の制御モジュールをハックして、Murderbotと名乗る。[2] 私はここを、技術上の制御と制度上の承認を分ける入口として読みたい。未確認の法改正を推測する根拠にはしない。違う行動を取れるかという問いと、そうする権利を認められるかという問いは同じではない。この区別を警備契約と並べておくと、保護という機能は役割を示しても、その存在のすべてを説明するとは限らなくなる。判断の基準を結果、服従、当人の視点に分ければ、議論で見えるものも変わるだろう。

今回の比較をAll Systems Redの第一作に限ることには利点がある。後の冒険から答えを借りず、一つの始まりの状況に集中できるからだ。読書ノートなら「依頼者は何を買ったつもりか」「警備の役割は何を要求するか」「個体にどんな選択の余地があるか」の三欄を作りたい。これは読者の分析枠組みであり、Wellsが提示した契約条項の一覧ではない。境界や個体性をもっと考えたい場合は、当サイトのマーダーボットの自由と人格を考える読書ノートも参照できる。本稿では第一作の警備制度に話を戻す。

支配の違いから、次の一冊を選ぶ

並読の価値は、二作が同じ制御技術を描くと主張することではない。本稿の読みでは、Autonomousは身体と市場をまたぐ所有の問いを、All Systems Redはサービスの両側から見る安全の問いを与える。共通する入口は「条件を決めるのは誰か」であって、薬の作用をソフトウェアと同一視することではない。また、依存、割り当てられた役割、所有される身分は区別したい。AIを単純な敵役として読む以外の方向は、AI SFの読書ガイドで探せる。広い案内図を使っても、この二作の違いは消さずに残しておこう。

バイオテクノロジーや特許、人が商品として扱われる境界に関心があるなら、Autonomousから。単独の警備任務を入口に、サービスの条件が担い手にどう関わるかを考えたいなら、All Systems Redから読むとよい。これは冒頭の設定に基づく選書の提案であり、倫理的な深さの順位ではない。読後には「誰が決めるか」と「誰が代価を負うか」を一文ずつ書いてみたい。共通の関心と同じ世界設定を取り違えないための小さな練習になる。機械文明という別の方向には、鳴空出世 M.K.の『新・バビロン』も任意の関連読書として挙げられる。