『ヒトとAI』書評・要約：AIに判断は任せても、責任は委ねられない

2026年8月2日

当サイトのリンクには広告が含まれています。

『ヒトとAI』（岡野原大輔・著、岩波新書）を読みました。著者はAI企業Preferred Networksの共同創業者で、機械学習研究の第一線にいる人です。

別記事で書評した『AI大格差』が労働経済学のデータから「AI時代に人に残るのは評価・判断・責任」と論じていたのに対し、本書は認知科学や哲学の側から、同じ結論にたどり着きます。読み比べると、本書のほうが「なぜそうなるのか」を一段深いところから説明してくれる印象でした。

先に本書のメッセージをまとめると、次の3点です。

AIは判断はするが、その結果を「自分のものとして引き受ける」主体にはなれない（当事者性と有限性がないため）
したがって、判断は委ねられても責任は委ねられない。仕事の重心は「実行」から「指揮と統合」へ移る
責任は「最後にボタンを押した人」だけのものではなく、設計・運用・介入の3層に分かれて存在する

以下、印象に残った箇所を紹介します。

なぜAIは責任を引き受けられないのか

本書の前半は、ヒトの学習とAIの学習がどう違うかを丁寧に解きほぐします。AIは新しいことを学ぶと過去に学んだことを失いやすい（破滅的忘却）、感情という「経験の重みづけ装置」を持たない、そして寿命がない——といった違いが積み上がっていきます。

決定的なのは不可逆性の有無です。本書によれば、人間の選択は履歴として蓄積され、取り消し不能な形でその人を形づくっていく。一方、AIにとって失敗は「出力分布を少し押し戻すための信号」にすぎず、「取り返しがつかない」という感覚は蓄積されません。

この非対称が、責任の所在を決めます。どれほど適切な判断を下しても、その結果の損失をAI自身が背負うことはない。だからこそ本書は、「判断を委ねることはできても、責任を委ねることはできない」と繰り返し述べます。

「AIがやった」は、責任の説明にならない

個人的に線を引いた回数がもっとも多かったのが、責任論のパートです。

AIが関与する場面で特徴的なのは、判断を行う存在と、結果を引き受ける存在が一致しないことです。本書は、「AIがやった」という説明は判断の説明にはなっても、責任の説明にはならない、と整理します。

これは私が実務で感じてきたことと重なります。AIの回答を根拠に「AIがこう言っているので」と説明する場面は今後ますます増えますが、その回答を採用すると決めたのは人間です。このテーマはnoteの別記事「「AIがこう言っているんですけど」がイケてない理由」で実体験ベースで書いたので、合わせてご覧ください。

責任は3層に分かれる

本書でいちばんの発見だったのがここです。責任というと「最後にボタンを押した人」を思い浮かべますが、本書はAIが関与するシステムの責任を3つの層に分けて説明します。

層	問われること
設計責任	どのような判断が可能になるよう設計したか。どこまで自動化し、どこに制約を置いたか（判断以前の環境設計）
運用責任	設計されたシステムを、どの文脈・どの目的で使ったか。安全性のテストをどれだけ行ったか
介入責任	問題が兆候として現れたとき、止められたか・変更できたか。介入できる位置にいながら何もしないことも、また判断

とくに3つ目の介入責任は盲点でした。「何もしなかった」ことが責任を免れる理由にならず、むしろ「結果を変えられた可能性を放棄した」という形の責任が発生する、という整理です。

経理・財務の仕事をしている人なら、この3層は内部統制の発想——統制をどう整備したか、どう運用したか、モニタリングして是正したか——と重ねて読むと腹落ちしやすいと思います。職場にAIツールを入れるとき「誰が責任を持つのか」を曖昧にしないための、実務で使える枠組みです。

実行は分散し、判断は集約される

仕事論のパートで本書が描くのは、「AIが仕事を奪う」という単純な話ではありません。AIエージェントが手足のように並列で動くようになると、実行の量と速度は飛躍的に増える。その一方で、どの結果を採用しどこで止めるかという判断は、限られた人間の側に集まっていきます。

その結果、人間の仕事は軽くなるのではなく、質が変わる。大量の作業をこなす存在から、多数の実行結果を引き受け、統合し、線を引く存在へ——本書はこれを「指揮」と「統合」という言葉で表現します。

このとき効いてくるのが履歴です。何を指示し、どの情報を根拠に判断し、どの時点で承認・修正・停止したのかが後から追跡できなければ、組織は自らの行為を説明できない。本書の言葉を借りれば、履歴がなければ責任は引き受けようがない、ということです。AIを業務に組み込む際の設計原理として、本書は権限の最小化・監査可能性・フェイルセーフの3つを挙げており、このあたりは管理部門の実務にそのまま持ち込める内容でした。

心に残った一節：創造性の民主化は、責任の民主化

最後に、いちばん心に残った箇所を紹介します。AIは「もっと良いかもしれない別案」を無限に提示できるため、決定を先送りし続けることが局所的には合理的になってしまう。そのなかで人間に求められるのは、数千の案から一つを選び、他のすべての可能性を捨てて「これで決めて責任をとる」と決断する力——本書はこれを胆力と呼び、「創造性の民主化は、責任の民主化である」と締めくくります。

AIで誰もが作れるようになる時代とは、誰もが「選んで引き受ける」立場になる時代でもある。本書を一文に圧縮するなら、ここだと思います。

『AI大格差』とどう違うか

同じ「評価・判断・責任が人に残る」という結論でも、2冊はたどる道が違います。

	『AI大格差』	『ヒトとAI』
アプローチ	労働経済学（データ・実証研究）	認知科学・哲学（学習の仕組み・責任論）
中心の問い	仕事と給料はどう変わるか	なぜ責任は人間に残るのか
実務への持ち帰り	鍛えるべきは評価・判断の力	責任の3層と、監査可能性の設計

『AI大格差』が「何が起きるか」を教えてくれる本だとすれば、本書は「なぜそうなるのか」を教えてくれる本です。順番としては『AI大格差』→本書の順で読むと、結論が立体的になります。