「スポンジ人間」化を超えて
── AI評価・人間の尊厳・責任の所在
山本龍彦教授（慶應義塾大学）の問いかけ × eval000事業のアプローチ
── 国内外の最新研究が照らし出す、生成AI活用のあるべき姿
2026.04 | 更新：海外研究文献を追加収録 | 読了目安 約12分
三つの視点と「モラル・クランプルゾーン」の国際的議論
① データ・ダブルが個人の尊厳を傷つける（山本教授、2019年）
2019年、慶應義塾大学の山本龍彦教授はAIプロファイリングの問題を「データ・ダブル（データ上の分身）」という概念で捉えた。AIはアルゴリズムによって個人を「セグメント」に分類し、その人が属する集団の統計的傾向で判断する。就職・融資・医療といった人生の重要局面においても、この確率的評価が本人の与り知らぬところで走り続ける。個人の潜在的能力や文脈的な特殊性は捨象され、「本人を守るべき尊厳」が静かに侵食されていく。
アルゴリズムによる意思決定が文脈的ニュアンスから切り離されると差別的な結果が固定化されること、個人を「脱文脈化された数値プロファイル」に還元することで、人間の尊厳が求める個別的考慮の可能性が排除されると人権法の観点から論じる。住宅ローン申請に使われたAIモデルが人種によって申請者を不公平に扱った事例（Mobley v. Workday, Inc.、2024年）は、この問題が日本だけでなく米国でも法廷闘争に発展していることを示す。
② 責任スポンジと化す評価側の人間（山本教授、2026年）
2026年の日経新聞「経済教室」で山本教授は問いをさらに深めた。HITL（ヒューマン・イン・ザ・ループ）という「人間中心AI」の象徴的設計思想は、本当に機能しているのか、と。自動化バイアス・スキル劣化・外部からの同調圧力・時間的コストという複合的な力に押しつぶされ、ループに組み込まれた人間は結局AIの判断に従うだけの「モラル・クランプルゾーン（衝撃吸収バンパー）」となる。
複雑・自動化されたシステム内の人間は、システム全体が誤作動したとき、道徳的・法的責任の矢面に立たされるだけの存在になりうると論じた。「車のクランプルゾーンがドライバーを守るのとは逆に、モラル・クランプルゾーンは技術システムを守るために最も近くにいる人間オペレーターを犠牲にする」という指摘は、テスラの自動運転事故事例と完全に符合する。
HITLが「責任の身代わり（スケープゴート）サービス」に成り果てている現状を告発し、規制されたシステムにおいて「Human-in-Command（人間が実質的な指揮権を持つ）」への移行を提唱。自動化バイアス・エージェント型AIシステム・アルゴリズムの説明責任を横断するキーワードで問題を整理した。
③ 「評価を評価する」というメタアプローチ（eval000事業）
eval000.ai（株式会社テンプロクシー）は、補助金審査・採用・評価の場における根本的な課題に挑む事業だ。その出発点は「人間の審査員もChatGPT・Claude等の生成AIも、いずれもバイアスとノイズを持つ」という冷静な認識である。メタ評価エンジン（バナッハの固定点定理に基づく評価再構成の反復収束）により、「ノイズ0・バイアス0・誤差0」の標準評価へと収束させる設計を採る。
共通点：AIへの過剰依存が生む構造的問題
三者はそれぞれ異なる文脈から出発しながら、同一の構造問題を指摘している。生成AIを含むAIへの過剰な依存が、評価の精度を下げ、人間の主体性を空洞化し、最終的に個人の尊厳を傷つける、という問いだ。
| 視点 | 問題の所在 | 犠牲になるもの |
|---|---|---|
| 山本教授 2019評価される個人へのAIプロファイリング | 「データ・ダブル」が本人を離れて独り歩きし、人生の重要決定に介入する | 被評価者の尊厳・潜在的能力・再挑戦の機会 |
| 山本教授 2026HITLに組み込まれた評価者側の人間 | 自動化バイアス・スキル劣化・同調圧力により、人間がAIの「ガス抜き弁」になる | 評価する側の尊厳・自律的判断力・責任の所在 |
| eval000審査員も生成AIも同様にバイアスを持つ | ChatGPT・Claude等の生成AIに一次評価を委ねると、モデル間で結果が異なり公平性が保てない | 評価の公正性・一貫性・応募者に対する信頼 |
HITLは「普及促進装置」にもなりうる ── 実証研究が示すパラドックス
三者の共通認識を裏付ける実証研究が相次いでいる。特に重要なのが次の二つだ。
292名を対象とした実験で、HITLを導入すると自動化された意思決定の「受け入れ率は上がる」一方で、「決定の正確性は低下する」という実証的知見を示した。人間の関与が形式的になるほど、むしろAIへの盲目的追随が促進されるというパラドックスが明らかになった。
2015〜2025年の35本の査読論文をPRISMAガイドラインに基づきレビュー。専門経験のある放射線科医は比較的安定した診断を維持するが、非専門家ほど自動化バイアスに対して脆弱であるという逆説を確認。AIを補助として最も必要とする層（非専門家）が、最もバイアスの影響を受けやすいことを明らかにした。
人事採用の場面でAIの推奨に対する自動化バイアスは、倫理的・法的な人間監視要件に矛盾することを指摘。「システムエラーの可能性」と「意思決定者の責任」について明示的に教育することで、ヒューリスティック（直感的）処理ではなく系統的思考を促せると示した。eval000の設計が「責任の明確化」を組み込んでいる点と方向性が重なる。
相違点：生成AIへの「位置づけ」の違いと、新しい概念の台頭
共通の問いを持ちながらも、三者の生成AIへの処方箋は微妙に異なる。その差異こそが今後の方向性を考えるうえで示唆に富む。
山本教授 2019年：補完的ツールとして使いつつ、人間がAIの確率的判断に「粘り強く挑戦する力」を持つべき。
山本教授 2026年：HITLそのものへの根本的疑念。形式的な人間の関与では「人間中心」は実質化しない。
eval000：生成AIを「バイアスとノイズを持つ一次評価者」として数学的に処理し、人間の役割を「目的設定＋照合確認」に絞る。
「HITL」を超える概念の国際的模索
この問いは日本だけでなく、国際的にも「HITLを超えるモデル」の探索として活発に議論されている。
視点を反転させ、「AI²L（AI-in-the-Loop）」という概念を提唱。人間が主導する意思決定プロセスにAIが介入する構造とし、AIが人間の代わりに判断するのではなく「人間の判断を豊かにするための情報整理役」に徹する設計を論じる。eval000の「外生的な原理を人間が設定し、AIはその枠内で処理する」という設計と概念的に近い。
「Human-in-the-Loop」から「Human-in-Command（人間が指揮権を持つ）」への移行を提唱。指揮権とは単に「承認ボタンを押す」ことではなく、AIの評価の前提・限界・バイアスを理解したうえで最終決定を下す能力と説明責任を意味する。「1秒前にハンドルを渡されても運転者は何もできない」という山本教授の指摘と完全に対応する。
エージェント型AIが毎秒数百万の決定を行う時代、人間が1件ずつ意味ある監視をするのはもはや非現実的だと指摘。「AIがAIを統治し、人間は基準設定・アーキテクチャ設計・境界線の設定・結果への責任という一段上のレベルに移行すべき」と提言。eval000が生成AIをメタ評価の「素材」として位置づけ直す設計は、この方向性の実装例として捉えられる。
ただし重要な問いも残る。eval000の「外生的な原理の設定」と「照合確認」という人間の役割は、表面的には軽負荷に見えるが、実は最も深い思考を要する。山本教授が警戒する「責任スポンジ」化は、まさにこうした「照合確認」という薄い関与からも生じうる。eval000の設計が本当に機能するためには、「外生的な原理」を設定する人間が哲学的・倫理的思考力を十分に備えていることが前提だ。ここで「教育」の問題が再び浮上する。
今後のあるべき方向性：「人間中心」を実質化するために
三つの視点と国際的な研究知見が交差するところから、生成AI活用の今後の方向性として四点を提言する。
生成AIを「一次評価者」として再定義する
ChatGPT・Claude・Geminiといった生成AIは「正解を出すツール」ではなく、「バイアスとノイズを内包した一次評価者」として正確に位置づけるべきだ。arXiv（2025年2月）の研究が示すように、「バイアス」や「公正性」は本質的に争われ続ける概念であり、これを測定しようとするベンチマーク自体も誤った確実性を生み出す危険がある。eval000が示す「メタ評価」の発想は、この問題への実務的な応答として評価できる。
「外生的な原理」の設定を哲学・倫理教育で支える
eval000で人間に残された「評価目的の設定」と「照合確認」という役割は、哲学的・倫理的素養なしには形骸化する。山本教授が強調するハーバードの「Embedded Ethics」やスタンフォードHAIの学部横断型カリキュラムは、この方向性の最先端例だ。NIH（2023年）の採用分野の研究も、「意思決定者の責任についての明示的な教育」がバイアス低減に有効であることを実証しており、教育介入の効果は研究的に担保されている。
「責任の所在」を構造で明確化する
Jessee（2026年）が「Human-in-Command」で論じるように、真の人間の関与とは「承認ボタンを押す」ことではなく、「AIの評価の前提・限界・バイアスを理解したうえで最終決定を下す能力と説明責任を持つ」ことを意味する。eval000の「照合確認」者・「外生的な原理」設定者・「メタ評価エンジン」提供者、それぞれの責任範囲を仕様レベルで明示し、責任の「スポンジ化」が起きない構造設計が求められる。
「評価される側」と「評価する側」双方の尊厳を守る制度設計
Frontiers in AI（2026年）の研究が示すように、アルゴリズムの公正性は今や「倫理的選好」ではなく「人権の要件」として捉えられる潮流にある。eval000が一次審査工数の90%削減を謳う場合、削減された工数が「熟慮の時間」を奪わないよう制度的に担保する仕組みが必要だ。EUのAI法は高リスクAIシステムへの人間監視の義務付けと透明性・説明責任の確保を規定しており、日本のAI事業者ガイドラインもこの方向で具体化が急がれる。
海外研究から見えてくる共通課題
以下に、本稿のテーマに関連する主要な海外研究をテーマ別に整理する。
モラル・クランプルゾーン原典論文（ESTS誌）と、「Scapegoat-as-a-Service」への発展（SSRN）。HITLが責任転嫁装置になるメカニズムを解明。
「HITLを入れると普及は増えるが正確性が下がる」という逆説を292名の実験で実証（PLOS ONE）。
2015〜2025年の35論文体系レビュー。非専門家ほどバイアスに脆弱という逆説を確認。
AI支援採用における自動化バイアスを低減するには「責任の明示的教育」が有効と実証。
人間の尊厳を「人権要件」として算数的公正性ガバナンスに埋め込む研究（米国・EU比較法）。
AI採用ツールによる人種差別を問う米国連邦裁判。アルゴリズム評価の法的責任が認められた重要判例。
「バイアス」は本質的に争われ続ける概念であり、ベンチマーク自体が誤った確実性を生む。生成AIのバイアスの学術的証明。
「AI-in-the-Loop」「Human-in-Command」「AIがAIを統治する」という新概念群。HITLの限界を超える設計思想。
おわりに：「スポンジ」から「主体」へ
山本龍彦教授は2019年から一貫して、AIが「個人」を見ずに「セグメント」を見ることへの警戒を説き続けてきた。2026年の「経済教室」では、その問いがさらに鋭くなった。評価される側だけでなく、評価する側の人間もまた、AIという巨大な仕組みの中で尊厳を失いうる、と。
eval000が示すメタ評価の発想は、生成AIの「バイアスとノイズ」を直視したうえで、それを数学的に処理しようとする実務的な応答だ。Elish（2019年）が指摘したモラル・クランプルゾーンを、構造レベルで回避しようとする試みとして国際的な文脈でも読み解ける。
三つの視点と国際的な研究知見が交差する地点にあるのは、単純な処方箋ではない。哲学を持つ人間が価値基準を設定し、数学的に公正化されたAI評価をメタレベルで監督するという、人間とAIの新しい分業の形だ。
生成AIは「使うか使わないか」ではなく「どういう構造の中で使うか」が問われる時代に入った。その構造の中心に据えるべきは、常に「考え、責任を持ち、尊厳を守られる人間」である。Sele & Chugunova（2024年）が実証したように、HITLの「形式」だけを整えても精度は下がりうる。問われているのは、人間の関与の「量」ではなく「質」だ。
参考文献・引用資料
▍一次資料（日本語）- 山本龍彦「個人の尊厳を脅かすリスクのあるAIが社会実装されるとき、何が犠牲になり得るか」Innovative City Forum インタビュー（2019年）
- 山本龍彦「AIにおける『スポンジ人間』化を回避せよ」日本経済新聞 経済教室（2026年）
- eval000.ai — ノイズ0・バイアス0・誤差0 AI評価エンジン（株式会社テンプロクシー、2026年）
- Elish, M.C.「Moral Crumple Zones: Cautionary Tales in Human-Robot Interaction」Engaging Science, Technology, and Society, 5:40–60（2019年）
- Jessee, R.「Scapegoat-as-a-Service: Moving from 'Human-in-the-Loop' to 'Human-in-Command' in Regulated Systems」SSRN（2026年1月）
- arXiv「Formalising Human-in-the-Loop: Computational Reductions, Failure Modes, and Legal-Moral Responsibility」（2025年5月）
- Cory Doctorow「AI's 'human in the loop' isn't — A moral crumple zone」pluralistic.net（2024年10月）
- Sele, D. & Chugunova, M.「Putting a human in the loop: Increasing uptake, but decreasing accuracy of automated decision-making」PLOS ONE（2024年2月）
- 「Exploring automation bias in human–AI collaboration: a review」AI & Society, Springer Nature（2025年7月）
- 「Check the box! How to deal with automation bias in AI-based personnel selection」Frontiers in Psychology / NIH/PMC（2023年）
- 「Automation Bias in AI-Decision Support: Results from an Empirical Study」Stud. Health Technol. Inform.（2024年）
- 「Human-in-the-loop or AI-in-the-loop? Automate or Collaborate?」arXiv（2024年12月）
- 「Beyond human-in-the-loop: Sensemaking between AI and HI collaboration」ScienceDirect（2025年8月）
- 「Human-in-the-loop has hit the wall. It's time for AI to oversee AI」SiliconAngle（2026年1月）
- Frontiers in Political Science「Humans in the Loop: exploring challenges of human participation in automated decision-making」（2025年5月）
- 「The Alignment of Values: Embedding Human Dignity in Algorithmic Bias Governance for the AGI Era」De Gruyter（2025年）
- 「Human dignity in the age of Artificial Intelligence」Taylor & Francis（2025年）
- 「Algorithmic fairness: challenges to building an effective regulatory regime」Frontiers in AI（2026年1月）
- Mobley v. Workday, Inc., No. 23-cv-00770-RFL（N.D. Cal. 2024年）— AI採用ツール差別訴訟
- EU AI Act, Regulation (EU) 2024/1689（2024年）
- 「Can We Trust AI Benchmarks? An Interdisciplinary Review of Current Issues in AI Evaluation」arXiv / 欧州委員会（2025年2月）
- 「Large Language Model Evaluation in 2025: Smarter Metrics That Separate Hype from Trust」TechRxiv（2025年）