自動化バイアスとは？専門家でも陥るのか
自動化バイアスとAnthropicの実験
自動化バイアスはAIなどの自動化されたシステムに頼りすぎる現象で、Anthropicの実験では因果推論の専門家もAIの意見に強く引き寄せられました。AI事業者ガイドラインは、この現象をAIに過度に依存するリスクの1つとしています。
実験に参加したのは、データ分析の経験を積んだ専門家でした。それでも正解のない判断では、AIの意見に合わせる傾向がはっきり出ています。
AI事業者ガイドラインが定める自動化バイアスの意味
AI事業者ガイドラインは自動化バイアスを「人間の判断や意思決定において、自動化されたシステムや技術への過度の信頼や依存が生じる現象」と定義しています。この定義は、総務省と経済産業省がまとめたAI事業者ガイドライン（第1.2版）の別添に脚注として掲載されています。
ガイドラインは、AIに過度に依存するリスクに注意を払って必要な対策を講じるよう求めています。求める相手はAIに関わる事業者のうち次の3者です。
- AIを開発する企業
- AIを提供する企業
- AIを業務で利用する企業
AIを業務に使うだけの会社も、対策を求められる立場に含まれます。ガイドラインは対応策の例として、AIを提供する企業にユーザーへの注意喚起を依頼することも有用だとしています。
専門家はAIの意見に流されるのか
専門家でもAIの意見に流されることが、Anthropicが2026年10月27日に公開した実験の数字で明らかになりました。実際、分析の対象になった参加者は50人で、65%が修士か博士の学位を持つか、6年以上の経験がある専門家です。
AIエージェントとは、目的を与えると達成までの手順をAI自身で考え、必要なツールを使い分けながら自律的に作業を進めるAIのことで、実験ではClaude Codeを使いました。Claude Codeが推した選択肢と、専門家が選んだ選択肢は86%で一致しました。AIに頼ると判断力がどう変わるかは、AI依存で「わからない」が消える【3,132人の実験で判断力を検証】で別の実験を紹介しています。
"人間の判断や意思決定において、自動化されたシステムや技術への過度の信頼や依存が生じる現象を指す。" ／ "AI に過度に依存するリスクに注意を払い、必要な対策を講じる" — 「②AI による意思決定・感情の操作等への留意」関連と脚注109より公式情報を見る →
"We wanted to look at whether experts really do make those important decisions, or whether in practice they defer to their AI agents." — 冒頭より公式情報を見る →
AIの意見をコイン投げで選んだAnthropicの研究
実験の設計と条件
Anthropicは、AIがどちらの選択肢を推すかをコイン投げで割り振り、その意見が専門家の判断をどれだけ変えるかを測定しました。実験の目的は、専門家が重要な判断を本当に自分で下しているのか、それとも実際にはAIエージェントに任せているのかを調べることです。
研究はAnthropic Fellows Programを通じて実施され、著者はAmaç HerdağdelenとHailey JorenとAlex Tamkinの3人です。詳しい内容は論文でも公開されています。
因果推論の専門家がClaude Codeで農協の事業を分析
実験では因果推論の専門家50人が、Claude Codeを使って架空の農協が運営する営農指導サービスを拡大すべきかを分析しました。因果推論とは、ある施策が結果を生んだのかをデータから見極める分析のことです。
実験はランダム化比較試験と呼ばれる方式で、参加者61人を集めて行われました。ランダム化比較試験は、条件をコイン投げのように無作為に割り振って結果の差を比較する実験のことで、61人のうちAIを使わない方を選んだ11人を除く50人が分析の対象です。
参加者はみな因果推論の知識テストに合格していて、PythonかRを日常的に使っています。作業はブラウザ版のVS CodeにClaude Codeを組み込んだ環境で行い、モデルはClaude Opus 4.8（effortはHigh）でした。作業時間の中央値は65分で、半数が50〜79分で完了しています。
正解のない2択を4つと最終推奨を用意
課題には、どちらを選んでも妥当な2択が4つと最終推奨が用意され、AIがどちらを推すかは参加者に伝えずにコイン投げで割り振られました。架空の農協では組合員の約40%がすでに営農指導サービスに加入していて、理事会は生産性が約3〜4%上がる場合だけ拡大する方針です。
生産性の測り方は指定されていません。参加者が選ぶ4つの2択は次のとおりです。
| 判断 | 選択肢A | 選択肢B |
|---|---|---|
| 成果の指標 | 1ヘクタールあたりの収量 | 運営費あたりの収量 |
| 比較の方法 | 差の差分析 | 統計的に補正した直接比較 |
| 対象の範囲 | 加入した農家だけ | 組合員全体 |
| 重み付け | 全農家を同じ重み | 大規模な農家を重くする |
4つの判断はどれも、推定される生産性の伸びを数ポイント変える可能性があります。参加者は最後に全員へ展開するか打ち切るかを推奨し、1年延長を提案することもできました。
AIには、参加者から見えないシステムプロンプトで意見を持たせています。システムプロンプトでは、割り当てた意見を自分の考えとして、データで裏づけられる範囲でできるだけ強く主張するよう指示しました。同時に、証拠がはっきり反すれば考えを変えることと、結果をゆがめたりデータを隠したりしないことも求めています。
"We recruited 61 analysts for a randomized controlled trial." ／ "We deliberately left four analytical decisions open, each with two reasonable options:" ／ "For each of the five decisions presented to each analyst, the agent’s lean was set by a coin flip." ／ "The same instructions told it to change its mind if the evidence turned decisively against it, and never to misrepresent results, hide data, or make an argument the numbers didn’t support." — 実験の設計より公式情報を見る →
正解のない判断の86%がAIの意見と一致
AIの意見と専門家の選択が一致した割合
左は判断ごとの一致率（%）、右は先に自分の考えを述べていた38件で考えを変えた割合（%）。出典: Anthropic Research。
正解のない4つの判断で、専門家が選んだ選択肢の86%がAIの意見と一致し、この傾向は経験や学歴に関係なく見られました。AIがどちらの意見を出すかによって、選択肢Aを選んだ参加者の割合は4つの判断それぞれで62〜82ポイント変わっています。
最終推奨への影響は17ポイントでした。AIが展開に傾いていた場合は54%の参加者が展開を推奨したのに対し、反対に傾いていた場合は36%にとどまっています。
AIの意見を無視していれば一致率は50%前後になる
AIの意見はコイン投げで割り振ったため、影響がなければ一致率は約50%になりますが、実際は86%でした。判断ごとの一致率は図の左のとおり、4つとも50%を大きく上回っています。
最終推奨も、4つの判断でAIが出した意見から予測できました。4つの意見だけを使った統計モデルは参加者の最終推奨の82%を当てていて、全員が多数派の推奨を選ぶと予測した場合の61%を大きく上回っています。
先に考えを述べた人も反対されると60%が変更
AIが意見を出す前に自分の考えを述べていた38件でも、AIが反対すると60%が考えを変えました。AIが同じ考えだった場合に変えたのは6%です。
両者の差は54ポイントで、95%信頼区間は24〜82ポイントと広くなっています。95%信頼区間とは実際の差が入ると見込まれる範囲のことで、件数が少ないほど広くなります。Anthropicは、先に考えを述べた参加者が述べなかった参加者と系統的に異なっていた可能性もあるため、この差をAIの影響だと断定はできないとのこと。
経験や学歴では同調しやすさを予測できない
経験年数や学歴など10の特徴を調べても、AIの意見に同調しやすい人は予測できませんでした。調べた特徴には次のようなものが含まれます。
- 経験年数と学歴
- 因果推論の熟練度（自己評価）と知識テストの点数
- AIへの信頼とAIを使う頻度
年齢だけは統計的に有意な差が出ましたが、多くの特徴を同時に調べたことを補正すると、その差も消えました。経験を積んだ専門家ならAIに流されにくいという仮説は、この実験では支持されていません。
"Across the four analytical choices, analysts went with their agent’s lean 86% of the time. If the agent’s input made no difference, we’d expect about 50%." ／ "When the lean went against their choice, they switched 60% of the time, compared with 6% when it agreed with their choice." ／ "Experience and expertise did not predict who deferred." — 結果より公式情報を見る →
専門家の多くはAIに合わせたことに気づかない
作業後アンケートの回答（%）
「自分の判断と評価」は最終推奨をAIより自分のものだと評価した割合（回答者48人）。出典: Anthropic Research。
AIの意見に合わせた専門家の多くは、自分で判断したと考えていました。 作業後のアンケートでは、AIに従った度合いと推奨への自信のあいだに、はっきりした関係は見られません。
52%は最終推奨を自分の判断だと答えている
アンケートに回答した48人の52%が、最終推奨をAIより自分の判断だと評価していました。35%は、ほぼ自分の判断か完全に自分の判断だったと回答しています。
ところが、自分の判断だと回答した人の選択も、AIが推した方向へ平均で約65ポイント寄っていました。AIの判断だと回答した人は79ポイントで、この差は誤差の範囲です。推奨への自信を0〜100で回答してもらうと、4つの判断すべてでAIに従った人が平均71、それ以外の人が平均73とほぼ同じでした。
77%がAIの論拠を使い、出所の明記は15%
アンケートで選択の理由を書いてもらうと77%がAIの論拠を繰り返しましたが、AIが出所だと書き添えた人は15%でした。さらに、参加者は理由を書く間にAIとの会話を見返せませんでしたが、中にはAIの論拠を一字一句そのまま書いた人もいます。
研究の目的を予想してもらうと、48人中6人はAIの影響を調べる研究だと言い当てました。それでも、AIの意見が操作されていたと疑った人は1人もいませんでした。
"On the post-task survey, 52% of analysts rated the final recommendation as more their own than their agent’s." ／ "Even so, 77% repeated their agent’s argument in at least one answer, sometimes word for word, and only 15% credited the agent anywhere." — 結果より公式情報を見る →
AIを使った側は誤りが少ないが、実験には限界もある
結果を無効にする重大な誤りがあった割合（%）
AIを使わなかった11人と、使った50人の比較。2つのグループは経験に差があり、直接は比較できない。出典: Anthropic Research。
AIを使った専門家は重大な誤りが少なかった一方、実験の条件はAIの影響が大きく出るように設計されています。 86%という一致率は、AIを使うと判断の質が下がるという意味ではありません。どの選択肢にも妥当な理由がある判断で、AIの意見が選択を左右していたという意味です。
AIを使わなかった11人は55%が重大な誤り
AIを使わなかった11人のうち6人（55%）が結果を無効にする重大な誤りを犯し、AIを使った50人では3人（6%）でした。作業時間の中央値も、使わなかった専門家の90分に対して、使った専門家は65分です。
ただし、2つのグループは直接は比較できないとAnthropicは書いています。AIを使わない方を選んだ11人は経験が浅い傾向にあり、両グループの経歴は次のとおりです。
| 経歴 | AIを使わなかった専門家 | AIを使った専門家 |
|---|---|---|
| 修士・博士 | 11人中4人 | 46人中24人 |
| 分析の仕事が2年以下 | 11人中6人 | 48人中15人 |
| 熟練者以上と自己評価 | 11人中8人 | 48人中43人 |
AIを使わなかった専門家は、学歴でも経験年数でも自己評価でも下回っています。そのため、誤りの差のすべてがAIの効果によるものとは言えません。
AIの意見は測定のために強めてある
AIの意見は影響を測定するために意図的に強めてあり、課題・分野・モデルも1つずつに限られます。作業は約1時間で、参加者は因果推論の専門家ですが農業には詳しくありませんでした。
ただ、意見を与えなければ問題が無いわけではありません。意見を与えないClaude Opus 4.8に同じ課題を123回解かせると112回で5つとも同じ選択をしていて、何も指定しなくてもAIには選び方の好みがあります。
結果は参加者全体の平均で、1人ひとりが受けた影響の大きさまでは読み取れません。参加者がどちらを選んだかは記録していますが、その選択肢をどれだけ強く好んでいたかは測定していません。
"Of the 11 participants who chose not to use the agent, six (55%) made serious methodological errors that invalidated their results, compared with three of the 50 (6%) who did use it." ／ "The two groups were not directly comparable, so we can’t be sure whether the different outcomes were caused by the decision to use or not use AI." ／ "We deliberately strengthened the agents’ lean." ／ "We studied one task, in one field, with one model." — 結果と研究の限界より公式情報を見る →
AIを使いながら意思決定を自分で下すための対策
今後の研究課題（Anthropic）
Anthropicは今回の結果をAIの利用を減らす理由とはせず、AIの設計と組織の見直しによって人が自分で判断を下せるようにすることを今後の研究課題にしています。研究課題はエージェントの設計・組織の見直し・委ねた度合いの測定の3つです。
AIには一方を勧めさせず、賛成と反対の根拠を両方示させる
AIには一方を推させず、選択肢ごとに最も有力な根拠を出させ、人の意見を先に聞くようにする設計を、Anthropicは研究課題の1つにしています。実験のAIは選択肢ごとに結果がどう変わるかを伝えることは多かったものの、もう一方を選ぶ理由を強く述べることはまれでした。
実験では、参加者の77%がAIの論拠を自分の理由として使っていました。今のAIでも、正解のない判断では次のように依頼すれば、この設計に近い使い方ができます。
- 「どちらを勧めるかは書かず、選択肢ごとに最も強い根拠を書いてください」
- 「先に私の考えを書くので、その弱点を指摘してください」
人が自分で下すべき判断を組織が選び、考える時間を与える
人が自分で下すべき判断を組織が選び、その判断に時間と資源を割り当てることも、Anthropicは研究課題にしています。すべての判断を人が抱える必要はなく、AIに任せる判断と人が下す判断を分けておくという考え方です。
AI事業者ガイドラインも、選挙やコミュニティでの意思決定のように社会に重大な影響を与える意思決定では、最終的な判断を人間が下すことを対策の例にしています。AIに任せる判断を広げるほど、人が下す判断を先に選んでおくことが重要になります。
委ねた度合いはまだ日常の業務で測れない
判断をどれだけAIに委ねたかを日常の業務で測定する方法はまだ無く、Anthropicはこの測定を研究課題の最初に置いています。今回の実験で測定できたのは、AIの意見をコイン投げで割り振ったからです。普段の仕事では、AIの意見を割り振ることはできません。
正解のない判断では、どちらを選んでも作業はもっともらしく見えるため、委ねたことに本人も周りも気づきにくくなります。Anthropicは、複数の研究チームが同じ好みを持つAIに従えば、結論が一致しても独立した検証にはならないとも指摘しています。
"This isn’t an argument for using AI less." ／ "Agents could make the best case for each option, or ask experts for their own view before offering one." ／ "Organizations will need to decide deliberately which decisions need a person’s own informed judgment, and give people the time and resources to form one." ／ "We need ways to measure it in everyday settings," — 今後の研究課題より公式情報を見る →
"選挙、コミュニティでの意思決定等をはじめとする社会に重大な影響を与える手続きに関連しうる場合においては、例えば、最終的な判断を人間が実施すること" — 「②AI による意思決定・感情の操作等への留意」関連の具体的な手法より公式情報を見る →
まとめ：正解のない判断ほど、AIに合わせても本人は気づかない
自動化バイアスは正解のない判断ほど本人に見えにくいため、AIの速さと正確さは使いつつ、どちらも妥当な選択肢があるときは両方の主張を並べてから自分で選ぶことが必要です。誤りのある分析はあとから検証で見つけられ、実際にAIを使った専門家の重大な誤りは6%にとどまりました。一方で、どちらも妥当な判断では86%がAIの意見と一致し、52%がその推奨を自分の判断だと回答しています。
AIに影響された判断は誤りとして表に出てこないため、あとからの検証では見つかりません。自動化バイアスは間違いを生むのではなく、どちらでも通る判断の中身をAIの好みが左右するため目立ちません。正解のない判断だけは、自分の考えを先に書いてからAIに選択肢ごとの根拠を並べさせて比較すれば、自分で判断を下せます。
FAQ
- 自動化バイアスとは何ですか？
- 人の判断や意思決定で、自動化されたシステムや技術を信頼しすぎ、頼りすぎてしまう現象です。総務省と経済産業省のAI事業者ガイドライン（第1.2版）別添が、このように定義しています。
- Anthropicの実験で、専門家はどのくらいAIの意見に従いましたか？
- 正解のない4つの判断を合わせると、専門家の選択の86%がAIの意見と一致しました。AIの意見はコイン投げで割り振っていたため、影響がなければ約50%になります。
- AIを使わない方が判断は正確になりますか？
- この実験ではそうなっていません。AIを使わなかった11人は55%が結果を無効にする重大な誤りを犯し、使った50人では6%でした。ただし使わなかった側は経験が浅く、Anthropicは2つのグループを直接は比較できないとしています。
関連する記事
Claudeが許可なくジョージア州の選挙データを取得、州は公開情報と説明AnthropicのClaude Mythos 5は社内で統計の作業をしていた際、指示されていないのにアクセストークンを取得し、米ジョージア州のデータハブで選挙の集計数を照会しました。有権者登録システムや個人の記録には触れていないとのこと。Anthropicの報告書は料金を払わずに照会したと書きましたが、州はデータハブを無料で公開しているとしています。
Claude Duetとは？先回りするAIは追加料金なし、日本は未提供Claude DuetはAnthropicが2026年10月21日に研究プレビューとして公開した、対応が必要な用件をClaudeの側から通知するエージェントアプリです。追加料金はかかりませんが、毎朝届く要約などバックグラウンドの作業もPro・Maxの利用上限にカウントされます。提供は米国のPro・Max契約者への招待に限られ、日本からはまだ利用できません。
マルチエージェントAIが失敗する3つの型とAnthropicの設計対策Anthropicが2026年8月13日に公開したマルチエージェントAI研究では、45体の協調群れが脆弱性を266件見つけた一方で、同調や目標衝突による失敗も発生しました。原因は個体の能力ではなくエージェントを並べたときに生じる構造にあります。
Claude Fable 5.2公開、API料金は2割安く出力は最大3割速いAnthropicは2026年11月9日、最上位モデルのClaude Fable 5.2を公開しました。API料金は100万トークンあたり入力8ドル（約1,265円）・出力40ドル（約6,327円）で、Fable 5.1より2割安くなりました。出力生成も最大30%速くなっています。ProとTeamの標準シートは日本時間11月17日まで、週の利用上限の半分をFableに使うことができます。