AI依存で「わからない」が消える【3,132人の実験で判断力を検証】

AIに頼りすぎると「わからない」と答えなくなる

判断保留とは自信の無い問題で「わからない」を選択して回答を控えることです。この論文ではAIを使うことができる状態にあるだけで判断保留がほぼ消えました。 実験では参加者が映画に関する難しい問題6問に回答し、どの問題でもいつでも「わからない」を選べました。

研究の概要

タイトル
英語の原題は、AI advice suppresses people's willingness to say "I don't know", even when the advice is wrong and accuracy is incentivized
著者
筆頭から順に、Chiara Marcoccia(キアラ・マルコッチャ)/Walter Quattrociocchi(ヴァルテル・クアトロチョッキ)/Valerio Capraro(ヴァレリオ・カプラロ)
投稿
2026年7月15日(arXiv:2607.13562)
規模
5実験・N = 3,132(4件が事前登録/1件は直接追試)

判断保留の割合は0.44から0.03へ減少

5つの実験すべてでAIありの判断保留はAIなしを大きく下回りました。 AIなしとAIありで判断保留を選んだ割合を、実験ごとにまとめた結果は次のとおりです。

実験 人数 AIなし AIあり
Study 1a 314 0.36 0.06
Study 1b 310 0.44 0.03
Study 2(報酬なし) 812 0.17 0.01
Study 3(報酬なし) 843 0.32 0.02
Study 4(報酬なし・自動表示) 853 0.35 0.01

最も差が開いたのはStudy 1bで、判断保留はAIなしの0.44に対しAIありでは0.03です。Study 1bはStudy 1aの直接追試で、AIの誤答を3種類用意して見せる方式に変更しました。それでもAIありの判断保留はほぼ消えたままでした。

"In five experiments (N = 3,132; four preregistered, one direct replication), participants answered difficult questions and could always decline to respond."(Abstract)/"Participants in the baseline condition were substantially more likely to suspend judgment than participants who could seek AI advice (0.36 vs. 0.06; one-tailed t-test: t = 8.295, p < .001; see Figure 1a)"(Study 1a)/"Participants in the baseline condition were again substantially more likely to suspend judgment than participants who could seek AI advice (0.44 vs. 0.03; t = 11.772, p < .001; see Figure 1b)"(Study 1b)— arXiv 論文より
公式情報を見る →

正答率は約1/3に低下、確信度は約2.5倍に上昇

確信度とは参加者が自身の回答にどれだけ自信を持っているかを答えた値です。ところが、AIを使うことができた参加者はAIなしより多くの問題に答えたものの、正答率は下がり自信だけが上がりました。

設問はAIの助言が誤りになるよう作られている

著者らは設問を作る段階でAIの助言が誤りになるよう仕込みました。AIを使うことの影響と助言の正確さの影響を切り分けるためです。

助言が正しければAIに任せるのは合理的な判断で、正答率が上がっても不思議はありません。この設計では助言がどれも誤りなので、判断保留が消えたことは正しい助言に任せた結果では説明できません。

"We engineered the questions so that AI advice was wrong, separating AI use from its accuracy."(Abstract)— arXiv 論文より
公式情報を見る →

確信度は29.6から75.9へ上がり正答率は27.5%から9.2%へ

報酬のない条件をまとめて集計すると、正答率はAIなしの27.5%に対してAIありが9.2%で約1/3でした。 一方で平均の確信度は29.6から75.9へ上がり、約2.5倍になっています。AIを使うことができると、人ははるかに自信を持つ一方ではるかに間違えやすくなると論文はまとめています。

"in the absence of monetary incentives, participants answered more questions but were correct about a third as often as when AI was unavailable (pooled correctness: 27.5% vs. 9.2%), while confidence was roughly two and a half times as high (mean confidence: 29.6 vs. 75.9). Without incentives, AI access made people far more assured and far less accurate."(Discussion)— arXiv 論文より
公式情報を見る →

報酬をつけると判断保留と正答率は何が変わるのか

Study 2から4では正解に報酬をつけ、誤答では報酬を差し引く条件を加えました。正解すると1問につき0.10ドル(約15.9円)を受け取り、誤答すると0.10ドル(約15.9円)を失う仕組みで、判断保留を選んだ場合は0ドル(約0円)です。しかし誤答に損が出る条件でも、判断保留と正答率はAIなしの水準まで戻りませんでした。

報酬でAIありの判断保留も増えたが0.08止まりで「わからない」は少数

Study 3で報酬をつけるとAIありの判断保留は0.02から0.08に増えましたが、AIなしの0.41には遠く届きません。 AIなしも0.32から0.41へ増えたため、両者の差はほとんど縮まりませんでした。

事前登録は実験の前に仮説と分析の計画を公開しておく方法です。著者らはAIがあると報酬の効き目が弱まると事前登録で予測していました。しかし、AIと報酬の交互作用(組み合わせによって効き目が変わること)は、Study 2から4のどれでも有意になっていません(p値は順に.274・.506・.784)。

AIは報酬の有無に関係なく判断保留を大きく減らし、報酬はAIの有無に関係なく判断保留を少し増やしました。2つの効果はほぼ別々に働いていたことになります。

"Across Studies 2–4, then, our pre-registered prediction of a negative AI × stakes interaction on suspension was not supported (p = .274, .506, and .784, respectively). AI availability and stakes acted largely independently: AI sharply reduced suspension regardless of stakes, while stakes modestly increased suspension—most clearly in Study 3—regardless of AI."(Study 4)— arXiv 論文より
公式情報を見る →

報酬で判断が慎重になり正答率が上がったのはAIありだけ、AIなしは横ばい

報酬で正答率が上がったのはAIの助言を使うことができる条件だけでした。実際、Study 3ではAIありの正答率が0.11から0.16に上がり、AIなしは0.28と0.27でほとんど変化していません。 Study 4でもAIありは0.07から0.14に上がった一方で、AIなしは0.27のままです。

報酬があるときは参加者がAIの助言を求める回数も減少しました。Study 2では6問中5.44回から4.93回へ、Study 3では5.27回から4.53回へ下がっています。論文の要旨によれば報酬があると参加者は助言を求めることも従うことも減り、より正確に答えるようになりました。

"Incentivizing accuracy and penalizing inaccuracy led participants to seek and follow AI advice less, answer more accurately, and suspend judgment more often, though still far less than when AI was unavailable."(Abstract)/"Like Study 2, when AI advice was available, monetary stakes increased correctness (0.11 vs. 0.16; b = 0.055, SE = 0.017, t = 3.164, p = .002). By contrast, when AI advice was unavailable, stakes had no effect on correctness (0.28 vs. 0.27; b = -0.009, SE = 0.022, t = -0.382, p = .703; see Figure 3b)"(Study 3)/"Participants sought AI advice substantially less frequently when stakes were present than when they were absent (4.53 vs. 5.27 times out of six questions; b = -0.744, SE = 0.182, t = -4.083, p < .001; see Figure 3c)"(Study 3)— arXiv 論文より
公式情報を見る →

AIの助言が自動表示でも「わからない」という判断保留は消失

Study 3までは参加者が自らAIに助言を求める方式でした。Study 4では参加者が助言を受けるかどうかを選ぶことができないようにし、AIありの条件では求めなくても助言が表示されるようにしています。ところが、助言が自動で表示される条件でも、AIありの判断保留はAIなしを大きく下回りました。

自動表示で判断保留は0.35から0.01へ減少、正答率も低迷

Study 4(N = 853)の報酬なし条件では、判断保留がAIなしの0.35に対しAIありは0.01でした。 報酬あり条件でもAIありは0.07で、AIなしの0.39には届いていません。求めていない助言が目の前に出てくるだけでも、判断保留はほぼ消えました。

正答率は報酬なしのAIありで0.07にとどまり、報酬をつけても0.14でした。AIなしの0.27とはまだ大きな差が残っています。

"Study 4 (N = 853) therefore removed participants' control over whether to receive AI advice. It was identical to Study 3 except that, in the conditions where AI advice was available, it appeared automatically rather than on request."/"Access to AI advice continued to dramatically reduce judgment suspension, both when monetary stakes were absent (0.35 vs 0.01; b = -0.333, SE = 0.029, t = -11.56, p < 0.001) and when they were present (0.39 vs 0.07; b = -0.322, SE = 0.032, t = -10.18, p < 0.001)."(いずれも Study 4)— arXiv 論文より
公式情報を見る →

思考力低下とは別に発生するメタ認知の変化とエピステミア

メタ認知とは自身が何を知っていて何を知らないかを監視する働きです。そのため、求めなくてもAIの助言が出てくるようになると、正答率だけでなく、答えてよいと判断する基準(メタ認知の閾値)まで変わる可能性があると論文は指摘しています。

報酬で判断保留が一部戻ったことから、著者らは、その消失が避けようのない認知の限界によるものではないと述べています。動機があれば人は自ら判断できるので、判断保留が消えるかどうかは状況によって変わるという見方です。そのうえで、AIが左右したのは能力ではなく意志だと結論づけました。この結論は考える力そのものが落ちるという思考力低下の説明とは異なります。

エピステミアは、検証をせずに表面のもっともらしさと文法の整い方だけでAIの出力を受け入れる傾向を指す言葉です。論文は、AIを使うことができる状態で「わからない」がほぼ消えた結果を、この傾向で解釈できるとしています。

AIが文章に関わったかどうかを機械で見分ける仕組みには限界があります。職を失ったライターの名前がAI記事の署名に使われ続けた事例もあります。

"As AI suggestions grow ubiquitous and unsolicited, they may not simply affect answer accuracy; they may even alter the metacognitive threshold at which people decide whether they know enough to answer."(Abstract)/"the near-elimination of suspension under AI access is not a fixed cognitive limitation but a contextual response that monetary consequences partly correct: people can recruit their own judgment when motivated, so what AI changes is willingness, not capacity."/"These findings can be read through the notion of epistemia … : the tendency to accept AI outputs for their surface plausibility and syntactic coherence rather than through verification."(いずれも Discussion)— arXiv 論文より
公式情報を見る →

AI依存で変わるのは能力ではなく意志

この論文ではAIを使うことができる状態にあるだけで、助言が誤っていても「わからない」という回答がほぼ消えました。 正答率が約1/3に下がる一方で確信度は約2.5倍に上がっています。報酬をつけても、助言を自動表示に切り替えても、判断保留はAIなしの水準まで戻りませんでした。著者らの結論は、変わったのは能力ではなく意志だというものです。

FAQ

この研究の規模はどれくらいですか?
5つの実験で合計3,132人が参加しました。4つは事前登録された実験で、残る1つは直接追試です。参加者は映画に関する難しい問題6問に回答し、いつでも回答を辞退できる設計でした。
AIの助言が正しければ問題ないのでは?
この研究ではAIの助言が誤りになるよう設問が作られています。AIを使うこと自体の影響と助言の正確さの影響を切り分けるためです。そのため観測された変化は信頼できるツールに任せた結果としては説明できません。
正答率と確信度はどう変化しましたか?
報酬がない条件では、正答率がAIなしの27.5%に対しAIありは9.2%と、約1/3に下がりました。一方で平均の確信度は29.6から75.9へ約2.5倍に上がっています。
正解に報酬をつければ改善しますか?
一部は戻ります。報酬があるとAIの助言を求める回数が減り、正答率が上がり判断保留もわずかに増えました。ただしAIがない場合の水準には届きません。