なぜ偽シンクタンクがチャットボットへの影響工作と疑われるのか
Hanover Institute（ハノーバー・インスティテュート）は本物のシンクタンクではなく、AIチャットボットへの影響工作が疑われる偽シンクタンクだと報じられました。シンクタンクとは、政策を研究して提言する組織のことで、Hanover Instituteはその体裁を真似た偽の組織だと報じられました。
ChatGPTやGeminiを動作させているLLM（大規模言語モデル）に影響を与える行為は、LLMポイズニングとも呼ばれています。Hanover Instituteは署名のない報告書を8月6日に出し始め、8月17日の報道までに100本超を公開しました。報道は原題で「likely attempt」（狙ったとみられる試み）と書いており、意図までは断定していません。
NewsGuard（ニューズガード）のアナリストAlice Leeは、名前もサイトの体裁も赤・白・青の配色も、典型的な米国のシンクタンクを完全に真似ていると述べました。サイトは、いまの紛争に関心を持つ米国の読者へ検索エンジンやAIチャットボット経由で届くよう作られているように見えると、報道は伝えています。
今回の件は、LLMの学習データに悪意あるデータを混ぜる手口とは別物です。わずか250件の悪意あるデータでLLMを「汚染」できるとする研究結果は、Anthropicが2025年10月に公表しています。偽シンクタンクの件で報じられたのは、AIが引用しやすい文章を作ってウェブに公開する行為です。
"But the Hanover Institute is not a real think tank."／"the sites appear designed to reach a U.S. audience curious about the ongoing conflict, either through search engines or AI chatbots."／"It's a perfect mimicry of a typical credible American think tank, right down to the generic name, the site layout, and the red-white-blue color scheme,"／"The fake think tank has churned out over 100 reports since it started publishing on August 6."／"Others refer to this practice of influencing artificial intelligence as “LLM poisoning.”" — Responsible Statecraft の調査報道より公式情報を見る →
偽シンクタンクを作ったPiroへの90万ドルはHavas経由
Hanover Instituteのページ下部の小さな但し書きに、イスラエル政府広告庁の依頼でPiro, Incが作った組織だとあります。 報告書のどれにも署名はありません。この但し書きが、作成元を知る目印になりました。
Piroはイスラエル政府から、90万ドル（約1億4,320万円）を受け取りました。仕事はフランスの広報大手Havas Media（アヴァス・メディア）を通じた再委託で、イスラエルの仕事を請け負う他の多くの業者と同じ請け負い方とのこと。Piroは自社サイトで、LLMが信用度をどう評価するかに合わせて文章を作るサービスを「AI Story Optimization」と名づけています。
共同創業者のDaniel RosenbergはLinkedInで、ChatGPTやGemini、Perplexityに業界のことを聞くと自信ありげな1段落の回答が出力されると投稿しました。その段落がどう組み立てられるのかを多くのブランドは知らないため、Piroは何か月もかけて解析したと続けています。
ただしPiroが司法省に提出した契約書には、イスラエル向けの仕事の目的がAIに影響を与えることだとは書かれていません。RosenbergはHanover Instituteの件を最初に報じたPoliticoへのメールで、自社の仕事は出典のある正確な事実を公の記録に残すことだと答えました。イスラエルをめぐる誤情報に、検証できる情報で対抗するのが目的だとしています。
"A small disclaimer at the bottom of the webpage notes that the organization was created on behalf of the Israeli Government Advertising Agency by Piro, Inc…"／"Piro, Inc, the firm that created the Hanover Institute, has received $900,000 from the Israeli government for its work. Like many other contractors working for Israel, Piro’s work is subcontracted through Havas Media, a French public relations conglomerate."／"Piro’s website says that it “author(s) content engineered for how LLMs evaluate credibility,” describing this service as \"AI Story Optimization.\""／"When someone asks ChatGPT, Gemini, or Perplexity about your category, an answer comes back in one confident paragraph. Most brands have no idea how that paragraph gets built. So we spent months reverse-engineering it…"／"Piro does not explicitly state in its agreement submitted to the Department of Justice that its work for Israel is to influence AI."／"put accurate, sourced facts into the public record and to counter misinformation about Israel with verifiable information" — Responsible Statecraft の調査報道より公式情報を見る →
AIに引用されやすい統計と脚注と出典を備えた報告書
Hanover Instituteの報告書は、AIチャットボットに引用されやすい作りだと報じられました。 脚注と目次があり、主張は中立的な語調で書かれていて、ClaudeやGeminiのようなチャットボットに受け入れられやすい体裁だと報道は見ています。
NewsGuardのアナリストAlice Leeは、LLMが具体的な統計やデータ、強い引用や出典を好むと述べました。Hanover Instituteの報告書は、統計もデータも引用も出典も備えているとのこと。
報告書の多くは定型で、人がチャットボットに投げそうな素朴な問いから始まります。たとえば、題が「What is the Current Situation in the Gaza Strip?」（ガザ地区の現状は？）の報告書があります。
"The institute’s “data reports” have footnotes and tables of contents, and they present arguments in a neutral tone, helping them appeal to chatbots like Claude or Gemini."／"LLMs favor concrete statistics and data, as well as strong citations and sources, which these articles all have,"／"Many of the reports are formulaic, starting with an innocent question that someone might ask a chatbot."／"What is the Current Situation in the Gaza Strip?" — Responsible Statecraft の調査報道より公式情報を見る →
AI検出ツールGPTZeroは12本すべてをAI執筆と判定
Responsible StatecraftがHanover Instituteの報告書から無作為に選んだ12本は、AI検出ツールGPTZeroで調べると12本すべてがAI執筆と判定されました。その内訳は11本が高い確度で、残る1本が中程度の確度でした。報道によると、GPTZero（ジーピーティーゼロ）は誤検出の少なさをうたう人気のAI検出ソフトとのこと。
GPTZeroで判定したのは、8月6日から報道までの1週間あまりで公開された100本超のうちの12本です。残りの報告書がどう判定されるかは、明らかになっていません。
"RS analyzed 12 random Hanover Institute articles using GPTZero, a popular AI detection software that claims a low false-positive rate. GPTZero flagged 11 of the articles as AI-written with “high confidence”; it flagged one article as AI-written with “moderate confidence.”" — Responsible Statecraft の調査報道より公式情報を見る →
CopilotやGeminiの学習に使われた情報工作のサイト
Drop Siteが調べたところ、Microsoft Copilot（コパイロット）とGoogle Geminiを中心に、多くのチャットボットの学習に親イスラエル系サイト群のデータが使われていたと分かりました。 Drop Siteが調べたのは、Hanover Instituteとは別の件です。Hanover Instituteのサイト自体が引用されたかどうかは、報道では触れられていません。
イスラエルは元トランプ陣営の選挙対策責任者Brad Parscale（ブラッド・パースケール）と、4,650万ドル（約73億9,800万円）の契約を結びました。チャットボットに影響を与えるよう設計した、親イスラエルのサイト群を作らせたとのこと。
Drop Siteが調べた結果は、報道の前月に出ました。CopilotとGemini以外のチャットボットも、それらのサイトがイスラエルによる影響工作の一部だと説明しないまま頻繁に引用していると、報道は伝えています。
"Israel has also contracted former Trump campaign manager Brad Parscale to create pro-Israel websites engineered to influence chatbots as part of a $46.5 million contract. A Drop Site investigation last month found that many chatbots, particularly Microsoft Copilot and Google Gemini, had been successfully trained on data from those websites. Other chatbots frequently cite those websites without flagging them as part of an Israeli influence operation." — Responsible Statecraft の調査報道より公式情報を見る →
偽シンクタンクのファクトチェックは何を目印にしたのか
報道が偽のシンクタンクだと判断した材料は、次の4つです。 中心になったのは報告書に署名がないことと、ページ下部の小さな但し書きでした。
- 報告書のどれにも署名がないこと
- ページ下部の小さな但し書き
- NewsGuardのアナリストによる、典型的な米国のシンクタンクをそのまま真似た体裁という見立て
- GPTZeroによる、無作為に選んだ12本のAI執筆判定
このうち署名の有無と但し書きは、報告書のページを開けば見えます。NewsGuardの見立てとGPTZeroの判定は、ページの外にある材料です。
"None of the reports have bylines." — Responsible Statecraft の調査報道より公式情報を見る →
偽シンクタンクの報告書100本超はLLMポイズニングの疑い
LLMポイズニングの疑いとして報じられたのは、偽シンクタンクのHanover Instituteが、署名のない報告書を8月6日から100本超公開した件です。制作したのはイスラエル政府広告庁の依頼を受けたPiro, Incです。また、Piroは90万ドル（約1億4,320万円）を受け取っており、仕事はHavas Mediaを通じた再委託でした。
報告書は脚注や統計を備えて中立的な語調で書かれ、AIチャットボットに引用されやすい作りだと報道は見ています。GPTZeroは無作為に選んだ12本のうち11本を高い確度で、1本を中程度の確度でAI執筆と判定しました。別件では、CopilotとGeminiを中心に多くのチャットボットの学習に親イスラエル系サイト群のデータが使われていたと報じられています。
FAQ
- LLMポイズニングとは何ですか？
- AIチャットボットが参照する情報に手を入れ、回答の中身を動かそうとする行為の呼び名です。報道はPiroが、AIが信用度をどう評価するかに合わせた文章を作るサービスを「AI Story Optimization」と呼ぶと伝え、AIに影響を与える行為を「LLM poisoning」と呼ぶ人もいると述べています。
- なぜこうしたサイトはAIに引用されやすいとされるのですか？
- 具体的な統計やデータ、強い引用や出典を備えた文章をLLMが好むためだと、NewsGuardのアナリストは述べています。Hanover Instituteの報告書はこれらをすべて備えているとのこと。
- 実際にAIが引用した例はあるのですか？
- Hanover Instituteのサイト自体の引用は報道にありません。報じられているのは、別の親イスラエルのサイト群の例です。Drop Siteが調べたところ、Microsoft CopilotとGoogle Geminiを中心に多くのチャットボットの学習にそのデータが使われていました。他のチャットボットも、そのサイト群を影響工作の一部だと説明しないまま頻繁に引用しているとのこと。
関連する記事
AIワークフロー構築ツール7種に脆弱性14件、プロンプトでコード実行もEndor LabsはDifyやLangflowなど、AIワークフロー構築ツール7種で14件の脆弱性を見つけたと発表しました。なかには認証がなくても、プロンプトからサーバー上でコードを実行できるものもあります。NocoBaseなど4つの製品には修正版が出ていますが、KestraとDifyは修正しない方針で、Flowiseは開発が終了しています。
CloudflareのGLM-5.3で155件の応答に他人のリクエスト内容が混入Cloudflare Workers AIのGLM-5.3で、8月27日〜9月9日に155件の応答へ他人のリクエスト内容が混ざりました。681,280トークンを超える長い入力への応答だけが対象です。Cloudflareは設定の不一致と推論エンジンSGLangの不具合が重なったと説明し、修正済みとのこと。
OpenAIが米中間選挙への干渉に備え数百人規模の監視センターを設置OpenAIは米中間選挙を前に、ChatGPTなど自社製AIが選挙妨害に使われていないかを監視するセンターを立ち上げました。社内の複数チームから数百人が加わる体制で、開票が終わるまで運用します。10月上旬には、ロシアとイランの影響工作2件がOpenAI製AIを使っていたと報告しています。
パナソニック、利用禁止の生成AIに約33万人分の個人情報をアップロードパナソニック オペレーショナルエクセレンスは10月23日、社内で利用を禁じている外部の生成AIサービスに、従業員や家族など約33万人分の個人情報がアップロードされたと発表しました。生成AIの事業者はAI学習機能が無効だったと回答し、被害は確認されていないとのこと。対象者に求められる対応はありません。