OpenAIがChatGPTを悪用した影響工作2件のアカウントを停止
影響工作とは、出どころを隠したまま他国の世論を動かそうとする活動です。 OpenAIは10月8日の報告書で、ロシア発とイラン発の影響工作2件に使われていたChatGPTのアカウントを停止したと明らかにしました。どちらもAIと従来の手法を組み合わせて偽の組織や人物を作り上げ、地政学や紛争についての主張を標的の読者へ流していました。
OpenAIが10月8日に公表した2件の影響工作
| 比較対象 | ロシア発 | イラン発 |
|---|---|---|
| 工作名 | Dark Clark | Bogus Bylines（偽りの署名） |
| 偽装したもの | 調査機関「SRC」 | 西側の記者を装う7つの名義 |
| 主な標的 | 中南米の国々 | 各国の中小オンラインメディア |
| 拡散の度合い | カテゴリー5 | カテゴリー4 |
調査機関や記者に偽装して発信者を隠す
OpenAIは2件の手口を「偽装の看板（false front）」と呼んでいます。 実在しない記者や研究機関を装って、本当の発信者を隠すやり方です。ロシア発は中南米の現地住民を、事情を知らせないまま調査機関で働かせていたようで、イラン発は架空の記者名で長い記事を各国のオンラインメディアへ売り込んでいました。
2件とも作った中身を主要メディアにまで掲載
2件とも、作った記事や偽情報はSNSへの投稿にとどまらず、主要なメディアにまで掲載されました。また、OpenAIが拡散の度合いを1〜6の6段階で表す指標で分類した結果は、ロシア発がカテゴリー5、イラン発がカテゴリー4です。OpenAIは2件の情報を関係当局と共有しています。
We recently banned two IO—one from Russia and one from Iran—that used our models in combination with more traditional techniques and technologies to support sophisticated “false front” entities. They used those entities to launder geopolitical, conflict-related messaging into their target audiences. ／ Both managed to land their content (not all of which was generated from our models) in mainstream media outlets, rather than simply posting it on social media. — 2件の停止と偽装の看板、主要メディアへの掲載に関する記述より公式情報を見る →
ロシア発の影響工作は偽の調査機関で中南米へ偽情報を広げる
ロシア発の工作は、OpenAIが「Dark Clark」と名付けたものです。 運営者はロシアからChatGPTを使い、中南米の国々を標的にしていました。OpenAIの見立てでは、目的の多くはウクライナの評判を落とすことで、一部はアルゼンチンとボリビアの政治への介入でした。
Dark Clarkの運営者が内部報告に書いた主な偽情報と、確認された反応
| 時期と国 | 運営者が報告した手口 | 確認された反応 |
|---|---|---|
| 2024年・アルゼンチン | ミレイ大統領が犬にカルティエの首輪を買ったという偽情報 | 公開情報の分析が「Politology」の仕業と結論 |
| 2026年3月・エクアドル | 在エクアドルのウクライナ領事を装うフェイク音声 | 一致するTikTok投稿（反応は限定的） |
| 2026年5月・ペルー | 教育局を装う偽メールで、学校にウクライナの催しを指示 | ペルーとポーランドで報道、欧州議会議員が反応 |
| 2026年5月下旬・ボリビア | 国営水道会社の職員を装う断水のフェイク音声 | 水道会社が公式に否定 |
| 2026年6月・エクアドル | 学校に大統領らへの忠誠を誓う式を開かせた | 教育相が詳細な反論 |
架空の人物「ミア・クラーク」が操った調査機関SRC
工作の中心は、「Social Research Center（SRC）」という名の組織でした。 運営者はミア・クラークという架空の人物を通じてSRCを操り、工作名もこの名前に由来しています。ChatGPTはロシアから使うことができないため、運営者は接続元の国を隠す通信の仕組みであるVPNを経由していました。
OpenAIの見立てでは、SRCの現地スタッフはロシア系集団のために働いていると知らなかったようです。SRCのサイトには60本を大きく超える記事があり、大半は独自に執筆されたものでした。OpenAIは、この2年半で止めた中で最も複雑な「偽装の看板」の運営だったとしています。
ペルーの学校への偽メールに欧州議会議員まで反応
運営者は内部報告で、2026年5月にペルー・リマの地方教育局を装ったメールを学校へ送信したと主張しています。 メールは5月21日の「文化・言語多様性の日」にウクライナの催しを開くよう求め、ウクライナの民族主義者ステパン・バンデラに触れるよう指示していました。偽メールの主張はその後ペルーとポーランドで報じられ、ポーランド選出の欧州議会議員が反応しています。
運営者の報告に無関係な出来事が含まれる
OpenAIは、運営者の内部報告をそのまま信用することはできないとしています。 運営者が、無関係な出来事まで自らの成果として報告していたためです。
その一方で、本当に広まった偽情報もありました。エクアドルで拡散した偽の契約書はファクトチェック（報道機関や団体が情報の正確さを検証して公表すること）の対象になり、ボリビアで流れた断水のフェイク音声は水道会社が公式に否定しています。
They appear to have controlled the SRC via a fake persona named “Mia Clark”; in honor of the name, we have nicknamed this operation “Dark Clark.” Since we do not allow access to our models from Russia, they used VPNs to connect to our services. ／ The available evidence indicates that the SRC’s employees in Latin America were not aware that they were working for a Russian group. ／ As such, their own claims of impact in their internal reporting cannot be taken at face value. — SRCの運営とVPN、現地スタッフの認識、運営者の報告の信頼性に関する記述より公式情報を見る →
イラン発の影響工作は偽記者名義の記事100本近くを掲載
イラン発の工作は、OpenAIが「Bogus Bylines（偽りの署名）」と名付けたものです。 運営者は西側の記者を装う7つの名義（記事に掲載される書き手の名前、バイライン）を使い、米国とイランの紛争を報じる長い記事を、世界各地の中小オンラインメディアへ売り込んでいました。
Bogus Bylinesが記事を掲載した規模（OpenAIの報告書による）
| 内訳 | 内容 |
|---|---|
| 使った名義 | 7つ |
| 掲載・転載された記事 | 100本近く |
| 掲載したメディア | 十数のオンラインメディア |
| 最初と最新の記事 | 2025年7月と2026年10月 |
| 掲載先の規模（一例） | Facebookのフォロワー約200万（2026年8月時点） |
7つの名義で米イラン紛争の記事が売り込まれる
運営者はイランからChatGPTを使い、ペルシャ語で指示を出していました。 名義はアーヴィン・B・ホスキンスやノア・ラミントンなど7つで、多くは米国の記者という設定ですが、ノア・ラミントンだけはニュージーランド在住とされています。ホスキンス名義の経歴は「米国のフリーライター」でしたが、SNSの所在表示ではアカウントがイランにあると出ていました。
記事の掲載が2026年3月以降に集まる
OpenAIが公開情報から見つけた記事は、十数のメディアで100本近くにのぼります。 最初の記事は2025年7月で、最新は2026年10月の掲載です。米国とイランの紛争が始まってから本数が大きく増え、2026年3月以降に集中していました。
掲載先は国際情勢や中東を報じる中小のメディアが中心でした。ただし、2026年8月時点でフォロワー数が次の規模に達する媒体も含まれています。
- Facebook: 約200万
- X: 約35万5,000
- Instagram: 54万4,000超
運営の実態は請負で影響工作を行う商業的な主体に近いものの、OpenAIは誰なのかを特定できていないとしています。OpenAIは、Bogus Bylinesの情報も関係当局と共有しました。
The operators used seven different bylines to pitch their articles, so we have dubbed their campaign “Bogus Bylines.” The long-form articles focused on the US-Iran conflict. ／ The earliest article we identified was published in July 2025, and the latest in October 2026. The frequency of articles greatly increased after the outbreak of the US-Iran conflict. ／ The overall activity appeared consistent with a commercial actor running a for-hire influence campaign, but we are unable to identify the particular actor involved. — 名義の数と工作名、記事の時期、運営者の特定に関する記述より公式情報を見る →
ChatGPTは主に内部報告書づくりと文章の推敲に使われる
2件とも、ChatGPTの主な用途は工作の中身づくりではなく、内部向けの報告書づくりと文章の手直しでした。また、OpenAIによると2件の手口はAI以前の複雑な影響工作によく似ており、AIは作業の一部を楽にするために使われていたとのこと。
2件の工作におけるChatGPTの使われ方（OpenAIの報告書による）
| 用途 | ロシア発 | イラン発 |
|---|---|---|
| 最も多かった用途 | 活動に関する内部報告書の作成と更新 | 記事の推敲と売り込みメールの作成 |
| 中身の作成 | 偽の手紙づくりと翻訳、契約書の校正 | SNSのコメントをまとめて生成 |
| 成果の報告 | 無関係な出来事も自らの成果にカウントした | 返信先の閲覧数を成果にカウントした |
ロシア側は内部報告書が中心で、偽情報づくりは一部
ロシア側の運営者は、ChatGPTを何より活動の内部報告書づくりに使っていました。 中身づくりに使った例は一部で、パナマのウクライナ名誉領事を汚職に結び付ける手紙をロシア語で作らせ、スペイン語に訳させて、読み上げ用の音声台本まで書かせています。2026年3月には、ある会社がエクアドルの個人と結んだとする契約書の体裁をChatGPTで校正し、その「契約書」は後にSNSで拡散しました。
イラン側は投稿規定に合わせた記事の推敲とSNSのコメント
イラン側は媒体ごとの投稿規定に合わせて英語の原稿を修正させ、編集者へ送信する売り込みメールも書かせていました。 あわせてSNSのコメントもまとめて生成させており、報告書の例では英語のコメント群が10分、ペルシャ語のコメント群が13分のうちに投稿されています。反イラン政権の衛星放送「イラン・インターナショナル」の投稿には、敵対的なペルシャ語の返信を、20回以上に分けてまとめて生成させていました。
2件とも内部報告で成果を水増し
2件の運営者はどちらも、内部報告で自らの成果を誇張していました。 イラン側が成果としてカウントした数字は、運営側が投稿した返信の閲覧数ではなく、返信先となった元投稿の閲覧数でした。ロシア側は先に触れたとおり、関係の無い出来事まで自らの手柄として報告しています。
Both operations also made heavy use of AI to draft internal reports (the Russian operation did this more than anything else); in both cases, the actors used questionable or outright deceitful methodologies to exaggerate the operators’ effectiveness. ／ What is most striking about these operations is that they closely resembled complex influence operations of the pre-AI age, but used AI to make some of the workflows easier. — 内部報告書へのAIの利用と成果の誇張、AI以前の工作との類似に関する記述より公式情報を見る →
拡散の度合いは6段階でロシア発が5、イラン発が4
OpenAIは影響工作の拡散度合いを、米シンクタンクのブルッキングス研究所が作った「Breakout Scale」で測っています。 Breakout Scaleは、影響工作がどこまで拡散したかを1（最低）から6（最高）の6段階で表す指標です。
OpenAIによる2件の評価（Breakout Scale、1〜6の6段階）
| 対象 | カテゴリー | 評価の根拠 |
|---|---|---|
| ロシア発 | 5 | ファクトチェックや政府の否定を招き、欧州議会議員の発言にまで波及した |
| イラン発（記事の掲載） | 4 | 複数のメディアへの掲載が続いた |
| イラン発（SNSのコメント） | 2 | 反応は1〜2桁にとどまった |
ロシア発はOpenAIとして初のカテゴリー5
ロシア発の工作は、OpenAIが報告を開始してから初めてカテゴリー5と評価されました。この評価の決め手は偽情報がファクトチェックや政府の公式な否定を招き、ポーランド選出の欧州議会議員が発言するまでに波及したことです。運営者の報告には誇張があるものの、一部の主張は公開情報で裏付けられたとのこと。
イラン発は記事がカテゴリー4、SNSのコメントは2
イラン発の工作は、記事の掲載とSNSのコメントで評価が異なります。このうち記者名義の記事は複数のメディアに掲載され続けたためカテゴリー4ですが、SNSのコメントは反応が1〜2桁にとどまり、カテゴリー2でした。7つの名義に紐づくXアカウントのうち3つは、2026年8月の時点で凍結されています。
Most notably, the operation’s claim to have tricked a Peruvian school into holding an event that portrayed Bandera was subsequently reported on in both Latin America and Europe, and appears to have led to comment from at least one Polish MEP. ／ The social media replies that we were able to identify generally enjoyed low numbers of likes, views, and comments (in the single or double digits). — ロシア発の偽情報の広がりと、イラン発のSNSコメントへの反応に関する記述より公式情報を見る →
過去30件の工作は実在メディアに掲載されるほど広く届く傾向
OpenAIはこの2年半で暴いた影響工作30件を並べ、実在のメディアに中身が掲載される工作ほど到達範囲が大きい傾向があるとしています。 偽のSNSアカウントで広めるだけの工作より、本物の媒体に記事が掲載される工作のほうが、多くの読者に届きやすいとの分析です。
OpenAIが報告書で例に出した、偽装の看板を使う工作
| 工作 | 手口 | その後 |
|---|---|---|
| アリス・ドノバン（2016〜17年） | ロシア軍情報機関の偽記者 | 暴露後に活動を停止 |
| PeaceData（2020年） | 偽のニュースサイト | 暴露後に活動を停止 |
| Dark Clark | 偽の調査機関 | OpenAIがアカウントを停止 |
| Bogus Bylines | 偽の記者名義 | OpenAIがアカウントを停止 |
OpenAIはAIで影響工作の規模が大きくなると指摘
AIを使えば偽装の看板を大きな規模で効率よく動かせ、語学力や編集力も補えるとOpenAIは指摘しています。 AIの助けがあれば、事情を知らない社員や編集者を使って、背後が誰なのかを読者に知られないまま記事を届けることもできます。偽のシンクタンクで情報をゆがめる別の事例は、「LLMポイズニングの疑い【偽シンクタンクが11日で報告書100本超公開】」の記事で紹介しました。
偽装は暴露に弱く、過去の例は暴露後に活動停止
一方でOpenAIは、正体を隠す工作には暴露に弱いという面もあるとみています。 2016〜17年の「アリス・ドノバン」はロシア軍情報機関の偽記者として欧米の媒体に記事を掲載していましたが、2020年の偽ニュースサイト「PeaceData」と同じく、暴露された後に活動を停止しています。OpenAIが今回2件を公表したのも、追加の調査と阻止をしやすくし、工作を続けにくくするためです。
This is consistent with a pattern we’ve observed across the 30 covert influence operations we’ve exposed in the last two and a half years: the operations which try to land their content in real media outlets, rather than relying on fake social media distribution, tend to have the highest potential reach and impact. ／ AI can give such false-front operations greater scale, efficiency, linguistic fluency, and editorial ability. ／ Both “Alice Donovan” and “PeaceData” ceased their activity after they were exposed. That’s why our goal in reporting these false-front operations is to make further research and disruption easier—and make continuing the operations harder. — 30件に見られる傾向、AIが与えうる力、過去の例と公表の狙いに関する記述より公式情報を見る →
停止された2件と、ChatGPTの用途
OpenAIは10月8日、調査機関と記者に偽装したロシア発とイラン発の影響工作2件について、ChatGPTのアカウントを停止しました。 ロシア発は中南米でなりすましメールやフェイク音声を流し、OpenAIとして初めてカテゴリー5と評価されています。イラン発は7つの記者名義で、100本近い記事を十数のメディアに掲載しました。
ChatGPTの主な用途は内部報告書づくりと文章の推敲で、運営者の成果報告は水増しされていました。AIの利用規約で影響工作をどう定めているかは、「Claudeの利用規約が11月12日改定、影響工作や監視の禁止範囲を明記」の記事で紹介しています。
FAQ
- OpenAIが停止したのはどんな影響工作ですか？
- ロシア発の「Dark Clark」とイラン発の「Bogus Bylines」の2件です。どちらも調査機関や記者に偽装して本当の発信者を隠し、地政学や紛争についての主張を標的の読者へ流していました。OpenAIは2件に使われたChatGPTのアカウントを停止し、情報を関係当局と共有しています。
- ChatGPTは偽の記事や偽情報そのものを書いていたのですか？
- OpenAIの報告書では、ロシア側は大半の事例でChatGPTを工作の中身づくりではなく活動の報告に使っていたとされています。中身の作成に使った例は、偽の手紙づくりや契約書の校正など一部にとどまります。イラン側も、主な用途は媒体の投稿規定に合わせた記事の推敲と、編集者への売り込みメールでした。
- 拡散の度合いを表すカテゴリー5とは、どの程度の規模ですか？
- OpenAIは、ブルッキングス研究所が作った指標Breakout Scaleで影響工作の拡散度合いを測っています。1（最低）から6（最高）の6段階で、ロシア発の工作は偽情報がファクトチェックや政府の否定を招き、政治家の発言にまで波及したためカテゴリー5とされました。OpenAIがカテゴリー5の工作を停止させたのは、報告を開始してから初めてです。
関連する記事
OpenAIとServiceNowが提携拡大、ChatGPTからインシデント対応が可能にOpenAIとServiceNowは2026年10月28日、提携を拡大すると発表しました。ChatGPTと自社のServiceNowを連携するプラグインはすでに提供が始まり、AIとの会話で類似インシデントを検索したり、レコードを更新したりできます。Codexの組み込みやセキュリティ製品などの新機能は、2027年にかけて提供される予定です。
ChatGPTとCodexの利用上限、12月からPlus・Pro・Businessで共有にOpenAIは、12月からPlus・Pro・BusinessでChatGPTとCodexの利用上限を共有すると発表しました。利用量はトークン単位で計算され、高度なモデルや複雑な作業ほど多くなります。Instantのチャットは対象外です。OpenAIは具体的な開始日とプラン別の上限を公表していません。上限に達した後もクレジット購入で使い続けられます。
ChatGPTがiCloudメール・カレンダーに対応、全プランで利用可能OpenAIは2026年10月27日、ChatGPTにiCloudメールとiCloudカレンダーのプラグインを追加しました。無料を含む全プランのWeb・デスクトップアプリ・iOSで、メールの検索や予定の更新ができます。連携にはAppleのアプリ用パスワードが必要で、ChatGPTで連携を解除してもアプリ用パスワードはApple側に残ります。
ChatGPT、18歳未満には武器情報を制限 法執行機関へ200件超を通報OpenAIは2026年10月30日、ChatGPTで18歳未満と推定したユーザーには、暴力の意図がないプロンプトでも武器やセキュリティシステムの具体的な情報を制限すると発表しました。人を傷つける発言を繰り返す会話は年齢に関係なく自動終了し、終了が続くとアカウントが一時停止されることもあります。2026年第3四半期の法執行機関への通報は200件を超えました。