ChatGPT、18歳未満には武器情報を制限 法執行機関へ200件超を通報

18歳未満は暴力の意図がなくても武器の情報が制限される

この制限は2026年10月30日に発表されて今後数週間で順次導入され、年齢推定で18歳未満と判定されたユーザー全員に、一見無害なプロンプトであっても適用されます。 OpenAIはこの日、ChatGPTの安全対策として、18歳未満向けの武器に関する情報の制限強化と、「コミュニティ安全レポート」の公開を発表しました。

ロイターは、チャットボットが若いユーザーに及ぼす危険や、危害の兆候を見つける企業の役割に厳しい目が集まる中での発表だと伝えています。同じ記事は、10代によるChatGPTの利用時間を1日平均15分未満とした初のレポートを、OpenAIが10月初めに公表していたことにも触れています。

武器とセキュリティシステムの具体的な情報が対象

これまでのChatGPTは暴力の計画には協力せず、18歳未満には武器の探し方や入手方法を答えないよう制限するだけでしたが、今後は暴力に悪用されうる具体的な情報であれば、暴力の意図がないプロンプトでも18歳未満への提供を制限します。 対象は武器とセキュリティシステムに関する情報です。

今回の変更で、プロンプトの内容に問題がなくても、暴力の実行に使われる恐れがある情報は提供されなくなります。公式発表では、この変更をこれまでの保護策を広げる措置と位置づけています。

暴力の防止や相談先探しに使う場合は制限の対象外

暴力の防止や事態の沈静化、助けを求めることや信頼できる大人への相談には、18歳未満のユーザーもこれまでどおりChatGPTを利用することができます。 制限がかかるのは、暴力の実行に悪用されうる情報だけです。危険なサインの見分け方や暴力を防ぐ方法を学ぶ使い方は、年齢に関係なく続けられます。

ChatGPTは利用中も18歳未満かどうかを推定し続ける

年齢はChatGPTを最初に使った時に1回推定して終わりではなく、利用している間の行動からも推定し直されるため、途中で18歳未満向けの環境に切り替わることがあります。 年齢推定は、行動パターンなど複数のシグナルから、ユーザーが18歳未満か18歳以上かを見分ける仕組みです。OpenAIは2025年にこの仕組みを導入しており、今回、利用中のシグナルも評価し続けるよう強化しました。

18歳未満と推定されたユーザーは、18歳未満向けの利用環境に切り替わります。武器に関する情報の制限は、この環境のユーザーにかかります。

18歳以上なのに誤って切り替わった場合は、Personaというサービスで18歳以上であることを確認すれば、18歳未満向けの追加の保護を解除できます。年齢はいつでも確認でき、プライバシーに配慮した方法ですぐに終わるとのこと。

人を傷つける発言を繰り返す会話は年齢に関係なく自動で終了

暴力や他者を深刻に傷つける考えにとらわれている様子が会話に表れた時点で、年齢にかかわらずそのチャットは打ち切られ、その手前でも直近のチャットに兆候があれば、悪用されうる情報を出すかどうかが慎重に判断されます。 OpenAIは、メンタルヘルスや暴力防止の専門家と連携し、より早い段階で自動的に介入する仕組みを開発しています。会話の自動終了はその1つで、危険な会話をその場で打ち切るための仕組みです。

一つひとつは普通の指示でも、それまでの会話を踏まえると意味が変わることがあります。OpenAIは5月に、以前の会話で見られた危険の兆候を短くまとめ、後のチャットでより慎重に回答する仕組みを公表していました。今回は5月の仕組みをさらに進め、直近のチャットに表れた兆候も判断に使います。

自動終了が繰り返されるとアカウントが一時停止されることもある

人を傷つける発言が続いたことを理由に複数のチャットが自動終了されたアカウントは一時停止されることがあり、暴力に関するポリシーに違反したと判断されたアカウントは利用禁止になります。 一時停止は、自動終了が1回あっただけでは行われません。利用禁止は今回新しく加わった措置ではなく、OpenAIは以前から、暴力行為に関するポリシーに違反したアカウントを利用禁止にしています。

子どものアカウントの一時停止も保護者へ通知する準備中

OpenAIは、自動終了の繰り返しで18歳未満の子どものアカウントが一時停止された時にも、ペアレンタルコントロールで連携した保護者へ通知できるよう準備しています。 ペアレンタルコントロールは、保護者が自分のアカウントと子どものアカウントを連携し、安全設定を一緒に管理する機能です。

連携した保護者には、これまでも深刻な自傷のリスクや食行動の乱れに関わる行動が確認された時に、安全に関する通知が届くことがありました。7月には暴力に関する利用ポリシーへの違反で子どものアカウントが無効化された場合も、通知の対象に加わっています。

大規模な襲撃事件で使われた武器と入手方法は成人にも制限される

制限は被害規模の詳しい比較にも及び、他のサイトで公開されている情報であっても、ChatGPTはユーザーの年齢や目的に関係なく詳細を抑えて回答します。 対象になるのは、過去の大規模な襲撃事件で使われた武器や装備と、その入手方法の詳細です。被害規模の詳しい比較は、加害者がさらに注目を集める恐れがあるため制限の対象に含まれました。

事件そのものを調べる使い方まで止まるわけではありません。事件の経緯や被害者・地域が受けた影響を理解する目的なら、これまでどおり利用できます。危険なサインを見分ける方法や、次の暴力を防ぐ方法を学ぶ使い方も同じです。

法執行機関への通報は2026年第3四半期に200件超

通報の対象は人に危害が及ぶ差し迫った恐れがある事例で、判断が難しい事例はメンタルヘルスや人の行動に詳しい専門家の協力を得て見極めており、OpenAIは通報が暴力的な計画の阻止に役立っているとしています。 通報先は警察などの法執行機関です。

OpenAIは、AI企業にも法執行機関や家族とは異なる独自の役割があるとしています。実際に行動を起こせる人や機関と直接連携することも、その役割に含まれます。

2027年初頭から半年ごとに安全レポートを公開予定

OpenAIは2026年下半期を対象とする初の「コミュニティ安全レポート」を2027年初頭に公開し、その後は6か月ごとに更新します。 レポートでは、暴力の予防などコミュニティの安全に関わる問題と、安全対策の効果を報告します。

問題を見つけて対応できるようOpenAIがシステムをどう学習させているかも、レポートに掲載されます。暴力による被害に至った経緯を示す匿名化した事例も公開される予定です。新たなリスク軽減策やポリシーの変更も、裏付けとなるデータと合わせて紹介されます。

保護者への通知は子どものアカウントとの連携が前提

18歳未満向けの制限は保護者が何も設定しなくても年齢推定でかかりますが、子どものアカウントが一時停止されたことを保護者が知る経路は、ペアレンタルコントロールでの連携に限られます。 制限をかける判断はChatGPT側が行い、保護者の操作を待ちません。

一時停止の通知はまだ準備中ですが、OpenAIが通知先としているのは、ペアレンタルコントロールで子どものアカウントと連携した保護者です。連携していない家庭には、7月から始まった無効化の通知も届きません。