OpenAIが米中間選挙への干渉に備え数百人規模の監視センターを設置

OpenAIが米中間選挙に向けて監視センターを立ち上げ

OpenAIは米国の中間選挙を前に、選挙への干渉を監視する「Election Operations Center」を立ち上げました。 米国の政治メディアPoliticoが10月28日、ニュースレター「Decoded」でOpenAIから独占で説明を受けたとして報じています。

Politicoはこのセンターを、作戦本部を指す「ウォールーム」と呼んでいます。中間選挙は大統領任期の中間年に行う連邦議会などの選挙で、今回の投票日は11月3日です。

OpenAIのセンターはいつまで運用されるのか

センターは10月28日の週から稼働し、すべての票をカウントし終わるまで運用します。 センターは偽情報の拡散や選挙妨害の動きを探します。

OpenAIは、中でもChatGPTなど自社製ツールの悪用を防ぐことを大きな目的としています。Politicoによると、センターの業務は次の3つとのこと。

• 選挙をめぐる出来事をリアルタイムで監視する
• AIモデルが想定外の動きをしたという報告を受け付ける
• 利用規約違反が疑われる事例について報告を受け付け、悪用の疑いがある事例を調べる

OpenAIが5月に発表した2つの連携も、センターの監視対象です。非営利団体Democracy Worksとの連携では、ChatGPTの中で有権者登録や投票所の情報を確認できます。AP通信との連携は最新の開票結果をChatGPTで伝える仕組みです。

センターの人員はどれほどの規模なのか

センターには社内から複数のチームが加わり、人員は数百人規模です。 率いるのは、市民・戦略リスク担当の責任者を務めるJosh Lawson氏です。

Lawson氏はPoliticoに対し、OpenAIは信頼できる投票情報を届けること、ツールの悪用を防ぐこと、選挙を守る人たちを支えることに力を入れてきたと説明しました。センターの役割は数年来の取り組みを生かしながら各チームを集め、投票の時期に発生する新しい問題へ素早く対応することだとしています。

ロシアとイランの影響工作を報告した直後の選挙対策

OpenAIが10月上旬にロシアとイランによる影響工作2件を報告した直後の10月28日、センターの立ち上げが報じられました。 影響工作は、身元を隠して他国の世論を動かそうとする活動を指します。

10月上旬に影響工作2件のOpenAI製AI利用を報告

OpenAIは10月上旬、ロシアとイランが実行した影響工作2件が、OpenAI製のAIモデルを使っていたと報告しました。 どちらも、架空の組織や人物を装う工作です。地政学や紛争に関するメッセージを、出どころを隠したまま狙った人々へ届けていたとしています。

AIで作ったフェイク画像や動画への懸念が拡大

米国では、11月3日の中間選挙がAIによってゆがめられるという懸念が拡大しています。 Politicoが書いた懸念は、次の2つです。

• AIで作った、誤解を招く画像・音声・動画
• 偽情報の拡散

AIで作った本物そっくりの画像や動画は、ディープフェイクと呼ばれます。選挙戦では反AIのメッセージを掲げる陣営も出ており、OpenAIは論争の中心にいます。Politicoによると、米国でAIツールが暮らしに浸透するほど、悪用を防いで正確な選挙情報を届けるようAI企業へ求める圧力は強まるとのこと。

大手のAI企業による選挙の監視センターは、新しい試みです。テック企業ではMetaなどが以前に似たセンターを置いていました。

ChatGPTは架空の投票所風景を漫画風の絵で出力

OpenAI製AIには、誤解を招く画像を作らせないための安全策が組み込まれています。 Politicoはその1つとして、写真風の画像ではなく漫画風の絵を出力する仕組みを紹介しました。

写真のようなフェイク画像を作らせない安全策

ユーザーが実在しない投票所に長い行列ができている画像の作成を指示すると、OpenAI製AIは写真のような画像ではなく漫画風の絵を出力します。 Politicoはこの仕組みを「cartoonification（漫画化）」と呼んでいます。

米国の法律・政策の研究機関Brennan Centerは10月下旬、人気のAIツール6つについて選挙の偽情報への対策を比較した報告書を公開しました。5月以降に大きく前進したのはChatGPTだけだったとのこと。Politicoは、ChatGPTの前進を漫画化の効果によるものとしています。

他社製AIで作られた偽情報は監視の対象になるのか

センターの主な目的は、ChatGPTなどOpenAI製AIの悪用を防ぐことです。 他社製AIで作られた画像や文章には、漫画化などOpenAIの安全策は働きません。

Politicoは2024年以降にAIモデルが大きく進歩した一方で、開発した企業が制御しきれない事態も繰り返し発生してきたと指摘しています。ツールが高度になるにつれて、選挙妨害を狙う側は他社製AIを使って安全策のすり抜けを試みることもできるとのこと。

選挙の偽情報への会社と社員の対策

総務省は令和6年版の情報通信白書で、ディープフェイクの画像や動画を信じてしまい、情報操作や世論工作に使われるリスクを指摘しています。 米国の選挙に限らず日本企業も、フェイク画像を受け取る側にも名前を使われる側にもなりえます。

会社側：自社を装ったフェイク画像や動画への対応を決定

会社として最初にやるのは、自社や役員を装ったフェイク画像や動画が拡散したときの対応を決定しておくことです。特に、会社の見解を出す経路と、拡散した画像や動画が本物かを確認する担当者を事前に定めておけば、偽物が拡散した後でも慌てずに対応できます。業務で生成AIを使う場合は、担当者が出力の内容を確認してから社外へ出す手順も社内のルールに入れておきましょう。

社員側：拡散している画像やAIの回答をうのみにしない

社員一人ひとりはSNSで拡散している画像や動画、AIの回答をうのみにして拡散しないようにしましょう。生成AIは事実に基づかない誤った情報をもっともらしく作る可能性があるため、検索を併用して回答が正しいかを確認するのが安全です。

選挙や投票に関する情報は、選挙管理委員会などの公式の発表で確認してから共有してください。AIで作られた画像かどうかが気になるときは、判定ツールで確認する方法もあります。