中国やロシアが生成AIで世論操作、オープンAIが発表。処理水非難、「ウクライナは敗北寸前」と投稿も

東京電力福島第一原発の処理水の海洋放出について、中国を拠点とする集団が米「オープンAI」の生成AIなどを使って非難する記事を作成していたことが分かった。

中国のほか、ロシアやイラン、イスラエルを拠点とする集団が秘密裏に世論の操作を行う目的で、同社のAIツールを使っていたという。

同社が5月30日（現地時間）、公式ウェブサイトで報告書を発表した。

「海洋環境を破壊している」と投稿

米サンフランシスコに拠点を置くオープンAIは、代表的な生成AI（人工知能）サービス「ChatGPT」を運営していることで知られる。

同社が発表した報告書によると、利用禁止にしたのは5つのアカウント。そのうちの一つに関連する「スパムフラージュ」は、中国を拠点として処理水の海洋放出を非難する記事を生成し、ブログなどで発信していた。

例えば、2023年には「日本が福島第一原発から排水を放出して海洋環境を破壊している」という趣旨の記事を作成。記事は「アメーバブログ」などのプラットフォームで確認されたとしている。

このほか、スパムフラージュの活動は中国政府を称賛するものからアメリカを批判するものまで多岐にわたった一方で、SNSの利用者などに大きく影響を与えたものはほとんどないという。

処理水の関連以外では、ロシアを拠点とした「バッドグラマー」はアメリカやウクライナをターゲットとし、SNS「テレグラム」での政治的なコメントをロシア語や英語で作成していた。

また、ロシアの「ドッペルゲンガー」が公開したコンテンツの大半は、ウクライナやアメリカ、NATO（北大西洋条約機構）、EU（欧州連合）を否定的に、ロシアを肯定的に描いていた。

例えば、「ロシアを批判する西側の指導者たちは自国の有権者とは感覚がずれている」や「ウクライナは弱く、腐敗しており、敗北寸前である」といった投稿があったという。

オープンAIは「悪用を防止する取り組みの実施と、AIが生成したコンテンツに関する透明性の向上に力を入れている。身元や意図を明らかにすることなく政治的な結果に影響を及ぼそうと、秘密裏に行われる影響力活動を検知し、阻止する」としている。