OpenAIはChatGPTを使用した選挙操作を停止

金曜日のブログ投稿によると、OpenAIは、米国大統領選挙についてのコンテンツを生成していたイランの影響力作戦に関連する一群のChatGPTアカウントを禁止しました。同社によれば、この作戦はAIによって生成された記事やソーシャルメディア投稿を作成しましたが、それほどの観客には届いていないようです。

OpenAIがChatGPTを悪用していた国家系アクターに関連するアカウントを禁止したのは初めてではありません。5月には、同社がChatGPTを使用して世論を操作するための5つのキャンペーンを妨害しました。

これらのエピソードは、以前の選挙サイクルに影響を与えるためにFacebookやTwitterなどのソーシャルメディアプラットフォームを使用していた国家行為者を連想させます。今、同様のグループ（またはおそらく同じグループ）が生成AIを使用してソーシャルチャンネルを誤情報で満たしています。ソーシャルメディア企業と同様に、OpenAIもこれらの取り組みに関連するアカウントを出てくるたびに禁止するというアプローチを採用するようです。

OpenAIによるこのアカウントクラスターの調査は、先週公開されたMicrosoft Threat Intelligenceレポートから収益を上げました。報告書によると、2020年以降に活動している米国の選挙に影響を与えるためのより大きな運動の一環として、このグループ（Storm-2035と呼ばれる）を特定しました。

Microsoftは、Storm-2035をイランのネットワークであり、複数のニュースサイトを模倣し、「LGBTQの権利やイスラエル・ハマスの紛争などの問題に関する両極端なメッセージで米国の有権者グループと積極的に関与している」と述べています。他の作戦でのように、プレイブックは必ずしもある政策を推進することではなく、対立と紛争を引き起こすことです。

OpenAIは、Storm-2035のための5つのウェブサイトフロントを特定し、進歩的または保守的なニュースサイトとして提示し、「evenpolitics.com」などの説得力のあるドメイン名を使用しました。このグループはChatGPTを使用して、Elon Muskのプラットフォームが行っていない「Xがトランプのツイートを検閲する」という内容の記事を含むいくつかの長い記事を起草しました（むしろ、Muskは元大統領ドナルドトランプにXでより積極的に参加するよう奨めています）。

OpenAIは、この運用によって制御されていたXアカウントおよび1つのInstagramアカウントをソーシャルメディアで特定しました。同社によれば、ChatGPTはさまざまな政治的コメントを書き換えたものがこれらのプラットフォームに投稿されました。これらのツイートの1つは、カマラ・ハリスが「移民の費用の増加」を気候変動に帰すると誤って、そして混乱を招くように主張しました。「#DumpKamala」。

OpenAIは、Storm-2035の記事が広く共有された証拠を見ておらず、そのほとんどのソーシャルメディア投稿がほとんどいいね、シェア、またはコメントを受け取ったと指摘しています。これは、これらの運用でよくあることであり、ChatGPTなどのAIツールを使用して迅速かつ安価に立ち上げることができます。選挙が近づき、オンラインでの党派的な論争が激化するにつれて、これに類する通知がさらに多く見られることが予想されます。