「人工知能は2024年の選挙をどう変えるか」という報告書では、3つの質問をしている。まず、政治家は生成 AI を使用して、選挙活動の展開に即座に対応できます。来年には、応答時間が数時間や数日ではなく、数分に短縮される可能性があります。 AI はインターネットをスキャンし、戦術を考え出し、ある候補者が他の候補者よりも優れていることを宣伝するスピーチ、プレスリリース、写真、ジョーク、ビデオなどの強力な呼びかけを行うことができます。
第二に、AI は視聴者を非常に正確にターゲットにすることができます。候補者は、すでに支持している有権者や反対している有権者にお金を無駄にしたくなく、少数の不安定な有権者をターゲットにしたいと考えています。米国では政治的二極化の割合が高いため、優柔不断を表明した有権者はごく一部でした。 Center for Public Influenceは、ソーシャルメディアユーザーの「個人心理」に基づいてターゲットを絞った広告を配信するために、2016年の米国選挙とCambridge Analyticaのデータがどのように使用されたかに関する報告書を発表した。同報告書は、「このアプローチの問題はテクノロジーそのものではなく、選挙運動の隠密な性質と政治的メッセージのあからさまな不誠実さにある。異なる議論に対する敏感さの予測に基づいて、異なる有権者が異なるメッセージを受け取った」と述べている。
生成 AI 時代初の米国選挙: 規制のギャップが世界政治に大きな変化をもたらす可能性
出典: ザ・ペーパー
レポーター ファン・シャオ インターン チェン・シャオルイ
一部の政治キャンペーンでは、AI が生成した募金メールやプロモーション画像が使用され始めましたが、この現象は数か月前にゆっくりと浸透しただけでしたが、今では巨大な奔流に収束し、世界中の民主選挙のルールを書き換え始めています。
AIはメディア、政府、社会に対する信頼の失墜を加速させ、偏見を深め党派間の溝を広げ、有権者を二極化する情報バブルの奥深くに追い込む可能性がある。新しいガードレールを建設することが優先事項です。
人工知能 (AI) テクノロジーは、政治運動の一部の側面に徐々に関与してきました。 2024 年の米国大統領選挙が近づくにつれ、AI テクノロジーの政治活動への利用が増えており、一部の選挙活動では、AI が生成した虚偽の画像、動画、テキストを使用して、有権者を誤解させ、偏見を深め、公正な競争を阻害しています。現在、米国にはこの課題に対処する効果的な法律や規制がありません。選挙ルールの違いは、米国ひいては世界政治に関わる大統領選挙に大きな変化をもたらした。
専門家らは、この技術がメディア、政府、社会に対する信頼の失墜を早める可能性があると懸念している。ありもしないフェイクビデオ、虚偽の話で埋め尽くされた電子メール、都市の衰退を映す偽の画像はすべて、有権者が期待しているものを示すことで偏見を深め、党派間の溝を広げる可能性があります。人々は、二極化する情報バブルの中にさらに深く閉じ込められ、自分が信頼することを選択した情報源のみを信頼する可能性があります。これは、トランプ氏を政権に導いた2016年の米国選挙と同様の状況を示している。
ゆっくりとした侵入から巨大な激流まで
2024 年の米国大統領選挙は、生成 AI が人間に広く影響を与えて以来、初めての米国選挙となります。 6月25日の「ニューヨーク・タイムズ」の報道によると、一部の政治活動でAIが生成した募金メールや宣伝画像が使用され始めたという。
例えば、米国共和党全国委員会は、バイデン大統領が再選への立候補を発表した後に、人工知能が合成した画像でバイデン再選後の世界の終わりを示すビデオを公開した；フロリダ州知事ロン・デサンティス（ロン・デサンティス）AIの利用画像を合成するために、トランプ前大統領と元保健当局者のアンソニー・ファウチ博士の偽写真がソーシャルプラットフォームに投稿され、民主党は春にAIが作成した募金メッセージを試したところ、人間が書いたメッセージよりも正確であることが多いことが判明した。有権者の参加と寄付をより促進するコピーを作成します。4 月、シカゴ市長選挙の候補者は、報道機関を装った Twitter アカウントが警察の残虐行為を容認するかのような方法で人工知能を使用したと苦情を申し立てました。
一部の政治家は、AI テクノロジーが選挙費用の削減に役立つと信じています。たとえば、討論の質問や攻撃的な広告に即座に応答したり、高価な専門家による分析が必要となるデータを分析したりするために使用できます。
保守党候補のアンソニー・フューリー氏は、6月26日のトロント市長選挙で人工知能が生成した画像を選挙運動の素材として使用した。その中には、建物の隣でキャンプしているホームレスと思われるものが立ち並ぶ街路を映した画像も含まれていたが、その前景をよく見ると、レンダリングに似た人物が写っており、別の写真には重要な議論をしているように見える 2 人の人物が写っており、左側の写真には 3 本の腕があります。ライバルからの攻撃にもかかわらず、合成画像は101選挙区の市長選挙におけるフューリーの知名度を高めた。
「健全な懐疑論は、良い習慣（横読みや信頼できる情報源の検索など）を促進します。そしてこのテクノロジーは、健全な懐疑論から、何が真実かを知ることは不可能であるという不健全な懐疑論への移行を促す可能性があります。」
AI が 2024 年の米国選挙に与える影響
アメリカ政治コンサルタント協会は最近、政治運動におけるディープフェイクの使用を倫理違反として非難した。このグループの会長であるラリー・ハイン氏は、「人々は限界に挑戦し、物事を使って何ができるかを試してみたくなる。他のツールと同様に、それらは有権者を欺いたり、有権者を欺いたり、有権者を欺いたりするための悪い目的や行為に使用される可能性がある」と述べた。存在しないものを信じなさい。」
ブルッキングス研究所の上級研究員であるダレル・M・ウェスト氏は、「もし誰かが騒音を生み出し、不確実性を生み出し、あるいは誤った物語を生み出すことができれば、それは有権者に影響を与え、選挙に勝つための効果的な方法となり得る」と述べた。今年5月の報告書では、「2024年の大統領選挙は少数の州の数万人の有権者に左右される可能性があるため、人々をある方向に傾けることができるものはすべて、最終的にはそれが決定的な要因となる可能性がある」としている。
「人工知能は2024年の選挙をどう変えるか」という報告書では、3つの質問をしている。まず、政治家は生成 AI を使用して、選挙活動の展開に即座に対応できます。来年には、応答時間が数時間や数日ではなく、数分に短縮される可能性があります。 AI はインターネットをスキャンし、戦術を考え出し、ある候補者が他の候補者よりも優れていることを宣伝するスピーチ、プレスリリース、写真、ジョーク、ビデオなどの強力な呼びかけを行うことができます。
第二に、AI は視聴者を非常に正確にターゲットにすることができます。候補者は、すでに支持している有権者や反対している有権者にお金を無駄にしたくなく、少数の不安定な有権者をターゲットにしたいと考えています。米国では政治的二極化の割合が高いため、優柔不断を表明した有権者はごく一部でした。 Center for Public Influenceは、ソーシャルメディアユーザーの「個人心理」に基づいてターゲットを絞った広告を配信するために、2016年の米国選挙とCambridge Analyticaのデータがどのように使用されたかに関する報告書を発表した。同報告書は、「このアプローチの問題はテクノロジーそのものではなく、選挙運動の隠密な性質と政治的メッセージのあからさまな不誠実さにある。異なる議論に対する敏感さの予測に基づいて、異なる有権者が異なるメッセージを受け取った」と述べている。
さらに、AI は、自分の好みの候補者を宣伝したいと考えている一般の人々にツールを提供することで、偽情報を民主化する可能性があります。テキスト、画像、ビデオ、またはプログラムを生成するためにプログラマーやビデオの専門家である必要はなくなり、誰でも政治コンテンツの作成者となり、有権者やメディアを動かそうとすることができます。新しいテクノロジーにより、人々は不満を収益化し、他人の恐怖、不安、怒りを利用してお金を稼ぐこともできます。
現在、人工知能テクノロジーは以前よりもはるかに強力になっており、完璧ではありませんが、改善が早く、習得も簡単です。 5月、OpenAIの最高経営責任者（CEO）サム・アルトマン氏は上院小委員会の公聴会で、2024年の大統領選挙について深く懸念しており、このテクノロジーは「偽情報を操作し、説得し、一種の1対1の対話機能を提供する」と述べた。 「重要な懸念事項です。」
新しい「ガードレール」の建設を推進
しかし、ますます洗練された AI 生成コンテンツがソーシャル ネットワーク上に頻繁に登場するため、これらのソーシャル ネットワーキング プラットフォームのほとんどは、それを取り締まろうとしないか、取り締まることはできません。 AI生成コンテンツ検出サービスを提供するReality Defender社のベン・コルマン最高経営責任者（CEO）は、規制上のギャップにより、フラグが立てられていないAI生成コンテンツが対処される前に「取り返しのつかない損害」を引き起こす可能性があると述べた。
「すでに偽のコンテンツを見て共有した何百万ものユーザーにとって、事後的にそれが偽だったと説明しても手遅れであり、ほとんど効果がありません」とコールマン氏は付け加えた。
多くの政治コンサルタント、選挙研究者、議員らは、合成広告を規制する法律など、新たなガードレールを設けることが最優先事項だと述べている。 AI コンテンツを検出すると主張するソーシャル メディア ルールやサービスなどの既存の防御策は、この流れを効果的に食い止めることができませんでした。
ニューヨーク州選出の民主党イベット・D・クラーク下院議員は先月の声明で、2024年の選挙サイクルは「AI生成コンテンツが普及する初めての選挙になるだろう」と述べた。彼女とミネソタ州のエイミー・クロブシャー上院議員のような議会民主党議員は、政治広告にAIで生成されたコンテンツの使用を開示することを義務付ける法案を提出した。最近、ワシントン州でも同様の法案が署名され成立した。