中国のディープフェイク アンカーがソーシャル メディアで偽情報を拡散していると、Graphika は言う
2023.02.08
ウルフ ニュースの動画で「ニュース キャスター」として機能する AI 生成の人々。
グラフィカ人工知能によって生成されたニュース アンカーが、ソーシャル メディア上の政治的コンテンツを宣伝するために初めて展開された、と米国の調査会社は最新のレポートで述べています。
ニューヨークに本拠を置くGraphikaは、レポート「Deepfake It Till You Make It」で、中国政府と連携した影響力のある活動であるSpamouflageが、AIによって生成された架空の人物を使用して、中国の世界的な役割を促進し、米国に対する偽情報を広めていると述べました。 2022年後半。
スパムとカモフラージュの組み合わせであるスパムフラージュは、スパマーが特定の文字を数字に置き換えることで電子メール スパム フィルターを回避するために使用する戦術です。サイバーセキュリティの研究者は、この用語、およびドラゴンブリッジやスパムフラージュ ドラゴンなどの他の用語を使用して、インターネット上の親中国のプロパガンダ ネットワークを指します。
Spamouflage は、ソーシャル メディア ユーザーを対象とした偽のアカウントを通じて、中国を称賛し、米国を批判し、香港の民主化運動と台湾の独立を攻撃する何千ものアセットを投稿する責任があります。
最近では、「Facebook、Twitter、YouTube などのソーシャル メディア プラットフォームで、新しく特徴的な形式のビデオ コンテンツを宣伝している」と Graphika は述べています。
同社の研究者は、どちらも英語を話し、白人のように見える、男性と女性のアンカーをフィーチャーした 2 つの「ユニークな」ビデオを見つけて分析しました。
ビデオには、「ホット スポットに焦点を当て、リアルタイムで放送する」というスローガンを伴う「Wolf News」と呼ばれる「架空のメディア会社と思われる」ロゴが使用されていました。
男性のキャスターは、米国政府が銃による暴力への取り組みにおいて「空虚なレトリックを偽善的に繰り返す」ことを批判し、女性のキャスターは、世界経済の回復のための中国と米国の協力の重要性を強調した。
どちらの動画も「正当な報道機関として通用する過去の Spamouflage の取り組み」を反映していると、Graphika のレポートは述べています。
アレックス、ジェイソン、ジェームズ
ビデオやインターネット上の他の Spamouflage アセットで発見された豊富な類似点により、2 つの間の関連性についての結論が導き出されました。
中国は、国家アクターによる偽情報キャンペーンにおける洗練された AI 技術の驚くべき悪用の可能性を指摘する Graphika レポートにまだ応答していません。
これまで、オンラインの影響力操作は、コンピューターで生成された偽の顔やでっち上げの動画に限定されていましたが、新しい動画には、ほとんど本物に見える AI で生成された架空の人物が登場しました。
「一見すると、Wolf News のキャスターは実在の人物のように見えます。私たちの最初の仮説は、彼らがビデオに出演するために募集された有料の俳優であるというものでした.
さらなる調査の結果、彼らはアンカーのロボットのスピーチが唇の動きと同期していないこと、および字幕に多数の文法上の誤りがあることを発見しました。
Graphika チームは、アンカーは、英国の AI ビデオ会社である Synthesia が提供する技術を使用して作成された可能性が高いと述べました。
彼らは、英語以外の多くの言語を話す同じ AI 生成デュオを使用したいくつかのマーケティング ビデオを見つけました。Wolf News のビデオで Alex と名付けられた男性アバターは、Mr Curtis、Jason、James とも呼ばれていました。
「Spamouflage ビデオの作成者にとって、この技術の主な利点は、効率の向上、特に高速で低コストのコンテンツ制作であるように思われる」と報告書は述べ、Synthesia の製品は AI によって生成されたビデオをわずかな時間で作成できると付け加えた。分とサブスクリプションは、月額わずか 30 米ドルから始まります。
「ディープフェイク、本当の問題」
インフルエンス オペレーション アクターは、「AI テクノロジの実験を続け、検出と検証がより困難な、ますます説得力のあるメディア アーティファクトを生成するでしょう」と Graphika は警告しています。
2018 年、中国国営通信社の新華社は、世界初の AI ニュース アンカーを明らかにしました。これは、実在の人物の声、表情、行動を備えた男性の画像でした。
このアバターは、新華社と中国の検索エンジン会社 Sogou.com によって共同開発されました。
新華社通信によると、英語を話すアンカーは「公式ウェブサイトやさまざまなソーシャル メディア プラットフォームで 1 日 24 時間働くことができるため、ニュース制作のコストが削減され、効率が向上します。」
過去 10 年間、中国は AI 技術の開発に大きな関心を寄せてきました。
世界中の AI の進歩を評価するスタンフォード大学の2022 AI インデックス によると、中国は、AI への民間投資の合計と、新たに資金提供された AI 企業の数で、米国に次いで 2 番目にランク付けされています。
北京は 1 月に、AI が生成した画像や動画、つまり「ディープフェイク」に対して、この種のものとしては初めての規制を導入しました。それによると、「深層合成サービスは、このテクノロジーを使用して偽のニュースを広めることはできません。」
新しい規制では、国家の安全と利益を危険にさらしたり、国家のイメージを傷つけたり、経済を混乱させたりするコンテンツは禁止されているとも述べています。
ただし、この規制は、国外で生成されたディープフェイクには適用されません。批評家は、その優先事項はオンライン検閲を強化し、反対意見を抑えることだと言います.
