イギリスで開催された芸術イベントでは、著名なテック企業のCEOが実際には発言したことがない内容の動画作品が公表された。芸術イベント向けに正式な作品として公表されたものだが、企業側が意図していない情報の流通や、自社コンテンツの無許可改変などについての検討の必要性を示唆するものである。

このような影響の懸念に対して、米国のCISA（サイバーセキュリティー・インフラセキュリティー庁）は、オンラインプラットフォームを介したディープフェイクなどの情報操作によるリスクを軽減する方策を公表している^*1。企業が意図しない情報により顧客やビジネスパートナーに混乱を生じさせることがないように、自社に関連する特定のキーワード検索の急増などのオンライン活動の監視、ソーシャルメディア活動などのコミュニケーションチャネル整備やメッセージの発信力強化などを通じて、信頼されるネットワークを構築することに言及している。また、インシデント対応計画の策定や組織構成員が適切に情報を判断するための教育の重要性にも触れている。

ディープフェイクが注目されたきっかけの1つは、2017年に米国のインターネット掲示板にディープフェイクを使って作成されたポルノ映像がDEEPFAKESの名前で投稿されたことだといわれている。また、ジェネレーティブAIの事例として、AIサービスを利用して作成された絵画が品評会において入賞したことが報じられ、議論を巻き起こしている。これらの事例からは、個人の尊厳に関わるような技術利用に関する倫理観の醸成や新たな技術がもたらす影響についての合意形成が必要という示唆が得られるのではないだろうか。

こうした背景もあり、米国では、ハワイ州などでディープフェイク動画の意図的な作成などをプライバシー侵害の犯罪に追加するための法制化が進められている。英国でも既存の「オンライン安全法」を改正し、同意なしに作成されたディープフェイクポルノの共有を取り締まる方針を打ち出している。

また、米国では、ホワイトハウスから、「AI権利章典のための青写真」^*2が公開されている。これは、AIを用いた自動化システムを設計・使用する際に、プライバシーへの配慮やAIシステムが利用されていることの通知など、考慮すべき5つの原則をまとめたものである。法的拘束力は持たないものの、個人の権利を保護し、AI製品の開発者や市民など幅広い層で共通の認識を得ることを目指した草案である。このような取り組みを通じて、ディープフェイクなどがもたらす影響についての社会での合意形成が進むことを期待したい。

冒頭で紹介したゼレンスキー大統領のフェイク動画のほかにも、英国を拠点とするエネルギー企業のCEOが、親会社のCEOの偽音声の電話に騙され、依頼された指定先に送金してしまうという事件が起きている。このように、映像や音声の専門家ではない一般の人にとっては、ディープフェイクやAIシステムと相対していると認識することが難しい段階にまで技術が発達していることから、犯罪などの社会活動への影響についての議論の深耕が求められる。

こうした事態に対応するための技術の1つに、動画検証ツールであるInVIDがある。EUの資金拠出を受けて開発されたもので、YouTubeビデオなどのコンテキスト情報の収集や逆画像検索などをサポートすることで、ファクトチェックを効率化するものである。

規制による対応の例としては、事業者にAIシステムのリスクに応じた取り組みを求める「AI規制法案」がEUから公表された^*3。この中で、ディープフェイクに関するシステムには、利用者がシステムと相対していることや、システムが生成したコンテンツが人工的生成物であることを明示することを求めている。

また、技術は用いる人によって良い方向にも悪い方向にも利用され得ることから、人材教育が重要との観点のもと、デジタルを上手に使いこなし、よき市民・社会人として行動することを学ぶデジタル・シティズンシップの取り組みも進みつつある。EUでは、「DIGITAL CITIZENSHIP EDUCATION HANDBOOK」^*4の公開を通じて、教育支援ツールやプラクティスの普及を図っている。米国のNPOであるCommon Senseとハーバード大学大学院のProject Zeroは、デジタル・シティズンシップを学ぶための多くの講座を提供^*5する活動を進めている。