ディープフェイクの政治利用とその危険性：ビデオ会議のキーウ市長はデジタル合成だった

ディープフェイク規制の本格化

クリチコのフェイク事件を受け、世界はディープフェイクの危険性を改めて認識した。法律に基づかない、最善の解決策を見出すのは困難である。EUは最近、大手ITプラットフォームに対し、ディープフェイクに対処しなければ巨額の罰金を科すと伝えた。米国上院は、「ディープフェイク・タスクフォース法」を制定し、新たな戦略を策定するチームを設置した。しかし、法律だけでこの戦争に勝つことはできない。中期的には新しい技術が必要となる。

アドビの会長兼CEOであるシャンタヌ・ナラヤンは、最近、コンテンツの出所認証が今日のインターネットやAIにおける中心的な課題であると述べている。ディープフェイク技術は民主主義国家と社会秩序にとって非常に大きな潜在的危険性となる。中期的には、誰でも自由にインターネットからディープフェイク・アルゴリズムをダウンロードできるようになる。メディアの世界は、文字通り操作されたコンテンツで溢れかえるかもしれない。

私たちは、メディア情報の信頼性がすべて失われる危機と直面している。しかし、国民や政治家の意思形成には、市民が情報源を信頼できることが不可欠である。そのためには、真実と偽りの情報を明確に区別する能力が必要となる。この考えは、近いうちに主流になるだろう。私たちはコンテンツ認証の革新を必要としている。私たちの民主主義は、何が真実で何が嘘なのかをAIに委ねる時代に、急速に移行しているのである。