グーグルは、人工知能（AI）を使って生成されたコンテンツの識別を支援する検証ポータルサイト「SynthID Detector」を開設。このサイトでは、ユーザーがコンテンツをアップロードすると、GoogleのAIツールによって生成されたメディアに自動的に埋め込まれるSynthIDウォーターマークがファイルに含まれているかどうかを識別することができます。このサイトでは、AIによって加工された可能性が高い部分を写真から特定することができます。グーグルは最近、GoogleフォトにSynthID検出機能を追加しました。新しいポータルサイトでは、Geminiで生成されたテキストや画像、Veoで生成された動画、Lyriaで生成された音声など、より幅広いメディアに対して同様の検出を行います。GoogleのAIツールを使って生成されたメディアには、自動的に目に見えないSynthID透かしが埋め込まれます。この透かしは、基本的なデジタル操作に耐性があるように設計されており、ソーシャルメディアやメッセージングアプリで共有されても検出可能なままです。
検出可能なコンテンツの制限このポータルは、ディープフェイクのようなAIが生成した誤情報からユーザーを保護し、オリジナル作品と合成メディアを区別するための重要な第一歩です。しかし、ChatGPTのようなSynthID透かしを埋め込んでいないツールによって生成されたコンテンツの検出には対応していません。Googleは、今年3月にNVIDIAとの提携を発表するなど、自社のツール以外にもSynthIDの利用を拡大するために外部と協力しています。また、コンテンツ検証会社GetReal社との新たな提携も発表しており、同社の検証ツールにSynthID検出機能を追加する予定です。
電子透かしの限界しかし、電子透かしだけでディープフェイクやAIが生成した誤情報に対抗することは不可能です。オープンソースのAIツールは今後も存在し続けるでしょうし、電子透かしの埋め込みを強制することは難しいでしょう。現在はまだAIが生成したコンテンツを見破るのは簡単だと感じるかもしれませんが、将来的には必ずしもそうではありません。ジェネレーティブAIがより洗練されるにつれ、SynthIDのようなツールは、人間が作成したコンテンツとAIが作成したコンテンツを区別する上で非常に重要になるでしょう。グーグルのSynthID Detectorポータルはすでに一部のテスターに公開されており、メディアや研究者のためのウェイティングリストも用意されています。5月20日、グーグルは人工知能（AI）を使って生成されたコンテンツを識別するためのSynthID Detectorと呼ばれる検証ポータルを立ち上げました。このサイトでは、ユーザーがコンテンツをアップロードし、GoogleのAIツールによって生成されたメディアに自動的に埋め込まれるSynthIDウォーターマークがファイルに含まれているかどうかを識別することができます。このサイトでは、AIによって加工された可能性が高い部分を写真から特定することができます。グーグルは最近、GoogleフォトにSynthID検出機能を追加しました。新しいポータルサイトでは、Geminiで生成されたテキストや画像、Veoで生成された動画、Lyriaで生成された音声など、より幅広いメディアに対して同様の検出を行います。GoogleのAIツールを使って生成されたメディアには、自動的に目に見えないSynthID透かしが埋め込まれます。この透かしは、基本的なデジタル操作に耐性があるように設計されており、ソーシャルメディアやメッセージングアプリで共有されても検出可能です。
こちらもお読みください： Invox社、CO2排出量追跡のためのAIツールを発表
検出可能なコンテンツの制限このポータルは、ディープフェイクのようなAIが生成した誤情報からユーザーを保護し、オリジナル作品と合成メディアを区別するための重要な第一歩です。しかし、ChatGPTのようなSynthID透かしを埋め込んでいないツールによって生成されたコンテンツの検出には対応していません。 グーグル は、今年3月にNVIDIAとの提携を発表するなど、自社のツール以外にもSynthIDの利用を拡大するために外部と協力しています。また、コンテンツ検証会社のGetReal社との新たな提携も発表しており、同社の検証ツールにSynthIDの検出機能を追加する予定です。
電子透かしの限界しかし、電子透かしだけでディープフェイクやAIが生成した誤情報に対抗することは不可能です。オープンソースのAIツールは今後も存在し続けるでしょうし、電子透かしの埋め込みを強制することは難しいでしょう。現在はまだAIが生成したコンテンツを見破るのは簡単だと感じるかもしれませんが、将来的には必ずしもそうではありません。ジェネレーティブAIがより洗練されるにつれ、SynthIDのようなツールは、人間が作成したコンテンツとAIが作成したコンテンツを区別する上で非常に重要になるでしょう。GoogleのSynthID Detectorポータルは、すでに一部のテスターに公開されており、メディアや研究者のためのウェイティングリストも用意されています。
ソース ヤフー
