Amazon Bedrockのウォーターマーク検出を試してみる
生成AIによって生成されたフェイクコンテンツを見破ったり、著作権を保護するための対策としてウォーターマークという見えない透かしデータを埋め込む方式があります。
まだプレビュー段階ではありますがAmazon Bedrockでウォーターマーク検出ができるようになっていたので試してみました。
この機能はTitan Image Generatorモデルで生成された画像かどうかを判別することができます。
試してみる
まずはTitan Image Generatorで画像を生成してみます。
きわどいのが出てきそうなプロンプトにしてみましたが、そんなこともなかったです。
作った画像をウォーターマーク検出にかけてみます。
期待通りウォーターマークが検出されTitan Image Generatorモデルで生成された画像だと検出されました。
今度は適当にいらすとやで拾った画像を読み込ませてみます。
こちらも期待通りウォーターマークが検出されませんでした。
ウォーターマークを無効化できるか試してみる
もう一歩踏み込んでモデルで作った画像からウォーターマークを無効化する方法はあるか考えてみます。
ドキュメントには元の画像から変更されると検出精度が低くなると書かれています。
ということでいくつか試してみます。
スクショをとってみる
画像のスクショを取ってそれを読み込ませてみます。
検出されました。すごい！
猫ロボの顔の部分だけを切り取ったスクショでも検出されました。
ただし、倍率を小さくしたり、画面上の画像以外の部分もスクショに含めると検出されなかったので、スクショの取り方に依存しそうな感じです。
ファイル形式を変換してみる
適当なフリーソフトで画像形式を変換したものを読み込ませてみます。
pngで生成されているのでjpegに変換してみました。
これも検出されました！
形式にや変換ツールでも変わりそうですが、画像ピクセル内に人間には判別できないような情報がウォーターマークとして入っているのかもしれません。
編集してみる
ペイントツールで編集を施してみます。
元画像を薄く覆う形で編集を行いましたが検出されました！
但し、完全に見えなくなるくらい覆うとさすがに検出はできなそうでした。オリジナルの片鱗がなくなるくらいなのでそれはそうかという感じですが。
感想
正直どの方法でもある程度検出できたのに驚きです。
生成AIの進化の速さには驚かされますが、同時にディープフェイクなどのリスクも増えていくのでこういった対策を行っていくのは生成AI提供ベンダーにも求められるところだろうと思いますね。
AWSは責任あるAIを提唱しているので、それを実現するためのこのようなサービスを今後も打ち出してくれそうだと期待しています。