アドビ、フォトショップで加工された顔を検出できる新しい AI ツールを発表
アドビは、カリフォルニア大学バークレー校の研究者と協力して、画像、ビデオ、オーディオ、ドキュメントが Photoshop ソフトウェアを使用して操作されたかどうかを検出できる人工知能 (AI) ツールを開発しました。言い換えれば、AI ツールは偽の画像、ビデオ、音声、文書の特定に役立ちます。
「私たちはPhotoshopやAdobeのその他のクリエイティブツールが世界に与えた影響を誇りに思っていますが、私たちのテクノロジーが倫理的に与える影響も認識しています」と同氏は述べた。ブログ記事内の会社。 「フェイクコンテンツは深刻かつ差し迫った問題となっています。」
研究者らは、「」というタイトルの新しい論文で自分たちの研究を発表しました。Photoshop のスクリプトを使用して Photoshop で加工された顔を検出する」と、顔の特徴を変更できるだけでなく表情も変更できる「Face Aware Liquiify」と呼ばれる Photoshop ツールの使用を AI がどのように検出するかを説明しています。
「この機能の効果は繊細な場合があるため、顔の大幅な変更と微妙な変更の両方を検出するための興味深いテストケースになりました」とAdobeは述べています。
加工された画像、ビデオ、ドキュメント、オーディオを検出するために、Adobe は、Photoshop の Face Liquiify 機能を使用して変更された顔のペアのデータベース上で、深層学習の一種である畳み込みニューラル ネットワーク (CNN) をトレーニングしました。これらの写真のサブセットがトレーニング用にランダムに選択されました。さらに、データセットに混合された画像を変更するためにアーティストが雇われました。
「私たちは、顔の 1 つが変更されたことを知っている人々に、画像のペア (オリジナルと変更) を見せることから始めました」と Adobe の研究者である Oliver Wang 氏は述べています。 「このアプローチが役立つためには、編集された顔を識別する際に人間の目よりもはるかに優れたパフォーマンスを発揮できる必要があります。」
改変された画像と改変されていない画像を何人かの人間のボランティアに見せて、どの写真が偽物であるかを識別するのにどれだけ良いか悪いかを確認しました。人間は偽の顔を 53% の確率でしか検出できませんでしたが、加工された写真で訓練された AI は偽の顔を 99% 正しく識別することができました。このツールは、変更された画像を編集されていない元の外観に戻すこともでき、その結果は研究者さえも感心させられました。
「顔の形状には非常に多くのバリエーションがあるため、不可能に聞こえるかもしれません。しかし、この場合、ディープラーニングは、ワーピングアーティファクトなどの低レベルの画像データと、レイアウトなどのより高いレベルの手がかりの組み合わせを調べることができるため、機能すると思われます」とカリフォルニア大学アレクセイ・A・エフロス教授は言う。バークレー。
「画像編集を元に戻す魔法の万能『元に戻す』ボタンというアイデアは、まだ現実には程遠いです」と、この作業の実施に協力したアドビの研究者リチャード・チャン氏は付け加えた。 「しかし、私たちは消費するデジタル情報を信頼することがますます困難になっている世界に住んでおり、この研究分野をさらに探求することを楽しみにしています。」
Adobe によれば、この AI は、Adobe のツールで作成されたデジタル メディアの正当性を検証し、フェイク ニュースを広めるための画像の悪用を特定して阻止するための大きな一歩となります。
「これは、特定の種類の画像編集を検出できるようにするための重要なステップであり、元に戻す機能は驚くほどうまく機能します」と Adobe Research の責任者、Gavin Miller は述べています。 「このようなテクノロジーを超えた最善の防御策は、コンテンツが操作できることを知っている洗練された一般の人々です。多くの場合、彼らを喜ばせるためですが、時には誤解を招くためです。」
こちらもお読みください-
