OpenAI、AIが生成した画像を検出するツールを開発、ディープフェイクを消すには不十分

OpenAI のテクニカル ディレクターであるミラ ムラティ氏は、同社が人工知能によって作成された画像を検出するための新しいツールをテストしていると発表しました。

生成型人工知能の出現により、何百万人ものインターネット ユーザーが多かれ少なかれリアルな画像作成ツールにアクセスできるようになり、1 年も経たないうちに、DALL-E や Midjourney などの生成型 AI プログラムによって、ウェブ上に画像を氾濫させることが可能になりました。何百万もの合成作品は、時には非常に、あまりにも現実的ですらあります。この問題は非常に深刻であるため、科学的研究では次のように主張されています。人工知能とディープフェイクは私たちの記憶を歪曲する可能性さえある。

ChatGPT の共同作成者によると、AIが作成した画像の検出無謬には程遠いでしょうが、「99%の信頼性」。これは賞賛に値するスコアですが、同社の AI によって作成されたコンテンツ検出器には、特に重要な弱点があります。それは、「偽物」が次のように設計されている場合にのみ検出できるということです。ダルイー。 GPT-3 ベースのモデルは明らかに非常に人気がありますが、実際には、このマルチモーダル AI で作成された画像の価値は次のとおりです。生成された 150 億枚の画像のうち 6%創業以来この技術を搭載。

EveryPixel の Web サイトによると、1 年間で「テキストから画像への変換アルゴリズムを使用して 150 億枚以上の画像が作成された」とのことです。それに比べて、それは必要だったでしょう写真家が数多くのショットを撮り続けて150年、正確には1826年から1975年までです。ディープフェイクと合成画像には、特に一般の人々が武器の選択肢をますます増やしていることから、まだ明るい未来が待っています。 Midjourney、DALL-E、Stable Diffusion、およびMicrosoftペイントでも、AIを使って画像を生成することを提案します。

テクノロジー業界の他の大手企業も、次のサービスを提供することに注力しています。原産地を特定することを目的としたラベルとマーキング内容の。アドビは、こうした生成型 AI の人気によって特に脅威にさらされています。したがって、Photoshop エディターはAIが作成した画像を識別するための普遍的なシンボル、すべての市場参加者にそれを採用してもらいたいと考えています。

ソース ：ブルームバーグ