虚偽の請求書に注意してください！ GPT-4Oモデルに統合された新しい画像ジェネレーターを備えたChatGptは、現実的な外観の領収書を作成するのに特に優れています。新しい形の詐欺への扉を開くことができる技術的な偉業。
Openaiの人工知能であるChatGptは、画像作成の限界を押し続けています。の到着とともにそのGPT-4Oモデル、チャットボットは今できるようになりました複雑なビジュアルを生成します、驚くべきフィネスのレストランや店の領収書を含む。
この新機能は、印象的ですが、その詐欺的な使用の可能性について疑問を投げかけています。確かに、今では可能になります数秒で信頼できる外観ドキュメントを作成します。
技術的な偉業ですが、潜在的なリスク
ChatGPTによって生成された虚偽の領収書の最初の例は、すでにソーシャルネットワークに登場しています。その中には、投資家Deedy Dasが共有するViandes de San Franciscoのレストランの領収書。画像は一見説得力があるように見えますが、より注意深い検査では、計算や句読点など、現在のAIの典型的な矛盾が明らかになります。
しかし、CESの欠陥 少しの写真編集またはより正確なプロンプトで簡単に修正できます。詐欺師にとって、これは不穏な機会を表しています。信頼できる「証拠」を生み出すことにより、架空の費用の払い戻しを取得します。
Openaiは、ChatGPTによって生成されたすべての画像には、人工起源を示すメタデータが含まれていることを指定することにより、安心しようとします。同社はまた、詐欺を明示的に禁止するポリシーに反する使用に対する措置を講じると主張しています。
ただし、これらのドリフトを完全に防ぐことは難しいようです。強調するようにTechCrunch、テクノロジーは、虚偽の請求書が迅速なチェック中に気付かれないほど十分に進んでいます。少し時間と仕事で、詐欺師は、払い戻しを検証する責任を負う従業員を欺くために十分に説得する文書を簡単に作成できます。
したがって、この革新は、文書の検証という点で大きな課題をもたらします。生成AIの時代では、画像はもはや信頼できる証拠ではありません。その後、偽造コストの数を増やすリスクがあるため、偽造を検出し、このタイプの洗練された詐欺から企業を保護するための新しいツールを開発することが緊急になります。
