Meta は AI が生成したオーディオ ファイルを検出したいと考えていますが、落とし穴があります

Meta は、人工知能によって生成された音声にマークを付けることができるという新しいツールを開発しました。このイノベーションは、詐欺や誤った情報を目的とした音声クローン ツールの使用の増加に対抗することを目的としています。このテクノロジーは有望に見えますが、まだ完成には程遠いです。

によるコンテンツ生成テクノロジー人工知能ますます洗練されています。芸術作品から芸術作品まで、さまざまな分野で使用されています。人間の声を模倣する。ただし、この技術の進歩には次のような問題もあります。リスク特に重要なことは、偽情報そしての詐欺、最近のようにキリアン・ムバッペを模倣したディープフェイクの形で。

Meta は、Facebook、Instagram などのモバイル アプリケーションに AI を統合し続けています。、メッセンジャー、WhatsApp があり、ユーザーにとってその使用はほぼ必然となっています。しかしそれに応えるには懸念事項に関して乱用この技術について、同社はちょうど発表したばかりですオーディオシール。このシステムにより、統合が可能になります。オーディオトラック内の隠れた信号人工知能によって生成されます。ウォーターマークまたはウォーターマークと呼ばれ、簡単に検出できるように設計されています。

このメタ アルゴリズムによりディープフェイクの検出が容易になりますが、それでも役に立ちません

AudioSeal は、1 時間のポッドキャストなど、長い音声ファイルの特定のセグメントをマークする機能で際立っています。AI が生成したゲームをレポートする。これは役立つかもしれませんディープフェイクと戦う音声詐欺、特に選挙期間中に公人の声を使用した詐欺。 Meta は、自社のシステムが次のことを達成すると主張しています。精度透かし検出機能を搭載90%と100%の間そしてそれは彼のこれまでの試みをすべて上回っています。

その可能性にもかかわらず、AudioSeal は次のような特徴を持っています。いくつかの制限。現在、オーディオ透かしに関する業界標準はありません。つまり、これらは簡単に編集または削除できます。さらに、メタにはありませんまだ計画されていませんこれらの透かしを適用するには独自のツールによって生成されたオーディオへ。このテクノロジーでは、ユーザーが次のことを行うことも必要です。これらの透かしを自発的に追加します独自のオーディオファイルに変換することは想像するのが難しいですあなたの識別コードを盗もうとするハッカーそれらを統合します。最後に、このアルゴリズムの詳細が公開されると、システムが攻撃に対して脆弱になる可能性があります。