- フォンアンドロイド.com
- ニュース
- ソフトウェア
- この革新的な AI はすぐに大規模な欺瞞のツールになる可能性があります
InstantID の登場により、人工知能の分野に新たな地平が開かれます。この革新的なテクノロジーは、1 枚の画像から個人を識別し、新しい画像を生成できます。しかし、この技術的進歩は、特に今年の米国選挙前夜の大きな懸念であるディープフェイクのリスクの増大により、大きな懸念を引き起こしています。
テクノロジーが電光石火のスピードで進化する時代において、私たちは前例のないほどの人工知能によって生成された画像。この傾向を強調するのは、AIが作成した画像の増加、このデジタル コンテンツの識別と管理の点で新たな課題が生じています。同時に、テクノロジーの巨人たちは次のようなMicrosoft、ディープフェイク作成ツールを立ち上げてこの分野を前進させる。これらは、ある人の顔を別の人の顔に置き換えて操作する AI 技術を使用して作成されたビデオまたは画像です多くの場合、検出が困難です。
ただし、そのようなテクノロジーの使用は創造的または革新的な目的に限定されません。これらのテクノロジーの活用の可能性悪意を持ってインシデントによって強調されます。ディープフェイクに使用されました詐欺を犯す。これはある個人のケースです。被害者の友人のふりをして56万ユーロを盗んだ。これらの例は、その誤用に関連する潜在的な危険性を示しており、次のような議論が行われています。インスタントIDおよびその関連機能。
InstantID: 前例のない脅威があなたのプライバシーに迫っています
InstantID は、人の身元を認識する人工知能を使用して画像を作成する革新的な方法です一枚の画像からそして、あなたができるようにします派生イメージを生成する。このアプローチは以前の方法とは大きく異なります。LoRA正確な調整が必要であり、いくつかの参考画像。 Fortune 500 企業の AI コンサルタントである Reuven Cohen 氏が、LinkedIn でこの手法について議論しました。彼は自分のことを強調します使いやすさそしてその創造の可能性少ないリソースで説得力のあるディープフェイクを作成する。
人工知能画像作成における InstantID の導入は、次のような重要な進歩を表しています。ディープフェイクの制作を大幅に容易にする。コーエンは、このアクセスの容易さによって引き起こされる倫理的な問題に注意を促しています。
潜在的な虐待に対抗するために、いくつかの予防策考えられるのは:
- この虚偽のコンテンツを検出できるソフトウェアの開発
- これらのテクノロジーの使用に関する厳格な規制の確立
- 関連するリスクに対する国民の認識を高める。
これらの戦略は、規制と警戒の強化と組み合わされて、このような強力な資源の倫理的かつ責任ある使用を確保するために不可欠です。不安定化する可能性があるインスタントIDよりも。
ソース ：コーネル大学
