画像認識は人工知能への依存度を高めており、医療、セキュリティ、自動運転車などの分野に革命をもたらしています。ただし、新たな脆弱性によりこれらのシステムが侵害される可能性があります。研究者らはこの欠陥に関連するリスクを警告し、早急な解決策を求めている。
ザ画像認識技術に基づいて人工知能私たちの日常生活を変えます。異常を検出するためにX線をスキャンするかどうか、顔を分析して個人を特定するまたはから道路標識を読んで自動運転車を誘導する、これらのシステムはに基づいていますアルゴリズムできる数千を処理するのビジュアルデータ記録的な速さで。ただし、その有効性は以下に依存します。正確な画像読み取り、というタスク妥協する可能性がある設計上の欠陥または欠陥によるもの。
研究者らは最近特定した欠陥これらのシステムのやり方では特定の特性に対処する写真。この脆弱性により、操作するその方法リア視覚データを解釈します。ザ結果この問題の原因は次のとおりである可能性があります墓、特に医療、運輸、セキュリティなどの重要な分野に当てはまります。
の分野で自動運転車、この欠陥が悪用される可能性があります。標識の解釈を混乱させるAIによるシグナリング。で修正する画像の特定の要素、たとえばグレースケール領域、研究者たちは、それが可能であることを実証しました。アルゴリズムを騙す道路上で潜在的に危険なエラーを引き起こす可能性があります。で薬、ザ医用画像スキャナーMRI や X 線と同様に、脆弱。画像を操作すると、次のような結果が生じる可能性があります。誤診、例えば、存在しない傷害をシミュレートすることによって、患者の健康を損なったり、詐欺を助長したりすること。
この欠陥も影響しますセキュリティ分野に欠かせない顔認識システムそしての身元確認。操作された画像は、これらのデバイスをバイパスします、エラーが発生したり、機密データが漏洩したりする可能性があります。これらのリスクに対抗するために、研究者らはGoogle、Amazon、Microsoftなどの企業と協力して、現在AIによって無視されているデータを統合できるソリューションを開発している。この取り組みの目的は、これらのシステムの堅牢性を強化するに直面して潜在的な攻撃そして重要な環境における信頼性を保証します。
ソース ：テクエクスプロア
