ハッカーは ChatGPT メモリをハッキングしてデータを盗みます。身を守る方法は次のとおりです

人工知能は急速に進歩しており、新しいアプリケーションへの道を切り開いています。その中でも、ChatGPT はユーザーに関する情報を保存する機能が際立っています。しかし、この機能にはリスクが伴い、研究者らはハッカーによって悪用された欠陥を発見しました。

人工知能は目覚ましいペースで進化しており、過去 2 年間でテクノロジーと私たちの関係は大きく変わりました。チャットGPTOpenAI によって開発された、この分野で最も人気のあるツールの 1 つです。できることほぼ人間的な会話を生成する、時間の経過とともに改善されます。そのメモリ機能。後者は彼に次のことを許可します情報を保持する名前、好み、過去のやり取りなど。その目標は、ユーザーにパーソナライズされたサービスを提供することです。

ただし、この暗記能力には危険が伴います。セキュリティ研究者が最近発見したMacOS バージョンの欠陥ChatGPTによる。この脆弱性により、ハッカーは次のことを行うことができます。AIの記憶を操作する悪意のある情報が侵入し、ユーザーにセキュリティ上のリスクが生じます。

セキュリティ専門家のチームは、攻撃者がコマンドインジェクション手法を使用して、悪意のある指示ChatGPT との会話中。これらは AI の長期メモリに保存されます。つまり、セッションが終了した後も保持されます。今後のユーザーとの話し合いで、プログラムは次のことを行うことができます。この誤った情報を使用する。これにより、ハッカーは機密データを傍受または窃取することができます交換を指示することによって個人情報に。

同じテーマについて –OpenAI が、複雑なタスクを実現する「ケーキの上のイチゴ」である o1 モデルと o1-mini モデルを発表

このリスクを制限するために、OpenAI は、ChatGPT Web インターフェイスを介したこの種の攻撃を防ぐパッチを導入しました。ただし、研究者らは、サードパーティの文書や画像などの未検証のコンテンツは、この欠陥を再び悪用する。したがって、ユーザーには次のことが推奨されます。メモリー機能を無効にするまたはへ注意深く監視する「メモリ更新」通知により、何が保存されているかを確認できます。

ソース：赤を抱きしめる