欧州は大規模監視のためのAIの使用を禁止したい

欧州委員会は人工知能を搭載した製品に対する新たな規制を発表する予定だ。 新しい規制が採用されれば、AIベースのシステムによって引き起こされる潜在的な害を制限できる可能性がある

Surveillance de masse
クレジット: アンスプラッシュ

欧州連合は、経済全体の可能性を高めると同時に、人工知能がもたらす最悪の事態を回避したいと考えている。恐ろしい顔認識テクノロジーや、さまざまな AI をフィーチャーした『ブラック ミラー』の他の多くのエピソードを考えることができます。

遵守しない企業には最高の罰金が科せられる可能性がある2,000万ユーロ、または売上高の4%。しかし、私たちの国では次のことがわかっています。フランス人に対する大規模な監視がフランスをヨーロッパとの衝突へと導いている委員会は4月21日に最終規則を発表する予定だ。

欧州委員会の規制には何が含まれるのでしょうか?

それで特定のAIテクノロジーは完全に禁止されるだろう、他の潜在的に危険なシステムは、開発者が一般公開する前に検証プロセスを通過することになります。によると将来のルールの草案、POLITICOが入手、EU の提案には次の規則を含める必要があります:

  • 人間の行動を操作したり、個人や個人のグループに関する情報を悪用したり、社会的スコアリングや無差別監視に使用される AI システムはすべて EU で禁止されることになる。特定の公安例外が適用されます。
  • 公共の場所で使用される顔認識などの遠隔生体認証システムには、当局からの特別な許可が必要です。
  • 「高リスク」とみなされる AI アプリケーションは、システムが追跡可能な方法で人間の監督のもとで不偏のデータセットでトレーニングされていることを確認するために、導入前に検査を受ける必要があります。
  • ハイリスク AI は、自動運転や遠隔手術を提供する自動車など、人々の安全、生命、基本的権利だけでなく、EU の民主的プロセスを危険にさらす可能性のあるシステムに関係します。
  • 自社で評価を実施できる企業もあれば、第三者によるチェックを受ける企業もある。評価機関が発行する適合証明書の有効期限は最長 5 年間です。
  • この規則は、EU 内または海外に設立された企業に等しく適用されます。

こちらもお読みくださいオレンジ、SFR、ブイグ、フリー:欧州は顧客データの大量収集を禁止

欧州は社会信用制度の創設を避けたい

これらの規則から、ヨーロッパが中国に見られるような社会信用システムの確立を避けたいと考えていることがわかります。これは国民と企業のための国家的評判システムであり、これにより、それぞれに 350 ~ 950 ポイントの範囲のスコアが与えられます。。このシステムは、世界規模の監視ツールと大規模監視ツールに基づいています。

中国では、当局は悪い行為に対して減点する交通違反など、良い行動に対してポイントを追加します、慈善団体への寄付など。という制度さえありますブラックリストに登録されると、たとえば政府にお金を借りている場合に、特定の権利が失われる可能性があります。欧州連合がこのようなシステムと大規模監視を禁止したことは、プライバシーを懸念する国民にとって朗報だ。それにもかかわらず、ソーシャルネットワークの大規模監視は最近憲法評議会によって検証された税金詐欺との闘いを強化するため。

ソース :ザ・ヴァージ