Facebookが黒人をサルと混同、ソーシャルネットワークが謝罪

Facebook は、推奨アルゴリズムでバグに遭遇しました。このアルゴリズムは、黒人を映したビデオと霊長類を映したシーケンスを混同した。 Facebookのアルゴリズムが大きな間違いを犯したのはこれが初めてではない。同社はすぐに謝罪した。

1年以上前、英国のタブロイド紙デイリー・メールは、「マリーナで白人男性が黒人男性を警察に通報」。ビデオでは、数人の黒人が確認できます。

の上フェイスブック、シーケンスは誤って解釈されました推奨アルゴリズム。ソーシャルネットワークは、ビデオを視聴したインターネットユーザーに、「霊長類に関するビデオをもっと見る?Facebook はオプションを提供しました。」はい / 拒否» 多くのインターネットユーザーのインターフェイス上で。

こちらもお読みください:Facebookは公式報告書で嘘をつきます – 反ワクチン記事は意図的に削除されています

このサイズのエラーは Darci Groves によって発見されました。Facebookの元デザイナーとニューヨーク・タイムズ紙が報じた。激怒した彼女は、元同僚に問題を提起するよう頼んだ。「そして、このビデオは 1 年以上前のものですが、昨日、友人がこの推薦を受けました。 FB友達の皆さん、ぜひこのことを伝えてください。スキャンダルだよ」、ダーシー・グローブスはツイッターで後悔している。

ソーシャルネットワークはすぐに反応しました。「これは明らかに容認できないエラーです。これらの侮辱的な推奨事項をご覧になった皆様にお詫び申し上げます。何が起こっているのかを理解したら、すぐに問題の原因を調査し、再発を防ぐことができました。」と広報担当者は断言した。

Facebook によると、推奨アルゴリズムは、以下を使用して数千のビデオを自動的に分析します。人工知能、間違いを犯しました。「すでに述べたように、私たちは人工知能システムを改善してきましたが、それが完璧ではなく、進歩する必要があることを知っています。」、ソーシャルネットワークを擁護します。

Facebookが指摘しているように、その人工知能は完璧とは程遠い。 2018年には、たとえば、フェイスブックはエマニュエル・マクロン氏の写真を検閲した「ヌードと性的行為」のためにセント・マーチン島を訪問。昨年、アルゴリズムは無邪気なタマネギのバスケットと一対の胸を混同した。

ソース：ニューヨークタイムズ