Facebookは、同社の人工知能プログラムがソーシャルネットワーク上の暴力的なコンテンツの削減と削除にほとんど効果がなかったとの報告に応じた。同社によれば、その AI はヘイトスピーチの拡散を減らすのに役立つという。
Facebookのインテグリティ担当副社長であるガイ・ローゼン氏は、ヘイトスピーチ対策に使用される人工知能技術はほとんど影響を与えていないという主張を否定した。実際、ウォール・ストリート・ジャーナルによると、フェイスブックの従業員はプラットフォーム上に不快なコンテンツが表示されるのを防ぐ責任を負っているという。同社がそれらを確実に検出できるとは思えない。内部告発者は数週間前にも次のように述べていた。ソーシャルネットワークはオンラインでの憎悪を奨励して利益を上げることを奨励した。
しかし、ローゼンによれば、Facebook でのヘイトスピーチの拡散は、過去 3 四半期でほぼ 50% 減少しました。 «私たちはプラットフォーム上でヘイトを見たくないし、ユーザーや広告主も同様であり、ヘイトを削除するための取り組みについては透明性を持っています。」とローゼンは書いた。 「これらの文書が示しているのは、私たちの誠実さへの取り組みが何年にもわたる旅であるということです。私たちが完璧になることは決してありませんが、私たちのチームはシステムの開発、問題の特定、解決策の構築に継続的に取り組んでいます。» とフェイスブックは述べている。
ローゼン氏はまた、コンテンツ削除のみに基づいてFacebookのヘイトスピーチ対策における成功を判断するのは「誤った」と主張した。このコンテンツの可視性が低下することは、より意味のある措置です。
Facebookが共有した数字によると、プラットフォーム上の憎悪に満ちたコンテンツの蔓延は過去3四半期でほぼ50%減少し、閲覧されたコンテンツの約0.05%となった。つまり、10,000 件中約 5 件の出版物。しかし、Facebook にはこれらの憎しみに満ちたコメントを共有できる何十億ものユーザーがおり、これは多くの人がこれらの投稿を見ていることを意味します。したがって、私たちはオンライン上の憎悪に対してさらに積極的に闘い、その可視性を制限する必要があります。
Facebook は自社アプリケーションの有害な影響を十分に認識しています最年少の子の幸福のためですが、彼はそれらが危険であることを公式に否定した。しかし、この論争に応えて、Instagram は新機能の到着を発表しました。青少年に精神的健康を維持するために休憩を取ることを提案します。
