子供向けアプリケーションの YouTube Kids は依然として超暴力的な動画でいっぱい

YouTube Kids には、自殺、殺人、性的搾取を美化する動画がたくさんあります。これは、通常はあらゆる暴力から排除されるビデオプラットフォームの子供向けアプリケーションに関して、ザ・ネクスト・ウェブが実施した調査の結論である。 Youtube 側は、アプリケーションからすべての不適切なビデオを削除する「まだ作業が残っている」ことを認識しています。

次のウェブは、子供向けアプリケーション YouTube Kids で利用できるコンテンツに関するアンケートをオンラインで公開しました。そして、少なくとも言えることは、これは素晴らしいものではないということだ。子供たちに静脈を適切に切る方法を説明するビデオと、学校での殺人や人間の麻薬密売を称賛するビデオが、すべて音楽を背景に流れている。Tik Tokで見つけた、若者に人気のアーティストなど、YouTube Kids は、数分間リラックスしたい親にお勧めできる解決策とは程遠いようです。

確かにこのブログでは、現在も YouTube で視聴できるビデオの例をいくつか挙げています。そのうちの 1 つでは、賢い人たちが、一見無害な Splatoon ビデオに緑の背景で自分自身を撮影する不潔なフランクを挿入しました。短い出演中に、彼は静脈を切って自殺することをアドバイスしました。「子供たちを思い出してください。注意を引くために垂直にスライスし、結果を得るために縦にスライスします。もう終わらせてください。」これはそうではありませんYouTube Kids にこの種のコンテンツが存在することがブラックリストに登録されたのはこれが初めてではありません。

しかし、この種のコンテンツが子供向けアプリケーションに表示されるのを防ぐという同社の取り組みはまだ実を結んでいないようだ。 The Next Web の調査結果が公表された後、同社のマネージャーは次のように反応しました。「私たちは YouTube Kids 動画を家族全員で楽しめるよう取り組んでおり、フィードバックを非常に真剣に受け止めています。問題のあるコンテンツを人々が私たちの注意を引いてくれるのはありがたいことですが、誰でも動画を報告できます。」

こちらもお読みください:YouTube、3か月で830万本の動画が削除された理由と方法を説明

そしてYouTubeはこう付け加えた。「報告された動画は 24 時間年中無休で手動で確認され、YouTube Kids アプリに掲載する予定のない動画はすぐに削除されます。また、アプリケーションで適切なビデオとチャンネルのリストを選択する機能など、保護者が利用できる新しい制御システムも開発しました。私たちはシステムを継続的に改善しており、やるべきことがまだたくさんあることを認識しています”。

YouTube Kidsを利用していますか？そこで不適切なコンテンツを見つけたことがありますか?コメントでフィードバックを共有してください。

2019 年 3 月 22 日午後 3 時 18 分更新: Google の反応

この記事の後、Google は詳細を追加するようメールを送ってきました。初めにThe Next Web の記事で 2 回言及されたビデオ、制作者不潔なフランク譲二ではない」は YouTube Kids では取り上げられませんでした。 YouTube.com でのみ利用可能でした。問題の動画は規約違反のため、その後YouTubeから削除された。の用途」と Google France が説明。同社は次の応答権を追加します。「私たちは、YouTube が危険な行為を奨励する目的で使用されないように精力的に取り組んでいます。申請します厳格な規則自傷行為を奨励するビデオを禁止する。当社はユーザーレポートと自動検出ツールを利用して、このコンテンツを迅速に特定し、人間によるレビューのためにチームに送信します。四半期ごとに、ポリシーに違反する何百万もの動画とチャンネルを削除します。これらのビデオの大部分は、視聴される前に削除されます。私たちはこの違法なコンテンツをさらに迅速に削除することを目的としてシステムの改善に取り組んでいます。」

Googleによれば、The Next Webによって報告された動画の多くはその後、YouTube Kidsから削除されたという。また、規制を施行するために 2018 年 7 月から 9 月の間に削除された動画に関するいくつかの統計も示しています。したがって、この期間中に YouTube は 780 万本のビデオを削除しました。

• このうち 81% は機械学習を使用して検出されました
• このテクノロジーによって識別された動画の 74.5% は、ユーザーが視聴する前に削除されました
• 2018 年 9 月に暴力的過激主義または児童の危険を理由に削除されたオンライン投稿動画の合計 90% は、視聴回数が 10 回未満でした
• 2018 年 7 月から 9 月にかけて、Google チームはコミュニティ ガイドラインに違反したとして 2 億 2,400 万件を超えるコメントも削除しました。

昨年、Google はポリシーに違反する可能性のあるコンテンツとの闘いを担当する社内の人数を 10,000 名に増員しました。これは社内の 9 人に 1 人に相当します。