Nach einer Reihe fragwürdiger Videos, die auf der Plattform viral werden, war YouTube in der Offensive, die Verbreitung kontroverser Inhalte zu stoppen. Von dem Video von Logan Paul, das eine Leiche in Japans "Suicide Forest" zeigte, bis zu den neueren Tide Pod Challenge-Videos haben die Moderatoren von YouTube seit Anfang des Jahres viel auf dem Teller.
Nun, laut einem aktuellen Artikel von Buzzfeed News, YouTube plant die Einrichtung eines "Intelligence Desk", der kontroverse Videos auf der Plattform erkennt, bevor sie viral werden. Die neue Initiative ist Teil des Bestrebens des Unternehmens, sein Content-Moderationssystem zu verbessern, das in letzter Zeit nicht gut funktioniert hat. Der Intelligence Desk sammelt Daten von Google, Nutzerberichten, Social-Media-Trends und Beratern von Drittanbietern, um kontroverse Inhalte zu kennzeichnen, bevor sie außer Kontrolle geraten.
Ein YouTube-Sprecher bestätigte dies Buzzfeed Nachrichten über die Gründung des Intelligence Desk und sagte:
„Wie wir im Dezember in einem Blog dargelegt haben, erweitern wir unsere Arbeit gegen schlechte Schauspieler, die versuchen, unsere Plattform zu missbrauchen. Dies beinhaltet die Einstellung von mehr Mitarbeitern, die sich mit potenziell verletzenden Inhalten befassen, und den verstärkten Einsatz von Technologien für maschinelles Lernen. Wir können bestätigen, dass ein Teil dieser Bemühungen die Zusammenstellung neuer Teams zum Schutz unserer Plattform vor neuen Trends und Bedrohungen umfassen wird. “
Die Plattform wurde aus verschiedenen Gründen unter Beschuss genommen, unter anderem weil Mainstream-Anzeigen neben extremistischen Inhalten geschaltet werden konnten und der störende Missbrauch von Kindern in bestimmten Videos nicht erkannt wurde. YouTube wurde auch für die Art und Weise kritisiert, wie es mit der Paul-Situation umging, da das beleidigende Video die Top-10-Trendliste erreichte, bevor es entfernt wurde.
Ein Advertiser Briefing erhalten von Buzzfeed News Außerdem wurde angegeben, dass die Plattform mit über 100 NGOs, Regierungsorganisationen und Wissenschaftlern zusammenarbeiten wird, um kontroverse Inhalte mit größerem Fachwissen zu behandeln.