Hass, Obszönitäten oder kriminelle Inhalte: Content-Moderatorinnen und Content-Moderatorin sind für die Durchsetzung von Richtlinien in sozialen Netzwerken, Internetforen, Cloud-Diensten und anderen IT-Systemen zuständig. Sie sichten und prüfen usergenerierte Inhalte und entscheiden darüber, ob diese entfernt oder gesperrt werden. Außerdem Filtern sie Informationen sowie Daten und werten diese aus.
In einigen Fällen wird die Berufsbezeichnung der Content-Moderatorin mit dem des Content-Managers gleichgesetzt. Allerdings existieren wesentliche Unterschiede in den Tätigkeiten, da die Content-Moderation lediglich einen Teilaspekt des Content-Managements darstellt. Eine engere Verwandtschaft besteht zwischen dem Beruf der Community-Managerin und des Content-Moderators.
In Zeiten von Internet und Social Media können Nutzer nahezu ohne Einschränkungen Informationen, Bilder, Videos und andere Medien produzieren und verbreiten. Allerdings befinden sich darunter auch höchst fragwürdige Inhalte, die gegen das Verbreitungsverbot verstoßen oder dem Bereich der Internetkriminalität zuzurechnen sind. Auf Social-Media-Plattformen und in Internetforen sind Content-Moderatoren für die Durchsetzung von Richtlinien zuständig. Hierzu gehören sowohl die Standards, die große Internetdienstleister wie Facebook, YouTube, Google und Twitter für sich selbst definiert haben, als auch die Bestimmungen des Netzwerkdurchsetzungsgesetzes (NetzDG). Zu den Inhalten, die in der Regel gelöscht werden sollen, gehören Hassnachrichten, Gewalt, Missbrauch, Folter, Tierquälerei, Terrorismus und Kriminalität.
Content-Moderatoren übernehmen die Sichtung und die Bewertung von nutzergenerierten Inhalten, welche beispielsweise von Usern gemeldet oder auf andere Weise entdeckt wurden. Im Rahmen der individuellen Prüfung beurteilen sie, ob ein Regelverstoß oder gar ein Gesetzesverstoß vorliegt. Sollte dies der Fall sein, sorgen sie für Sperrung und Löschung verbotener Inhalte. Bei Unsicherheiten oder bei Fällen mit öffentlicher Relevanz können sie die Entscheidung delegieren.
Content-Moderatoren sind auch für die Filterung und Kategorisierung von Daten verantwortlich. Dabei entscheiden sie unter anderem darüber, ob nach einer Löschung weiterführende Schritte eingeleitet oder staatliche Behören informiert werden sollten. Ebenso können sie Bilder und Medien mit einem Warnhinweis versehen oder teilweise zensieren. Außerdem prüfen sie, ob Inhalte der passenden Kategorie zugeordnet wurden.
Eine Content-Moderatorin arbeitet an der Schnittstelle zwischen IT und Kommunikation. So kann sie beispielsweise direkt bei den Betreibern sozialer Netzwerke und Webseiten arbeiten. Häufig werden die Aufgaben allerdings an externe Dienstleister übertragen. Hierbei kann es sich beispielsweise um ein auf Content-Moderation spezialisiertes IT-Unternehmen handeln. Allerdings bieten auch Kommunikationsdienstleister, PR-Agenturen und zum Teil auch Call Center Dienste in diesem Bereich an.
Für eine Tätigkeit als Content-Moderator ist kein expliziter Bildungsweg vorgeschrieben. Arbeitgeber können jeweils selbst über die von ihnen gestellten Anforderungen entscheiden. Unternehmen können beispielsweise eine gewisse Affinität zu den Themen IT und Kommunikation oder Arbeitserfahrung in den Bereichen Community-Management oder Content-Management verlangen. In einigen Fällen findet ein Training bei der Einarbeitung statt.
Content-Moderatoren können Anpassungsweiterbildungen und Aufstiegsweiterbildungen nutzen, um ihr Kompetenzprofil sowie ihre Karriereperspektiven aufzuwerten. Unter Umständen können sie sich auch durch ihre Arbeitsleistungen hervortun und auf diese Weise beruflich aufsteigen.
Hass, Gewalt, Folter oder Missbrauch: Content-Moderatorinnen müssen sich in ihrem Arbeitsalltag mit extrem schockierendem und abstoßendem Material befassen. Diese Einblicke in menschliche Abgründe sind häufig emotional belastend und traumatisierend. Daher sollten sie sich vor allem durch emotionale und psychische Belastbarkeit auszeichnen. Dieser Faktor sollte keinesfalls unterschätzt werden, da die Inhalte der psychischen Gesundheit auch langfristig schaden können. Die meisten Unternehmen vereinbaren eine Schweigeverpflichtung mit ihren Arbeitnehmerinnen. Daher dürfen Content-Moderatorinnen nicht über ihre Arbeit sprechen und sollten Diskretion wahren können.
Die Entscheidung über nutzergenerierte Inhalte verlangt Verantwortungsbewusstsein und eine gründliche Arbeitsweise. Content-Moderatorinnen müssen Texte, Videos, Bilder und Audios genauestens prüfen, um keine Regelverstöße zu übersehen. Zugleich müssen sie sich stets die Richtlinien – welche sich regelmäßig ändern können – vergegenwärtigen und sie anwenden. Dies impliziert auch, dass sie darauf achten müssen, ausschließlich verbotene Inhalte zu entfernen, unabhängig von ihren persönlichen Präferenzen. Außerdem sollten Content-Moderatorinnen eine Bereitschaft zu eintöniger Arbeit mitbringen. Obwohl sie immer wieder anstößigen Inhalten begegnen, können auch zahlreiche Fälle irrelevant oder belanglos sein.