TikTok Gute Laune und Zensur

Noch nie ist eine Plattform so schnell gewachsen wie TikTok. Wir haben exklusiven Einblick in die Moderation bekommen und veröffentlichen Ausschnitte aus den Moderationsregeln: TikTok betreibt ein ausgeklügeltes System um Inhalte zu identifizieren, zu kontrollieren, zu unterdrücken und zu lenken. Die Plattform kann nach ihren Regeln Videos von Protesten und Demonstrationen drosseln.

Von 23.11.2019 um 12:05 Uhr - Markus Reuter, Chris Köver in netzpolitik.org LINK

Mehr…

Keine App wurde im vergangenen Jahr so oft herunter geladen wie TikTok. Die Videosharing-Plattform wächst rasant. Im November 2019 durchbrach TikTok die 1 Milliarde-Nutzer:innen-Schallmauer – so schnell wie kein anderes soziales Netzwerk je zuvor. Die Video-App und ihre Kultur ist bei Kindern und Jugendlichen derzeit so angesagt, dass selbst die Tagesschau inzwischen einen eigenen Account dort betreibt. Recherchen von netzpolitik.org zeigen jedoch: TikTok kann bis heute Videos von politischen Protesten und Demonstrationen unterdrücken und darüber hinaus auf vielfältige Weise bestimmen, welche Inhalte sichtbar und welche unsichtbar sind.

Exklusiver Einblick in die Moderation Für diese Recherche hat netzpolitik.org mit einer Quelle bei TikTok gesprochen, Moderationskriterien und Kommunikationen eingesehen sowie mit eigens dafür erstellten Accounts Versuche gemacht, wie gut Videos mit chinakritischen Inhalten auf der Plattform sichtbar sind. TikToks Moderationsregeln, von denen netzpolitik.org unterschiedliche Versionen einsehen konnte, sind bemerkenswert dünn und weit interpretierbar – auch für die Moderator:innen selbst. Die Strategie ist jedoch klar: Bestimmte Inhalte bekommen eine möglichst große Reichweite, während andere systematisch unterdrückt werden. Die Erfolgsplattform gehört dem chinesischen Technologieunternehmen ByteDance. Bereits im September hatte der Guardian aus geleakten Dokumenten berichtet, wie TikTok politische Äußerungen zum Tiananmen-Massaker oder der Unabhängigkeit Tibets zensiert. Auch die Proteste in Hongkong, die derzeit weltweit mediale Aufmerksamkeit erregen, sind auf TikTok zwischen Selfies und Duetten so gut wie unsichtbar. Dabei ist die App auch in Hongkong verfügbar.

Nachts moderiert Peking Die deutschsprachigen Videos auf TikTok werden von drei Standorten aus moderiert, berichtet die Quelle: Berlin, Barcelona und Peking. Am deutschen Standort sei die Führung chinesisch. Gearbeitet wird in 8-Stunden-Schichten, während denen um die 1.000 Tickets abgearbeitet werden sollen. Das ist knapp eine halbe Minute pro Ticket, für Videoinhalte ist das sehr wenig Zeit. Die Löhne sind sehr unterschiedlich, der Druck auf einzelnen Moderator:innen hoch, die Stimmung im Team sei „toxisch“, berichtet die Quelle.

Moderiert wird laut der Quelle in drei Review-Stufen. Der erste Review findet schon nach 50 bis 150 Videoansichten in Barcelona statt. Berlin ist für den zweiten Review bei 8.000 bis 15.000 Ansichten und den dritte Review bei etwa 20.000 Ansichten zuständig. Nachts moderieren deutschsprachige Chines:innen von Peking aus Inhalte. Das bestätigt auch TikTok gegenüber netzpolitik.org. Im Gegensatz zu Facebook sind die Moderationsregeln sehr knapp gehalten: Sie passen nach Auskunft der Quelle in eine wenige Seiten lange Tabelle. Die Anweisungen, die netzpolitik.org einsehen konnte, sind verwirrend vage. Das lässt viel Spielraum für Interpretationen, die Einschränkung von Inhalten kann sehr weit ausgelegt werden, weil das Regelwerk nicht den in vielen Fällen deutlich klareren Charakter von Facebooks-Moderationskriterien hat.

Löschen, Bremsen, Pushen Die Regeln unterteilen unliebsame Inhalte in vier Kategorien. Das berichtet die Quelle und zeigen die Moderationsregeln, die netzpolitik.org einsehen konnte. Videos, die komplett gegen die Auflagen der Plattform verstoßen, werden gelöscht („Deletion“). Andere Inhalte werden als „visible to self“ markiert. Dadurch kann eine Nutzerin das Video selbst noch sehen, andere aber nicht mehr. Eine Markierung als „not for feed“ oder „not recommend“ bedeutet, dass das Video nicht mehr im algorithmisch kuratierten Newsfeed auftaucht, den die Nutzer:innen beim Öffnen der App sehen. Die Markierung kann auch zu einer Benachteiligung bei der Suche und Auffindbarkeit in Hashtags führen, sagt die Quelle. Solche Beiträge werden also streng genommen nicht gelöscht – sie haben aber faktisch kein Publikum mehr.

Für die nicht eingeschränkten Videos gibt es hingegen zwei Stufen. Die meisten werden als „General“ bezeichnet, hier können allerdings über die Markierung von „Risks“ die Inhalte regional gesperrt oder heruntergedrosselt werden. Videos, deren Verbreitung die Marketingabteilung extra verstärken will, kann sie mit der Markierung „Featured“ pushen. TikTok bestätigte netzpolitik.org gegenüber nur die Existenz von „Deletion“, „visible to self“ und „Risks“. Die „Risks“ seien notwendig, damit die Videos nicht gegen lokale Gesetze in bestimmten Ländern verstoßen. Nicht nur Inhalte können ausgebremst werden, auch ganze Hashtags, erzählt uns die Quelle. Überhaupt scheint TikTok ein System des Promotens und Ausbremsens zu fahren, bei dem bestimmte Inhalte sichtbar und viral sind, andere hingegen nie durchstarten und keine Sichtbarkeit erhalten. Die Kontrolle über das, was Menschen auf TikTok sehen, liegt vor allem in der Hand des Unternehmens.

Gelenkte Inhaltspolitik Proteste seien generell nicht gerne gesehen auf der Plattform, sagt die Quelle. Grundsätzlich gäbe es aufgrund der Ausrichtung von TikTok weniger Protest-Inhalte als auf anderen Plattformen, aber oftmals schafften es solche Videos gar nicht erst bis ins Marketing, sondern würden vorher schon beim ersten Sichten in der Moderation an anderen Standorten wie Barcelona gelöscht. Dabei sehen die „Löschteams“ gar nicht die Videos, sondern nur einzelne Frames an, der Ton wird nur auf Verdacht angehört. Tiktok bestreitet, dass es Inhalte aufgrund ihrer politischen Ausrichtung moderiere. Kommt ein Inhalt zum Marketing-Team durch, bestimmt dieses über die Zusammenstellung des kuratierten For-You-Feeds, der den Nutzer:innen algorithmisch zugeschnitten ausgespielt wird. Während der Moderation markieren die Moderator:innen Inhalte nicht nur für Löschung oder Bremsung, sie klassifizieren auch, was sie sehen. „Das soll beim Aufbau einer maschinellen Moderation helfen“, erzählt uns die Quelle, die Einblick in die Moderation hat. Tiktok dementierte gegenüber netzpolitik.org eine Verschlagwortung zum Anlernen von Künstlicher Intelligenz, algorithmische Systeme würden aber „zur Überprüfung beim Einstellen von Inhalten“ eingesetzt.

Kritik an Politik war früher aus Feed ausgeschlossen Laut der Quelle habe TikTok nach der der Berichterstattung des Guardian im September und der darauf folgenden Kritik seine Moderationsregeln geändert. Dabei habe das Unternehmen gegenüber Mitarbeiter:innen explizit auf die schlechte Presse verwiesen, erzählt die Quelle. Das Ausmaß der Änderungen im September sei bis heute einzigartig gewesen, kleinere Modifikationen gebe es hingegen häufiger. Tiktok hatte dem Guardian gegenüber von Mai gesprochen, gegenüber netzpolitik.org sagt das Unternehmen nun die signifikanten Änderungen seien „deutlich früher“ vorgenommen worden. Bis zu dieser großen Änderung haben die Moderationsregeln Kritik an Politik und politischen Systemen quasi komplett ausgeschlossen. Ausgebremst wurde etwa, wer die konstitutionelle Monarchie, parlamentarische Systeme, Gewaltenteilung oder sozialistische Systeme kritisierte. Erst mit der großen Änderung wurde dieses „Politikverbot“ aus den Moderationsregeln getilgt. Einen Ausschnitt aus der Moderationspolicy von TikTok (PDF), in dem mehrere Regeln vor und nach der Änderung festgehalten sind, veröffentlichen wir an dieser Stelle. Es handelt sich aus Quellenschutzgründen nicht um das Originaldokument, sondern um eine Abschrift.

Demonstrationen weiterhin einfach zensierbar Geändert wurde auch das Ausbremsen der Darstellung so genannter „kontroverser Ereignisse“. Bis dahin zählten dazu generell Proteste, Ausschreitungen und Demonstrationen. Eine Liste zählte zusätzlich Beispiele auf wie die kurdische, tibetische oder taiwanesische Unabhängigkeitsbewegung. Nach der Änderung ist die Darstellung von Demonstrationen und Protesten nicht mehr per se eingeschränkt. Allerdings können Demonstrationen mit dem Hinweis auf „mögliche gewalttätige Konflikte“ nach den aktuellen Regeln nach wie vor mit „not for feed“ markiert und heruntergeregelt werden. TikTok sagt, dass es keine solchen Inhalte enferne. Das allerdings war keine Antwort auf die gestellte Frage. Netzpolitik.org hatte nach der drosselnden Klassifizierung „not for feed“ gefragt, eine komplette Entfernung sahen die uns vorliegenden Versionen der Moderationspolicy sowieso nicht vor. Aus dem Feed verbannt waren früher auch Kritik an öffentlichen politischen Figuren, der Polizei und am Militär. Diese Regeln hat TikTok in Deutschland mittlerweile gestrichen, was das Unternehmen auch bestätigt.

LGTBQI-Inhalte werden in vielen Ländern nicht ausgespielt Zudem wurden früher bestimmte Dinge als „Islam Offence“ markiert. Inhalte, die mit diesem Schlagwort markiert wurden, beispielsweise zwei küssende Männer, lösten einen Geoblock für bestimmte Regionen aus. Betroffen gewesen seien vor allem LGTBQI-Inhalte. Diese Regelung wurde nach Berichterstattung des Guardian abgeschafft. Oder besser gesagt: umbenannt. Inhalte, die sich mit der sexuellen Orientierung beschäftigen, erhalten heute das Schlagwort „Risk 3.4“ – die Folge ist, wie auch beim „Islam Offence“ zuvor, dass diese Inhalte in islamischen Ländern ausgebremst werden. Die Markierung mit einem Risk, es gibt viele weitere, führten zu Geoblocking, sagt die Quelle. TikTok argumentiert, dass man sich an lokale Gesetze halten müsse.

Proteste in Hongkong sind kaum sichtbar Da TikTok einem chinesischen Unternehmen gehört, ist besonders der Umgang mit den Demokratie-Protesten in Hongkong ein guter Gradmesser für Zensurversuche. Schon im September hatten wir in der App und in der Webversion nach bestimmten auf anderen Netzwerken prominenten Hashtags wie #hongkongprotest, #freehongkong oder #antielab gesucht und keine oder nur sehr wenige Ergebnisse gefunden. Stattdessen wurden unter den Hashtags in der App Videos gezeigt, die nichts mit den Protesten zu tun hatten. Erst nach einer Presseanfrage bei TikTok in Deutschland wurden einige Videos sichtbar, auch solche, deren Upload wir mit einem eigens dafür erstellten Account versuchten. Gegenüber netzpolitik.org sagte die Sprecherin des Unternehmens damals: Nutzer sind auf TikTok, da die App ihnen eine positive, lustige Erfahrung bietet, bei der sie ihre Kreativität einbringen können. Kurzformatige, unterhaltsame Videos sind, was unsere Nutzer überwiegend auf TikTok hochladen und ansehen. TikToks Moderation folgt unseren Community Richtlinien und Nutzungsbedingungen und entfernt keine Videos rund um die Proteste in Hongkong. Dieses überspezifische Statement kann heißen: Unsere Nutzer:innen laden gar nichts politisches hoch, es gibt kaum Videos zu den Protesten in Hongkong und wir löschen die auch nicht. Das Statement lässt aber komplett offen, ob TikTok Videos zu Hongkong mittels der unterschiedlichen Sichtbarkeitsstufen systematisch benachteiligt und so für die Öffentlichkeit unsichtbar macht oder gemacht hat. Die Suche nach dem Hashtag #JoshuaWong führte im September in der TikTok-App beispielsweise zu keinem Ergebnis. Es gab den Hashtag überhaupt nicht. TikTok sagt gegenüber netzpolitik.org, dass es heute keine Inhalte zu den Protesten in Hongkong und auch zu Joshua Wong einschränke. Die Welt am Sonntag hatte kürzlich bei einem Test festgestellt, dass die Suche nach aus Sicht der chinesischen Regierung brisanten Stichworten wie „falungong“, „tiananmenmassacre“ und „Tiananmensquare“ keine oder nur sehr wenige passende Beiträge liefere. Zahlreiche Suchen von netzpolitik.org in der App kommen zu einem ähnlichen Ergebnis.

„Handzahm und gelenkt“ Für Christian Mihr von Reporter ohne Grenzen bestätigen die Recherchen von netzpolitik.org die Befürchtungen, dass TikTok unter dem Einfluss des chinesischen Staates steht – obwohl es ein privates Unternehmen sei. Es sei Teil der Medienstrategie Pekings, seine totalitäre Vision handzahmer, gelenkter Medien auch international durchzusetzen. „Wenn auf TikTok die Reichweite von Inhalten etwa über Proteste gedrosselt werden, passt das genau ins Bild, da Proteste in Hongkong oder Xinjiang, genauso wie im Ausland ein Tabuthema für Medien in China sind“, sagt Mihr. Er kritisiert das Vorgehen von TikTok als ein „Zeichen von großer Intransparenz“. Update, 25.11.2019: Nach Veröffentlichung des Artikels beharrt TikTok darauf, folgendes Statement zu ergänzen: TikTok moderiert keine Inhalte basierend auf politischen Ausrichtungen oder Sensitivitäten. Unsere Moderationsentscheidungen sind durch keine fremde Regierung beeinflußt,was die chinesischen Regierung einschließt. TikTok entfernt weder Videos rund um die Proteste in Hongkong noch werden Videos rund um die Proteste in Hongkong in ihrer Reichweite unterdrückt. Das umschließt Inhalte zu Aktivisten.

Über diese Recherche und die Quellen: Unser Wissen über die Moderation bei TikTok in Deutschland beruht auf einem mehrstündigen Gespräch von netzpolitik.org mit einer Quelle, die Einblick in die Moderationsstrukturen und die Policy hat. Wir haben die Identität der Quelle und ihren Arbeitsvertrag überprüft. Wir können und wollen die Quelle aus Gründen des Informantenschutzes nicht näher beschreiben.

Weniger…
Bild in Lightbox öffnen (open image in lightbox). Wenn man junge Menschen fragt, ob sie sich bei Tiktok auch politische Videos anschauen, die Tagesschau hat etwa einen Account in der App, sagen die meisten: eher nicht. Foto: Valentin Dornis
Bild in Lightbox öffnen (open image in lightbox). Papierausgabe der Süddeutschen vom 13. Februar 2020

Soziales Netzwerk China-Kracher

Tiktok ist gerade die App bei Jugendlichen: schnell, bunt, lustig. Aber diesmal kommt der Spaß nicht aus dem Silicon Valley, sondern aus einem totalitären Staat. Von Lea Deuber und Valentin Dornis 

Süddeutsche, 13. Februar 2020, Seite 3

Mehr…

Der Vertrag ist noch gar nicht unterschrieben, da fliegt im Vorzimmer schon der Korken aus der Champagnerflasche. Alle hier sind sich einig, dass es heute etwas zu feiern gibt. Auf sieben Seiten Vertrag regeln die Plattenfirma Universal Music und der 24-jährige Falco Punch, wie er zu seinem ersten Hit kommt. Sein Outfit zu diesem Anlass ist betont lässig: Die Knie schauen aus den zerschlissenen Jeans hervor, Ringelsocken stecken in weißen Sneakern, die Kette passt zur goldenen Uhr. Im Aufzug hatte er noch mal tief durchgeatmet, als es hoch ging ins Machtzentrum der deutschen Musikbranche. An den Wänden hängen goldene Schallplatten von The Prodigy und Rammstein, in den Ecken weitere Auszeichnungen. Vor lauter Erfolgen wird der Platz knapp, auch in Zeiten von sinkenden CD-Verkäufen und Musikstreaming. Falco Punch, der öffentlich nur unter seinem Künstlernamen auftritt, bringt nicht viel Erfahrung als Musiker mit. Er spielt ein bisschen Klavier, legt manchmal bei Geburtstagen von Freunden auf. Aber Musik ist in der Musikindustrie längst nicht mehr das Wichtigste. Falco Punch besitzt etwas viel Kostbareres, er hat mehr als 7,4 Millionen Follower auf der Kurzvideo-Plattform Tiktok. Kaum eine App wurde im vergangenen Jahr häufiger heruntergeladen, keine Plattform ist so schnell gewachsen. In Deutschland sollen es schon bis zu vier Millionen Nutzer sein, die meisten sind zwischen 13 und 25 Jahre alt. Nach Facebook, Snapchat und Instagram ist jetzt Tiktok dran, eine ganze Generation junger Menschen zu prägen. Nur eines ist dieses Mal anders: Tiktok kommt nicht aus dem Silicon Valley, sondern aus China.

Zum ersten Mal in der Geschichte des Internets vernetzt eine Firma aus einem totalitären Staat die freie Welt. Zu Hause zensiert das Milliardenunternehmen Bytedance, das hinter der App steht, auf Befehl Pekings Inhalte. Außerhalb Chinas wirbt es damit, einen kreativen Raum zu schaffen für "ein authentisches, unterhaltsames und positives Erlebnis".

Schaut euch an, was in China passiert, sagt eine bei Tiktok. Kurz danach ist ihr Account gesperrt

Gerade noch füllte ein Video seiner Freundin den ganzen Bildschirm aus, da zerbröselt es plötzlich als Papierfoto zwischen den Fingern. Ein kurzes Zucken, und Falco Punch trägt ein anderes Oberteil als noch Sekunden zuvor: Er hat sich auf Transition-Videos spezialisiert. In den Filmchen spielt er mit optischen Täuschungen und überraschenden Übergängen. Dabei redet er selten. Die Videos haben ohnehin oft mehr Schnitte als Sekunden. Bei Tiktok ist nie etwas zu lang, das ist perfekt für die "Generation tl; dr" - "too long; didn't read". Teenager sind es gewohnt, Inhalte schnell und beiläufig zu konsumieren. Die Videos bei Tiktok dauern zwischen 15 und 60 Sekunden. Das reicht, um den Hund als Cowboy zu verkleiden, einen kurzen Tanz aufzuführen oder die eigene Mutter nass zu spritzen. Die Videos landen in einem nie endenden Strom von Clips aus der ganzen Welt, dem "Für dich"-Feed, sortiert von einem Algorithmus. Es gibt keine Gruppen wie bei Facebook, keine privaten Chats wie bei Whatsapp. In 15 Sekunden kann jeder auf der Tiktok-Bühne zum Star werden. Falco Punch nimmt die Aufmerksamkeit auf dieser Bühne mit, solange es geht. "Ich bin noch jung und probiere das jetzt aus. Es kann morgen schon ganz anders aussehen." Als Kind stand er bereits vor der Kamera, drehte Videos mit Freunden und für Musiker im Dorf, in dem er aufwuchs. Zum Geburtstag wünschte er sich eine neue Kamera oder ein Schnittprogramm für den Computer. Das hat sich inzwischen geändert. Mehr als sein iPhone braucht Falco Punch nicht. Smartphone-Kamera und die Schnittfunktion der Tiktok-App reichen meist - und sein Gesicht: "Das ist irgendwie zur Marke geworden." Obwohl er der gefragteste Tiktok-Star Deutschlands ist und damit mehr verdient als manch einer in seinem Bürojob, macht er seit dem Sommer noch eine Ausbildung zum Mediengestalter. Im Moment wohnt er mit seiner Familie auf dem Dorf in der Nähe von Hamburg. Das elterliche Wohnzimmer, beige gestrichen und mit philosophischem Wandtattoo, dient oft als Kulisse für die Videos. Was macht er mit dem Geld aus Werbepartnerschaften und dem Plattenvertrag? "Ich würde mir gerne irgendwann mal ein eigenes Haus kaufen." Im Gespräch lächelt er viel und gestikuliert wenig. Vor der Kamera ist es andersrum: Kaum läuft die Aufnahme, schweben seine Hände bedeutungsvoll durchs Bild wie bei einem Rummelplatzmagier. Den Kopf neigt er meist leicht nach unten und kneift die Augen gerade so weit zusammen, dass der Blick aus seinen blauen Augen noch stechender wird. Dazu das richtige Licht, das sein kantiges Kinn und die vollen Lippen betont: Er beherrscht das Spiel mit den Oberflächlichkeiten.

Manchmal ist die Tiktok-Welt aber auch nur Fassade. Es ist der 24. November, als die damals 17-jährige Amerikanerin Feroza Aziz in ihrem Kinderzimmer auf Aufnahme klickt. "Hey guys", sagt sie und beginnt mit einem Schminktutorial, wie es sie zu Tausenden auf Tiktok gibt. "Also, ihr nehmt dafür als Erstes eure Wimpernzange, und dann formt ihr eure Wimpern, das sollte ja klar sein", sagt sie und kneift dabei die Zange zu. "Und dann legt ihr sie beiseite und nehmt euer Handy, das ihr gerade benutzt, und schaut nach, was in China passiert, wie sie Konzentrationslager bauen, in die sie unschuldige Muslime werfen, Familien auseinanderreißen, sie kidnappen, ermorden, vergewaltigen." Mehr als eineinhalb Millionen Mal wird das Video geklickt. Dann wird ihr Account gesperrt, das Video verschwindet später für 50 Minuten von der Plattform, um dann wieder aufzutauchen. Ein menschlicher Fehler, sagt Tiktok später. In der Unterhaltungsindustrie hat sich in den vergangenen Jahrzehnten etwas verändert: Lange wurde hingenommen, dass die hellen Scheinwerfer des Showbusiness bisweilen auch dunkle Schatten werfen. Doch im Social-Media-Zeitalter ist die Reichweite messbar in Followern und Klicks. Mit diesen Zahlen wuchs auch der Ruf nach Verantwortung. Muss sich also rechtfertigen, wer Tiktok trotz aller Kritik nutzt? Muss jemand, nur weil ihm Millionen Menschen folgen, seinen Einfluss auch politisch nutzen? Oder reicht es, wenn er all diese Menschen in 15 Sekunden zum Lachen oder Staunen bringt?

Auch Facebook sammelt Daten und zensiert. Aber es gibt einen großen Unterschied zu Tiktok

Falco Punch braucht nicht lange, um zu überlegen. "Die Leute sollen einfach eine gute Zeit mit meinen Videos haben", sagt er. "Ich versuche, niemanden mit meiner politischen Meinung zu beeinflussen." Beim Thema chinesischer Einfluss und mögliche Zensur bei Tiktok antwortet er sehr zurückhaltend. Kein schlechtes Wort über die App. Er weiß, dass er als unpolitische Influencer-Figur am besten funktioniert. Das Geschäftsmodell sieht keine Ecken und Kanten vor. Auch dass er vor ein paar Monaten seinen alten VW Lupo gegen einen Seat-Jahreswagen getauscht hat, erzählt er nur sehr ungern. Wer weiß, ob gerade eine andere Automarke eine Kooperationsanfrage für ihn vorbereitet. Deutschlands größter Tiktok-Influencer hat die Werbebotschaft der deutschen Tiktok-Abteilung also gut verinnerlicht. Es geht nur um Spaß und Kreativität, um eine heile, positive Welt, die mit all den politischen Irrungen und Wirrungen da draußen auf gar keinen Fall etwas zu tun haben soll. Und wenn es doch passiert, dann ist das ein bedauerlicher Fehler. Wie vor einigen Monaten, als Journalisten von der Internetplattform Netzpolitik.org interne Moderationsregeln von Tiktok veröffentlichten. Demnach schränkte die Plattform bis mindestens September die Sichtbarkeit von Videos ein, die Menschen mit Behinderungen zeigten. Auch queere Menschen sollen markiert und ausgebremst worden sein. Die Videos wurden zwar nicht gelöscht, aber weniger Nutzern angezeigt. Sie verschwanden aus dem Sichtfeld der Masse, angeblich zum Schutz vor hämischen Kommentaren. Die deutsche Abteilung von Tiktok bestritt all das vehement, gab aber zu, mit einem "restriktiven Ansatz" bei der Moderation von Inhalten einen Fehler gemacht zu haben. Chinesische Firmen sind per Gesetz unter gewissen Umständen im Ausland gezwungen, die staatlichen Behörden zu unterstützen, wenn es um die nationale Sicherheit geht. Im September veröffentlichte der britische Guardian Dokumente, die belegten, dass Tiktok zu Beginn auch "revolutionäre" Inhalte unterdrückte. Betroffen waren zum Beispiel Videos zur Unabhängigkeit Tibets, zum Massaker auf dem Platz des Himmlischen Friedens und zur in China verbotenen Bewegung Falun Gong. Das Milliardenunternehmen Bytedance, dem Tiktok mehrheitlich gehört, ist im Ausland fast völlig unbekannt. Dabei spielt es längst in einer Liga mit Giganten wie Google, Apple und Facebook. Analysten schätzen den Wert des chinesischen Start-ups auf mehr als 75 Milliarden Dollar. Gründer ist der 36-jährige Zhang Yiming, heute einer der reichsten Menschen im Land. Nach dem Erfolg einer Nachrichten-App startete er 2016 Tiktok, gut zwei Jahre später verschmolz er die App mit Musical.ly, das ein ähnliches Konzept hatte. Die Zentrale von Zhangs Firmen-Imperium liegt im Nordwesten Pekings. Von außen erinnert das Gebäude eher an eine Fabrik als an das größte Start-up der Welt. In der Eingangshalle stehen Modelle von Kampfflugzeugen der chinesischen Volksbefreiungsarmee. Das ganze Viertel soll für Bytedance umgebaut werden, eine eigene Bytedance-Welt. Zutritt bekommt man zu ihr aber nicht. Monatelang werden Interviewanfragen abgelehnt. In Deutschland gibt man sich offen, gerne lädt eine Sprecherin zum Kaffee ins Büro ein. Sie hat ein Sortiment bunter Infobroschüren dabei, in denen Eltern erklärt wird, wie Tiktok funktioniert, und Influencer erzählen, was sie an der Plattform so lieben. Zum Beispiel die tollen Sicherheitseinstellungen. Bei einem Thema aber wird es schnell ernst: Bezeichnet man Tiktok als chinesische App, kommt sofort Widerrede. Tiktok sei ein völlig eigenständiges Unternehmen, sagt die Sprecherin. Ihre E-Mails kommen allerdings von einer Adresse mit der Endung @bytedance.com. Das habe nichts zu bedeuten, heißt es. Wenige Wochen später enden die Mailadressen mit @tiktok.com. Anscheinend weiß man bei Tiktok, wie toxisch der eigene, chinesische Hintergrund sein kann. Doch in den Mails stecken technische Hinweise, dass es immer noch Verbindungen zu Bytedance gibt. Nach mehrfachem Nachfragen heißt es: "TikTok nutzt einige wenige Basis-Infrastrukturen, die von Bytedance gestellt werden." Dazu gehöre auch eine E-Mail-Infrastruktur. Der Grund: Tiktok wachse schnell, deshalb baue es "derzeit lokal seine Teams und Infrastrukturen auf". Im Januar räumt Tiktok-Chef Alex Zhu dann auch in Europa Fehler ein. Neue Regeln für die Nutzer sollen her. Das Europateam werde vergrößert, Videos sollen nicht mehr von Moderatoren in China überprüft werden. Noch so eine Sache, die erst hinterher herauskam. Zuvor hatte es lange geheißen, dass keine Daten nach China fließen. Gespeichert würden die Benutzerdaten ohnehin in den USA und Singapur, heißt es. Man könnte vieles, was an Tiktok kritisiert wird, auch den großen US-Netzwerken vorwerfen: die Datensammelei, das Eindringen in die Privatsphäre, das Geschäft mit der Aufmerksamkeit der Nutzer. Doch in der Wahrnehmung gibt es einen entscheidenden Unterschied. Facebook zensiert nackte Frauenbrüste auf Fotos, weil in den USA ein prüder Konsens herrscht. Dafür lässt es abseitige Meinungsäußerungen und Beiträge oft unangetastet. In China dagegen herrscht eine Partei, die die Zensur als Machtinstrument gegen die Meinungsfreiheit einsetzt - ob durch Sicherheitsbehörden oder durch Unternehmen wie Bytedance, die den Anweisungen folgen müssen. Das Misstrauen gegenüber China sitzt tiefer. In Australien dürfen Soldaten Tiktok nicht mehr auf Diensthandys nutzen, ähnliches gilt für Teile des US-Militärs. Die dortige Regierung prüft derzeit, was genau mit den Nutzerdaten passiert und ob die App als Spionagewerkzeug für die chinesische Regierung dienen könnte. Auch wegen dieses laufenden Verfahrens gibt es offenbar Pläne von Bytedance, Tiktok auch formal vom Mutterkonzern zu trennen.

Wer drin ist, kommt kaum raus. Es ist ein ständiger Strom von Inhalten, Reizen, Belohnungen

Dass die App zum politischen Werkzeug wird, das deutschen Teenagern die Gehirne wäscht, scheint trotzdem noch weit hergeholt. Doch auch ein paar Nummern kleiner reichen die Möglichkeiten, um Politikern und Eltern Sorgen zu machen. Die Frage, was an der Kurzvideo-App so fasziniert, löst in einer Münchner Mittelschule fast eine Rauferei aus, so dringend wollen die Siebtklässler erzählen. Eigentlich hätten sie gerade Politikunterricht, aber jetzt geht es statt um "Regeln und Gesetze" um etwas, das sie wirklich bewegt: Tiktok. Sie dürfen sich die Namen aussuchen, mit denen sie in der Zeitung stehen wollen. "Ich gucke auf Tiktok vor allem witzige Videos und lerne Tänze", sagt die 13-jährige Melissa. "Man kann sich gut in die Leute reinversetzen, weil die auch jung sind." Schaut sie auf der Plattform auch politische Videos? Nachrichten? Immerhin hat auch die Tagesschau einen Account auf Tiktok, trotz aller Kritik - als Experiment, um junge Menschen überhaupt noch zu erreichen. "Eher nicht", sagt Melissa, "Tiktok ist eigentlich für Spaß da."

Mit Spaß lässt sich eben besser Geld verdienen. Die App ist absolut auf Profit ausgerichtet: Sie sammelt intensiv persönliche Daten der Nutzer, wie eine Analyse der SZ im Dezember zeigte, um sie für Werbung vermarktbar zu machen. Firmen können verschiedene Werbepakete buchen, zum Beispiel Hashtag-Challenges und Videos, die dann besonders prominent und häufig angezeigt werden. Tiktok ist dabei so gebaut, dass die Nutzer möglichst lange in der App bleiben. Durch die kurzen Videos müssen sie alle paar Sekunden wieder aktiv werden, weiter scrollen in einem nie endenden Strom von Inhalten, Reizen, ständigen Belohnungen. Ein Content-Trichter, an dessen steilen Wänden der Nutzer immer weiter hinunterrutscht und doch nie unten aufschlägt. Zum Halten kommt er erst, wenn er das Smartphone weglegt.

"Das ist mir schon oft passiert", sagt Kylo. Der 13-Jährige schätzt, dass er jeden Tag ein paar Stunden mit der App verbringt. Das Trichterphänomen kennt er gut: "Ich sollte einmal um 22 Uhr ins Bett, weil am nächsten Tag Schule war. Ich wollte nur noch ein paar Videos gucken, und plötzlich war es Mitternacht." Scheiße sei das gewesen, sagt er, weil er am nächsten Tag im Unterricht die Augen kaum aufgekriegt habe. "Aber ich konnte nichts machen, manchmal guckt man einfach ein Video nach dem anderen." In den Einstellungen können Eltern die Nutzungszeit zwar einschränken, aber es gibt zwei Probleme: Erstens sind die Zeiträume vorgegeben, der kürzeste beträgt schon 40 Minuten. Und zweitens müssen die Eltern sich auskennen. "Wenn mein Vater irgendwas an meinem Handy kontrollieren will, lösche ich vorher Nachrichten oder mache mir einfach einen zweiten Account", sagt Kylo.

Fast auf der ganzen Welt kann man diese App benutzen - nur in China ist sie gesperrt

Die Kinder wissen nicht nur genau, wie sie die Kontrolle durch ihre Eltern umgehen, sondern auch, wer in der Schule wie viele Follower hat: "In der Neunten hat ein Mädchen mehr als 10 000", sagt Melissa. Sie lädt auch regelmäßig Videos auf ihrem Account hoch, die gucken allerdings nur ein paar Hundert Leute an. In den Filmchen tanzt sie zu Liedern. Meist sind es Lieder, die auch große Influencerinnen in ihren Tanzvideos verwenden, Trap-Beats mit durchdringenden Bässen und einfachen Melodien. Tiktok hat Verträge mit den großen Musiklabels, die Sekundenausschnitte der Lieder zur Verfügung stellen. Wird ein Lied auf Tiktok zum Trend, ist das ein gutes Geschäft. Der "Old Town Road Remix" von Lil Nas X und Billy Ray Cyrus war so ein Lied. Bei Universal Music glauben sie, Tiktok werde in Zukunft entscheidend sein, um mit Musik junge Menschen zu erreichen. Deshalb sitzt Falco Punch an diesem kalten Wintertag in der deutschen Universal-Zentrale, um seinen Vertrag zu unterzeichnen. Er ist mit seinem Manager da, Andre "Brix" Buchmann. Der 48-Jährige war jahrelang als Musikproduzent erfolgreich, produzierte unter anderem das Lied "Satellite", mit dem Lena Meyer-Landrut 2010 den Eurovision Song Contest gewann. Meyer-Landrut ist mittlerweile nicht mehr nur Musikerin, sondern auch Instagram-Influencerin mit 3,2 Millionen Followern. Tiktok bringt also die Musik- und die Influencer-Industrie zusammen. Im Büro der Plattenfirma diskutieren sie über verschiedene Lieder, die für die erste Single von Falco Punch infrage kommen. Es geht um mögliche Features, um Reichweiten und Zielgruppen, und darum, wie die Musik klingen muss, damit sich darauf gute Tiktok-Videos schneiden lassen. "Der Beat muss perfekt passen", sagt Falco Punch. Ein Produkt wird da entworfen, designed für den globalen Erfolg. Wobei, das stimmt nicht ganz. Tiktok ist nicht überall auf der Welt nutzbar - ausgerechnet in China ist es gesperrt. Nutzer können die App nicht mal auf ihre Geräte laden. Wer nach Tiktok sucht, bekommt die chinesische Schwester Douyin angezeigt. Beide haben fast dasselbe Logo. Doch bei Douyin filtern sie noch strenger. Da wird wirklich alles aussortiert, was der Partei nicht passt. Anfangs ließen sich zum Beispiel noch Schnipsel aus der Region Xinjiang finden, in denen Uiguren über ihre Unterdrückung berichteten. Inzwischen sind uigurische Nutzernamen verboten. Videos, in denen die Turksprache der Minderheit gesprochen wird, verschwinden. Populär sind nun Videos wie mit dem Hashtag "Der Charme der Menschen in Xinjiang". In denen nur "die schönen Menschen mit ihren tollen Trachten und, natürlich, mit ihrem breitesten Lächeln" zu sehen sind, schreibt die Staatspresse. Die Videos von Falco Punch sind bei Douyin bisher nicht zu finden. Das soll sich ändern, schließlich warten dort potenziell Millionen Fans. Dafür braucht er allerdings eine chinesische Handynummer. "Da arbeiten wir gerade dran", sagt Falco Punch. Immerhin muss man zur Verifizierung in China eigentlich sein Gesicht scannen lassen, wenn man eine eigene Nummer haben möchte. Die deutsche Tiktok-Abteilung unterstütze ihn bei den Plänen. Das bestreitet die Sprecherin: Tiktok unterstütze weder Creatoren noch Unternehmen dabei, Konten auf Douyin zu erstellen. Schließlich sei es ein eigenständiges Unternehmen. Wenn aber solche Anfragen kämen, leite man sie an die Kollegen bei Bytedance weiter. Das natürlich schon.

Weniger…