Der von Tumblr eingesetzte Bilderkennungsalgorithmus ist sehr ungenau: Statt Nacktheit markiert er Zeichnungen von Einhörnern und den US-Politiker Joe Biden. Das Unternehmen hat
Ankündigung von CEO Jeff D'Onofrio erhalten. In diesem sieht er ein, dass der Algorithmus nicht perfekt ist. "Solche Inhalte im Gegensatz zu einer politischen Demonstration mit Nacktheit oder der David-Statue herauszufiltern, ist im Großen nicht einfach", schreibt D'Onforio. Allerdings sieht es so aus, als könne der eingesetzte Algorithmus nicht einmal echte Menschen von rohem Essen unterscheiden.
Die Bilderkennung arbeitet zusammen mit menschlichen Mitarbeitern, die Inhalte manuell analysieren und herausfiltern. Das erinnert ein wenig an die Methoden, die die Videoplattform Youtube zum Markieren ihrer Inhalte nutzt. Allerdings scheint dieser akkurater und ausgereifter zu sein.
Wie wenig ausgereift der Algorithmus bisher ist, beweisen einige der unter dem Hashtag #Toosexyfortumblr geteilten und markierten Bilder. Darunter ist etwa ein Anhänger in Herzform, der auf klarem Untergrund auf der einen und als Schema auf der anderen Seite abgebildet ist. Solch eindeutige Formen sind normalerweise für Machine-Learning-Systeme sehr leicht zu erkennen. Eine Nutzerin will erkannt haben, dass alles, was eine fleischfarbene Textur zeigt, als anstößig markiert wird. Ein so allgemeiner Parameter könnte ein Grund für die Ungenauigkeit sein.
Die mit dem Algorithmus einhergehenden angepassten Nutzungsbedingungen der Plattform gehen ab dem 17. Dezember 2018 online. Bis dahin hat Tumblr also wohl noch Zeit, um die Software auszubessern. Sie soll den vom Nutzer selbst eingestellten Safe-Mode-Filter ersetzen. Gesperrte Inhalte definiert Tumblr als: "primär Fotos, Videos und GIFs, die echte menschliche Genitalien oder Nippel der weiblichen Brust und sämtliche Inhalte zeigen - einschließlich Fotos, Videos, GIFs und Illustrationen - die Sex darstellen".