Algo está errado na internet
Eu sou James Bridle. Eu sou escritor e artista preocupado com tecnologia e cultura. Costumo escrever no meu próprio blog, mas francamente não quero o que estou falando aqui em qualquer lugar perto do meu próprio site. Por favor, seja avisado: este texto descreve coisas perturbadoras e links para de conteúdos de vídeo gráficos perturbadores. Você não precisa ler isso, e é aconselhável ter cautela ao explorar a diante.
Como alguém que cresceu na internet, eu acredito que é uma das influências mais importantes sobre quem eu sou hoje. Eu tinha um computador com acesso à internet no meu quarto desde a idade de 13 anos. Me deu acesso a muitas coisas que eram totalmente inapropriadas para um jovem adolescente, mas estava OK. A cultura, a política e as relações interpessoais que eu considero fundamentais para minha identidade foram moldadas pela internet, de maneiras que eu sempre considerei benéfico para mim pessoalmente. Eu sempre fui um proponente crítico da internet e tudo o que ela trouxe, e amplamente considerado isso emancipatório e benéfico. Eu declaro isso desde o início, porque pensar nas implicações do problema que eu vou descrever incomoda meus próprios pressupostos e preconceitos de maneiras significativas.
Uma das questões hipotéticas, até então distantes, que eu me pergunto com freqüência é como eu me sentiria sobre meus próprios filhos tendo o mesmo tipo de acesso à internet hoje. E acho a questão cada vez mais difícil de responder. Eu entendo que esta é uma evolução natural das atitudes que acontece com a idade e, em algum momento, essa questão pode ser muito menos hipotética. Eu não quero ser hipócrita sobre isso. Eu gostaria que meus filhos tivessem as mesmas oportunidades para explorar e crescer e se expressar como eu fiz. Gostaria que eles tivessem essa escolha. E esta crença amplia em atitudes sobre o papel da internet na vida pública como um todo.
Eu também fiquei ciente por algum tempo da relação cada vez mais simbiótica entre crianças mais novas e o YouTube. Eu vejo crianças absorvidas em telas o tempo todo, em cadeiras de carrinhos e em restaurantes, e sempre há um pedacinho de Luddite* lá, mas não sou pai, e não estou fazendo julgamentos parentais para outra pessoa. Eu vi membros da família e filhos de amigos conectados aos vídeos de Peppa Pig e rima infantil, e isso os faz felizes e dá a todos uma pausa, então OK.
Mas mesmo eu ainda não tendo filhos, e agora mesmo eu só quero queimar tudo até reduzir a pó.
Alguém ou alguma coisa ou alguma combinação de pessoas e coisas está usando o YouTube para assustar, traumatizar e abusar de crianças, automaticamente e em escala, e isso me obriga a questionar minhas próprias crenças sobre a internet, em todos os níveis. Muito do que eu vou descrever em seguida foi abordado em outros lugares, embora nenhuma das abordagens em veiculos mainstream que eu vi tenha realmente compreendido as implicações do que parece estar ocorrendo.
Para começar: o Kid’s YouTube(YouTube Infantil) é definitivamente e marcadamente estranho. Tenho consciência de sua estranheza há algum tempo. No ano passado, houve uma série de artigos publicados sobre a mania de Ovos Surpresas. Os vídeos dos Ovos Surpresas representam, muitas vezes com um comprimento excruciante, o processo de desembrulhar Kinder e outros brinquedos de ovos. É isso mesmo, mas as crianças são cativadas por eles. Existem milhares e milhares desses vídeos e milhares e milhares, se não milhões, de crianças que os observam.
Do artigo vinculado acima:
O criador dos meus vídeos particulamente favoritos é "Blu Toys Surprise Brinquedos e Juegos", e desde 2010 parece ter acumulado 3,7 milhões de assinantes e um pouco menos de 6 bilhões de visualizações para um canal para crianças totalmente dedicado à abertura de ovos surpresas e desembrulhando brinquedos. Os títulos dos vídeos são um padrão contínuo de linhas de marca obscuras e tie-ins**: "Surprise Play Doh Eggs Peppa Pig Stamper Cars Pocoyo Minecraft Smurfs Kinder Play Doh Sparkle Brilho", "Cars Screamin 'Banshee Eats Lightning McQueen Disney Pixar", "Disney Baby Pop Up Pals Easter Eggs SURPRISE ".
Ao escrever isso, ele fez um total de 4.426 vídeos e contando. Com tantas visualizações — para comparação, o canal oficial de Justin Bieber tem mais de 10 bilhões de visualizações, enquanto a celebridade do YouTube de tempo integral PewDiePie tem quase 12 bilhões — é provável que este homem ganhe a vida como um par de mãos suavemente murmurantes que desembrulharando ovos Kinder. (Os vídeos de Ovos Surpresas são todos acompanhados de videos de propaganda no começo, e às vezes no meio do video e anúncios.)
Isso deve lhe dar uma idéia do quão estranho o mundo dos vídeos online das crianças é, e essa lista de títulos de vídeo sugere a extraordinária variedade e complexidade dessa situação. Entraremos no último em um minuto; Por enquanto, saiba que já é muito estranho, se aparentemente bastante inofensivo, lá fora.
Outro grande classíco, especialmente entre os filhos mais novos, são os videos de rima infantil.
Little Baby Bum, que fez o vídeo acima, é o 7º canal mais popular no YouTube. Com apenas 515 vídeos, eles acumularam 11,5 milhões de assinantes e 13 bilhões de visualizações. Mais uma vez, há dúvidas quanto à precisão desses números, ao qual eu falarei em breve, mas o ponto principal é que esta é uma enorme, enorme rede e indústria.
O vídeo sob demanda é catnip para pais e para crianças e, portanto, para criadores de conteúdo e anunciantes. As crianças pequenas são hipnotizadas por esses vídeos, seja personagens e músicas familiares, ou simplesmente cores brilhantes e sons suaves. O comprimento de muitos desses vídeos — uma tática de vídeo comum é montar muitos episódios de rima infantil ou de desenho animado em horas+ compilações — e a forma como o comprimento é comercializado como parte do apelo do vídeo, aponta para a quantidade de tempo que algumas crianças estão gastando com eles.
As emissoras do YouTube desenvolveram assim uma grande quantidade de táticas para atrair a atenção dos pais e das crianças para seus vídeos e as receitas publicitárias que os acompanham. A primeira dessas táticas é simplesmente copiar e piratiar outros conteúdos. Uma pesquisa simples para "Peppa Pig" no YouTube no meu caso produziu "Cerca de 10.400.000 resultados" e a página da frente é quase inteiramente do "Peppa Pig Official Channel" verificado, enquanto um é de um canal não verificado chamado Play Go Toys, que você realmente não notaria a menos que você estivesse procurando por isso:
O canal Play Go Toys consiste em (Eu acho?) pirateação de Peppa Pig e outros desenhos animados, vídeos desembrulhando brinquedos (outro ímã infantil) e vídeos de, supõe-se, os filhos dos proprios donos do canal. Não estou alegando nada de ruim sobre Play Go Toys; Estou simplesmente ilustrando como a estrutura do YouTube facilita a delaminação do conteúdo e do autor, e como isso afeta a nossa consciência e confiança em sua fonte.
Como observa outro blogueiro, um dos papéis tradicionais do conteúdo de marca é que é uma fonte confiável. Quer seja Peppa Pig na televisão para crianças ou um filme da Disney, seja qual for o sentimento da pessoa sobre o modelo industrial de produção de entretenimento, eles são cuidadosamente produzidos e monitorados para que as crianças sejam essencialmente seguras, assistindo-as e podem ser confiáveis como tal. Isso não se aplica mais quando a marca e o conteúdo são desassociados pela plataforma, e o conteúdo tão conhecido e confiável fornece uma porta de entrada sem trancas para conteúdos não verificados e potencialmente prejudiciais.
(Sim, este é exatamente o mesmo processo que a delimitação de mídias de notícias confiáveis em feeds do Facebook e nos resultados do Google que atualmente estão causando tal falha em nossos sistemas cognitivos e políticos e não vou explorar explicitamente esse relacionamento ainda mais, mas isso é, obviamente, profundamente significativo.)
Uma segunda maneira de aumentar os hits nos vídeos é através da associação de palavras-chave/hashtag, que é toda uma arte obscura em si mesma. Quando algumas tendências, como vídeos Ovos Surpresas, atingem massa crítica, os produtores de conteúdo se acumulam, criando milhares e milhares de mais desses vídeos em todas as iterações possíveis. Esta é a origem de todos os nomes estranhos na lista acima: conteúdo de marca e títulos de rima infantil e "ovo de surpresa" todos enchidos na mesma salada de palavras para capturar resultados de pesquisa, colocação na barra lateral e rankings do "próximo" em reprodução automática.
Um exemplo impressionante da estranheza são os vídeos de Finger Family (exemplo inofensivo embutido acima). Não tenho ideia de onde eles vieram ou a origem da rima das crianças no núcleo dessa trope***, mas existem pelo menos 17 milhões de versões atualmente no YouTube, e novamente eles cobrem todos os gêneros possíveis, com bilhões e bilhões de agregados pontos de vista.
Mais uma vez, os números de exibição desses vídeos devem ser tomados sob sério assessoria. Uma grande parte do número desses vídeos são essencialmente criados por bots e vistos por bots****, e até mesmo comentados por bots. Esse é um mundo completamente estranho em si mesmo. Mas não deve obscurecer que também há muitos crianças reais, conectados em iphones e tablets, observando isso uma e outra vez—em parte contando os números de exibição inflados—aprendendo a digitar os termos de pesquisa básicos no navegador ou simplesmente barra lateral para exibir outro vídeo.
O que eu considero um pouco perturbador sobre a proliferação é que até mesmo vídeos (relativamente) normais para crianças é a impossibilidade de determinar o grau de automação que está trabalhando aqui; como analisar o fosso entre humanos e máquinas. O exemplo acima, de um canal chamado Bounce Patrol Kids, com quase dois milhões de assinantes, mostra esse efeito em ação. Eles publicam vídeos produzidos profissionalmente, com atores humanos dedicados, a uma taxa de cerca de um por semana. Mais uma vez, eu não estou acusando Bounce Patrol de nada, o que claramente segue os passos de sensações pré-digitais das crianças, como os australianos The Wiggles.
E no entanto, há algo estranho sobre um grupo de pessoas que atuam sem parar as implicações de uma combinação de palavras-chave geradas algorítmicamente: “Halloween Finger Family & more Halloween Songs for Children | Kids Halloween Songs Collection”, “Australian Animals Finger Family Song | Finger Family Nursery Rhymes”, “Farm Animals Finger Family and more Animals Songs | Finger Family Collection - Learn Animals Sounds”, “Safari Animals Finger Family Song | Elephant, Lion, Giraffe, Zebra & Hippo! Wild Animals for kids”, “Superheroes Finger Family and more Finger Family Songs! Superhero Finger Family Collection”, “Batman Finger Family Song — Superheroes and Villains! Batman, Joker, Riddler, Catwoman” e assim por diante. Esta é a produção de conteúdo na era da descoberta algorítmica—mesmo se você for humano, você deve acabar personificando a máquina.
Outros canais eliminam os atores humanos para criar versões reconfiguráveis infinitas dos mesmos vídeos uma e outra vez. O que está ocorrendo aqui é claramente automatizado. Animações de estoque, faixas de áudio e listas de palavras-chave sendo montadas em milhares para produzir um fluxo interminável de vídeos. O canal acima, Videogyan 3D Rhymes— Nursery Rhymes & Baby Songs, publica vários vídeos por semana, em combinações cada vez mais bizarras de palavras-chave. Eles têm quase cinco milhões de assinantes— mais do que o dobro que Bounce Patrol— embora mais uma vez seja impossível saber quem ou o que realmente está acumulando esses milhões e milhões de visualizações.
Estou tentando não transformar este texto em uma lista interminável de exemplos, mas é importante entender como esse sistema é vasto, e como é indeterminado suas ações, processos e audiências. Também é internacional: há variações nos vídeos de Finger Family e Aprenda Cores para épicos do Tamil e desenhos animados malaios, que provavelmente não aparecerão em nenhum resultado de pesquisa anglófono. Essa própria indeterminação e alcance é a chave para a sua existência e suas implicações. Sua dimensionalidade dificulta a compreensão, ou até mesmo a pensar realmente.
Encontramos exemplos bastante claros dos resultados perturbadores da automação total antes— alguns dos quais foram levemente leudados com um tipo de humor escuro, outros não tanto. Muito foi feito do intercorrentamento algorítmico de bibliotecas de fotos em estoque e produção por demanda de tudo de tshirts para canecas de café para onesies infantis e capas de celular. O exemplo acima, disponível até recentemente na Amazon, é um desses casos, e a história de como ocorreu é fascinante e estranha, mas essencialmente compreensível. Ninguém se propôs a criar capas de telefone com drogas e equipamentos médicos, foi apenas um resultado matemático/probabilístico profundamente estranho. O fato de que demorou algum tempo a notar pode tocar alguns sinos de alarme no entanto.
Do mesmo modo, o caso das t-shirts "Keep Calm and Rape A Lot"(Mantenha a Calma e Estupre Bastante) (junto com os "Keep Calm and Knife Her”["Mantenha a Calma e Faca Nela"] e “Keep Calm and Hit Her”["Mantenha a Calma e a Bata Nela"]) é deprimente e angustiante, mas compreensível. Ninguém se propôs a criar essas camisas: elas apenas emparelharam uma lista de verbos e pronomes não controlados com um gerador de imagens on-line. É bem possível que nenhuma dessas camisas existisse fisicamente, ou nunca foram compradas ou usadas, e assim não foi feito nenhum mal. Mais uma vez, porém, as pessoas que criaram esse conteúdo não perceberam, nem o distribuidor. Eles literalmente não tinham idéia do que estavam fazendo.
O que eu irei argumentar, com base nesses casos e naqueles que vou descrever mais pra frente, é que a escala e a lógica do sistema são cúmplices desses resultados, e exige que pensemos nas suas implicações.
(Também novamente: não vou abordar as implicações sociais mais amplas de tais processos fora do escopo do que escrevo aqui, mas é claro que se pode traçar uma linha clara de exemplos como estes para questões contemporâneas urgentes, como como viés racial e de gênero em grandes sistemas de dados e de inteligência de máquinas, que requerem atenção urgente, mas da mesma forma não tem nada parecido com soluções fáceis ou até preferíveis.)
Vejamos apenas um vídeo entre as pilhas de vídeos para crianças e tentar analisar de onde vem. É importante salientar que não encontrei esse vídeo em particular: ele apareceu organicamente e altamente classificado em uma busca por "finger family" em uma janela do navegador incógnito (ou seja, não deveria ter sido influenciada por buscas anteriores). Esta automação nos leva a lugares muito, muito estranhos, e neste momento o buraco do coelho é tão profundo que é impossível saber como tal coisa surgiu.
Mais uma vez, um aviso de conteúdo: este vídeo não é inadequado de qualquer forma, mas está decididamente estranho e contém elementos que podem causar problemas a qualquer um. É muito leve na escala de tais coisas, mas. Eu descrevi-o abaixo, se você não quer assisti-lo e siga pela estrada. Este aviso será repetido.
O vídeo acima é intitulado Wrong Heads Disney Wrong Ears Wrong Legs Kids Learn Colors Finger Family 2017 Nursery Rhymes. O título sozinho confirma sua proveniência automatizada. Não tenho ideia de onde o clássico "Wrong Heads" se origina, mas eu posso imaginar, como com a Finger Family Song, que, em algum lugar, existe uma versão totalmente original e inofensiva que fez crianças rirem bastante que começou a escalar os rankings algorítmicos até que ela chegou às listas de saladas de palavras, combinando com Learn Colors, Finger Family e Nursery Rhymes, e todos esses tropes—não apenas como palavras, mas como imagens, processos e ações—para se misturar no que vemos aqui.
O vídeo consiste em uma versão regular da música Finger Family tocada em uma animação de cabeças e corpos de personagens de Aladdin da Disney trocando e se cruzando. Mais uma vez, isso é estranho mas francamente não é mais do que os vídeos dos Ovos Surpresas ou qualquer outra coisa que as crianças assistem. Eu entendo o quão inocente é. A transgressão se aproxima com a aparência de um personagem não-Aladdin—Agnes, a menina de Meu Mavaldo Favorito. Agnes é o árbitro da cena: quando as cabeças não combinam, ela chora, quando elas fazem, ela se alegra.
O criador do vídeo, BABYFUN TV (captura de tela acima), produziu muitos vídeos similares. Como muitos dos vídeos Wrong Heads como eu poderia suportar assistir todos funcionam exatamente da mesma maneira. O personagem Hope de Divertidamente chora através de um troca de cabeças de Smurfs e Trolls. Continua e continua. Eu entendo o jogo, mas a constante sobreposição e mistura de diferentes trope começa a entrar em você. BABYFUN TV tem apenas 170 assinantes e taxas de visualização muito baixas, mas em seguida existem milhares e milhares de canais como este. Os números na cauda longa não são significativos no resumo, mas em sua acumulação.
A questão se torna: como isso aconteceu? O trope "Bad Baby" também presente na TV BABYFUN apresenta o mesmo choro. Embora eu ache que seja perturbador, posso entender como isso pode fornecer algum ritmo ou cadência ou relação com sua própria experiência em que os bebês reais são atraídos por esse conteúdo, embora tenha sido distorcido e esticado através de repetição e recombinação algorítmica de maneiras que eu não acho que ninguem realmente queira que acontecesse.
Captura de tela do canal Toy Freaks
[Editado, 21/11/2017: Após a publicação deste artigo, o canal Toy Freaks foi removido pelo YouTube como parte de uma remoção generalizada de conteúdo contencioso.]
Toy Freaks é um canal extremamente popular (68º na plataforma) que apresenta um pai e suas duas filhas brincando— ou, em alguns casos talvez originando— muitos dos tropes identificados até agora, incluindo "Bad Baby" (anteriormente incorporado acima). Além de rimas infantis e aprendendo cores, Toy Freaks é especializado em situações grosseiras, bem como atividades que muitos, muitos espectadores sentem fronteira com abuso e exploração, se não cruzar a linha inteira, incluindo vídeos de crianças vomitando e com dor. Toy Freaks é um canal verificado no YouTube, seja o que for que isso signifique. (Penso que sabemos que agora não significa nada útil).
Tal como acontece com o Bounce Patrol Kids, no entanto, você sente sobre o conteúdo desses vídeos, é impossível saber onde a automação começa e termina, quem está inventando as idéias e quem está roleplaying***** elas. Por sua vez, a amplificação de tropes em canais populares, liderados por humanos, como Toy Freaks, leva a que sejam repetidas sem parar na rede em recombinações cada vez mais distorcidas e estranhas.Há um segundo nível do que caracterizo como vídeos liderados por humanos que são muito mais perturbadores do que as atividades principalmente desagradáveis de Toy Freaks e seus parentes. Aqui está um exemplo relativamente suave, mas ainda perturbador:
Um passo para além dos vídeos simplesmente pirateados da Peppa Pig mencionados anteriormente são os knock-offs******. Isso também parece ter violência. Nos vídeos oficiais de Peppa Pig, Peppa realmente vai ao dentista, e o episódio em que ela faz parece ser popular—embora, de forma confusa, o que parece ser o episódio real só está disponível em um canal não oficial. Na linha de tempo oficial, Peppa é devidamente assegurada por um dentista gentil. Na versão acima, ela é basicamente torturada, antes de se transformar em uma série de robôs Homem de Ferro e realizar a dança Aprendendo Cores. Uma pesquisa para "peppa pig dentista" retorna o vídeo acima na primeira página, e só piora a partir daqui.
[Editado, 21/11/2017: o vídeo original citado aqui agora foi removido como parte da recente purga do YouTube, embora muitos vídeos similares permaneçam na plataforma.]
Perturbadoramente os videos da Peppa Pig, que tendem a extrema violência e medo, com Peppa comendo seu pai ou bebendo alvejante, são, ao que parece bastantes difundido. Eles compõem uma subcultura inteira do YouTube. Muitos são, obviamente, paródias, ou mesmo satiras de si mesmos, no estilo bastante comum do tipo ultrajante e deliberadamente ofensivo da internet. Todos os 4chan tropes estão lá, os trolls estão lá fora, nós sabemos disso.
No exemplo acima, a agência é menos clara: o vídeo começa com uma paródia de Peppa trollish, mas depois se sincroniza com o tipo de repetição automatizada de tropes que já vimos. Não sei a que campo pertence. Talvez sejam trolls. Eu espero que sejam. Mas eu não penso assim. Trolls não cobrem a interseção de atores humanos e mais exemplos automatizados mais abaixo. Eles estão em jogo aqui, mas eles não são toda a história.
Suponho que seja ingênuo não ver as versões deliberadas desta chegando, mas muitas são tão próximas do original e, assim, não filtradas—como o exemplo do dentista—, muitas crianças estão observando-as. Eu entendo que a maioria deles não está tentando mexer com as crianças, na verdade, mesmo que eles estejam.
Estou tentando entender o porquê, tão claramente e simplesmente preocupante como isto é, não é uma questão simples de "ninguem vai pensar sobre as crianças". Obviamente, esse conteúdo é inadequado, obviamente há atores ruins lá fora, obviamente, alguns desses vídeos devem ser removidos. Obviamente, isso levanta questões de uso justo, apropriação, liberdade de expressão e assim por diante. Mas relatos que simplesmente entendem o problema através desta lente não conseguem entender completamente os mecanismos que estão sendo implantados e, portanto, são incapazes de pensar suas implicações na totalidade e responder de acordo.
The New York Times, encabeçado seu artigo sobre um subconjunto desta edição "On YouTube Kids, Starling Videos Slip Past Filters"(No YouTube Kids, vídeos surpreendentes deslizam atraves dos filtros), destaca o uso de personagens knock-off e rimas infantis em conteúdos perturbadores e enquadra-o como um problema de moderação e legislação. O YouTube Kids, um aplicativo oficial que afirma ser seguro para crianças, mas obviamente não é, é o problema identificado, porque incorretamente gera confiança nos usuários. Um artigo no tablóide britânico The Sun, "As crianças que ficaram traumatizadas depois de clipes do YouTube mostrando personagens da Peppa Pig com facas e armas aparecem no aplicativo para crianças" leva a mesma linha, com uma dose adicional de direita tecnofobia e self-righteousness*******. Mas ambas as histórias têm em conta as afirmações do YouTube de que esses resultados são incrivelmente raros e rapidamente removidos: asserções totalmente refutadas pela proliferação das próprias histórias e pelo crescente número de postagens de mídia social, em grande parte por pais preocupados, a partir do qual eles surgem.
Mas como acontece com o Toy Freaks, o que me diz respeito aos vídeos da Peppa é como as paródias óbvias e até mesmo os knock-off obscuros interagem com as legiões de produtores de conteúdo algorítmico até que seja completamente impossível saber o que está acontecendo. ("As criaturas lá fora olhavam de porco para homem, e de homem para porco, e de porco para homem novamente, mas já era impossível dizer qual era o qual").
Aqui está o que é basicamente uma versão de Toy Freaks produzida na Ásia (captura de tela acima). Aqui é um da Rússia. Eu realmente não quero usar o termo "humano-conduzido" mais sobre esses vídeos, embora eles contenham todos as mesmas tropes e realmente pessoas atuais os executem. Eu não tenho mais nenhuma idéia do que está acontecendo aqui e eu realmente não quero e estou começando a pensar que esse é o tipo que o ponto. Isso é parte do por que estou começando a pensar sobre a deliberação de tudo isso. Há muito esforço para fazer isso. Mais do que a receita de spam pode gerar—pode? Quem está escrevendo esses scripts, editando esses vídeos? Mais uma vez, eu quero estressar: isso ainda é muito leve, mesmo coisas engraçadas em comparação com muito do que está lá fora.
O primeiro é o nível de horror e violência exibidos. Algumas das vezes são coisas grosseiras estilo trolly; na maioria das vezes, parece mais profundo e mais inconsciente do que isso. A internet tem uma maneira de amplificar e ativar muitos dos nossos desejos latentes; na verdade, é o que parece fazer melhor. Passo muito tempo defendendo essa tendência, no que diz respeito à liberdade sexual humana, identidade individual e outras questões. Aqui, e esmagadoramente às vezes se sente, essa tendência é em si mesmo violenta e destrutiva.
O segundo é o nível de exploração, não de crianças, porque são crianças, mas de crianças porque são impotentes.Os sistemas automatizados de recompensa (Automated Reward Systems), como os algoritmos do YouTube, necessitam de exploração do mesmo modo que o capitalismo necessita de exploração, e se você é alguém que se desagrada na segunda metade dessa equação, talvez isso seja o que convença você de sua verdade. A exploração é codificada nos sistemas que estamos construindo, tornando mais difícil de se ver, mais difícil de pensar e explicar, mais difícil de contrariar e defender. Não em um futuro de senhores IA e robôs nas fábricas, mas aqui mesmo, agora, na sua tela, na sua sala de estar e no seu bolso.
Muitos destes últimos exemplos confundem qualquer tentativa de argumentar que ninguém está realmente assistindo esses vídeos, que estes são todos bots. Há humanos ali no meio, mesmo que apenas no lado da produção, e eu também estou muito preocupado com eles.
Eu escrevi o suficiente, muito, mas sinto que preciso realmente justificar todo esse delírio sobre violência e abuso e sistemas automatizados com um exemplo que o resume. Talvez se depois de tudo o que eu disse, você não pensar que é tão ruim assim. Eu não sei o que pensar mais.
[Editado, 21/11/2017: o vídeo original citado aqui agora foi removido como parte da recente purga do YouTube, embora muitos vídeos similares permaneçam na plataforma. O vídeo usava animações da série de jogos Grand Theft Auto cobertas com personagens de desenhos animados agredindo, matando e enterrando uns aos outros.]
Este vídeo, BURIED ALIVE Outdoor Playground Finger Family Song Nursery Rhymes Animation Education Learning Video, contém todos os elementos que abordamos acima e os leva a outro nível. Personagens familiares, tropes de berçário, salada de palavras-chave, automação completa, violência e a mesma coisa dos piores sonhos das crianças. E é claro que existem muitos e vastos desses vídeos. Canal após canal após canal de conteúdo similar, produzido à taxa de centenas de novos vídeos por semana. Pesadelo de produção industrializada.
Pela ultima vez: Há mais conteúdo violento e mais sexual como este disponível. Não vou botar link para isso. Eu não acredito em traumatizar outras pessoas, mas é necessário continuar estressando isso e não descartar o efeito psicológico sobre crianças de coisas que não são abertamente perturbadoras para os adultos, apenas incrivelmente obscuras e estranhas.
Um amigo que trabalha em vídeo digital me descreveu o que seria necessário para fazer algo como isto: um pequeno estúdio de pessoas (meia dúzia, talvez mais), fazendo grandes volumes de conteúdo de baixa qualidade para colher a receita de anúncios, tropeçando certos requisitos da sistema (o comprimento, em particular, parece ser um fator). De acordo com o meu amigo, o conteúdo de crianças on-line é uma das poucas formas alternativas de ganhar dinheiro com a animação em 3D porque os padrões estéticos são menores e a produção independente podem lucrar com a escala. Ele usa conteúdo existente e facilmente disponível (como modelos de personagens e bibliotecas de captura de movimento) e pode ser repetido e revisado sem parar e principalmente sem sentido porque os algoritmos não discriminam—nem tampouco as crianças.
Esses vídeos, onde quer que sejam feitos, no entanto eles são feitos, e qualquer que seja sua intenção consciente (ou seja, para acumular receita de anúncios) estão se alimentando de um sistema que foi intencionalmente destinado a mostrar vídeos para crianças com fins lucrativos. Os resultados emergentes, inconscientemente gerados, estão em todo o lugar.
Para expor as crianças a este conteúdo é abuso. Não estamos falando sobre os efeitos discutíveis, mas sem dúvida reais, de violência de filmes ou video games nos adolescentes, ou os efeitos da pornografia ou imagens extremas nas mentes jovens, que foram aludidas na minha descrição inicial do meu uso da internet na adolescência. Esses são debates importantes, mas eles não são o que está sendo discutido aqui. O que estamos falando é crianças muito novas, efetivamente desde o nascimento, sendo alvo deliberadamente de conteúdos que as traumatizarão e perturbam-as, através de redes que são extremamente vulneráveis a exatamente essa forma de abuso. Não se trata de trolls, mas de uma espécie de violência inerente à combinação de sistemas digitais e incentivos capitalistas. Está á esse nível.
Isto, penso eu, é o meu argumento: o sistema é cúmplice no abuso.
E agora mesmo, o YouTube e o Google são cúmplices nesse sistema. A arquitetura que eles construíram para extrair a maior receita em vídeos online está sendo pirateada por pessoas desconhecidas para abusar de crianças, talvez nem mesmo deliberadamente, mas em grande escala. Eu acredito que eles têm a responsabilidade absoluta de lidar com isso, assim como eles têm a responsabilidade de lidar com a radicalização de (principalmente) jovens (principalmente) homens através de vídeos extremistas— de qualquer persuasão política. Até agora não demonstraram nenhuma inclinação para fazer isso, o que é desprezível. No entanto, uma grande parte da minha resposta problemática a esta questão é que eu não tenho ideia de como eles podem resolver sem desligar o próprio serviço, e a maioria dos sistemas que se assemelham a isso. Construímos um mundo que opera em escala, onde a supervisão humana é simplesmente impossível e nenhuma maneira de controle desumano irá combater a maioria dos exemplos que usei neste ensaio. Os aspectos que eu mantive entre parênteses, se expandidos, permitiriam um com o mínimo esforço para reescrever tudo o que eu disse, com muito pouco esforço, para não ser sobre abuso infantil, mas sobre nacionalismo branco, sobre ideologias religiosas violentas, sobre falsas notícias, sobre a negação climática, sobre as conspirações do 11 de setembro.
Este é um tempo profundamente escuro, em que as estruturas que construímos para nos sustentar estão sendo usadas contra nós—todos nós—de forma sistemática e automatizada. É difícil manter fé com a rede quando produz horrores como estes. Embora seja tentador descartar os exemplos mais selvagens como trolling, dos quais um número significativo certamente é, isso falha em explicar o volume total de conteúdo ponderado em uma direção particularmente grotesca. Ele apresenta muitos perigos complexos e emaranhados, incluindo isso, assim como com o foco crescente na suposta interferência russa nas mídias sociais, tais eventos serão usados como justificativa para aumentar o controle da internet, aumentar a censura e assim por diante. Este não é o que muitos de nós queremos.
Eu vou parar aqui, dizendo apenas isso:
O que me preocupa não é apenas a violência que está sendo feita para as crianças aqui, embora isso me preocupe profundamente. O que me preocupa é que este é apenas um aspecto de uma espécie de violência infra-estrutural que está sendo feita a todos nós, o tempo todo, e ainda estamos lutando para encontrar uma maneira de falar sobre isso, descrever seus mecanismos e suas ações e seus efeitos. Como eu disse no início deste texto: isso está sendo feito por pessoas e por coisas e por uma combinação de coisas e pessoas. A responsabilidade por seus resultados é impossível de atribuir, mas o dano é muito, muito real.
*Se você se refere a alguém como um Luddite, você está criticando-os por serem opostas as mudanças nos métodos industriais, especialmente a introdução de novas máquinas e métodos modernos.
A maioria tem uma mentalidade Luddite embutida; eles são resistentes à mudança.
**Produto baseado em uma propriedade de mídia, como um filme, jogo de vídeo, série de televisão, jogo de tabuleiro, web site, jogo de role-playing ou propriedade literária são autorizados pelos donos da propriedade original, e são uma forma de promoção cruzada usada para gerar uma renda adicional de que a obra original e promover a sua visibilidade.
*** Refere-se a um dispositivo de trama muitas vezes usado demais. Também pode ser descrito como outra variação no mesmo tema. Programas de TV, filmes, quadrinhos, jogos, anime e livros estão cheios de tropes.
Nem todos as tropes são ruins, até Hollywood ficar preso em uma.
**** É uma aplicação de software concebido para simular ações humanas repetidas vezes de maneira padrão, da mesma forma como faria um robô.
***** É uma forma de jogo em que os jogadores muitas vezes fingem ser outra pessoa.
******Um item destinado a parecer algo que não é.
*******Superioridade moral derivada do sentido de que as crenças, ações ou afiliações de alguém são de maior virtude do que as da pessoa média.
Os sistemas automatizados de recompensa (Automated Reward Systems), como os algoritmos do YouTube, necessitam de exploração do mesmo modo que o capitalismo necessita de exploração, e se você é alguém que se desagrada na segunda metade dessa equação, talvez isso seja o que convença você de sua verdade. A exploração é codificada nos sistemas que estamos construindo, tornando mais difícil de se ver, mais difícil de pensar e explicar, mais difícil de contrariar e defender. Não em um futuro de senhores IA e robôs nas fábricas, mas aqui mesmo, agora, na sua tela, na sua sala de estar e no seu bolso.
A quantidade de vídeos como este é horrivelmente assombroso. Eu já publiquei sobre isso varias vezes antes, mas a quantidade de pessoas que tentam tirar proveito de pais preguiçosos ou simplesmente ocupados é realmente assustadora e eu continuo esperando que o Youtube (de alguma forma) faça algo sobre isso, mas isso só continua piorando.
Eu tive que fazer relatórios de dados e pesquisar esses tipos de vídeos como parte de um trabalho que eu fazia há alguns anos ajudando a criar um canal similar – embora era de uma empresa profissional de mídia juvenil relativamente conhecida. Na epoca em que isso começou a viralizar e um monte destes eram apenas uma animação preguiçosa e mal feita feita para um dinheiro rápido. Ganancioso, mas não objetivamente mal.
Ultimamente eu tenho percebido um aumento em vídeos como este envolvendo crianças reais, colocando-as em situações MUITO bizarras para o que eu posso assumir (ou mesmo esperar) é dinheiro. Em seus motivos mais inocentes, está explorando crianças para obter receitas fáceis do sistema quebrado do youtube que encoraja a fazer qualquer coisa e tudo o que puder dentro do Termos De Serviço para chamar atenção e cliques – e é por isso que esses vídeos têm cada personagem infantil popular abordado. Eu vi um no outro dia envolvendo crianças reais vestidas de bebês, configurado para uma música com direitos autorais. Eu tentei denunciá-lo - mas não pude. não havia literalmente nada que eu pudesse fazer para provar que violava os Termos De Serviço do youtube, a menos que eu fosse a pessoa que fez a música. Tinha muitas visualizações. OBVIO é algo ruim e é ruim em muitos desses canais, mas praticamente não há nada que os usuários regulares podem fazer e isso é assustador.
A única coisa que eu realmente posso sugerir é POR FAVOR, façam-no sabere que isto é um problema, e que há um impulso cada vez mais fodido para explorar crianças e pais ocupados, desinformados ou preguiçosos por dinheiro e outras merdas nocivas. Informe os pais que você conhece que permitem que seus filhos usem seu telefone ou tablet sobre isso.
Se você for pai ou cuida de crianças, supervisione sempre qualquer tempo que elas passam online e se você simplesmente não pode fazer isso, por favor, encontre outras formas de entretê-las. obtenha-lhes um livro infantil, alguns blocos, um DVD de seu desenho animado favorito, qualquer coisa, mas sentando-os na frente de uma conta aberta do youtube. Todo mundo sabe que os pais apenas passam seus telefones para seus filhos. Não só vejo o tempo todo, mas a razão pela qual a barra de like-disliked é tão distorcida nestes é porque as crianças não supervisionadas estão batendo na tela. Mesmo ignorando tudo isso, um clique errante leva seu filho a algum lugar horrível no youtube.
Por favor certifique-se de que isso se torne uma coisa amplamente conhecida porque, francamente, como alguém que o viu crescer e ver como funciona do ponto de vista profissional e pessoal, é terrível e assustador.
