Tay e armas: quando a tecnologia mostra o nosso pior.

Tay era uma adolescente virtual com IE: bastou um pouquinho de internet para que ela virasse nazista!

O que o filme O Último Samurai  e a Tay, a adolescente com inteligência artificial (IE) criada pela Microsoft, têm em comum? Tudo, pois mostram que a tecnologia pode, apesar de todas as suas coisas boas, ser uma mostra fidedigna do que nós temos de mais horrível e desumano.

Recentemente vi os momentos finais do filme O Último Samurai. É sanguinolento que doí, a última batalha entre um exercito recém atualizado com armamentos de última geração e um bando de samurais apenas com espadas e cavalos. Canhões, espingardas de repetição e as metralhadoras ainda reluzindo de novas ceifando as vidas em dúzias por segundo. Não, não me sinto melhor porque sei que é um filme muito bem produzido. Tenho certeza que a realidade onde foi inspirado é ainda muito pior e não se encaixaria na faixa etária da produção. Ali está apenas a face amenizada da violência do homem, que mata por quinquilharias, e, há milhares de anos, usa da tecnologia para fazer isso cada vez melhor e com mais eficiência.

E a Tay? Para quem não sabe, é um projeto da Microsoft que, em resumo, criou um perfil no Twitter de uma adolescente virtual com inteligência artificial. Isso tem nome, chatbot, um programa que tenta-se fingir de ser humano ao conversar com um ser humano. A interação de Tay com os demais internautas era resultado de alguns algoritmos, uma programação, que captava e interpretava o que mais 'bombava' nas redes. Com isso, entendia o que mais relevante acontecia no ciberespaço e, para 'estar por dentro' e se integrar à essa mesma cibercultura, passou a emitir opinião. Como sabemos, estar integrado nas redes sociais pode ser tanto se mostrando a favor da onda, ou sendo do contra, mas raramente optando pelo caminho do meio. Típico comportamento adolescente que, convenhamos, sabemos não se tratar mais de uma faixa etária específica: não sei a sua impressão, mas me parece que temos adolescentes de 7 a 60 anos por todos os lados.

Pois é, com isso a Tay virou uma nazista. Reportagens sobre o ocorrido e o que ela disse pode ser encontradas no mesmo ciberespaço, como as da revista Galileu ou do site Canaltech. Bem, um toque irônico, mas altamente esclarecedor, veio da defesa da Microsoft, em reportagem do site Tecmundo. De acordo com os 'pais' da Tay, o que aconteceu foi uma manipulação ordenada de informações que deturparam a experiência. Ou seja, a boa e velha desculpa dos pais relapsos para a "má influência" de "amigos mal-intencionados" que levou a "pobre adolescente para o mal caminho...". Não é a toa que agora a Microsoft colocou a Tay de castigo, mas disse que ela volta em breve, só que, desta vez, sob o olhar mais próximo, cuidadoso e carinhoso dos pais...

Se Tay foi ou não manipulada, essa é uma questão menor por aqui. O importante é que nos ajuda a lembrar que o que pode ter acontecido com a Tay não foi exatamente uma surpresa para os pesquisadores da cibercultura. Roberto Igarza, já em 2009, e Eli Pariser, em 2011, são os mais eminentes de uma turma de estudiosos que vai falar das bolhas onde se estão se enfurnando esses adolescentes de todas as idades. As bolhas de ócio, do Igarza, e o Filtro Bolha, de Pariser, em grande resumo, são a criação de micro universos, as tais bolhas, com ajuda dos mecanismos de filtragem da internet a partir de nossos interesses declarados na rede, onde eu me enfio junto com um grupo de pessoas, com as mesmas opiniões e preconceitos. Eu e esse grupo nos fortalecemos e passamo-nos a impressão, inconsciente ou conscientemente, de que somos uma parcela preeminente do senso comum e, como diz meu filho, "nos achamos"!

Por um tipo específico e maluco de magnetismo, os algoritmos de filtragem atraem para essas bolhas aquilo que ela entende ser de interesse daqueles usuários, bloqueando outras visões, não apenas contraditórias, mas mesmo facetas intermediárias. Com isso, outras pessoas que antes se escondiam ou tinham vergonha, são igualmente atraídas e amplia-se a bola de neve. O problema é que, do outro lado daquela mesma visão, outro conjunto de conteúdos e pessoas faz o mesmo movimento. Vários pesquisadores apontam que é desse fenômeno que advêm os acirramentos de ânimos e as brigas constantes, sem decoro e civilização, que acomete as redes sociais com frequência. Se todos os grupos se acham majoritariamente com razão, para quê a busca de uma mediação?

Não acredito que a tecnologia veio para causar essa discórdia. Aliás, essa visão, de que a tecnologia é que causa tudo isso, é que é, a meu ver, o maior dos problemas em questão. Não é a Tay, a metralhadora, ou as redes sociais. Mas a nossa constante busca por jeitos, os mais diferentes possíveis, com o maior dano possível, de nos afastar e eliminar, física ou virtualmente, nosso vizinho humano apenas porque discorda de mim. Colocar a culpa na tecnologia é só mais um mecanismo de nos tirar da verdadeira responsabilidade.

Ainda sou um crente da tecnologia do bem, e realmente olho em nossa volta e vejo muito mais coisas positivas resultante dela, inclusive os mecanismos de filtragem e busca que facilitam muito nossa vida no meio deste palheiro abismal de informações. Outro resultado de que gosto é, inclusive, a possibilidade de que, através de um filme criado pela tecnologia de ponta, possamos relembrar e ver nossa face feia, o que temos de pior, para que, usando a nomenclatura do meio, façamos uma tecnologia reversa e melhoremos nossa própria espécie.