Inteligência artificial — A tecnologia como advento de dois (ou mais) gumes

Em um ensaio publicado em 1986, o fotógrafo italiano Luigi Ghirri manifestou que a existência de uma câmera no céu que pudesse tudo capturar a partir do seu ponto de vista das alturas provocaria “um senso de vertigem e assombro, mas também um senso maior de perplexidade e desespero”.¹ Entre os diversos imaginários associados ao desenvolvimento sociotécnico moderno, a inteligência artificial (IA) reflete, de certa forma, a complexidade de sentimentos expressos por Ghirri décadas atrás.

Definida por Kate Crawford como “uma ideia, uma infraestrutura, uma indústria, uma maneira de exercer poder e uma forma de ver”,² a IA encarna em suas múltiplas interpretações algumas das ideologias, promessas, medos e desejos característicos de um momento em que nossas relações sociais, afetivas e subjetivas são cada vez mais estruturadas pela totalidade tecnoeconômica.

Já presentes e difundidas em várias esferas cotidianas, como a correção ortográfica automática, os sistemas de recomendação de músicas ou filmes e os assistentes pessoais dos telefones móveis, as diversas aplicações da IA demandam um olhar interdisciplinar que reexamine as lógicas extrativistas de recursos ambientais e humanos,³ a reprodução de práticas racistas e discriminatórias,⁴ e os processos de acumulação de capital em algumas poucas empresas.

Com contribuições de diferentes campos e saberes, tais como as ciências sociais e da computação, a sociologia e a arte, este dossiê busca contribuir com o debate crítico sobre o funcionamento, o alcance e as consequências do uso de tecnologias de IA em diferentes esferas da sociedade, num momento em que iniciativas legislativas sobre o tema estão sendo discutidas por pesquisadores e organizações da sociedade civil.⁵

Abrindo o dossiê, Tom Nóbrega, Luiza Crosman e Nicolás Llano entrevistam a pesquisadora, professora e teórica McKenzie Wark. A partir de conceitos centrais da obra de Wark, a conversa avança em reflexões sobre imaginação teórica, experimentação com a linguagem, posturas políticas e experiência trans da própria autora. A entrevista com a pensadora australiana perpassa diversas facetas de seus interesses intelectuais e de sua trajetória pessoal: o papel da classe vetorialista na articulação de dispositivos políticos opressivos; a experiência de dissociação no seu processo de transição; o projeto em andamento de um livro sobre festas raves; a formulação de táticas e redes coletivas de improvisação e (in)visibilidade que possam resistir aos processos extrativistas e comerciais dos nossos corpos e desejos. A conversa será publicada em duas partes, a primeira na Revista Rosa, e a segunda na plataforma de pesquisa experimental Weird Economies, com quem estabelecemos parceria para realizar a entrevista.

Publicado originalmente em inglês na revista Phenomenal World, o texto de Rodrigo Ochigame traça um percurso da justiça algorítmica desde o século XVII até os nossos dias. Em um exercício meticuloso de análise histórica e documental, Ochigame reconstitui os antecedentes do ideal de justiça ou de equidade baseada na matemática algorítmica e analisa a transformação das ciências humanas promovida pela estatística. Entrelaçando casos ilustrativos e discussões sobre filosofia política, história, sociologia e direito, A longa história da justiça algorítmica desmascara a suposta neutralidade e infalibilidade da matemática aplicada na resolução de conflitos. O argumento apresentado por Ochigame torna visível os papéis da indústria dos seguros bem como a dos sistemas atuariais na “institucionalização das aspirações para a justiça algorítmica”.

Com base na denúncia feita por Sá Ollebar, criadora do projeto digital Preta Pariu, sobre o maior alcance e engajamento digital das publicações com fotografias de mulheres brancas em comparação às de mulheres negras no Instagram, as pesquisadoras Alessandra Gomes e Ester Borges interrogam as dimensões sociais, técnicas e culturais envolvidas na discriminação racial algorítmica. Em diálogo com o panorama descrito por Rodrigo Ochigame, Denúncias de discriminação algorítmica no Instagram sob uma lupa, o texto de Gomes e Borges discute o papel dos algoritmos computacionais na reprodução de processos discriminatórios históricos e estruturantes na plataforma. As autoras detalham o funcionamento, as implicações reais e as diversas camadas que configuram a “nova roupagem” da discriminação algorítmica atual.

Quatro trabalhos incluídos no dossiê exploram criticamente a história, desdobramentos e consequências da IA a partir de processos de criação artística.

Qual é a visão do mundo construída pela IA? Em Quem vê?, Bruno Moreschi, Caroline Carrion e Bernardo Fontes apresentam uma indagação poética dos modelos classificatórios e dos procedimentos próprios da visão computacional. Aplicada em protocolos de moderação de conteúdo e reconhecimento facial, entre outros, a visão computacional classifica imagens em categorias e subcategorias que corporificam uma concepção colonial, segmentada e descontextualizada do mundo. Aplicando um script desenvolvido por Bernardo Fontes em imagens de flora, fauna e paisagens naturais contidas no dataset Open Image da Google — utilizado para o aprendizado de máquinas —, o ensaio visual inverte as áreas reconhecidas pela IA, revelando aquilo que é desconsiderado pelo próprio sistema ao executar o reconhecimento visual e selecionar os objetos de “maior valor”. O resultado dessa subversão de prioridades procedimentais mostra “o interior daquela estrutura que faz o sujeito ver”. Assim, evidenciam-se as lógicas normativas e o ocultamento do trabalho humano do qual dependem os processos computacionais que configuram uma visão do mundo correspondente “aos olhos do dominador”.

Continuando a indagação dos componentes normativos dos sistemas de classificação, a artista e pesquisadora Giselle Beiguelman apresenta algumas das obras — imagens, vídeo e um ensaio que usa trechos de uma lecture-performance — que participam de sua exposição Botannica Tirannica no Museu Judaico de São Paulo (maio, 2022). A partir de uma pesquisa sobre plantas com nomes racistas, machistas e antissemitas, Beiguelman revela como as relações de poder entre a taxonomia botânica, o preconceito e os processos colonialistas formularam as bases da uma visão de mundo hegemônica e padronizada, reproduzida pelos sistemas da IA. Articulando um panorama detalhado sobre antropomorfização discriminatória do mundo vegetal, a autora cria uma flora mutante a partir de tecnologias de imagens generativas que transitam “entre supostos erros de leitura, fazendo florescer seres híbridos, sem nome, sem raízes”.

Já em Um causo perturbador: retalhos de Ilê Sartuzi, João GG apresenta uma leitura entre o gênero ensaístico e a resenha da peça cabeça oca espuma de boneca, do artista Ilê Sartuzi. Os corpos, “por si destituídos de vida” (manequins, objetos e elementos motorizados), as linguagens e os formatos (video-mappings, gravações de voz, efeitos de som e iluminação, cleverbots) que habitam a obra de Sartuzi são o ponto de partida para explorar a produção de subjetividade. Articulando elementos cênicos com a rede de citações do texto teatral, GG expõe o estranhamento produzido pelo dispositivo de linguagem criado por Sartuzi e as tentativas do artista em “ver além da subjetividade humana e da supremacia do sentido”.

Concebida inicialmente como uma “palestra radiofônica de caráter dramático”, a obra Aindassim rimos, de Gabriel Francisco Lemos, investiga os fenômenos constitutivos do humor, num processo que mescla citações, métodos de montagem e sistemas de processamento de linguagem natural. O resultado dessa orquestração de contribuições e procedimentos compositivos humanos e não humanos, acompanhados por intervenções de áudio sintetizadas digitalmente a partir de gravações de risadas, é uma narração cumulativa, por vezes sensível, por vezes filosófica e absurda, sobre a própria natureza do humor, os seus gestos e a incapacidade da linguagem não humana em reproduzir as “exigências da vida em comum” que o riso demanda.

“Parece ser necessário transformar um pouco a linguagem para que a gente possa ser capaz de pensar de forma diferente”, diz McKenzie Wark em entrevista publicada neste dossiê. Retomamos essa reflexão e com ela convidamos à leitura desses textos que, se por um lado deflagram, em tom de denúncia, práticas que refletem o que há de pior na sociedade, por outro, exploram novas práticas, ilimitadas, por responderem a descobertas e possibilidades que ainda são imprevisíveis tecnológica e socialmente. Pode a tecnologia transformar a linguagem e as práticas sociais, sem que seus vieses, normativas e hábitos dominantes aí se instalem? Este é um fenômeno que pretendemos acompanhar, não apenas neste dossiê, como em futuras publicações da Revista Rosa.