Hannes Bajohr: “Só uma Inteligência Artificial Fraca pode produzir uma verdadeira novidade”

24-10-2021

Esta entrevista é publicada em parceria com o Goethe-Institut Portugal no âmbito do ciclo “AUTOMAT: Literatura e Inteligência Artificial”

No dia 14 de outubro terá lugar o debate “Arte ou Algoritmo: Inteligência artificial e tradução”, com a participação do filósofo e tradutor alemão Hannes Bajohr e da professora portuguesa Ana Margarida Abrantes, que conversarão sobre o impacto, os desafios e a potencialidade das técnicas de inteligência artificial no mundo das palavras.

A conversa será moderada por João Gabriel Ribeiro, diretor do Shifter. A sessão terá início às 19h00 no auditório do Goethe-Institut em Lisboa e terá transmissão em direto online.

Quando pensamos no futuro, mais ou menos distante, pensamos invariavelmente no papel da Inteligência Artificial (IA) na sociedade. Inspirados por obras de ficção cientifica, alimentados pelas notícias que usam e abusam da expressão ou pelos feitos que vão sendo mais popularizados como a vitória da máquina ao mestre de xadrez Gary Kasparov, ou ao campeão de Go Lee Sedol, é frequente projetarmos na nossa percepção da Inteligência Artificial uma dimensão de preocupação sobre o que restará de único no humano perante esta evolução da máquina. Nesta conjectura é comum que a arte seja vista como uma das últimas fronteiras da capacidade humana, questão que incita o debate alargado sobre a participação da inteligência artificial na criação de arte e a legitimidade dessas criações. Hannes Bajohr, filósofo e tradutor alemão, chama-lhe de Ansiedade Prometeica: “uma derivação da ideia de Vergonha Prometeica de Günther Anders”.

“Ele descreve-a como a vergonha dos humanos face à qualidade superior das máquinas e dos produtos serializados. Ao dar-lhe um novo nome, ansiedade, chamo à atenção para a forma como muitas críticas reagem à produção de arte automatizada: que os humanos querem reservar “arte”, “criatividade”, ou “génio” para si próprios depois de terem sido espancados em matemática, xadrez, e em Go por máquinas.  Existe o receio de que a IA venha a tornar os artistas supérfluos em algum momento”, explica ao Shifter, numa conversa por e-mail sobre Inteligência Artificial, usando como contexto a criação artística, a produção e tradução literária. 

A reflexão sobre estas zonas cinzentas, de questionamento do que é realmente a inteligência artificial, das suas capacidades e a forma como o público reage oferece-nos uma perspectiva sobre a forma como o desenvolvimento tecnológico tem vindo a ser assimilado pela humanidade e mudado a forma de esta se ver a si própria. Na legitimação do que se entende por arte, e na expectativa de que a Inteligência Artificial crie peças artísticas correspondentes aos standards da arte convencional, estabelece-se desde logo um dos critérios, o que é para Bajohr particularmente curioso. “O que eu acho curioso sobre esta ideia não é tanto que se sobrestime vastamente o que a IA pode fazer – não há perigo de máquinas conscientes num futuro próximo ou mesmo distante – mas que se imagine a arte da máquina apenas como um paralelo à arte humana.”

Para o investigador esta ideia, de que “se houvesse um artista de máquinas, teria de ser uma cópia exacta dos artistas humanos”, a que chama de “IA Artística Forte”, acaba por revelar não só uma posição conservadora em relação ao que é a arte mas também uma concepção errónea sobre as criações. “É muito pouco provável que alguma vez tenhamos artistas artificiais de IA completamente autónomos. Se houve tentativas nesse sentido – como a figura pop artificial japonesa Hatsune Miku – são o resultado de muitos agentes humanos que simulam a aparência de uma produção artística autónoma. De facto, o que é muito mais provável (e, de certa forma, já uma realidade) é ter uma IA Artística Fraca, uma mistura humano-máquina em que a arte é um efeito de um diálogo entre ambas as partes.” A divisão entre a I.A. forte e fraca é, de resto, um dos ponto centrais deste debate, sendo que a IA forte é a representação do processo em que se procura que a máquina faça tudo de modo autónomo, e o conceito de IA fraca aquele em que se pressupõe à partida uma relação de colaboração entre o humano e a máquina. 

Para Bajohr, é nesta segunda tipologia de relação que se esconde o verdadeiro potencial criativo e inovador da arte feita com máquinas. Uma vez que a forma como as inteligências artificiais são programadas, como sistemas de reconhecimento estatístico de padrões, as limita a interpolar a partir dos inputs – gerando por exemplo pinturas ou textos semelhantes àqueles com que foi treinado. Um exemplo disso é o retrato de Edmon Belamy, uma das obras de arte geradas por IA mais famosas do mundo, feita por um sistema alimentado com mais de 15 mil imagens a partir de uma lógica de semelhança estatística. 

“Porque as IAs são miméticas desta forma, não se deve esperar que elas próprias produzam algo novo – elas podem interpolar entre os exemplos dados (por exemplo, quadros) mas não extrapolar a partir deles (por exemplo, inventar uma nova forma de arte).”

Para Bajohr, a questão não passa, de todo, pela afirmação de que a arte automatizada não pode ser boa. Pelo contrário, para o poeta digital – também ele com obras feitas em colaboração com a máquina – é o diálogo com o humano que pode induzir a extrapolação que fomente o alargamento dos horizontes do campo artístico, gerando verdadeira novidade. “Eu não quero dizer que não exista boa arte criada por IA. Muito pelo contrário, há, mas é o resultado da IA artística fraca, na qual um humano formulou uma pergunta e ‘moveu a moldura’ juntamente com a máquina – idealmente de uma forma que nos diz algo de novo sobre o meio artístico ou sobre a nossa compreensão da arte.” 

Já sobre as potencialidades da IA artística forte, nessa concepção individualista da máquina, Bajohr sugere que o seu final pode ser algures entre a capacidade de “escrever livros que são muito parecidos uns com os outros, mas diferentes o suficiente para que as pessoas os comprem, aludindo à repetição de padrões comum tanto na produção televisiva como na literatura pulp. Para o investigador não existe de nada inerentemente errado com isso. Apesar da tecnologia ainda não estar nesse ponto, Bajohr sugere que essencialmente, esta nova possibilidade criativa de geração de conteúdos automatizada pode potenciarmudanças na forma como as pessoas assimilam a arte e percepcionaram a autoria – até porque, como nos diz o simples facto de declarar que algo é arte, é em si uma acção social.

“Alterar o enquadramento [do que é arte] é um acto social, e um acto que está sempre alicerçado numa realidade histórica e social. Para isso, é preciso de uma interacção entre os seres humanos e as máquinas. Só uma IA Artística Fraca, portanto, pode produzir uma verdadeira novidade.“

Por outro lado, o diálogo entre humano e máquina pode, de facto, produzir novidade num sentido mais lato. Como exemplo nos seus ensaios, Hannes Bajohr apresenta-nos o trabalho da artista Allison Parrish, nomeadamente a sua série de poemas “Compass” que na sua interpretação “mostram que a linguagem pode ser concebida não só como um sistema de significantes, ou um conjunto de elementos discretos, mas também como um espaço contínuo através do qual se pode viajar”. “E isto não é metáfora nem misticismo. Ao codificar a linguagem nos chamados ‘encaixes de palavras’, são colocados num espaço vectorial que permite interpolar os estados entre palavras, e assim exumar a lógica oculta da linguagem de acordo com os parâmetros da tecnologia que temos de descrever”, explica.

Na mesma linha de indigação sobre o processamento de linguagem feito pela máquina, Hannes Bajohr, também ele tradutor, conta que numa conferência recente sobre Inteligência Artificial na Alemanha o moderador perguntara à audiência quem usava o DeepL (um dos mais potentes sistemas de tradução automatizados) e pouco menos de metade levantaram a mão, muito timidamente. Para Bajohr é preciso desmistificar esta questão e afastar os preconceitos que possam causar algum temor aos tradutores. “A tradução completamente automatizada da IA seria, no entanto, um desastre. Pode-se aprender muito sobre a forma como a máquina ‘pensa’ desta forma. Mas a forma como esta pensa é, por si só, muito antagónica à tradução. Nem sequer é preciso falar de subtileza de significado ou algo do género. Porque as IAs de tradução são treinadas num grande corpus de línguas – tanto de livros como também apenas de texto na Internet – existe uma ideologia inerente a esses modelos linguísticos. Isto significa que está frequentemente cheia de estereótipos sexistas e racistas (especialmente em línguas que têm géneros gramaticais, como o alemão e o português, isto é facilmente visível quando as enfermeiras são sempre do sexo feminino e os médicos são sempre do sexo masculino para estes IAs).” 

Se um sistema de IA pode facilitar o processo de tradução, é preciso considerar que esse sistema carrega consigo uma série de constrangimentos, desde logo uma certa cristalização no tempo, como nos explica recorrendo às ideias de Emily Bender, uma crítica de Inteligência Artificial: “porque são treinados na língua de um determinado momento, não podem participar no desenvolvimento da língua, a menos que sejam novamente treinados”, mas “como o treino de um modelo linguístico a partir do zero é muito caro, acontece algo a que a crítica de IA Emily Bender chamou ‘value-lock’: um certo momento no tempo – tanto linguística como ideologicamente – é fixado no tempo dentro desses modelos.”. “E porque muitos deles são também produtores de enormes quantidades de texto novo que é depois utilizado para treinar a próxima geração de modelos de IA, isto torna-se um ciclo auto-reprodutivo de linguagem que fica presa numa posição, já não se movendo de forma alguma”, continua Bajohr. É neste sentido que a colaboração do humano pode ser mais interessante e até determinante do próprio do sucesso. 

Numa perspectiva mais ampla ainda, Bajohr chama à atenção ainda para um ponto onde este tipo de reflexão deve sempre voltar. Qualquer que seja a fórmula de programação ou o modelo de algoritmo, é preciso não esquecer que mais do que dependentes dos humanos, as máquinas são também dependentes de recursos naturais, ao serem máquinas materiais, feitas de metais, semi-condutores, e elementos raros – algo presente no trabalho Anatomy of AI de Kate Crawford, por exemplo. Embora esta chamada de atenção possa de certo modo parecer supérflua, serve um propósito importante de não corrermos o risco de descolar da realidade ao falar de tecnologias de ponta, até para que não percamos noção das suas consequências, como a elevada produção de CO2 inerente aos treinos dos algoritmos. “Precisamos não só de pensar na IA como estando envolvida com os humanos em conjuntos homem-máquina, mas também com a Terra e o Clima.” 

Sobre o futuro as questões que se levantam são várias, nomeadamente com a reconfiguração das fronteiras da arte e da autoria, que podem induzir revoluções na própria concepção de propriedade intelectual. Inevitável parece ser a introdução da Inteligência Artificial em mais um domínio da vida humana, em mais uma evolução que não tem por que não ser vista com bons olhos “esta é de facto uma ideia bastante agradável do futuro, penso eu: em vez de termos génios da IA a fazer arte autónoma, teríamos uma boa mistura de humanos e máquinas a colaborar, por vezes partilhando o crédito, por vezes tomando-o para si próprios”. “Afinal, não há arte ou artistas como tal – é um facto social, e se as expectativas da sociedade mudam, o mesmo acontece com a arte e os artistas.”


O João Gabriel Ribeiro, director editorial do Shifter, vai moderar o debate “Arte ou Algoritmo: Inteligência Artificial na Tradução” com a participação do filósofo e tradutor alemão Hannes Bajohr e da professora portuguesa Ana Margarida Abrantes, esta quinta-feira, dia 14 de Outubro, às 19 horas, no auditório do Goethe-Institute Portugal. A sessão terá transmissão em streaming. Mais informações aqui.
(Shifter)

Desenvolvido por: Suporte Informatica