A tecnologia sempre se prestou ao melhor e ao pior

 

BLOG  ORLANDO  TAMBOSI

"As minhas revoluções", título da coluna de Fernando Schüler para a revista Veja:

Ainda me lembro de minha máquina de escrever. Foi meu pai que me trouxe de uma viagem, lá pelos meus 6 anos de idade. “Só pode usar quando fizer 10 anos”, disse ele, e guardou aquela caixa misteriosa, que eu ia espiar de vez em quando, no armário do escritório. Quando fiz 10 anos, ele tinha ido embora. Usei aquela máquina até a faculdade, e a cada vez que abria aquela caixa me lembrava dele. Até que um dia surgiram as primeiras notícias sobre o computador pessoal. Aquilo de fato foi uma revolução. Me lembro de explicar a um velho professor que o computador era melhor que a sua máquina de escrever elétrica. Ele teimava que não, que sua máquina tinha um “errorex” automático, com uma tintinha branca que ia por cima da letra e apagava. Expliquei que no computador a letra apagava sem tinta nenhuma, e que era só mandar imprimir depois. Ele logo se conformou, olhando melancólico para aquela máquina que havia comprado não fazia muito, e que subitamente tinha virado peça de museu.

A segunda revolução a que assisti foi a da internet. Me lembro da primeira vez que ouvi falar de um “e-mail”. “Dá pra mandar um texto direto”, me disse um colega, “não precisa mais de disquete”. Achei realmente incrível. Anos depois fui estudar em Barcelona e vivi um pouco da euforia com a ideia da “conectividade global”, que aproximaria as pessoas em uma “sociedade civil mundial”, como um dia escutei, naqueles anos que antecederam o novo milênio. Confesso que nunca compartilhei daquela euforia, em particular quando surgiram as redes sociais. A primeira que vi foi o Orkut, e me pareceu uma bobagem para adolescentes. Me recordo dos perfis falsos, da imediata percepção da maldade naquilo tudo. Um conhecido entrou em pânico porque seu perfil falso o chamava de “pedófilo”, e aquilo podia ser replicado infinitamente. Tudo que hoje estamos cansados de saber, e até hoje não sabemos direito como lidar.

A inteligência artificial é a terceira revolução a que assisto. E a mais fascinante. Me dizem que tudo é um grande risco, que logo as máquinas criarão narrativas, religiões, doutrinas políticas. Achei interessante. Não acho provável que elas inventem coisa pior do que nós, humanos, inventamos, no último século. O mais provável é que a IA nos ajude em coisas bem mais mundanas. Aumentar nossa produtividade, por exemplo. Pesquisadores de Stanford e do MIT simularam o uso de uma ferramenta de IA em mais de 5 000 serviços, mostrando que a inovação “aumenta a produtividade em 14%, com maior impacto em trabalhadores pouco qualificados”. Um caso algo cômico aconteceu ainda na outra semana, quando o advogado Steven Schwartz resolveu usar o ChatGPT na defesa de um cliente, em uma corte de Nova York. O texto mencionava uma série de ótimos casos similares ao de seu cliente, apenas com um detalhe: eram falsos. Quando o juiz pediu a cópia dos casos, a casa caiu. “Estou envergonhado”, disse Schwartz, confessando que havia aprendido sobre o chat com os filhos. O caso ganhou uma boa repercussão, e arrisco dizer que sua lição crucial não é o papelão feito pelo sujeito, mas o fato óbvio de que o chatbot, com um pouco mais de cuidado, teria feito um ótimo trabalho. Teria diminuído significativamente o tempo de trabalho do advogado e provavelmente melhorado sua defesa. E, cá entre nós, não faz sentido nenhum culpar a IA pela mancada. A IA apenas oferece uma nova ferramenta, mas não retira um centímetro da autoria, e logo da responsabilidade, de ninguém. O caso também mostra quanto vale a existência de um ecossistema capaz de proteger a verdade. No caso, os advogados do outro lado, o juiz, os membros do júri, a mídia e o público. Daí a conclusão óbvia: é melhor que a tecnologia opere em um ambiente aberto, sujeita a múltiplos checkpoints, do que em um ambiente controlado, capaz de proteger a irrealidade de sua própria contradição.

Como toda nova tecnologia, a IA deu vazão a uma onda catastrofista. Yuval Harari já havia previsto que a IA destruiria os empregos, criando uma classe de “inúteis”, e agora embarca na tese do “risco existencial”. O risco do “fim da história humana”, em um mundo no qual “a maior parte das imagens, melodias e histórias será feita por uma inteligência alienígena”. A IA não seria apenas mais um perigo, mas um perigo de novo tipo. O avião era perigoso porque poderia ser usado como máquina de guerra, e consta que nosso Santos Dumont se enforcou por isso, em um hotel no Guarujá. A IA iria muito mais longe, criando um monstrinho capaz de assumir o controle do avião e praticar um atentado como o das Torres Gêmeas. Ou tomando o controle de um laboratório e fabricando um vírus capaz de eliminar a humanidade. Para quem gosta de desgraça, é uma imensa brinquedoteca. Steven Pinker gosta de chamar essas previsões de “mito do vilão de James Bond”. Uma cadeia de “suposições duvidosas, até que tudo termine em um mundo para além da experiência ou da plausibilidade”.

É evidente que a IA traz uma infinidade de novos riscos, que em geral giram em torno da perda do controle. A possibilidade de saber se aquela voz ou imagem é humana; se aquela prova foi realmente feita pelo estudante; se aquela religião é “genuína”, ou fabricada com um clique, por um escroque qualquer, fanatizando seguidores ao estilo Jim Jones. Ou quem sabe no mundo da fantasia política. A mais comum é imaginar o planeta como um imenso Brexit, com pessoas enganadas como crianças por narrativas disseminadas pela Cambridge Analytica e tipos do mal. Muita gente acrescenta aí a eleição de Trump, nosso vilão favorito, e sempre me pergunto se o mesmo não valeria para a eleição seguinte, quando o “lado certo” ganhou. A verdade é que há algo incômodo aí. A tecnologia sempre se prestou ao melhor e ao pior, e a maior probabilidade é que seja assim também dessa vez. O cinema foi usado pelo nazismo, com os filmes de Leni Riefenstahl, e o rádio catalisou o ódio dos hútus contra os tútsis, no genocídio de Ruanda. Não foi diferente com a internet, em erupções sociais como a do Chile, com seus mais de trinta mortos, em 2019, ou em movimentos como a Primavera Árabe e outros, por direitos, mundo afora.

Ninguém foi mais longe na visão catastrofista do que o cientista Eliezer Yudkowsky, dizendo que “o resultado mais provável de uma IA super-humana é que todos na Terra morrerão”. Ele imagina uma inteligência fora de controle enviando “sequências de DNA por e-mail para laboratórios, fazendo que se produzam formas de vida artificiais”. Um imbatível argumento do ônus da prova. É perfeitamente possível que uma coisa dessas aconteça, tanto quanto era possível que uma hecatombe nuclear acontecesse nos anos da Guerra Fria, algo que nos aterrorizou durante gerações. A verdade é que não sabemos. Por ora, leio Paul McCartney anunciando a recuperação da voz de John Lennon, via IA, e sistemas capazes de detectar precocemente o câncer no pulmão, com alta precisão. No mais, não passa de uma ilusão imaginar que seja possível travar o avanço de uma tecnologia como a IA. Seu avanço é descentralizado e sem ninguém em particular no comando, o que é ótimo. O que deveríamos estar pensando, isto sim, é em como não ficar para trás, como aconteceu com as duas outras revoluções que pautaram a minha geração, mas confesso não ver ninguém muito preocupado com isso.

Fernando Schüler é cientista político e professor do Insper

Publicado em VEJA de 21 de Junho de 2023, edição nº 2846

Postado há 1 week ago por Orlando Tambosi