Os 'pais da inteligência artificial moderna' discordam sobre os perigos da tecnologia

 

BLOG  ORLANDO  TAMBOSI

Yoshua Bengio, Yann LeCun e Geoffrey Hinton mantiveram posições distintas sobre a ‘carta anti-IA’. Reportagem do Estadão:

A carta que pede uma pausa por seis meses no desenvolvimento de inteligência artificial (IA) reuniu nomes como o bilionário Elon Musk e o historiador Yuval Noah Harari - atualmente, o documento proposto pelo instituto Future of Life já conta com mais de 10 mil assinaturas. Apesar do apoio de parte da comunidade de especialistas em IA, a iniciativa não foi capaz de unir aqueles que são considerados os “pais da inteligência artificial moderna”.

Ganhadores do Prêmio Turing de 2018, reconhecimento máximo na área da computação, os pesquisadores de IA Yann LeCun, Geoffrey Hinton e Yoshua Bengio mantiveram posições bem distintas sobre o conteúdo do documento divulgado na semana passada. A cisão chama a atenção, pois o trabalho do trio em aprendizado profundo (deep learning) e redes neurais (neural network) é considerado pedra fundamental para o avanço da IA nos dias atuais.

Professor da Universidade de Montreal, no Canadá, e diretor científico do Instituto de IA de Quebec, Yoshua Bengio, 59, apoia integralmente a iniciativa, da qual é um dos principais signatários. Em seu site, ele explica o porquê fez parte da carta: “Ultrapassamos um ponto crítico: as máquinas podem conversar com a gente agora e fingem ser seres humanos. Esse pode poder ser usado para fins políticos ao custo da democracia. O desenvolvimento de ferramentas cada vez mais poderosas aumenta o risco de concentração de poder”.

Sobre o tom da carta, criticada por ser alarmista, Bengio diz: “Ninguém, nem mesmo os principais especialistas em IA, incluindo aqueles que desenvolveram os modelos gigantes de IA, tem certeza de que essas ferramentas poderosas não poderão ser usadas de formas que seriam catastróficas para a sociedade”.

Em outro trecho, ele fala sobre a visão distópica da tecnologia: “Já existe literatura que documenta os malefícios atuais que uma regulação ajudaria a minimizar, de violação à dignidade humana ao uso militar de IA”, escreve no site.

Devemos ter medo de inteligência artificial?

Em oposição diretamente oposta está Yann LeCun, 62, professor na Universidade de Nova York e responsável pelas pesquisas em IA do Facebook. Após a divulgação da carta, ele se tornou bastante ativo no Twitter para defender que não é necessário pausar o desenvolvimento da tecnologia e que o tom da iniciativa gera terror e pouco entendimento da tecnologia.

Crítico do ChatGPT, considerado por ele pouco inovador em termos tecnológicos, LeCun afirma que é uma ficção a existência de uma inteligência artificial geral (AGI), sistema onisciente e sabe-tudo com suposta capacidade humana. Portanto, esse medo não deveria estar no centro das preocupações das pessoas.

“Toda tecnologia é desenvolvida da mesma maneira: você cria um protótipo, testa em pequena escala, faz implantação limitada, conserta os problemas, torna mais seguro e implementa de forma mais ampla. Nesse ponto, governos regulam e estabelecem padrões de segurança. A única razão pela qual as pessoas estão hiperventilando sobre os riscos da IA é o mito da ‘decolagem bruta’: a ideia de que, a partir do momento em que você liga um sistema superinteligente, a humanidade está condenada. Isso é absurdamente estúpido e baseado em uma completa falta de entendimento de como tudo funciona”, escreveu.

O principal argumento de LeCun é que os sistemas ainda são limitados e todo o desenvolvimento será acompanhado de limites para que o sistema não se torne hostil à sociedade. Ele se tornou bastante crítico de quem vem fazendo barulho com cenários distópicos - uma posição pouco informada, segundo ele. “O pessimismo com IA está rapidamente se tornando indistinguível de uma religião apocalíptica”, critica.

LeCun vê como infundado o medo por sistemas de IA 

Alinhamento de interesses

Um dos principais pontos de discórdia entre Bengio e LeCun é a questão de “alinhamento dos sistemas”, ou seja, garantir que sistemas de IA sempre atendam aos interesses humanos.

Em um debate no Facebook, Bengio afirmou: “O desafio é se podemos lidar com o problema do valor do ‘desalinhamento’. Não sei se conseguimos fazer isso, mas também parece razoável que possamos fazer isso no futuro”, disse. Ou seja, não é possível ter total certeza de que podemos ter sistemas sempre alinhados com os interesses humanos - para ele, 99,9% de possibilidade é o suficiente para lhe deixar desconfortável.

Sobre isso, LeCun afirmou: “Alguém teria que ser inacreditavelmente estúpido para construir objetivos abertos em uma máquina superinteligente”. Para o pesquisador, além de uma realidade distante, máquinas superinteligentes sempre serão desenvolvidas para servir humanos. E, caso algo saia do controle, um segundo sistema de neutralização sempre teria vantagem em relação ao primeiro sistema.

Postado há 1 week ago por Orlando Tambosi