Harari alerta sobre as ameaças da Inteligência Artificial
Em Nexus, o israelense Yuval Noah Harari fala sobre a importância das redes de informação para a evolução humana, mas alerta para os riscos de elas serem dominadas pela inteligência artificial
“É improvável que populistas de direita como Donald Trump e Jair Bolsonaro tenham lido Karl Marx ou Michael Foucault. Eles se diferenciam muito dos marxistas nas políticas relativas à tributação e previdência social. Mas sua noção básica da sociedade e da informação é surpreendentemente marxista, vendo todas as interações humanas como uma luta de poder entre opressores e oprimidos”, diz Yuval Noah Harari, historiador, em trecho de 'Nexus' (Crédito: Olivier Middendorp)
Por Felipe Machado
Ao longo dos últimos anos, o debate sobre a inteligência artificial (IA) passou de um tema restrito a escritores de ficção científica e engenheiros de software para uma preocupação global. Figuras influentes da tecnologia, como Steve Wozniak, co-fundador da Apple, e Jaan Tallinn, criador do Skype, já manifestaram temores quanto aos potenciais riscos dessa revolução tecnológica. Em março de 2023, uma carta aberta do Future of Life Institute, assinada por líderes do setor, solicitou uma pausa nas pesquisas de IA, destacando “riscos profundos para a sociedade e a humanidade”. Pouco depois, Geoffrey Hinton, considerado o “pai da IA”, renunciou ao seu cargo no Google, lamentando o impacto de sua própria obra. O alarme sobre os perigos desses avanços parece se intensificar, o que se vê é a valorização do setor, com ações de empresas tecnológicas atingindo picos.
Entre os principais críticos desse avanço desenfreado está Yuval Noah Harari, autor do best-seller Sapiens, narrativa sobre a evolução humana que vendeu mais de 25 milhões de cópias. Seu novo livro, Nexus, traz uma análise que combina história e um alerta sobre as ameaças da IA.
Para Harari, o perigo não reside em robôs assassinos ou máquinas futuristas que escravizam a humanidade, mas na manipulação traiçoeira das redes de informação. O israelense argumenta que o poder de manipular humanos não depende de tecnologias avançadas que conectem cérebros a computadores, mas sim do uso estratégico da linguagem.
Profetas, poetas e políticos já usaram palavras para moldar sociedades ao longo da história. Pois agora as máquinas estão aprendendo a fazer o mesmo, de maneira ainda mais eficiente — e sem a necessidade de impor sua vontade pela violência. Nexus traça um paralelo entre a evolução dos sistemas de informação e o impacto desses na formação das sociedades.
A tese central de Harari é que, enquanto as democracias se caracterizam por redes transparentes de informação, nas quais os cidadãos podem verificar e corrigir dados incorretos, as ditaduras são fundamentadas no controle da informação, não em sua veracidade. A IA, alerta ele, pode inclinar essa balança, criando sistemas nebulosos e autônomos, capazes de gerar e manipular informações até por conta própria, sem a necessidade de intervenção humana.
O livro também aborda os momentos críticos da história em que novas tecnologias da informação transformaram sociedades, mas a um custo significativo. Um exemplo é o impacto da imprensa de tipos móveis, cuja invenção permitiu que o livro Malleus Maleficarum, manual de caça às bruxas escrito por Heinrich Kramer, se espalhasse pela Europa, fomentando perseguições violentas. Para Harari, as revoluções tecnológicas da informação sempre trazem progresso, mas inevitavelmente também geram desinformação e fantasias perigosas.
A preocupação com o uso da IA para manipular redes de informação é exemplificada por Harari com o caso de Myanmar em 2016. Algoritmos do Facebook, programados para aumentar o engajamento dos usuários, promoveram conteúdos de ódio contra a minoria Rohingya, culminando em massacres e limpeza étnica. Na medida em que essas ferramentas se tornam mais sofisticadas, a humanidade pode ser manipulada de formas que ainda não conseguimos prever completamente.
As críticas à IA não são novas, mas Harari traz uma perspectiva de longo prazo ao debate. Seu sucesso e popularidade como autor também fazem com que essa mensagem chegue a toda a opinião pública, não apenas aos experts.
Ao explorar as revoluções da informação ao longo da história, ele defende que devemos aprender a lidar com os danos potenciais dessa nova era tecnológica — e que as soluções não podem ser deixadas nas mãos das empresas de tecnologia, cujas motivações são apenas lucrativas. Pode parecer óbvio, mas alguém precisava dizer isso ao mundo — ainda bem que foi um ser humano.
Um alerta ao mundo
Nexus Uma Breve História das Redes de Informação, da Idade da Pedra à Inteligência Artificial R$ 75 / R$ 39 (digital)