Yuval reflete sobre IA: ‘um erro terminal ou a evolução da vida?'

“Se nós somos tão sábios, por que somos tão autodestrutivos?” A pergunta feita por Yuval Noah Harari logo na primeira página do livro “Nexus - Uma breve história das redes de informação, da Idade da Pedra à inteligência artificial” (Companhia Das Letras), dá, de cara, uma sacudida no leitor, como se um zagueiro mostrasse as travas da chuteira ao atacante adversário logo nos primeiros segundos da partida.

Em seu novo trabalho, o israelense autor do best-seller internacional “Sapiens” e de publicações como “Homo Deus” e “21 lições para o século 21” alerta que a humanidade não tem mais tempo a perder e que toda palavra, linha e parágrafo contam. Por isso, se “ignorância é força”, Harari recorre a George Orwell para argumentar que estamos criando grandes redes de cooperação, mas que elas nos levam a usar o poder de modo pouco sábio. “Temos um problema de rede”, afirma.

Provocar e promover debates são algumas das marcas desse escritor que, em “Sapiens” (2014), por exemplo, partiu da ideia de que dominamos o mundo “porque somos o único animal que pode acreditar em coisas que existem apenas em nossa própria imaginação, como deuses, Estados, dinheiro e direitos humanos”.

Em “Homo Deus” (2016), discutiu como o poder global pode mudar quando a principal força da evolução – a seleção natural – é substituída pelo design inteligente. Em “21 lições” (2018), analisou algumas das questões mais urgentes da agenda global. Agora, com “Nexus”, Harari quer voltar a conectar milhares de mentes para oferecer uma perspectiva histórica mais precisa sobre a revolução da IA. “Afinal, se não pudermos mudar o futuro, por que perder tempo discutindo sobre ele?”, se pergunta.

Na primeira parte do livro, o filósofo concentra sua escrita no que chama de “princípios essenciais para as redes humanas de informação em larga escala: a mitologia e a burocracia”. Posteriormente, direciona a atenção para as vantagens e desvantagens de mecanismos de autocorreção, como tribunais independentes. Ele argumenta que esse contexto histórico do livro é fundamental para entender por que a IA significa a maior revolução da informação de todos os tempos.

• Uma revolução conduzida pelas ondas do rádio no Leste Europeu

• Adélia Prado: 'O que escrevo pertence a todos'

• Adélia Prado finaliza novo livro e ganha reedições caprichadas

Já na segunda parte, Yuval enfatiza as mudanças das redes de informação orgânicas para as inorgânicas, quando as decisões deixam de ser tomadas por cérebros e passam a vir de chips de silício e como isso já mudou e mudará a sociedade, a política e a economia. Por fim, reflete sobre como os diversos tipos de sociedade podem lidar com as promessas e ameaças da rede de informação inorgânica.

Por falar em ameaças, o historiador defende que as democracias não estão impotentes diante dos algoritmos e que os países podem e devem adotar medidas para regulamentar a Inteligência Artificial e impedir que ela “polua nossa atmosfera com gente fake vomitando fake news”. Entre as principais ações estão: proibir deepfake de pessoas reais específicas, como políticos, anular qualquer chance de um agente não humano se passar por um humano, e impedir que algoritmos não supervisionados cuidem de debates públicos de grande importância.

“Se as democracias ruírem, provavelmente será por causa não de algum tipo de inevitabilidade tecnológica, mas, sim, do fracasso humano em regulamentar com sapiência a nova tecnologia”, sentencia. Com isso, o livro é sustentado sobre a ideia de que o surgimento de computadores capazes de alcançar objetivos e tomar decisões por conta própria altera a estrutura fundamental de nossa rede de informações.

Para nós brasileiros, talvez a principal curiosidade de “Nexus” fique no trecho que diz por que populistas de direita, como Donald Trump e Jair Bolsonaro, surpreendentemente seguem, de acordo com o autor, noções marxistas básicas de sociedade e informação, mesmo tendo ideias de tributação e previdência social antimarxistas.

“É improvável que eles tenham lido Marx ou Foucault, mas veem todas as interações humanas como uma luta de poder entre opressores e oprimidos. Uma retórica que considera a sociedade separada em dois grupos homogêneos e antagônicos, o ‘povo puro’ versus ‘a elite corrupta’. Figuras como Putin, Orbán, Erdogan, Bolsonaro e Netanyahu demonstram que um líder que usa a democracia para chegar ao poder é capaz de usar seu poder para corroer a democracia”.

Ainda conforme ‘Nexus’, as pessoas que apontam a China, a Rússia ou os Estados Unidos pós-democráticos como principais fontes de pesadelos totalitários não entenderam bem o perigo a que estamos expostos. No “boliche do mundo”, chineses, russos, americanos e todos os outros seres humanos representam vários pinos prestes a serem derrubados pelo strike totalitário da inteligência não humana, ou o que o autor também define como “Inteligência Alienígena”, ironicamente também uma “IA”.

• O poeta brasileiro que foi confundido com o diabo por uma linda mulher

• Livro 'Ainda estou aqui' vai além da morte de Rubens Paiva no filme

• Poemas estabelecem vínculo entre games e vida real

Harari comenta que podem surgir, em breve, religiões atraentes e poderosas cujas escrituras sejam totalmente elaboradas por Inteligência Artificial. “A Bíblia não pode ser curadora de si mesma, ou interpretar a si mesma. Mas a IA poderá redigir o texto e interpretá-lo sem nenhum humano no circuito”.

Nós, humanos, ainda estamos no controle, mas não sabemos por quanto tempo. Esse também é um dos pilares argumentativos de Yuval, que bate insistentemente na tecla de que precisamos assumir a responsabilidade pelo que fazemos com o planeta.

“Quando escrevemos um código de computador, não estamos apenas projetando um produto. Estamos redesenhando a política, a sociedade e a cultura, portanto é melhor ter um bom entendimento da política, da sociedade e da cultura”. Se “nada será como antes amanhã”, como diz a canção, o livro tira o leitor da zona de conforto e apresenta o seguinte cenário: as decisões dos próximos anos vão mostrar se cometemos um erro terminal ao criar uma nova forma de inteligência ou demos um início promissor na evolução da vida.

Trecho

“Até agora, o funcionamento de todas as redes de informação dependeu de criadores de mitos e burocratas humanos. Tabuinhas de argila, rolos de papiros, prelos e aparelhos de rádio tiveram profundo impacto na história, mas sempre ficou por conta de seres humanos o trabalho de compor todos os textos, interpretar os textos e decidir quem seria queimado como bruxa ou escravizado como cúlaque.

Agora, porém, os humanos terão que competir com criadores de mitos e burocratas digitais. A grande divisão na política do século XXI talvez não se dê entre as democracias e os regimes totalitários, mas entre seres humanos e agentes não humanos.”

“Nexus - Uma breve história das redes de informação, da Idade da Pedra à Inteligência Artificial”

• De Yuval Noah Harari
• Tradução de Berilo Vargas e Denise Bottmann
• Companhia Das Letras
• 504 páginas
• R$ 89,90 (e-book: R$ 39,90)