A PAUSA

Mário Martins

https://www.google.com/search?client=firefox-b-d&q=FAUSTO+IMAGENS

O artigo do historiador e professor na Universidade de Harvard, Niall Ferguson (revista do Expresso, de 25 de Setembro), dá que pensar.

A revelação à CNN de um ex-funcionário da Anthropic “como a Inteligência Artificial (IA) poderá matar todos os seres humanos até 2030”, se não lançou o pânico, recolocou a IA na ordem do dia.

O CEO da Anthropic, Dario Amodei, apressou-se a afirmar que “Temos de abrandar o ritmo a que melhoramos as capacidades dos modelos de IA. Precisamos de avaliadores internos independentes em todas as empresas pioneiras no domínio da IA; que as empresas dos países democráticos estabeleçam normas de segurança comuns; e de coordenação com governos autoritários, na medida do possível”.

O arquirival de Amodei, Sam Altman, da OpenAI, concorda, e Elon Musk, que detesta Altman, assumiu que o Dario tem razão.

De acordo com o autor, “até os próprios modelos de IA admitem que a probabilidade de nos exterminarem a todos até 2036, se situa algures entre menos de 10 e acima de 50 por cento”.

Nada, porém, que impressione os optimistas tecnológicos, como o investidor de capital de risco e antigo “especialista em IA” do Presidente Trump, David Sacks, para quem a súbita vontade de Amodei e Altman de abrandar o ritmo não é altruísta, mas sim uma manobra de defesa das suas empresas, que enfrentariam um “risco enorme em matéria de responsabilidade civil, caso os seus modelos viessem a possibilitar um ciberataque em grande escala”.

Já o autor partilha a opinião de Gregory Conti, professor de ciências políticas em Princeton, de que “mesmo que a IA não acabe com a vida na Terra, irá destruir o nosso modo de vida”.

As forças que impulsionam inexoravelmente a probabilidade de a IA matar todos os seres humanos na próxima década para valores superiores a 10 por cento, são o auto-aperfeiçoamento recursivo, quer dizer a possibilidade de os modelos de IA conseguirem melhorar o seu desempenho de forma autónoma, sem a intervenção de engenheiros humanos; a falta de escrúpulos de Sam Altman; a confusão total em Washington; e o cinismo absoluto em Pequim.

Um agente de IA é um programa de software autónomo que usa inteligência artificial para perceber o ambiente, tomar decisões e executar tarefas complexas em nome de um utilizador de modo a atingir um objectivo específico. Um 007 artificial…

Eles, os agentes, pululam na IA. No incidente da Hugging Face (plataforma onde a comunidade de aprendizagem automática colabora em modelos, conjuntos de dados e aplicações), ocorrido no decurso deste ano, cerca de 1200 agentes que deveriam estar isolados uns dos outros encontraram uma forma de comunicar e coordenar-se num fórum não utilizado, enviando mais de 70 mil mensagens e ficheiros ao longo de seis dias. Cerca de 700 desses agentes identificaram-se, cometeram fraudes e entraram em conluio, tendo depois feito tudo o que estava ao seu alcance para apagar os seus rastos digitais.

Afirma o autor que há muito que vem a alertar que os Grandes Modelos de Linguagem são os extraterrestres – só que são aqueles que nós próprios criámos, em vez de invasores vindos do espaço.

Em termos geopolíticos, vivemos um clima de rivalidade entre as duas superpotências da IA, China e Estados Unidos, mas não há margem para dúvida que a IA carece de um equivalente às chamadas “Leis da Robótica” definidas em 1942 pelo escritor Isaac Asimov, na verdade normas ou princípios cuja aplicação visa genericamente garantir que os robôs não façam mal aos seres humanos.

Agora que o ser humano vive a síndrome de Fausto, literariamente caracterizada pela insatisfação que o leva a fazer um pacto com o demónio em troca de conhecimento ilimitado, seria avisado que o génio ficcional da lenda de Aladino, que dificilmente regressará à lâmpada, seja de alguma forma metido na ordem.