AINDA A IA: O CONTRADITÓRIO

Mário Martins

https://www.google.com/search?client=firefox-b-d&q=intelig%C3%AAncia+artificial

“Um robô não pode ferir um humano ou permitir que um humano sofra algum mal. Os robôs devem obedecer às ordens dos humanos, exceto nos casos em que essas ordens entrem em conflito com a primeira lei. Um robô deve proteger a sua própria existência, desde que não entre em conflito com as leis anteriores.”

As 3 leis (ou regras) da robótica, definidas pelo celebrado autor de ficção científica Isaac Asimov, no seu livro “Eu, Robô”, publicado na década de 50 do século passado.

(O mesmo autor viria, mais tarde, a definir um quarto princípio, segundo o qual “Um robô não pode causar mal à humanidade ou, por omissão, permitir que a humanidade sofra algum mal.”)

“O maior risco da Inteligência Artificial é a Estupidez Artificial. Não conheço um único caso até à data de danos causados por Inteligência Artificial demasiado inteligente.”

Pedro Domingos

Revista do Expresso, 23Jun2023

E se a solução dos potenciais riscos da Inteligência Artificial (IA) fosse mais IA?

É essa a tese de Pedro Domingos, professor de Engenharia Informática na Universidade de Washington. Para o autor, “Os potenciais benefícios da IA são extraordinários: curar doenças, gerir melhor as cidades e o ambiente, gerar riqueza, fazer novas descobertas científicas, (e) o maior perigo é que a obsessão com os seus riscos nos leve a perder esta oportunidade sem par.”

No seu artigo, Pedro Domingos refuta, ponto por ponto, os riscos apontados pelos críticos da IA, classificando-os em existenciais e (diria eu) relacionais.

Pedro Domingos começa por apontar um erro genérico, “que subjaz à visão pessimista da IA, que é a chamada ‘falácia do homúnculo’, a ideia de que dentro de cada sistema de IA existe um ‘mini-homem’ com todas as características dos seres humanos: emoções, desejos, preconceitos, intenções, motivações, autonomia, até mesmo a consciência.” Este erro, sublinha o autor, “é natural e muito comum, porque os seres humanos raciocinam por analogia e quando vêem um sistema comportar-se de forma inteligente imediatamente projectam nele as outras características das únicas entidades inteligentes que conhecem: os seres humanos e outros animais.”

Caberá aqui mencionar, a propósito, o Professor António Damásio, para o qual (cito de memória) “as emoções têm estado demasiado ausentes das mesas das conferências”. 

Na visão optimista de Pedro Domingos “A inteligência artificial é extremamente diferente da humana (…) Os algoritmos de IA são apenas isso: algoritmos, ou seja, sequências de instruções dadas por nós que o computador executa sem se desviar um milímetro. O alarmismo em torno da IA foca-se em particular nos algoritmos de aprendizagem automática, (em que) o computador desenvolve os seus próprios algoritmos a partir dos dados (…) A fonte do alarme é a ideia de que quando o computador começa a aprender por si próprio é impossível prever o que vai aprender e pode começar a fazer coisas arbitrariamente malignas. Mas isto é uma ilusão. Os sistemas de aprendizagem automática, como muitos outros, são governados por objectivos fixos (…) O sistema faz uma vasta procura para encontrar o melhor modelo de acordo com estes critérios (…) É física e matematicamente impossível que o sistema decida por si próprio começar a evoluir noutras direcções, por exemplo para satisfazer os seus próprios desejos (que não tem).”

“E se a IA decidir que a melhor forma de atingir os seus objectivos é exterminar a Humanidade? O problema aqui não é a maldade da IA, mas a sua incompetência. E a solução para a incompetência é mais inteligência, não menos. E se, apesar de tudo, a IA seguir o caminho errado? Sendo muito mais inteligente do que nós, não nos será impossível detectá-lo? Não. Tecnicamente a IA é o subcampo da informática, que procura resolver problemas intratáveis, isto é, problemas que, no pior caso, demoram tempo exponencial a resolver, mas cujas soluções podem ser rapidamente verificadas. E mesmo que uma malévola IA ao nível da humana surgisse amanhã, teria poucas hipóteses contra nós. Os nossos cérebros têm maior capacidade computacional total, as nossas necessidades de energia são vastamente menores, a nossa mobilidade e dexteridade são muitíssimo melhores, aprendemos mais a partir de muito menos dados, temos milhões de anos de experiência de combater adversários, etc.. A possibilidade de a IA exterminar a Humanidade pertence aos filmes de ficção científica, não à realidade.”

Ao nível dos riscos (que eu tomei a liberdade de classificar como relacionais), um deles “é que a IA conduzirá a um aumento maciço da desinformação on line, os humanos serão facilmente manipulados por ela, e isto será o fim da democracia. (Mas, segundo o autor,) “A realidade comprovada por vários estudos é que a desinformação on line pouca diferença faz. Os mass media, por exemplo influenciam muito mais os eleitores. Além disso, a quantidade de desinformação on line é já vasta, e o limite principal é o da nossa atenção, não a capacidade de produção que a IA aumentaria. (…)

Nos anos 50 a preocupação era que os anúncios de televisão nos manipulariam com grande facilidade, mas as pessoas rapidamente aprenderam a não lhes dar credibilidade, e o mesmo começa já hoje a acontecer com o ChatGPT. Mais importante, no entanto, é que a melhor forma de combater a desinformação on line é precisamente através da IA (…) O grande problema é que em muitos casos a IA ainda não é suficientemente sofisticada para detectar a desinformação. A solução, mais uma vez, é mais inteligência, não menos.”

Quanto ao risco de desemprego, o autor sublinha que a Revolução Industrial, que automatizou o trabalho manual, não levou ao desemprego em larga escala, criando, pelo contrário, muito mais empregos do que eliminou, e que o mesmo acontecerá com a IA. Considera ainda que a IA é a melhor solução para aumentar a produtividade e, assim, compensar o envelhecimento da população.

Por outro lado, como não podemos impedir o uso da IA por regimes autoritários para fins repressivos, a solução é desenvolvermos a nossa IA melhor e mais rapidamente do que a desses regimes, tal como “a melhor forma de combater o uso da IA por criminosos é assegurar que a Polícia tem melhor IA”.

O tempo dirá, enfim, qual das duas visões estará mais próxima da realidade. Esperemos que seja a optimista…