Um cientista da computação britânico que ganhou o apelido de “o Poderoso Chefão da IA” alertou que os perigos da inteligência artificial que ficaram famosos em filmes como “O Exterminador do Futuro” poderiam se tornar mais realidade do que ficção.
“Acho que daqui a cinco anos ele poderá raciocinar melhor do que nós”, disse Geoffrey Hinton, cientista da computação e psicólogo cognitivo britânico, durante uma entrevista ao “60 Minutes, de acordo com uma reportagem do Yahoo News.
Hinton, que se tornou conhecido pelo seu trabalho na estrutura da IA, apelou à cautela no desenvolvimento contínuo da tecnologia de IA, questionando se os humanos podem compreender completamente a tecnologia que está actualmente a registar um rápido desenvolvimento.
“Acho que estamos entrando em um período em que, pela primeira vez, temos coisas mais inteligentes do que nós”, disse Hinton.
OS EUA, NÃO A CHINA, DEVEM TOMAR A LIDERANÇA DA IA
Crianças interagem com robô de IA no Museu de Ciência e Tecnologia da China em 10 de janeiro de 2023 em Pequim, China. (Huang Yong/VCG via Getty Images)
Hinton argumentou que, embora os humanos desenvolvam o algoritmo que as ferramentas de IA usam para aprender, eles têm pouca compreensão de como essa aprendizagem realmente ocorre. À medida que os conceitos que a IA começa a aprender ficam mais complicados, Hinton disse que entender o que a tecnologia está pensando é tão difícil quanto ler a mente humana.
“Temos uma ideia muito boa do que isso está fazendo”, disse Hinton. “Mas assim que fica realmente complicado, não sabemos o que está acontecendo, assim como não sabemos o que está acontecendo no seu cérebro.”
O cientista da computação alertou que uma das maneiras pelas quais os humanos poderiam perder o controle da IA seria quando a tecnologia começasse a escrever “seu próprio código de computador para se modificar”.
“Isso é algo com que precisamos nos preocupar seriamente”, disse Hinton.
Essa realidade apresenta problemas perigosos, argumentou Hinton, dizendo que não vê uma forma de os humanos garantirem que a tecnologia continua a ser segura.
PENTÁGONO PROCURA DESENVOLVER ‘FROTA’ DE DRONES AI, SISTEMAS PARA COMBATER A CHINA: RELATÓRIO
“Estamos entrando em um período de grande incerteza, onde lidamos com coisas que nunca fizemos antes”, disse ele. “E normalmente, na primeira vez que você lida com algo totalmente novo, você erra. E não podemos nos dar ao luxo de errar com essas coisas.”
Tal incerteza pode até levar a perigos que há apenas alguns anos pareciam estar seguramente no reino da ficção, incluindo uma tomada de controlo da humanidade pela IA.
O filme “Terminator 2: Judgment Day”, dirigido por James Cameron. Visto aqui, Arnold Schwarzenegger (como o T-800 Terminator). Lançamento teatral em 3 de julho de 1991. (CBS através da Getty Images)
“Não estou dizendo que isso vai acontecer. Se pudéssemos impedi-los de querer isso, isso seria ótimo. Mas não está claro se podemos impedi-los de querer isso”, disse Hinton.
Christopher Alexander, diretor de análise do Pioneer Development Group, disse à Fox News Digital que compartilha muitas das mesmas preocupações de Hinton, incluindo temores sobre o que acontecerá aos trabalhadores humanos que forem substituídos pela IA.
O DOMÍNIO DA IA DA CHINA DEVE SER UM CHAMADO DE DESPERTAR PARA TODOS NÓS
“A capacidade da IA de realizar o trabalho de um trabalhador rotineiro será a primeira onda de choque, pois há uma perspectiva muito real de um grande número de pessoas que não são mais empregáveis”, disse Alexander, observando que Hinton não estava dizendo que a IA “governaria a humanidade”, mas poderia adquirir capacidades que “alterariam permanentemente” a civilização humana. “Ele está correto ao observar que os seres humanos podem se tornar a segunda inteligência mais poderosa do planeta.”
O perigo significa que o Congresso deve agir agora com regulamentação, disse Jon Schweppe, Diretor de Políticas do Projeto de Princípios Americanos, à Fox News Digital.
“Pergunta-se: algum desses entusiastas da IA leu um livro?” Schweppe questionou. “Os temores sobre os perigos da IA são absolutamente justificados. E, assim como os personagens fictícios dessas histórias, nossos titãs da tecnologia parecem estar cheios de arrogância autoconfiante, certos de que nada dará errado. risco. O Congresso deve promulgar salvaguardas de IA para proteger a humanidade.”
Phil Siegel, fundador do Centro de Preparação Avançada e Simulação de Resposta a Ameaças (CAPTS), concordou que algumas das preocupações de Hinton são “justificadas”, embora tenha argumentado que a principal preocupação não é que a tecnologia “sobrecarregue a humanidade”.
“Não creio que estes algoritmos sejam sencientes, por isso a preocupação de que por si só sobrecarreguem a humanidade não é a principal preocupação”, disse Siegel. “No entanto, isso pode não importar muito porque os maus atores, que são sencientes, serão absolutamente capazes de usar estes sistemas para lhes permitir prejudicar a humanidade e, pelo menos, ‘programá-los’ para fazer coisas más.”
CLIQUE AQUI PARA MAIS NOTÍCIAS DOS EUA
Aplicações de ponta de Inteligência Artificial são vistas em exibição no Pavilhão de Inteligência Artificial do Zhangjiang Future Park durante um tour de mídia organizado pelo estado em 18 de junho de 2021 em Xangai, China. (Andrea Verdelli/Getty Images)
Independentemente da origem das ameaças, Siegel acredita que é prudente que as pessoas “se preparem para consequências imprevisíveis dos avanços da IA”, não apenas com regulamentação, mas usando “as ferramentas atuais de defesa, preparando-se para ameaças potenciais, praticando contra elas, e desenvolvendo novas capacidades para aumentar a probabilidade de respondermos e nos protegermos bem.”
Durante sua entrevista na TV, Hinton disse que a “mensagem principal” que ele esperava transmitir é que ainda há “enorme incerteza” sobre o futuro do desenvolvimento da IA.
“Essas pessoas entendem, e porque entendem, precisamos pensar muito sobre o que vem a seguir, e simplesmente não sabemos”, disse Hinton.
Mas Samuel Hammond, economista sênior da Fundação para a Inovação Americana, concordou que a tecnologia de IA será capaz de raciocinar melhor que os humanos nos próximos cinco anos e que há uma grande incerteza sobre “o que acontecerá a seguir”, embora tenha apontado para um recente avanço na investigação que poderia sugerir que os piores receios da humanidade poderiam permanecer nos cinemas.
“Um avanço recente na pesquisa de interpretabilidade da IA sugere que o risco de a IA dominar o mundo ou enganar seus usuários pode ser exagerado”, disse Hammond à Fox News Digital. “A interpretabilidade mecanística é uma neurociência para o cérebro da IA, mas, ao contrário do cérebro humano, podemos medir diretamente tudo o que o cérebro da IA está fazendo e executar experimentos precisos.”
CLIQUE AQUI PARA OBTER O APLICATIVO FOX NEWS
Hammond observou que tal pesquisa demonstrou que os humanos serão capazes de “ler a mente da IA”, permitindo que os humanos detectem se ela está mentindo e dando aos desenvolvedores a chance de controlar comportamentos potencialmente perigosos.
“Os riscos dos maus atores e das perturbações sociais mais amplas permanecem e não têm soluções fáceis”, disse Hammond. “A adaptação institucional e a coevolução podem ser a forma mais importante de garantir que a IA conduza a um mundo melhor, mas infelizmente o nosso governo é profundamente resistente às reformas.”