Geoffrey Hinton diz que há 10% a 20% de chance de que a IA leve à extinção humana em três décadas, à medida que a mudança avança rapidamente
Por Redação
O cientista da computação britânico-canadense, frequentemente apontado como o “padrinho” da inteligência artificial , diminuiu as chances de a IA exterminar a humanidade nas próximas três décadas, alertando que o ritmo de mudança na tecnologia é “muito mais rápido” do que o esperado.
O professor Geoffrey Hinton, que este ano recebeu o prêmio Nobel de física por seu trabalho em IA , disse que havia uma chance de “10% a 20%” de que a IA levasse à extinção humana nas próximas três décadas.
Anteriormente, Hinton havia dito que havia 10% de chance de a tecnologia desencadear um resultado catastrófico para a humanidade.
Questionado no programa Today da BBC Radio 4 se ele havia mudado sua análise sobre um potencial apocalipse da IA e a chance de uma em 10 de isso acontecer, ele disse: “Na verdade, não, de 10% a 20%”.
A estimativa de Hinton levou o editor convidado do Today, o ex-chanceler Sajid Javid, a dizer “você vai subir”, ao que Hinton respondeu: “Se alguma coisa. Veja, nunca tivemos que lidar com coisas mais inteligentes do que nós antes.”
Ele acrescentou: “E quantos exemplos você conhece de uma coisa mais inteligente sendo controlada por uma coisa menos inteligente? Há pouquíssimos exemplos. Há uma mãe e um bebê. A evolução se esforçou muito para permitir que o bebê controlasse a mãe, mas esse é o único exemplo que conheço.”
Hinton, nascido em Londres e professor emérito da Universidade de Toronto, disse que os humanos seriam como crianças pequenas comparados à inteligência de sistemas de IA altamente poderosos.
“Gosto de pensar nisso como: imagine você e uma criança de três anos. Nós seremos as crianças de três anos”, ele disse.
Anteriormente, Hinton havia dito que havia 10% de chance de a tecnologia desencadear um resultado catastrófico para a humanidade.
Questionado no programa Today da BBC Radio 4 se ele havia mudado sua análise sobre um potencial apocalipse da IA e a chance de uma em 10 de isso acontecer, ele disse: “Na verdade, não, de 10% a 20%”.
A estimativa de Hinton levou o editor convidado do Today, o ex-chanceler Sajid Javid, a dizer “você vai subir”, ao que Hinton respondeu: “Se alguma coisa. Veja, nunca tivemos que lidar com coisas mais inteligentes do que nós antes.”
Ele acrescentou: “E quantos exemplos você conhece de uma coisa mais inteligente sendo controlada por uma coisa menos inteligente? Há pouquíssimos exemplos. Há uma mãe e um bebê. A evolução se esforçou muito para permitir que o bebê controlasse a mãe, mas esse é o único exemplo que conheço.”
Hinton, nascido em Londres e professor emérito da Universidade de Toronto, disse que os humanos seriam como crianças pequenas comparados à inteligência de sistemas de IA altamente poderosos.
“Gosto de pensar nisso como: imagine você e uma criança de três anos. Nós seremos as crianças de três anos”, ele disse.
No ano passado, Hinton virou manchete após pedir demissão de seu emprego no Google para falar mais abertamente sobre os riscos impostos pelo desenvolvimento irrestrito de IA, citando preocupações de que “maus atores” usariam a tecnologia para prejudicar outros. Uma preocupação fundamental dos defensores da segurança da IA é que a criação de inteligência artificial geral, ou sistemas que são mais inteligentes que os humanos, pode levar a tecnologia a representar uma ameaça existencial ao escapar do controle humano.
Hinton disse que o ritmo de desenvolvimento foi “muito, muito rápido, muito mais rápido do que eu esperava” e pediu regulamentação governamental da tecnologia.
“Minha preocupação é que a mão invisível não vai nos manter seguros. Então, deixar isso para o motivo do lucro de grandes empresas não vai ser suficiente para garantir que elas o desenvolvam com segurança”, ele disse. “A única coisa que pode forçar essas grandes empresas a fazer mais pesquisas sobre segurança é a regulamentação governamental.”
Hinton é um dos três “padrinhos da IA” que ganharam o prêmio ACM AM Turing – o equivalente em ciência da computação ao prêmio Nobel – por seu trabalho. No entanto, um do trio, Yann LeCun, o cientista chefe de IA na Meta de Mark Zuckerberg, minimizou a ameaça existencial e disse que a IA “poderia realmente salvar a humanidade da extinção”.
Refletindo sobre onde ele pensou que o desenvolvimento da IA teria chegado quando ele começou seu trabalho na tecnologia, Hinton disse: “Eu não pensei que seria onde estamos agora. Eu pensei que em algum momento no futuro chegaríamos aqui.”
Ele acrescentou: “Porque a situação em que estamos agora é que a maioria dos especialistas na área pensa que em algum momento, provavelmente dentro dos próximos 20 anos, desenvolveremos IAs que são mais inteligentes do que as pessoas. E esse é um pensamento muito assustador.”
Siga o Agenda Capital no Instagram: https://www.instagram.com/agendacapitaloficial/
Com The Guardian
