EX-CHEFE DA IA NA GOOGLE ALERTA QUE TECNOLOGIA É UM PERIGO PARA A SOBREVIVÊNCIA HUMANA

 

Geoffrey Hinton está deixando o Google para poder compartilhar livremente sua preocupação sobre risco de a IA causar sérios danos ao mundo
Geoffrey Hinton está deixando o Google para poder compartilhar livremente sua preocupação sobre risco de a IA causar sérios danos ao mundo Chloe Ellingson/The New York Times

Ex-chefe da IA na Google alerta que tecnologia é um perigo para a sobrevivência humana

Outros cientistas que ajudaram a desenvolver a ferramenta alertam para perigos do mau uso dela

Por O Globo — Rio de Janeiro

05/05/2023 04h30  Atualizado há 13 horas

Conhecido como o “poderoso chefão da IA” no Google, Geoffrey Hinton, de 75 anos, afirmou que a sobrevivência da humanidade está ameaçada pelo avanço da inteligência artificial (IA). Além dele, outros cientistas que ajudaram a desenvolver a tecnologia agora alertam para os perigos de um mau uso dela.

— Acho que eles estão muito próximos disso agora e serão muito mais inteligentes do que nós no futuro. Como sobrevivemos a isso? — disse Geoffrey Hinton, durante uma conferência nesta quarta-feira no Instituto de Tecnologia de Massachusetts, nos Estados Unidos, segundo o jornal português Diário de Notícias.

O cientista, que anunciou sua demissão da Google ao jornal americano The New York Times nesta segunda-feira, disse que mudou de opinião em relação às tecnologias que ajudara a criar. Segundo ele, a inteligência artificial poderá até mesmo controlar pessoas a partir de aprendizados com as obras do filósofo Nicolau Maquiavel. Autor de “O Príncipe”, o pensador italiano, em seus livros, procurou entender as maneiras de dominação por parte do Poder Público.

— Estas coisas (as tecnologias) terão aprendido conosco, lendo todos os romances que já existiram e tudo o que Maquiavel já escreveu, como manipular as pessoas — disse o pesquisador. — Mesmo que não possam puxar as alavancas diretamente, certamente podem fazer com que nós puxemos as alavancas.

Ex-líder do grupo de ética de IA da Google, Margaret Mitchell afirmou não saber por que o cientista não se manifestou durante a década enquanto estava no grupo de poder empresa.

Vencedor junto de Geoffrey Hinton de um prêmio de ciência da computação, Yoshua Bengio afirmou à agência Associated Press estar bastante alinhado ao pensamento do colega. Ele, porém, disse que as falas sobre uma possível condenação da humanidade não vão ajudar a resolver a questão.

— Os perigos, os de curto prazo e os de longo prazo, são muito sérios e precisam ser levados a sério não apenas por alguns investigadores, mas também pelos governos e pela população.

O cientista tem expressado preocupação com a possibilidade da desestabilização do mercado de trabalho, armamento automatizado e os perigos de conjuntos de dados tendenciosos, a partir do contínuo avanço da IA.

Yoshua Bengio se juntou a outros cientistas e líderes de empresas de tecnologia, como Elon Musk e o cofundador da Apple, Steve Wozniak, que pediram uma pausa de seis meses no desenvolvimento de sistemas de IA mais poderosos do que o modelo mais recente da OpenAI, o GPT-4.

A preocupação dos pesquisadores já é considerada por governos, como o dos Estados Unidos. Para esta quinta-feira, a Casa Branca convocou chefes da Google, Microsoft e OpenAI, que opera o ChatGPT, para uma reunião com a vice-presidente Kamala Harris. Na reunião, o uso das tecnologias a curto e a longo prazo será discutido.


Fonte:https://oglobo.globo.com/economia/tecnologia/noticia/2023/05/ex-chefe-da-ia-na-google-alerta-que-tecnologia-e-um-perigo-para-a-sobrevivencia-humana.ghtml


Comentários

Postar um comentário