O pesquisador Yoshua Bengio alertou sobre os possíveis efeitos “prejudiciais” da intensa corrida para o desenvolvimento de inteligência artificial (IA) mais avançada, destacando riscos como a criação de conteúdo falso e ciberataques.
Durante a apresentação do primeiro Relatório Internacional de Segurança de IA, na Universidade ENS de Paris, Bengio também mencionou a preocupação com uma eventual “perda de controle” dos humanos sobre sistemas de IA, especialmente se estes se motivarem por uma vontade própria de “sobreviver”.
IA ainda não recebe o investimento necessário para ser segura
- Bengio criticou a aceleração da competição, exemplificada pelo modelo de IA DeepSeek, e pediu uma regulamentação internacional mais robusta, argumentando que os investimentos em segurança de IA são insuficientes.
- Ele enfatizou a necessidade de uma intervenção governamental para garantir a segurança da tecnologia.
- Bengio aponta que os Estados Unidos, atualmente líderes no setor, têm falhado em implementar regras eficazes desde que a administração de Donald Trump assumiu.
O relatório, elaborado com a colaboração de 100 especialistas internacionais, foi lançado no final de janeiro de 2024 e surgiu a partir de discussões iniciadas em uma cúpula sobre segurança de IA em 2023.
Bengio expressou preocupações sobre o futuro da humanidade diante dos avanços rápidos da IA, alertando para o risco de sua existência ser ameaçada em um período de apenas 10 anos.
