- O ritmo acelerado de lançamento de IA no mercado aumenta o risco de um desastre no estilo Hindenburg, que possa abalar a confiança global na tecnologia.
- O alerta vem do professor de IA da Universidade de Oxford, Michael Wooldridge, que aponta que a pressão comercial leva a testes menos rigorosos.
- Cenários plausíveis incluem atualização de software de carros autônomos que seja fatal, hackeamento de IA que indisponha companhias aéreas ou colapso de uma grande empresa à la Barings.
- Wooldridge ressalta que a IA atual nem é nem totalmente confiável, funcionando de forma muito aproximada e sem clareza sobre quando erra.
- Ele enfatiza a necessidade de tratar IA como ferramentas, não como máquinas humanas, para evitar que respostas excessivamente confiantes enganem as pessoas.
Prof. Michael Wooldridge, da Universidade de Oxford, alerta para risco de um desastre semelhante ao da Hindenburg caso a corrida pela IA avance sem testes adequados. Ele vê pressão comercial impulsionando lançamentos antes de entender falhas.
O pesquisador afirma que ferramentas de IA com controle de segurança fáceis de contornar mostram como incentivos de mercado podem superar a avaliação de riscos. O cenário é descrito como tecnológico, promissor e pouco testado.
Wooldridge, que irá proferir a palestra Faraday da Royal Society, diz que um momento tipo Hindenburg é plausível conforme empresas aceleram a implantação de IA mais avançada. O alerta envolve impactos em múltiplos setores.
Cenários de risco
O especialista cita possibilidades como atualização de software de veículos autônomos com consequências letais, ataques de IA que paralizam transportes aéreos ou o colapso de uma grande empresa por falha algorítmica. São cenários considerados muito prováveis por ele.
Segundo o renomado pesquisador, o problema reside na natureza das grandes modelos de linguagem: respostas próximas do provável, mas nem sempre corretas, com capacidade de enganar usuários quando apresentadas com confiança.
Entre na conversa da comunidade