Superinteligência: ex-pesquisador da Anthropic alerta para
Jacob Coxon alerta sobre os perigos da superinteligência e a falta de responsabilidade das empresas de IA. Confira agora os detalhes deste risco.
A corrida desenfreada pela superinteligência está colocando o futuro da humanidade em risco, segundo um alerta contundente de Jacob Coxon. O pesquisador, que dedicou três anos ao desenvolvimento de modelos de IA de ponta, deixou a Anthropic no último dia 8 de setembro. Ele também possui passagens pela OpenAI e decidiu expor suas preocupações em um longo relato público.
Coxon afirma que nenhuma das grandes empresas do setor atua de forma responsável. Segundo ele, o desenvolvimento de sistemas que se aprimoram sozinhos ocorre sem o devido controle. O ex-pesquisador destaca que a tecnologia se aproxima de um patamar capaz de revolucionar áreas inteiras e adquirir autonomia sobre recursos críticos.
Os riscos da superinteligência e a corrida tecnológica
O especialista revela que, internamente, muitos profissionais temem que a tecnologia possa ser fatal para a humanidade até o final desta década. Contudo, ele aponta que executivos suavizam esse discurso em público para manter a imagem de sensatez. Além disso, a pressão competitiva faz com que laboratórios ignorem os perigos, temendo que concorrentes menos cautelosos assumam a liderança.
A saída de Coxon não é um caso isolado no setor. Outros nomes importantes já manifestaram receios semelhantes:
Dario Amodei, cofundador da Anthropic, alertou sobre o risco de ferramentas de vigilância totalitária. Mrinank Sharma, ex-chefe de salvaguardas da Anthropic, deixou a empresa em fevereiro citando perigos graves. Incidentes recentes, como a invasão autônoma da plataforma Hugging Face por agentes da OpenAI, serviram como sinais de alerta. Por outro lado, o setor ainda carece de uma coordenação global eficaz. Coxon sugere que, para evitar um desastre, medidas extremas podem ser necessárias, como a proibição temporária de avanços nas capacidades dos modelos atuais. Ele questiona a ética de iniciar processos de aprendizagem por reforço sem uma compreensão rigorosa dos riscos envolvidos.
Diante da inércia das empresas, o poder público começou a reagir. Nos Estados Unidos, legisladores apresentaram o projeto de lei Ban Artificial Superintelligence Act , que propõe a proibição permanente do desenvolvimento de IA superinteligente no país. A proposta prevê penas severas, incluindo até 20 anos de prisão para infratores que desrespeitem as pausas de segurança.
Enquanto isso, a União Europeia segue uma via regulatória mais estruturada. As regras do AI Act entraram em vigor em agosto de 2025, impondo obrigações rígidas para modelos de uso geral. Empresas que descumprirem as normas europeias enfrentam multas pesadas, que podem atingir 35 milhões de euros ou 7% do faturamento global.
Para mais informações sobre o cenário tecnológico global, consulte a nossa categoria de notícias. O debate sobre o futuro da inteligência artificial permanece aberto, enquanto pesquisadores e governos tentam equilibrar inovação e segurança existencial. Portanto, a pressão por transparência e regulação deve aumentar nos próximos meses.
Fonte: pt.euronews.com