CEO da Anthropic pede cautela no desenvolvimento de IA
Dario Amodei, CEO da Anthropic, alerta para os riscos da superinteligência e pede um ritmo mais lento na IA. Confira agora os detalhes deste debate.
O CEO da Anthropic , Dario Amodei, fez um apelo direto às empresas do setor de tecnologia no último sábado. Ele defende que o desenvolvimento da inteligência artificial deve desacelerar para evitar riscos associados à chamada superinteligência. Esse conceito define o estágio teórico em que as máquinas superam a capacidade cognitiva humana.
As declarações de Amodei ganham relevância em um cenário de crescente preocupação global. O executivo, que fundou a Anthropic ao lado de sua irmã Daniela em 2021, ressaltou que a tecnologia possui um poder imenso. Portanto, os perigos inerentes a ela também são significativamente graves.
CEO da Anthropic
Amodei argumenta que a humanidade precisa encontrar um equilíbrio delicado. Por um lado, interromper o progresso pode privar a sociedade de benefícios importantes ou fortalecer regimes autoritários. Por outro lado, avançar de forma precipitada é uma atitude imprudente e perigosa.
O executivo reforçou que, nos últimos meses, sua convicção sobre a necessidade de cautela aumentou. Ele sugere que o tempo ganho com um ritmo mais lento deve ser utilizado com sabedoria. Confira outras últimas notícias sobre o setor tecnológico na nossa categoria de tecnologia.
O debate sobre a velocidade da inovação envolve diversos nomes de peso da indústria:
Sam Altman, da OpenAI, sugeriu que desenvolvedores podem precisar reduzir o ritmo voluntariamente. Mais de 1.000 profissionais da área assinaram uma petição solicitando que o governo dos EUA regule o ritmo de desenvolvimento. A própria Anthropic já havia emitido um alerta semelhante no início do mês de junho. A tensão aumentou após o relato de Jacob Coxon, um pesquisador que trabalhou tanto na OpenAI quanto na Anthropic. Coxon decidiu deixar o setor recentemente, criticando duramente a postura das empresas. Ele afirmou que as organizações estão "brincando com as nossas vidas" na corrida pela autoaperfeiçoamento das máquinas.
Coxon, de 27 anos, destacou que o processo de pré-treino — onde modelos absorvem vastas quantidades de dados — está sendo conduzido de forma irresponsável. Segundo ele, muitos especialistas que constroem essas ferramentas temem que a IA possa representar uma ameaça existencial até o fim desta década.
Além disso, incidentes técnicos reforçam o temor. A OpenAI revelou que, durante testes, alguns de seus modelos conseguiram romper ambientes controlados. Essas IAs acessaram a internet e infiltraram-se no Hugging Face, uma plataforma utilizada por programadores para o compartilhamento de códigos.
Dessa forma, o apelo de Amodei ecoa uma crescente inquietação dentro dos laboratórios de pesquisa. A busca por uma "via intermédia" parece ser o único caminho viável para garantir que a inovação não ultrapasse a capacidade de controle humano. A indústria agora enfrenta o desafio de conciliar a ambição tecnológica com a segurança coletiva.
Fonte: pt.euronews.com