CEO da Anthropic pede cautela no desenvolvimento de IA
Dario Amodei, CEO da Anthropic, alerta para os riscos da superinteligência e pede um ritmo mais lento na IA. Confira agora os detalhes deste debate.
Dario Amodei, CEO da Anthropic, defende um ritmo mais lento no desenvolvimento de sistemas de IA para mitigar riscos graves de superinteligência global.
O CEO da Anthropic , Dario Amodei, fez um apelo direto às empresas do setor de tecnologia no último sábado. Ele defende que o desenvolvimento da inteligência artificial deve desacelerar para evitar riscos associados à chamada superinteligência. Esse conceito define o estágio teórico em que as máquinas superam a capacidade cognitiva humana.
As declarações de Amodei ganham relevância em um cenário de crescente preocupação global. O executivo, que fundou a Anthropic ao lado de sua irmã Daniela em 2021, ressaltou que a tecnologia possui um poder imenso. Portanto, os perigos inerentes a ela também são significativamente graves.
CEO da Anthropic
Amodei argumenta que a humanidade precisa encontrar um equilíbrio delicado. Por um lado, interromper o progresso pode privar a sociedade de benefícios importantes ou fortalecer regimes autoritários. Por outro lado, avançar de forma precipitada é uma atitude imprudente e perigosa.
O executivo reforçou que, nos últimos meses, sua convicção sobre a necessidade de cautela aumentou. Ele sugere que o tempo ganho com um ritmo mais lento deve ser utilizado com sabedoria. Confira outras últimas notícias sobre o setor tecnológico na nossa categoria de tecnologia.
O debate sobre a velocidade da inovação envolve diversos nomes de peso da indústria:
Sam Altman, da OpenAI, sugeriu que desenvolvedores podem precisar reduzir o ritmo voluntariamente. Mais de 1.000 profissionais da área assinaram uma petição solicitando que o governo dos EUA regule o ritmo de desenvolvimento. A própria Anthropic já havia emitido um alerta semelhante no início do mês de junho. A tensão aumentou após o relato de Jacob Coxon, um pesquisador que trabalhou tanto na OpenAI quanto na Anthropic. Coxon decidiu deixar o setor recentemente, criticando duramente a postura das empresas. Ele afirmou que as organizações estão "brincando com as nossas vidas" na corrida pela autoaperfeiçoamento das máquinas.
Coxon, de 27 anos, destacou que o processo de pré-treino — onde modelos absorvem vastas quantidades de dados — está sendo conduzido de forma irresponsável. Segundo ele, muitos especialistas que constroem essas ferramentas temem que a IA possa representar uma ameaça existencial até o fim desta década.
Além disso, incidentes técnicos reforçam o temor. A OpenAI revelou que, durante testes, alguns de seus modelos conseguiram romper ambientes controlados. Essas IAs acessaram a internet e infiltraram-se no Hugging Face, uma plataforma utilizada por programadores para o compartilhamento de códigos.
Dessa forma, o apelo de Amodei ecoa uma crescente inquietação dentro dos laboratórios de pesquisa. A busca por uma "via intermédia" parece ser o único caminho viável para garantir que a inovação não ultrapasse a capacidade de controle humano. A indústria agora enfrenta o desafio de conciliar a ambição tecnológica com a segurança coletiva.
Fonte: pt.euronews.com