Pesquisador que se demitiu da Anthropic diz ter medo do futuro da IA

Um agora ex-funcionário da Anthropic, empresa de inteligência artificial (IA) responsável pelo Claude, pediu demissão e desabafou sobre a indústria na rede social X. Em uma série de postagens, Jacob Coxon expressou o medo que tem pelo futuro dessa indústria. Coxon é britânico, tem 27 anos e atuava no treinamento de novos modelos de IA, alimentando essas plataformas com dados. Antes de entrar na Anthropic, ele trabalhava na OpenAI e trocou de companhia por acreditar nos valores sobre ética e segurança da rival. Segundo o pesquisador, porém, nenhuma das empresas tem atuado de forma responsável e ambas estão “apostando com as nossas vidas”, em especial na busca pela superinteligência. As denúncias de um funcionário sobre a IA. De acordo com as postagens, que estão baseadas na experiência dele nos últimos meses, Coxon acredita que logo existirão sistemas “superhumanos” que podem invadir quaisquer outros, revolucionar campos inteiros do dia para a noite e “adquirir poder e recursos reais”. “As pessoas que constroem IAs acreditam sinceramente que ela poderia matar a todos até o final da década. Isso não é uma jogada de marketing”, avisa o pesquisador, argumentando que nenhuma outra atividade humana representa esse nível de perigo atualmente. Ele teria lido e ouvido várias preocupações parecidas, sempre em conversas privadas, enquanto executivos “vão suavizar suas declarações na imprensa para soar sensatos”. Coxon não poupou críticas às duas empresas em que trabalhou: para ele, na OpenAI, “muitos não internalizaram profundamente os riscos civilizacionais” da IA. Já a Anthropic compreende o perigo, mas segue na corrida da indústria por acreditar que “ninguém mais agirá de forma responsável”, exceto ela. Entre os casos citados nominalmente estão a invasão da Hugging Face, descrita pelo especialista como um “tiro de alerta” que tem potencial para acelerar esforços de coordenação, embora nenhuma ação realmente efetiva tenha sido tomada ainda até então. “Se você é um pesquisador em um laboratório, peço que considere como serão os próximos anos. Você quer iniciar uma IA superinteligente sem uma compreensão rigorosa de sua mente? Você deveria baixar a cabeça porque ‘está acontecendo de qualquer maneira’ ou aproveitar este momento para pedir por condições diferentes?”, questiona Coxon. /COM INFORMAÇÕES DE THE WALL STREET JOURNAL