EUA e China negociam criação de mecanismo para notificar incidentes de IAs

Representantes dos Estados Unidos e da China iniciaram negociações para criar um mecanismo de notificação que envolva incidentes com inteligência artificial. O objetivo é alertar mutuamente ambas as nações sobre eventuais perigos à segurança nacional e fazer com que sejam criadas estratégias para mitigar riscos dessa tecnologia. A informação foi revelada pelo Secretário do Tesouro dos EUA, Scott Bessent, no último domingo (20). Segundo o representante, um movimento como esse é fundamental para “uma transição de opacidade para uma maior transparência entre a primeira e a segunda maiores potências em IA do mundo”. É reportado que as partes retomaram as conversas sobre o assunto após rodadas de negociações iniciais realizadas em maio e em outros momentos. Na ocasião, o presidente norte-americano Donald Trump se encontrou pessoalmente com o presidente chinês Xi Jinping, durante uma visita diplomática à Pequim. Vale notar que os dois mandatários se encontraram novamente nesta semana, pois Jinping chegou em Washington nesta quarta-feira (23). A visita será uma extensão da viagem passada e terá como um dos focos o controle no crescimento de inteligência artificial, além de outros temas geopolíticos. A possibilidade de um acordo entre Estados Unidos e China sobre a evolução acelerada da inteligência artificial e seus riscos não chega a ser tão surpreendente. Nos últimos meses, uma série de incidentes com diversos modelos de IA ligaram uma luz vermelha acerca de possíveis capacidades danosas dessas tecnologias. Em junho, a startup Anthropic lançou e depois desativou temporariamente os modelos Fable 5 e Mythos 5 por conta do seu alto potencial destrutivo. A companhia admitiu que o Fable 5 continha mecanismos de segurança ocultos que sabotavam respostas em casos de alguns usos específicos. A preocupação sobre esses modelos foi tão alta que o próprio governo estadunidense chegou a intervir e ordenar sua desativação. Posteriormente, a companhia lançou o Fable 5.1, que trazia correções e evoluções importantes para a segurança. Tecnologias assim são usadas apenas por certas empresas e organizações, não por usuários comuns. Em julho, a plataforma Hugging Face registrou uma sofisticada invasão em seus sistemas através de um modelo de linguagem da OpenAI. O caso ganhou muita notoriedade na época, mas registros recentes apontam que a própria companhia “ensaiou” essa invasão meses antes do ataque de sua IA rebelde, como foi chamada. Recentemente, a própria Anthropic e a OpenAI se mostraram a favor de um plano para desacelerar o desenvolvimento das IAs. A proposta não teve adesão adicional e tanto a China quanto os Estados Unidos entenderam que essas medidas não faziam sentido e contribuem com um dado alarmismo sobre esses recursos. Por falar em IAs, a OpenAI lançou os modelos GPT-6 Sol e GPT-6 Luna com preços reduzidos e indicados para aplicações cotidianas. Siga o TecMundo no X, Instagram, Facebook e YouTube e assine a nossa newsletter para receber as principais notícias e análises diretamente no seu e-mail. Com informações de Wired