A Anthropic sugeriu ao governador da Califórnia, Gavin Newsom, que autoridades governamentais tenham poder solicitar ordens judiciais para bloquear o lançamento de modelos de inteligência artificial que representem um “risco grave” ao público, segundo uma carta de 15 de outubro que reiterou propostas anteriores da companhia. A própria Anthropic já enfrentou restrições governamentais a seus sistemas de IA. Em junho, o governo Trump ordenou que a empresa restringisse imediatamente o acesso estrangeiro aos seus modelos Mythos 5 e Fable 5, com capacidades cibernéticas, citando preocupações com a segurança nacional. Posteriormente, o Departamento de Comércio dos Estados Unidos suspendeu a ordem. “Quando uma avaliação constatar que um modelo representa um risco grave, o governo deve poder pedir a um tribunal que o bloqueie”, afirmou a empresa, pela carta a Newsom. Um porta-voz da Anthropic confirmou a autenticidade da carta. O gabinete do governador da Califórnia não respondeu de imediato a um pedido de comentário. A Anthropic apresentou as recomendações depois que o governador reuniu, em setembro, um painel de especialistas em inteligência artificial para elaborar propostas de requisitos de segurança para a tecnologia. A companhia também afirmou ser contrária à exigência de que os desenvolvedores criem “botões de desligamento” capazes de desativar modelos inteiros de IA caso uma empresa perca o controle sobre suas ações. Em vez disso, a Anthropic defende intervenções mais direcionadas, como desativar um agente de IA problemático ou bloquear o acesso de um cliente específico a um modelo, por considerar essas medidas mais eficazes, segundo a carta. Um grupo de senadores americanos dos dois partidos discutia, em setembro, uma proposta de lei que daria ao governo dos Estados Unidos o poder de bloquear o lançamento de determinados modelos de IA considerados inseguros, conforme noticiou a Reuters. As empresas poderiam contestar a decisão na Justiça federal. O Congresso entrou em recesso pré-eleitoral pouco depois, e os parlamentares não avançaram com a proposta. Em julho, deputados americanos propuseram a “Lei do Botão de Desligamento da IA”, que daria às autoridades dos Estados Unidos o poder de ordenar que empresas de inteligência artificial desativassem modelos que colocassem em risco a vida humana ou a economia. A Anthropic está se preparando para uma oferta pública inicial de ações nos Estados Unidos. A operação seria uma das estreias em bolsa mais relevantes dos últimos anos, com potencial para reconfigurar os índices de referência, os fluxos de investimento e a narrativa mais ampla que impulsiona o mercado acionário americano. O Politico foi o primeiro a divulgar os detalhes da carta. Patrick Sison/AP/File Photo
CryptoAlerta — análise de criptomoedas e mercado em tempo real