Anthropic Adapta Estrutura de Segurança de IA em Face de Pressões Competitivas

Anthropic Adapta Estrutura de Segurança de IA

A Anthropic, uma empresa que se posiciona como líder em segurança de IA, recentemente ajustou sua abordagem para estruturas de segurança. Esta mudança ocorre em meio a uma crescente concorrência no mercado de IA em expansão.

Ao invés de seguir guardrões autoimpostos, a Anthropic adotou um esquema de segurança não vinculante que afirma pode evoluir ao longo do tempo. A empresa detalhou sua nova política em um post no blog, afirmando que sua política de segurança anterior foi projetada para construir consensos na indústria, mas foi encontrada como ineficaz na prática.

A política anterior da Anthropic incluía uma cláusula para pausar o treinamento de modelos mais poderosos se suas capacidades ultrapassassem a capacidade da empresa de controlá-los. Esta medida foi removida na nova política, já que a empresa argumenta que desenvolvedores de IA responsáveis não devem ser impedidos enquanto atores menos cautelosos continuam a avançar.

A nova política inclui um Mapa de Segurança de Fronteira que detalha os guias e medidas de segurança autoimpostos da empresa. No entanto, a empresa reconhece que este novo esquema é mais flexível do que sua política anterior, com o novo enfoque focado em metas públicas e transparência.

A Anthropic está em discussões com o Pentágono sobre linhas vermelhas de IA, com o Secretário de Defesa Pete Hegseth dando à empresa um prazo para reverter suas medidas de segurança de IA ou enfrentar possíveis consequências, incluindo a perda de um contrato de $200 milhões e uma blacklist governamental.

• A nova política da Anthropic visa alinhar-se com o atual clima político anti-regulatório.
• A empresa espera encorajar outras empresas de IA a adotarem medidas de segurança semelhantes.
• A Anthropic continua preocupada com armas controladas por IA e vigilância doméstica em massa.

Enquanto pesquisadores de IA têm aplaudido a postura da Anthropic nas redes sociais, a decisão da empresa de ajustar sua estrutura de segurança de IA destaca o cenário complexo e em constante evolução do desenvolvimento e regulação de IA.