Anthropic Se Opõe ao Pentágono em Relação ao Uso de IA
Anthropic Se Opõe ao Pentágono em Relação ao Uso de IA
Anthropic, uma empresa de inteligência artificial (IA) de destaque, anunciou que não se submeterá a uma disputa com o Departamento de Defesa dos Estados Unidos (DOD) sobre o uso permitido de sua tecnologia de IA. O CEO da empresa, Dario Amodei, declarou que a Anthropic preferiria não trabalhar com o Pentágono do que concordar com usos que possam subverter os valores democráticos.
A discordância surgiu devido às exigências do Pentágono de que a Anthropic aceite qualquer uso legal de suas ferramentas de IA, incluindo a vigilância doméstica em massa e armas autônomas totalmente independentes. Essas exigências foram rejeitadas firmemente pela Anthropic, que afirma que tal uso nunca foi parte de seus contratos com o Departamento de Guerra e não deve ser incluído agora.
Amodei enfatizou que a IA pode ser usada para missões de inteligência e contrainteligência estrangeiras legais, mas a vigilância doméstica em massa é incompatível com os valores democráticos. Ele também destacou a instabilidade atual das sistemas de IA para armas autônomas, afirmando que uma supervisão adequada é necessária para garantir a segurança dos combatentes e civis.
Caso o Pentágono opte por remover a Anthropic de sua cadeia de suprimentos, a empresa declarou que trabalhará para facilitar uma transição suave para outro fornecedor. O Pentágono ameaçou invocar a Lei de Produção Defensiva e classificar a Anthropic como um risco de cadeia de suprimentos, mas um ex-funcionário do DOD sugeriu que essas bases eram frágeis.
- A Anthropic ofereceu trabalhar com o Departamento de Guerra em pesquisa e desenvolvimento para melhorar a confiabilidade dos sistemas de IA para armas autônomas.
- A empresa mantém que suas ferramentas de IA não devem ser usadas para vigilância doméstica em massa ou armas autônomas totalmente independentes.
- Não há confirmação independente das exigências específicas ou ameaças do Pentágono.
À medida que a discussão sobre ética e uso de IA continua, a postura da Anthropic destaca a crescente tensão entre o avanço tecnológico e as considerações éticas no contexto militar.