Amazon CEO supostamente levantou preocupações com o modelo Anthropic antes da repressão governamental

CEO da Amazon Andy Jassy pode ter sido a fonte de preocupações de segurança que levaram a Anthropic a cortar o acesso mundial a dois modelos no fim de semana.

O Wall Street Journal relata que Jassy contou ao Secretário do Tesouro Scott Bessent e outros funcionários governamentais que os pesquisadores da Amazon usaram o Claude Fable 5 da Anthropic para obter informações que poderiam ser usadas em ataques cibernéticos. O governo subsequentemente impôs uma proibição de exportação no Fable 5 e no Mythos 5.

Um porta-voz da Amazon disse em uma declaração que, embora seja “comum para os governos buscar nosso conselho sobre riscos de segurança potenciais”, a empresa não “compartilha os detalhes dessas discussões”.

O porta-voz também apontou para uma atualização afirmando que a AWS foi afetada pelo corte do modelo.

The Information e Reuters relataram de forma semelhante que a Amazon (um investidor majoritário da Anthropic) havia comunicado preocupações sobre a segurança dos modelos da Anthropic.

David Sacks, ex-chefe de inteligência artificial do governo Trump, que agora co-preside o Conselho de Aconselhamento da Presidência sobre Ciência e Tecnologia, ofereceu sua própria conta das discussões, afirmando que “um parceiro confiável e credível de ambos a Anthropic e o USG […] veio à frente com um jailbreak”.

Sacks acrescentou, “O Admin pediu [ao CEO da Anthropic Dario Amodei] para corrigir o jailbreak ou desimplantar o modelo. Dario se recusou”.

A Anthropic disse em um post de blog que as capacidades aparentemente causando preocupação governamental já estão disponíveis em outros modelos acessíveis publicamente.

Este post foi atualizado com uma declaração de um porta-voz da Amazon.