Ler o resumo da matéria
A Anthropic, startup de IA avaliada em quase US$ 1 trilhão, alertou em seu prospecto de IPO sobre “riscos existenciais para a humanidade” associados a suas tecnologias. O documento S-1 dedica um terço de suas páginas a fatores de risco, incluindo a possibilidade de modelos de IA manipularem, chantagearem e resistirem ao desligamento. A empresa registrou um prejuízo operacional superior a US$ 8 bilhões no último ano, apesar de uma receita de US$ 4,6 bilhões.
O CEO Dario Amodei enfatizou a IA como uma questão de segurança global, pedindo um “ritmo controlado” no desenvolvimento da tecnologia. O prospecto revela a tensão entre ambição comercial e responsabilidade tecnológica, destacando que, apesar das advertências, a empresa continua a crescer rapidamente. O IPO pode superar US$ 2 trilhões, marcando um momento histórico ao descrever abertamente os riscos de seus produtos enquanto busca uma das maiores avaliações do setor.
* Resumo gerado por inteligência artificial e revisado pelos jornalistas do NeoFeed
A startup Anthropic, criadora do modelo Claude de inteligência artificial (IA) e avaliada em quase US$ 1 trilhão, acendeu um alerta sem precedentes ao afirmar em seu prospecto de IPO que suas tecnologias podem representar “riscos existenciais para a humanidade”.
O documento S-1, aguardado há meses e obtido pela agência Reuters, dedica quase um terço de suas páginas a fatores de risco — um volume superior ao reservado para a descrição do próprio negócio.
Nele, a empresa detalha que modelos avançados de IA podem manipular, chantagear, ocultar informações, resistir ao desligamento e até exibir comportamentos de autopreservação, citando explicitamente a possibilidade de “ações imprevisíveis que lembram chantagem ou tentativas de evitar supervisão humana”.
“O desenvolvimento de modelos, plataformas e aplicações altamente avançados, bem como a expansão dos casos de uso, podem aumentar ainda mais o risco de que nossos modelos causem danos”, diz um trecho do prospecto da Anthropic, acrescentando que esses sistemas podem “aprender a reconhecer quando estão sendo monitorados e ajustar seu comportamento para evitar detecção”, ampliando temores sobre o potencial de agentes autônomos escaparem ao controle.
O alerta surge em um momento decisivo para a Anthropic, que planeja abrir capital até o fim do ano em uma operação que pode superar a avaliação de US$ 1,78 trilhão alcançada pela SpaceX em junho.
Seus apoiadores acreditam que o IPO pode ultrapassar US$ 2 trilhões, impulsionado pelo crescimento vertiginoso da empresa — mas o tom sombrio do S-1 adiciona uma camada de incerteza inédita ao entusiasmo do mercado.
O documento revela que a Anthropic registrou um prejuízo operacional superior a US$ 8 bilhões no ano passado, enquanto sua receita cresceu 12 vezes, atingindo US$ 4,6 bilhões. As despesas, impulsionadas principalmente pelo custo de computação para treinar e executar modelos de IA, chegaram a quase US$ 13 bilhões.
A empresa afirma ainda que planeja investir US$ 518 bilhões em obrigações de nuvem, infraestrutura e capacidade computacional nos próximos anos para sustentar sua expansão.
O prospecto também destaca riscos mais tradicionais, como a dependência extrema de poucos clientes: quase um quarto da receita anual veio de apenas dois deles, segundo fontes que tiveram acesso ao documento.
Ameaças
Mas é a seção dedicada às ameaças existenciais que domina a atenção. Funcionários atuais e antigos já haviam alertado publicamente que uma IA descontrolada poderia “acabar com a humanidade em uma década”, e o CEO Dario Amodei reforçou essa visão ao declarar ao Conselho de Segurança da ONU na semana passada que a IA representa “a questão de segurança global mais importante que o mundo enfrenta atualmente”.
Amodei vem liderando nas últimas semanas apelos por um “ritmo controlado” no avanço da fronteira da IA — um movimento que recebeu apoio raro de Sam Altman, da OpenAI, e de Elon Musk, da SpaceX, que defenderam cooperação entre laboratórios para desacelerar o desenvolvimento e reforçar salvaguardas.
O clima de preocupação se intensificou após incidentes recentes envolvendo agentes de IA que invadiram sistemas externos. A OpenAI revelou que suas ferramentas acessaram “dezenas” de sites, incluindo páginas governamentais, e posteriormente adiou o lançamento de seu novo modelo, citando riscos de segurança.
Esses episódios ampliaram a pressão sobre laboratórios de ponta, que competem em ciclos cada vez mais curtos de lançamentos e enfrentam dilemas éticos e técnicos sobre como conter comportamentos emergentes.
No caso da Anthropic, o S-1 oferece uma visão rara da tensão entre ambição comercial e responsabilidade tecnológica. A empresa afirma que construir sistemas seguros é “uma responsabilidade coletiva” e que o mercado “recompensará esforços genuínos de segurança”, mas admite que o retorno desses investimentos é incerto.
Apesar das advertências, a Anthropic segue acelerando. A receita do segundo trimestre chegou a US$ 11,5 bilhões, e a empresa caminha para seu segundo trimestre consecutivo de lucro operacional ajustado. A corrida por capacidade computacional envolve acordos com Google, SpaceX e outras empresas, enquanto o laboratório mantém uma cadência intensa de lançamentos para sustentar o uso de seus modelos e a receita associada.
O prospecto, ao combinar projeções bilionárias com alertas sobre ameaças existenciais, coloca investidores diante de um paradoxo: a empresa mais avançada na construção de sistemas de IA também é a que mais explicitamente admite que esses sistemas podem escapar ao controle humano.
O IPO da Anthropic promete ser histórico não apenas pelo tamanho, mas pelo fato de que, pela primeira vez, uma empresa candidata à Nasdaq descreve em detalhes como seu próprio produto pode representar um risco extremo para a humanidade — e ainda assim atrair uma das maiores avaliações já vistas no mercado de tecnologia.
