Líderes da Anthropic e OpenAI alertam na ONU: IA está crescendo perigosamente

Os líderes da Anthropic e OpenAI alertam na ONU sobre o crescimento perigoso da inteligência artificial. Dario Amodei e Sam Altman foram ao fórum mais alto do mundo. A mensagem foi clara: a IA cresce mais rápido do que o mundo consegue administrar.

Isso não é apenas tecnologia. É um sinal de mercado. Quando dois dos CEOs mais influentes de IA falam diante da ONU, os mercados de previsão se movem.

Por que importa tanto? Há três perguntas centrais: o que disseram, por que disseram, e o que significa para os mercados e para a América Latina.

O que Altman e Amodei disseram exatamente na ONU?

Amodei e Altman falaram diante do AI Advisory Body da ONU. Esse grupo foi criado pelo secretário-geral António Guterres. A missão é orientar como o mundo administra a inteligência artificial.

A mensagem de Amodei foi direta. A IA cresce em ritmo perigoso. Isso faz sentido dado seu histórico. A Anthropic foi fundada em 2021 com foco em segurança de IA. Seus fundadores saíram da OpenAI exatamente por esse motivo.

Mas Amodei foi além da questão da velocidade. Falou em perda de controle. Esse termo tem um significado preciso no campo de segurança de IA. Refere-se a sistemas que agem de formas não previstas. E que são difíceis de corrigir depois.

Sam Altman também reconheceu os riscos. Mas seu enfoque foi mais prático. Pediu a criação de regras claras em nível global para guiar o desenvolvimento da IA.

Há um dado que acrescenta muito peso a essa história. Um ex-pesquisador da Anthropic falou com a BBC. Disse que os funcionários "estamos aterrorizados". Isso não é marketing. É um sinal de que o medo é real dentro dos próprios laboratórios.

A soma dessas vozes é forte. O CEO fala em perigo. Os funcionários confirmam que o medo é real. A mensagem chega ao fórum mais alto do mundo. É um sinal forte e claro.

Há também um contexto político mais amplo. O debate não está mais apenas nos laboratórios. Governos, mídia e especialistas falam em "perda de controle". É um debate global que cresce a cada mês.

A Anthropic publicou em 2023 sua política de uso aceitável. Em 2024 publicou um cartão de modelo com detalhes sobre riscos. A OpenAI também divulgou relatórios de segurança sobre seus modelos mais recentes. No entanto, a velocidade do desenvolvimento supera a velocidade desses esforços.

O paradoxo do autorregulador: por que os mais poderosos pedem regras?

Essa é a pergunta que poucos veículos fazem. As empresas que criam a IA mais potente do mundo pedem que a regulem. Por que fariam isso?

A resposta honesta envolve interesses. As regras podem ser uma barreira de entrada. Empresas grandes têm mais recursos para cumprir normas complexas. Startups menores não têm essa vantagem.

Esse padrão existe em muitos setores. Os grandes bancos aceitam certas regras. Essas regras dificultam a entrada de rivais menores. Grandes empresas farmacêuticas apoiam padrões rigorosos. Esses padrões elevam o custo de entrada para novos participantes.

Em IA, o padrão é o mesmo. Se houver regras de segurança custosas, a OpenAI e a Anthropic as cumprem com mais facilidade. As novas startups enfrentam mais obstáculos.

Mas isso não significa que o alerta seja falso. Os riscos da IA são reais. Os depoimentos internos confirmam isso. As duas coisas são verdadeiras ao mesmo tempo: os riscos são reais E as regras beneficiam os grandes players.

Para os mercados de previsão, isso gera um sinal claro. As regras vão chegar. A questão é que forma vão tomar. E a forma que tomarem determina quem ganha e quem perde.

Há também uma tensão política clara. Altman e Amodei pedem marcos legais mundiais. Mas o governo Trump nos EUA vai na direção contrária. Eliminou vários decretos de Biden sobre IA. Isso cria uma brecha direta entre o que os CEOs pedem e o que o próprio governo deles faz.

Essa brecha importa nos mercados. Se os EUA freiam as regras mas a Europa avança, as empresas podem escolher de onde operar. Isso se chama arbitragem legal. É uma estratégia real e crescente.

O que a ONU propõe para gerir a inteligência artificial?

A ONU não pode impor leis aos países. Esse não é seu poder. Mas pode criar marcos e normas. Pode facilitar o diálogo. E pode fixar referências que os países adotam depois.

O AI Advisory Body publicou seu relatório em julho de 2024. A proposta mais clara é criar um órgão mundial para IA. O modelo proposto é similar à AIEA, a Agência Internacional de Energia Atômica.

A analogia é útil. A AIEA não proíbe o uso de energia nuclear. Ela monitora. Fixa padrões mínimos de segurança. Facilita visitas de inspeção entre países. Mantém um sistema de alertas.

Um órgão similar para IA faria algo parecido. Monitoraria os modelos mais potentes. Fixaria normas mínimas de segurança. Facilitaria o trabalho entre países.

Mas há grandes obstáculos. Os países têm visões muito distintas.

A Europa aprovou o AI Act. É a primeira lei completa sobre IA no mundo. Classifica os sistemas de IA por nível de risco. Mais restrições para os usos mais perigosos.

A China tem suas próprias regras. Estão focadas no controle do conteúdo gerado por IA. A prioridade é proteger a soberania tecnológica do país.

Os EUA, sob Trump, tomaram outro caminho. Vários decretos sobre IA do governo anterior foram eliminados. A postura atual coloca a competição acima das regras.

Essa divisão entre países é um sinal de mercado em si. Sem regras globais, as empresas podem escolher operar nos países mais permissivos. Isso se chama arbitragem legal. É uma vantagem real e crescente no setor.

O que vai acontecer então? Os mercados de previsão têm respostas parciais. As probabilidades de um tratado formal antes de 2030 são baixas, mas crescem com cada evento como este.

O que dizem os mercados de previsão sobre regras para a IA

Os mercados de previsão são úteis para medir expectativas. São mais rápidos que as pesquisas de opinião. São mais honestos que as manchetes. Refletem o quão seguros estão os participantes sobre um resultado futuro.

Plataformas como Metaculus, Kalshi e Polymarket têm mercados sobre essas perguntas. Haverá uma lei federal de IA nos EUA antes de 2027? Existirá um tratado mundial sobre IA antes de 2030? Algum país ou grupo vai impor uma pausa sobre os modelos mais potentes?

O discurso de Amodei e Altman na ONU é exatamente o tipo de evento que move essas probabilidades. Quando os criadores da tecnologia dizem publicamente que "está crescendo perigosamente", os participantes dos mercados atualizam seus modelos.

O mecanismo é simples. Mais pressão de atores-chave aumenta as probabilidades de resposta oficial. Mais resposta oficial aumenta as probabilidades de um acordo. Cada catalisador move o mercado.

Há um precedente útil aqui. Antes da crise de 2008, atores do setor financeiro pediam regras. Alguns com medo genuíno. Outros buscando consolidar sua posição. As regras que vieram depois, como o Dodd-Frank nos EUA, favoreceram os grandes bancos. A história poderia se repetir com a IA.

Para quem usa mercados de previsão, esse evento é importante. Não só pelo sinal direto de mais regras. Também pelo sinal mais sutil sobre quando e como essas regras vão chegar.

A Macro Markets cobre mercados sobre tecnologia e política. A gestão da IA é uma área de alta incerteza. Isso a torna um terreno fértil para os mercados de previsão. Eventos como o discurso na ONU são os catalisadores que vale a pena acompanhar de perto.

Uma nota importante: os mercados de previsão não preveem o futuro. Medem as expectativas do momento. Quando essas expectativas mudam, as probabilidades mudam. E as mudanças de probabilidades são o sinal que importa.

Implicações para a América Latina

A América Latina não está na mesa onde essas decisões são tomadas. Mas as consequências chegam de qualquer forma.

O risco central é claro. Se a ONU ou a Europa criarem padrões mundiais para IA, as empresas da região que quiserem operar no mundo terão que cumpri-los. Sem voz no processo, a LATAM aceita regras feitas para outros.

O Brasil é o caso mais avançado da região. O PL 2338 é o projeto de lei nacional sobre IA. Está há anos em debate no Congresso. O governo Lula demonstrou interesse em se posicionar bem nos fóruns mundiais. Mas o texto final ainda não foi aprovado. Esse atraso tem custos reais. Gera dúvidas para os investidores. E deixa o Brasil sem peso nas negociações mundiais.

O México tem um setor de startups de IA em crescimento. Muito em fintech e serviços. Sem um marco legal específico, as empresas operam com muita incerteza. Isso pode atrair certos tipos de investimento no curto prazo. Mas dificulta a expansão para mercados com regras claras.

A Argentina, sob Milei, adotou uma postura de menos regras em todos os setores. Para a IA, isso significa menos entraves no curto prazo. Mas também menos peso nos fóruns onde se definem as regras globais.

A oportunidade real para a LATAM vai contra o que se costuma pensar. Um marco legal claro não é sempre um obstáculo ao crescimento. Reduz a incerteza para os investidores. As startups de IA precisam de clareza legal para crescer e atrair capital externo. O limbo legal tem custos ocultos.

A região também tem algo valioso a oferecer. Uma visão do sul sobre acesso à tecnologia. Sobre a concentração de poder em poucas empresas. Sobre o impacto da IA em mercados com muita informalidade no trabalho. Essas perspectivas são escassas nos fóruns atuais. São um ativo se a região os usar bem.

Perguntas frequentes

Por que os líderes de IA pedem regulação se isso pode frear seu crescimento?

Os interesses são múltiplos. As regras podem consolidar as empresas grandes. Elas têm mais recursos para cumprir normas complexas do que seus rivais menores. Além disso, muitos especialistas do setor têm medo real dos riscos da IA. As duas coisas podem ser verdadeiras ao mesmo tempo.

Que poder tem a ONU para regular a inteligência artificial?

A ONU não pode impor regras diretamente. Seu poder está em criar marcos e recomendações que os países adotam voluntariamente. O exemplo do AI Act europeu mostra como um marco regional pode se tornar o padrão de referência para o mundo.

Quando poderia haver um acordo mundial sobre IA?

Os mercados de previsão e os especialistas sugerem que um tratado formal antes de 2030 é possível, mas incerto. A diferença de posturas entre Europa, China e EUA torna o acordo difícil. O discurso na ONU é um passo inicial de um processo longo.

Como isso afeta as startups de IA na América Latina?

No curto prazo, a incerteza é um desafio. No longo prazo, um marco claro facilita o investimento e o acesso aos mercados mundiais. As startups da LATAM devem acompanhar de perto os marcos definidos na ONU e na Europa. Esses são os padrões que provavelmente terão que cumprir para crescer além da região.

O que é o AI Advisory Body da ONU?

É o grupo consultivo de alto nível sobre IA criado por António Guterres. Sua missão é orientar como o mundo gere a inteligência artificial. Em julho de 2024 publicou um relatório com propostas claras. A mais importante é criar um órgão mundial similar à AIEA para supervisionar os modelos mais potentes.

Conclusão

O discurso de Amodei e Altman na ONU foi mais que uma notícia de tecnologia. Foi um evento de mercado com sinais claros.

A janela para a regulação da IA está aberta. Os líderes das empresas mais influentes do setor constroem o caso para marcos mundiais. Seus motivos são complexos. Mas a direção é clara: mais regras para IA em nível global, não menos.

Para quem usa mercados de previsão, este é o momento de seguir os sinais certos. As probabilidades sobre a regulação da inteligência artificial, a postura de cada grande potência nos fóruns mundiais, e as declarações dos CEOs são os sinais que importam.

Os mercados de previsão medem quando e como essa janela vai se fechar. Na Macro Markets cobrimos esse espaço onde a tecnologia se torna sinal de mercado.