Los jefes de Anthropic y OpenAI alertan en la ONU de que la IA está creciendo peligrosamente

Los jefes de Anthropic y OpenAI alertan en la ONU de que la IA está creciendo peligrosamente. Dario Amodei y Sam Altman fueron al más alto foro del mundo. Su mensaje fue claro: la IA crece más rápido de lo que el mundo puede manejar.

Esto no es solo tecnología. Es una señal de mercado. Cuando dos de los CEOs más influyentes de la IA hablan ante la ONU, los mercados de predicción se mueven.

¿Por qué importa tanto? Hay tres preguntas clave: qué dijeron, por qué lo dijeron, y qué significa para los mercados y para América Latina.

¿Qué dijeron exactamente Altman y Amodei ante la ONU?

Amodei y Altman hablaron ante el AI Advisory Body de la ONU. Este grupo fue creado por el jefe de la ONU, António Guterres. Su misión es guiar cómo el mundo gestiona la IA.

El mensaje de Amodei fue directo. La IA crece a un ritmo peligroso. Esto es lógico dado su historial. La empresa fue fundada en 2021 con un foco en la seguridad de la IA. Sus creadores dejaron OpenAI por ese mismo motivo.

Pero Amodei fue más lejos que solo hablar de velocidad. Habló de pérdida de control. Ese término tiene un sentido preciso en el campo de la seguridad de la IA. Se refiere a sistemas que actúan de formas no previstas. Y que son difíciles de corregir una vez que lo hacen.

Sam Altman también reconoció los riesgos. Pero su enfoque fue más práctico. Pidió crear reglas claras a nivel mundial para guiar el desarrollo de la IA.

Hay un dato que agrega mucho peso a esta historia. Un ex-investigador de Anthropic habló con la BBC. Dijo que los empleados "estamos aterrados". Esto no es marketing. Es una señal de que el miedo es real dentro de los propios laboratorios.

La suma de estas voces es fuerte. El CEO habla de peligro. Los empleados confirman que el miedo es real. El mensaje llega al foro más alto del mundo. Es una señal fuerte y clara.

Hay también un contexto político más amplio. El debate ya no está solo en los laboratorios. Los gobiernos, los medios y los expertos hablan de "pérdida de control". Es un debate global que crece cada mes.

Anthropic publicó en 2023 su política de uso aceptable. En 2024 publicó una tarjeta de modelo con detalles sobre riesgos. OpenAI también publicó informes de seguridad sobre sus modelos más nuevos. Sin embargo, la velocidad del desarrollo supera la velocidad de esos esfuerzos.

La paradoja del autoregulador: ¿por qué los más poderosos piden reglas?

Esta es la pregunta que pocos medios hacen. Las empresas que crean la IA más potente del mundo piden que la regulen. ¿Por qué harían eso?

La respuesta honesta involucra intereses. Las reglas pueden ser una barrera de entrada. Las empresas grandes tienen más recursos para cumplir con reglas complejas. Las startups más pequeñas no tienen esa ventaja.

Este patrón existe en muchos sectores. Los grandes bancos aceptan ciertas reglas. Esas reglas hacen difícil la entrada de rivales más pequeños. Las grandes firmas de medicina apoyan estándares estrictos. Esos estándares elevan el costo de entrar al mercado para nuevos actores.

En IA, el patrón es el mismo. Si hay reglas de seguridad costosas, OpenAI y Anthropic las cumplen con más facilidad. Las nuevas startups tienen más problemas.

Pero esto no significa que la alarma sea falsa. Los riesgos de la IA son reales. Los testimonios internos lo confirman. Las dos cosas son ciertas al mismo tiempo: los riesgos son reales Y las reglas benefician a los grandes jugadores.

Para los mercados de predicción, esto genera una señal clara. Las reglas van a llegar. La pregunta es qué forma van a tomar. Y qué forma tomen determina quiénes ganan y quiénes pierden.

Hay también una tensión política clara. Altman y Amodei piden marcos legales mundiales. Pero el gobierno de Trump en EE. UU. va en dirección contraria. Eliminó varios decretos de Biden sobre IA. Esto crea una brecha directa entre lo que los CEOs piden y lo que su propio gobierno hace.

Esta brecha importa en los mercados. Si EE. UU. frena las reglas pero Europa avanza, las empresas pueden elegir desde dónde operar. Eso se llama arbitraje legal. Y es una estrategia real y creciente.

¿Qué propone la ONU para gestionar la IA?

La ONU no puede imponer leyes a los países. Ese no es su poder. Pero puede crear marcos y normas. Puede facilitar el diálogo. Y puede fijar referencias que los países luego adoptan.

El AI Advisory Body publicó su informe en julio de 2024. La propuesta más clara es crear un ente mundial para la IA. El modelo propuesto es similar a la IAEA, la Agencia Mundial de Energía Atómica.

La analogía es útil. La IAEA no prohíbe el uso de energía nuclear. La monitorea. Fija estándares mínimos de seguridad. Facilita las visitas de inspección entre países. Mantiene un sistema de alertas.

Un ente similar para la IA haría algo parecido. Monitorearía los modelos más potentes. Fijaría normas mínimas de seguridad. Facilitaría el trabajo entre países.

Pero hay grandes obstáculos. Los países tienen visiones muy distintas.

Europa aprobó el AI Act. Es la primera ley completa sobre IA en el mundo. Clasifica los sistemas de IA por nivel de riesgo. Más restricciones para los usos más peligrosos.

China tiene sus propias reglas. Están enfocadas en el control del contenido generado por IA. La prioridad es proteger la soberanía tecnológica del país.

EE. UU., bajo Trump, tomó otro camino. Se eliminaron varios decretos sobre IA del gobierno anterior. La postura actual pone la competencia por encima de las reglas.

Esta división entre países es una señal de mercado en sí misma. Sin reglas globales, las empresas pueden elegir operar desde los países más permisivos. Eso se llama arbitraje legal. Y es una ventaja real y creciente en el sector.

¿Qué va a pasar entonces? Los mercados de predicción tienen respuestas parciales. Las probabilidades de un tratado formal antes de 2030 son bajas, pero crecen con cada evento como este.

Lo que dicen los mercados de predicción sobre reglas para la IA

Los mercados de predicción son útiles para medir expectativas. Son más rápidos que las encuestas. Son más honestos que los titulares. Reflejan qué tan seguros están los participantes sobre un resultado futuro.

Plataformas como Metaculus, Kalshi y Polymarket tienen mercados sobre estas preguntas. ¿Habrá una ley federal de IA en EE. UU. antes de 2027? ¿Existirá un tratado mundial sobre IA antes de 2030? ¿Algún país o grupo impondrá una pausa sobre los modelos más potentes?

El discurso de Amodei y Altman ante la ONU es exactamente el tipo de evento que mueve estas probabilidades. Cuando los creadores de la tecnología dicen en público que "está creciendo peligrosamente", los participantes de los mercados actualizan sus modelos.

El mecanismo es simple. Más presión de actores clave aumenta las probabilidades de respuesta oficial. Más respuesta oficial aumenta las probabilidades de un acuerdo. Cada catalizador mueve el mercado.

Hay un precedente útil aquí. Antes de la crisis de 2008, actores del sector financiero pedían reglas. Algunos con miedo genuino. Otros buscando consolidar su posición. Las reglas que siguieron, como Dodd-Frank en EE. UU., favorecieron a los grandes bancos. La historia podría repetirse con la IA.

Para quienes usan mercados de predicción, este evento es importante. No solo por la señal directa de más reglas. También por la señal más sutil sobre cuándo y cómo llegarán esas reglas.

Macro Markets cubre mercados sobre tecnología y política. La gestión de la IA es un área de alta incertidumbre. Eso la convierte en un terreno fértil para los mercados de predicción. Los eventos como el discurso ante la ONU son los catalizadores que vale la pena seguir de cerca.

Una nota importante: los mercados de predicción no predicen el futuro. Miden las expectativas del momento. Cuando esas expectativas cambian, las probabilidades cambian. Y los cambios de probabilidades son la señal que importa.

Implicaciones para América Latina

América Latina no está en la mesa donde se toman estas decisiones. Pero las consecuencias llegan de todas formas.

El riesgo central es claro. Si la ONU o Europa crean estándares mundiales para la IA, las empresas de la región que quieran operar en el mundo van a tener que cumplirlos. Sin voz en el proceso, LATAM acepta reglas hechas para otros.

Brasil es el caso más avanzado de la región. El PL 2338 es el proyecto de ley nacional sobre IA. Lleva años en debate en el Congreso. El gobierno de Lula ha mostrado interés en posicionarse bien en foros mundiales. Pero el texto final sigue sin aprobarse. Esta demora tiene costos reales. Crea dudas para los inversores. Y deja a Brasil sin peso en las negociaciones mundiales.

México tiene un sector de startups de IA en crecimiento. Mucho en fintech y servicios. Sin un marco legal específico, las empresas operan con mucha incertidumbre. Eso puede atraer ciertos tipos de inversión a corto plazo. Pero dificulta la expansión a mercados con reglas claras.

Argentina, bajo Milei, adoptó una postura de menos reglas en todos los sectores. Para la IA, eso significa menos trabas a corto plazo. Pero también menos peso en los foros donde se definen las reglas globales.

La oportunidad real para LATAM va contra lo que se suele pensar. Un marco legal claro no es siempre un obstáculo al crecimiento. Reduce la duda para los inversores. Las startups de IA necesitan claridad legal para crecer y atraer capital externo. El limbo legal tiene costos ocultos.

La región también tiene algo valioso para aportar. Una mirada desde el sur sobre el acceso a la tecnología. Sobre la concentración del poder en pocas empresas. Sobre el impacto de la IA en mercados con mucha informalidad laboral. Estas perspectivas son escasas en los foros actuales. Son un activo si la región los usa bien.

Preguntas frecuentes

¿Por qué los líderes de IA piden reglas si eso podría frenar su crecimiento?

Los intereses son múltiples. Las reglas pueden consolidar a las empresas grandes. Ellas tienen más recursos para cumplir con normas complejas que sus rivales más pequeños. Además, muchos expertos del sector tienen miedo real sobre los riesgos de la IA. Las dos cosas pueden ser ciertas al mismo tiempo.

¿Qué poder tiene la ONU para regular la IA?

La ONU no puede imponer reglas directamente. Su poder está en crear marcos y recomendaciones que los países adoptan de forma libre. El ejemplo del AI Act europeo muestra cómo un marco regional puede volverse el estándar de referencia para el mundo.

¿Cuándo podría haber un acuerdo mundial sobre IA?

Los mercados de predicción y los expertos sugieren que un tratado formal antes de 2030 es posible pero incierto. La diferencia de posturas entre Europa, China y EE. UU. hace el acuerdo difícil. El discurso ante la ONU es un paso inicial de un proceso largo.

¿Cómo afecta esto a las startups de IA en América Latina?

A corto plazo, la incertidumbre es un reto. A largo plazo, un marco claro facilita la inversión y el acceso a los mercados mundiales. Las startups de LATAM deben seguir de cerca los marcos que se diseñan en la ONU y en Europa. Esos son los estándares que probablemente tendrán que cumplir para crecer más allá de la región.

¿Qué es el AI Advisory Body de la ONU?

Es el grupo asesor de alto nivel sobre IA creado por António Guterres. Su misión es guiar cómo el mundo gestiona la inteligencia artificial. En julio de 2024 publicó un informe con propuestas claras. La más importante es crear un ente mundial similar a la IAEA para supervisar los modelos más potentes.

Conclusión

El discurso de Amodei y Altman ante la ONU fue más que una noticia de tecnología. Fue un evento de mercado con señales claras.

La ventana para las reglas de IA está abierta. Los líderes de las empresas más influyentes del sector construyen el caso para marcos mundiales. Sus motivos son complejos. Pero la dirección es clara: más reglas para la IA a nivel global, no menos.

Para quienes usan mercados de predicción, este es el momento de seguir las señales correctas. Las probabilidades sobre las reglas de IA, la postura de cada gran poder en los foros del mundo, y las declaraciones de los CEOs son las señales que importan.

Los mercados de predicción miden cuándo y cómo se cerrará esta ventana. En Macro Markets cubrimos ese espacio donde la tecnología se convierte en señal de mercado.