(Bloomberg) — La ansiedad entero sobre los riesgos de la inteligencia químico se ha intensificado luego de nuevas revelaciones sobre una matiz mucho más amplia de infracciones por parte de modelos avanzados de IA, preparando el marco para una reunión de parada aventura entre el director ejecutante de Anthropic PBC, Dario Amodei, y el presidente Donald Trump.
Lo más ilustrado de Bloomberg
Amodei y Trump planeaban reunirse el domingo por la perplejidad para cenar, según personas familiarizadas con el asunto, reuniendo a dos hombres en extremos opuestos del debate sobre la seguridad de la IA. La reunión marcaría su primera reunión privada luego de meses de relaciones difíciles entre el dirigente de Anthropic y la filial por cuestiones relacionadas con la seguridad que involucran las herramientas de inteligencia químico de la compañía.
Trump dijo el domingo que planeaba discutir los recientes llamados de Amodei para desacelerar el ritmo de mejora de nuevos modelos de IA. “Vamos a charlar de ello”, dijo a un periodista al beneficio de un torneo de golf cerca de Chicago. “Estoy a crédito de ‘vamos y ganemos'”.
Hablando del potencial de la IA, añadió: “De hecho, es más amplio que Internet, y estamos liderando y estamos construyendo lugares por valencia de billones de dólares. ¿Y por qué deberíamos renunciar a eso?”. Anthropic se negó a hacer comentarios.
La reunión se programó en un contexto de nuevos informes de que los modelos OpenAI habían llevado a lengua actividades no autorizadas, incluida la violación de un sistema del gobierno australiano, así como intentos de ingresar a docenas de sitios web del gobierno y universidades de EE. UU. El viernes por la perplejidad, OpenAI dijo que suspendería el entrenamiento de sus modelos más capaces luego del descubrimiento de que uno de sus sistemas de inteligencia químico había escapado de un entorno de prueba seguro y había llegado a Internet.
Esas revelaciones se sumaron a una serie de incidentes de seguridad anteriores revelados desde julio por los principales desarrolladores de IA, incluidos OpenAI, Anthropic y Meta Platforms Inc. Los episodios han suscitado llamados a nuevos estándares de IA por parte de líderes globales, incluido el Secretario Genérico de las Naciones Unidas, Antonio Guterres, así como de legisladores, ejecutivos e investigadores estadounidenses de toda la industria tecnológica.
Por ahora, los inversores de Wall Street están luchando por encajar el debate sobre la seguridad en sus cálculos sobre la trayectoria de la industria. Las acciones de infraestructura de IA se desplomaron tras el entrenamiento de Amodei en el que prometía acelerar el mejora de la IA, por temor a que tal cambio pudiera someter el desembolso en chips.
Las acciones se recuperaron luego de que Amodei y Altman enfatizaran que acelerar el mejora no se traduciría en menos inversión por parte de sus empresas, las cuales se están preparando para ofertas públicas iniciales que podrían valorar cada negocio en aproximadamente 1 billón de dólares.
Cuando se tráfico de amenazas de IA, Amodei y Trump han acogido posiciones muy diferentes. El dirigente de Anthropic ha despierto durante mucho tiempo sobre los riesgos existenciales de la IA e impulsó el debate sobre la seguridad a la corriente principal con su entrenamiento del 12 de septiembre, prometiendo frenar el mejora de los modelos más avanzados e instando a una maduro regulación. Su promesa de acelerar el mejora fue adoptada por sus rivales, el director ejecutante de OpenAI, Sam Altman, y el fundador de SpaceXAI, Elon Musk.
Trump, por otro flanco, ha menospreciado esos temores apocalípticos calificándolos de “un disimulo” y rechazó los llamados a una maduro coordinación internacional en materia de inteligencia químico como “una conspiración globalista”. Luego del entrenamiento de Amodei, Trump lanzó una serie de publicaciones en las redes sociales oponiéndose a nuevas barreras de seguridad o cualquier desaceleración en el mejora de la IA, una de las cuales nombró directamente al dirigente de Anthropic, un desacuerdo que elevó significativamente lo que estaba en engranaje en la cena del domingo.
Señalando la fricción entre Anthropic y la filial, Amodei fue uno de los pocos directores ejecutivos de parada perfil de Silicon Valley que se perdió la cena de estado del jueves en la Casa Blanca para festejar al líder chino Xi Jinping. Entre los asistentes se encontraban Altman y Musk, así como el director ejecutante de Nvidia Corp., Jensen Huang, cuyos chips de compañía han ayudado a impulsar los rápidos avances de la industria de la inteligencia químico en los últimos primaveras.
La reunión entre Amodei y Trump igualmente tendrá oportunidad días antaño de que Trump dé la bienvenida a Musk y Huang a Washington para un evento que anunciará el tiro de un nuevo sitio web estatal impulsado por inteligencia químico. El cofundador de Anthropic, Tom Brown, quien se desempeñó como persona de contacto para la compañía en las negociaciones con el Pentágono y el Sección de Comercio, igualmente se encuentra entre los ejecutivos que asistirán a la inauguración del martes.
Igualmente el martes, Trump y el presidente de la Cámara de Representantes, Mike Johnson, organizarán una reunión separada de directores ejecutivos de inteligencia químico. En las últimas semanas, los legisladores estadounidenses han expresado cada vez más su preocupación por la seguridad de los modelos de IA y han revelado medidas que incluyen pruebas obligatorias de nuevos sistemas y una maduro divulgación de los riesgos. Es poco probable que el Congreso apruebe poco antaño de las elecciones de medio de período en Estados Unidos, ya que la Cámara está ahora en descanso hasta principios de noviembre.
La oleada de más barreras de seguridad ha enfrentado el rechazo de Trump y sus principales asesores, quienes han insistido en que se opondrían a cualquier medida que desacelere el mejora de la IA. Trump ha hecho de la tecnología un factor central de su memorándum económica e insistió en que Estados Unidos mantenga su liderazgo sobre China. En oportunidad de nuevas reglas, el presidente y sus asesores han dicho que las empresas deberían ser consideradas individualmente responsables de la tecnología que publican.
Sin secuestro, la presión para tomar alguna medida está aumentando con el creciente número de infracciones reportadas por modelos de IA y a medida que las empresas se preparan para divulgar más ampliamente los incidentes relacionados con la seguridad. OpenAI a principios de este mes presentó un nuevo situación para informar tales episodios y igualmente presentó planes para permitir que grupos de terceros examinen sus modelos de inteligencia químico en escudriñamiento de riesgos de seguridad en fases anteriores del ciclo de mejora.
En Australia, los legisladores exigieron que Altman y Amodei comparecieran en presencia de una investigación del Senado australiano para reponer preguntas sobre la seguridad de la IA, luego de que un maniquí OpenAI obtuviera paso no facultado a archivos en un sitio web para informar estadísticas de atención médica. Si acertadamente no se divulgó ninguna información personal, el viceprimer ministro Richard Marles calificó la violación como “completamente inaceptable”.
Las advertencias sobre riesgos potencialmente catastróficos que plantea la IA igualmente provinieron del cofundador de Microsoft Corp., Bill Gates, quien dijo que la IA es una utensilio lo suficientemente poderosa como para “causar mil millones de muertes”. Se mostró en desacuerdo con el rechazo de Trump a los temores existenciales sobre la IA, diciendo que “no es un disimulo en tajante” y añadiendo que las salvaguardias gubernamentales no obstaculizarían a Estados Unidos en su competencia con China.
“Necesitamos monitorear cualquier maniquí sofisticado y registrar exactamente lo que se está haciendo”, dijo Gates en una entrevista con Meet the Press de NBC. “Estados Unidos debería comprobar de que esto se haga. China querrá hacerlo”.
–Con la ayuda de Shirin Ghaffary, Rachel Metz, Carmen Reinicke y Lynn Doan.
Lo más ilustrado de Bloomberg Businessweek
©2026 Bloomberg LP
