BERKELEY, California – Posteriormente de que los defensores de la seguridad de la inteligencia industrial captaran la atención de Washington con terribles advertencias sobre el poder de la tecnología, la dependencia Trump y sus aliados aceptaron algunas de sus sugerencias, al tiempo que actuaron para dejar de flanco a los propios defensores.
En los últimos días se han trazado líneas de batalla sobre parte de un acuerdo firmado por el presidente Donald Trump y los directores ejecutivos de IA la semana pasada: ¿Quién debería auditar los sistemas de las empresas de IA para avalar que su tecnología se comporte según lo previsto?
Suscríbase al boletín The Post Most para conocer las historias más importantes e interesantes de The Washington Post.
Las principales empresas de IA, incluidas OpenAI y Anthropic, han trabajado durante abriles con un especie de organizaciones sin fines de beneficio concentradas en la comunidad de seguridad de IA del Campo de acción de la Bahía, que surgió del efectivo movimiento altruista. Pero los aliados de Trump en el mundo tecnológico dicen que el trabajo de auditar la IA debería ser asumido por las firmas consultoras más grandes de Estados Unidos.
“En mi opinión, deberían ser auditores profesionales, no estas ONG”, dijo la semana pasada el inversionista y ex asesor principal de inteligencia industrial de la Casa Blanca, David Sacks, en su podcast All-In. Dijo en una publicación en X el mes pasado que METR, una estructura sin fines de beneficio de seguridad de IA, que ha trabajado con Anthropic, era demasiado cercana a la compañía para ser emplazamiento independiente. Poco a posteriori, Anthropic dijo que se asociaría con el hércules asesor Accenture para formar un equipo de evaluadores externos.
En una conferencia aquí durante el fin de semana, miembros de organizaciones de seguridad de IA lidiaron con el impacto de lo que algunos ven como una campaña coordinada para deslegitimar su trabajo y pintar a su comunidad como una secta y poco seria. El evento tuvo división en un antiguo hotel popular entre los acólitos de seguridad de la IA que recientemente todavía acogió una conferencia sobre la conciencia de la IA y un taller sexual llamado “Slutcon”.
Los funcionarios y aliados de Trump han atacado al movimiento durante meses, pero los ataques se intensificaron a posteriori de que la ansiedad pública por los riesgos de la IA obligó a la Casa Blanca a replicar. El mes pasado, Sacks compartió en X una portada del New York Post que llamaba a los empleados de METR, que ayudaron a OpenAI a investigar a sus agentes de IA rebeldes, “LOS MAGOS DE LA IA QUE DESPERTARON”. (El Washington Post tiene una asociación de contenido con OpenAI).
Trump nombró el domingo a varias figuras que han rechazado los llamados de los defensores de una desaceleración en toda la industria de la IA en su panel asesor de la Súper Fuerza de Inteligencia. Entre ellos se incluyen Sacks y Emil Michael, director de tecnología del Pentágono, quien dijo el mes pasado que los llamados a la batalla para evitar escenarios extremos en los que la IA cause daño promovían “filosofías similares a la agonía y el culto a la crimen”.
“Ha habido absolutamente un impulso retórico adentro de ciertos rincones de la Casa Blanca y de la dependencia Trump en normal para difundir el mensaje sobre el altruismo efectivo y sus peligros potenciales”, dijo un funcionario de la dependencia Trump, hablando bajo condición de anonimato para describir discusiones privadas.
Un funcionario de la Casa Blanca dijo que apoya a las organizaciones que evalúan la seguridad de cómo se diseñan los modelos de IA. El funcionario señaló la orden ejecutiva de Trump de 2025 dirigida a lo que el presidente denominó “IA despierta”.
Anthropic se negó a hacer comentarios.
Nathan Leamer, director de la estructura sin fines de beneficio Build American AI, dijo que ha estado informando al personal del Congreso y a otras figuras conservadoras influyentes en Washington sobre el altruismo efectivo, describiéndolo como la antítesis de sus propios títulos cristianos.
“Hace un año nadie en las oficinas de Hill sabía qué era el altruismo efectivo”, dijo Leamer. Build American AI está vinculado a Leading the Future, un especie de campaña política financiado por la firma de renta de peligro Andreessen Horowitz y el presidente de OpenAI, Greg Brockman, un importante donante republicano de porción de período.
Brad Carson, cofundador de Americans for Responsible Innovation, que dice que se centra en la política de IA en interés manifiesto, dijo que los aliados de Trump están tratando de desacreditar a cualquiera que impulse una regulación significativa de la IA, una idea que ahora tiene un impulso significativo.
“En DC, al menos, y tal vez en la civilización más amplia, ganamos esa pelea. La vibra está con nosotros”, dijo Carson, quien todavía dirige una estructura de defensa política financiada en parte por Anthropic. “La clan está muy preocupada. El Congreso quiere regular”.
Pero los líderes de empresas emergentes de evaluación de IA que no surgieron del movimiento de seguridad de la IA dijeron que algunos republicanos de Washington desconfían de la calificativo.
“Casi parecía una nueva lectura del macartismo”, dijo Rayan Krishnan, director ejecutante de Vals AI, una nueva empresa respaldada por Andreessen Horowitz, a posteriori de un delirio a Washington el mes pasado para presentar su nueva empresa al sector manifiesto.
Judd Rosenblatt, director ejecutante de AE Studio, quien se describió a sí mismo como un propietario de una pequeña empresa conservadora, dijo que varias personas en la dependencia Trump le han dicho a su equipo que ven la pobreza de que terceros evalúen las herramientas de inteligencia industrial, pero desconfían del altruismo efectivo, dijo.
Los grupos de la sociedad civil que han estado auditando los sistemas de IA desde antiguamente del inicio de ChatGPT advierten que existe el peligro de que se desperdicie una oportunidad de supervisión de los gigantes opacos de la IA.
“Lo que nos encontramos ahora es tratar de determinar quién estará efectivamente en la sala para tomar decisiones”, dijo Miranda Bogen, tecnóloga patriarca del Centro para la Democracia y Tecnología y directora del Laboratorio de Gobernanza de IA del especie de defensa, uno de varios grupos deseosos de contribuir con su experiencia en el establecimiento de estándares.
El acuerdo firmado por los directores ejecutivos de AI la semana pasada, que Trump llamó “moralmente vinculante”, fue mencionado con frecuencia en el círculo y en reuniones entre sesiones en la conferencia de Berkeley el fin de semana pasado, donde los asistentes soportaron una ola de calor con fanáticos y paletas heladas.
En un panel de discusión dominical sobre cómo podría ser el ecosistema de auditores de IA, un orador dijo que están trabajando para construir una amplia coalición de expertos, incluidas personas que trabajan en prejuicios y discriminación, así como empresas de primera recorrido como Accenture y Deloitte. Los panelistas todavía discutieron otras formas en que la comunidad podría demostrar su legalidad. Otro sugirió campamentos de entrenamiento de dos meses para capacitar a un especie de auditores calificados.
Adam Gleave, director ejecutante de FAR.AI, un instituto de investigación sin fines de beneficio, dijo en una entrevista que excluir a la comunidad de seguridad de la IA excluiría a personas con experiencia que son importantes en el momento flagrante.
“Cuando se negociación de observar millones de transcripciones de agentes y tratar de restablecer lo que hicieron y cómo interactuaban, no creo que haya muchas organizaciones en el mundo que tengan esa experiencia”, dijo Gleave. “La sinceridad es que cualquier persona que contrates con esa experiencia tendrá alguna conexión con la industria”.
En su podcast, Sacks y sus copresentadores, que siguen siendo cercanos a la Casa Blanca, dejaron en claro que preferían que gigantes corporativos establecidos hicieran el trabajo.
“Verán a EY anunciar poco aquí en poco tiempo”, dijo el inversionista Chamath Palihapitiya, quien anteriormente en el episodio dijo que su nueva empresa 8090 estaba construyendo para la firma de contabilidad universal anteriormente conocida como Ernst & Young “una infraestructura de auditoría completa para súper inteligencia”, y que 8090 ahora planea “implementarla para todos”.
EY dijo en un comunicado que estaba trabajando con 8090 para “desarrollar nuevas capacidades que brinden viejo visibilidad, trazabilidad y responsabilidad humana a las decisiones y flujos de trabajo consecuentes habilitados por IA”.
Contenido relacionado
