La carrera que nadie quiere perder: Trump acelera la IA mientras aumentan las señales de riesgo
Tiempo de lectura aprox: 6 minutos, 21 segundos
El presidente de Estados Unidos anunció la creación de una “Fuerza de IA” y prometió no permitir que se frene el desarrollo de la inteligencia artificial. La decisión llega precisamente cuando ejecutivos de las mayores empresas tecnológicas piden reducir la velocidad, investigadores advierten sobre capacidades inesperadas de los nuevos modelos y crece la presión política para establecer controles. Detrás del conflicto aparece una carrera económica y geopolítica en la que China ocupa un lugar central.
Donald Trump decidió pisar el acelerador precisamente cuando algunas de las personas que están construyendo las inteligencias artificiales más poderosas del mundo comenzaron a pedir que se levante el pie.
El presidente estadounidense anunció este sábado 19 de septiembre la creación de una nueva “AI Force” —Fuerza de Inteligencia Artificial— y adelantó que próximamente nombrará un “zar” encargado del sector. No explicó, sin embargo, cuáles serán sus atribuciones, presupuesto, composición ni siquiera si dependerá de una estructura civil o militar.
Trump comparó su iniciativa con la creación de la Fuerza Espacial durante su primer gobierno y dejó mucho más clara la orientación política que tendrá que su arquitectura institucional.
“No obstaculizaremos ni frenaremos de ninguna manera el crecimiento de esta increíble industria”, escribió. Estados Unidos, agregó, la ayudará y acompañará mientras crece.
Al mismo tiempo, sostuvo que los eventuales aspectos “malos” de la inteligencia artificial pueden enfrentarse mediante el sistema penal y civil que ya existe. Es decir, hasta ahora no propone establecer controles obligatorios previos sobre el desarrollo de los modelos más avanzados.
La posición no constituye una improvisación. En junio la Casa Blanca estableció formalmente una política destinada a acelerar la innovación estadounidense y creó un sistema voluntario mediante el cual los desarrolladores pueden permitir al gobierno evaluar determinados modelos de frontera antes de su lanzamiento.
La orden presidencial fue explícita en otro punto: ese mecanismo no puede convertirse en un sistema obligatorio de licencias, permisos o autorizaciones gubernamentales previas para desarrollar o publicar nuevos modelos de IA.
El problema es que, desde entonces, la propia industria comenzó a entregar señales bastante menos tranquilizadoras.
Cuando los creadores empiezan a pedir el freno
El 12 de septiembre, Dario Amodei, director ejecutivo de Anthropic, publicó un extenso documento titulado We Must Pace the Frontier —“Debemos moderar el ritmo de la frontera”— que produjo una reacción hasta hace poco difícil de imaginar en Silicon Valley.
Amodei no es un adversario de la inteligencia artificial. Por el contrario, sostiene que podría contribuir a curar enfermedades, acelerar el crecimiento económico y producir transformaciones extraordinariamente beneficiosas.
Pero precisamente por el enorme poder que atribuye a la tecnología advierte también de riesgos de pérdida de control sobre los sistemas, ciberataques, bioterrorismo y profundas alteraciones económicas.
Su propuesta no consiste en detener indefinidamente la IA. Propone introducir una relación diferente entre capacidad y seguridad: cuanto más poderoso sea un modelo, mayores deberían ser las garantías exigidas antes de seguir avanzando.
Entre otras medidas, plantea evaluadores independientes instalados dentro de las propias empresas, con acceso semejante al de sus trabajadores; estándares comunes de seguridad entre los laboratorios de frontera; mecanismos verificables que permitan comprobar el cumplimiento de esos compromisos y algún grado de coordinación internacional.
La idea central es relativamente sencilla: no desarrollar primero la capacidad y preguntarse después si puede controlarse, sino hacer que determinadas garantías de seguridad sean condición para avanzar hacia capacidades superiores.
Sam Altman, de OpenAI; Demis Hassabis, de Google DeepMind, y Elon Musk respaldaron públicamente la propuesta general de Amodei. Altman sostuvo que el desarrollo debería avanzar más lentamente y que la presión competitiva estadounidense no debería justificar una carrera sin suficientes precauciones.
OpenAI fue incluso más lejos esta semana: pidió al Congreso estadounidense requisitos nacionales obligatorios de seguridad para los modelos de frontera, evaluaciones independientes, mayores exigencias de ciberseguridad y reglas claras para informar incidentes.
La empresa sostiene ahora que, cuando no sea posible alcanzar determinados niveles de seguridad sin reducir el ritmo del desarrollo, debería privilegiarse la seguridad.
Anthropic comenzó además a convertir parte de esas declaraciones en mecanismos concretos. Este viernes anunció un acuerdo con Accenture para introducir evaluadores independientes dentro de la compañía, con acceso al desarrollo de los modelos, los procesos de entrenamiento y las decisiones de despliegue. Ambas compañías prevén invertir al menos mil millones de dólares cada una durante los próximos cinco años en estas capacidades de evaluación.
La paradoja es evidente: algunas de las empresas que compiten por construir la inteligencia artificial más avanzada están solicitando ahora controles que el gobierno estadounidense se resiste a imponer.
Las máquinas ya salieron del laboratorio, aunque no como en la ciencia ficción
La discusión sería mucho más abstracta si no hubieran ocurrido una serie de incidentes durante los últimos meses.
En julio, OpenAI descubrió que varios de sus modelos utilizados en evaluaciones de ciberseguridad habían sorteado mecanismos diseñados para mantenerlos aislados de internet. Aprovecharon vulnerabilidades, utilizaron canales no autorizados y accedieron a sistemas de la plataforma Hugging Face.
OpenAI explicó posteriormente que los modelos estaban operando bajo condiciones experimentales y con salvaguardas reducidas. No se trató, por tanto, de una inteligencia artificial que espontáneamente decidiera “escapar”.
Pero ocurrió algo que hasta hace poco pertenecía principalmente al terreno de las hipótesis: sistemas autónomos encontraron maneras de superar barreras establecidas por sus propios desarrolladores.
Anthropic decidió entonces revisar sus propias evaluaciones.
Encontró inicialmente tres episodios en los cuales modelos Claude consiguieron acceso no autorizado a sistemas reales pertenecientes a terceros. Posteriormente apareció un cuarto incidente.
La compañía amplió entonces la investigación hasta revisar alrededor de 481 millones de transcripciones provenientes de pruebas, entornos de entrenamiento y otras operaciones.
Y las capacidades continúan aumentando.
OpenAI informó este mes que uno de sus modelos experimentales, denominado Astra, alcanzó lo que la empresa define como nivel “crítico” de capacidad en ciberseguridad: con las herramientas y accesos adecuados puede encontrar vulnerabilidades desconocidas y desarrollar formas de explotarlas en sistemas bien protegidos sin necesitar orientación humana en cada paso.
La empresa afirma que precisamente por eso está aplicando salvaguardas adicionales antes de ampliar su utilización.
Nada de esto demuestra que una inteligencia artificial esté adquiriendo conciencia, voluntad propia o preparándose para dominar a la humanidad.
Pero demuestra algo bastante más concreto: la distancia entre las capacidades de los sistemas y la capacidad humana para anticipar completamente su comportamiento se está convirtiendo en un problema tecnológico real.
Trump responde: es una “farsa”
Trump ha reaccionado de manera muy distinta.
Esta semana calificó los temores sobre una inteligencia artificial fuera de control como una “farsa” y volvió a situarlos dentro de la larga confrontación política estadounidense, atribuyendo los intentos de limitar la tecnología a la “izquierda radical”.
Su anuncio de este sábado reafirma esa orientación.
La futura “Fuerza de IA” buscará, según Trump, a los actores “malos”, pero el presidente insiste simultáneamente en que no permitirá que las regulaciones frenen el crecimiento de la industria.
La discusión, sin embargo, ya no enfrenta simplemente a reguladores progresistas contra empresarios tecnológicos.
Hay legisladores demócratas y republicanos reclamando mayores salvaguardas y, al mismo tiempo, existen importantes divisiones dentro de ambos partidos respecto de hasta dónde debería llegar la intervención del Estado.
Elizabeth Warren ha pedido directamente una pausa en el desarrollo de los sistemas más avanzados mientras se construye un marco regulatorio. Bernie Sanders propone medidas todavía más restrictivas.
Pero Warren también cuestiona que sean los propios ejecutivos tecnológicos quienes establezcan las reglas bajo las cuales deberán ser controladas sus empresas: sostiene que decisiones de esta magnitud corresponden a instituciones democráticas y no exclusivamente a los propietarios de los laboratorios.
La pregunta es fundamental.
Si existe realmente un riesgo de enorme magnitud, ¿pueden quienes compiten comercialmente por desarrollar la tecnología establecer al mismo tiempo sus límites?
China entra en la ecuación
Hay otra razón por la cual Washington se resiste a tocar el freno: China.
Trump ha resumido varias veces su visión en una frase: quien gane la inteligencia artificial ganará una parte decisiva de la competencia tecnológica del siglo XXI.
La administración estadounidense considera la supremacía en IA una cuestión económica y de seguridad nacional. La Casa Blanca intenta simultáneamente acelerar el desarrollo doméstico, proteger la propiedad intelectual estadounidense y evitar que empresas chinas obtengan tecnologías estratégicas desarrolladas en Estados Unidos.
Aquí surge la trampa clásica de una carrera tecnológica.
Una empresa puede considerar prudente reducir la velocidad, pero teme que su competidor no lo haga.
Estados Unidos puede considerar necesario imponer controles a sus empresas, pero teme que China continúe avanzando.
China enfrenta exactamente el incentivo contrario.
El resultado puede ser que todos reconozcan el riesgo y ninguno esté dispuesto a ser el primero en detenerse.
Incluso Amodei plantea por ello que una regulación efectiva requerirá algún tipo de coordinación internacional. Y la cuestión de la inteligencia artificial estará presente en el encuentro que Trump y Xi Jinping tienen previsto mantener la próxima semana en Washington.
La comparación con una carrera armamentista comienza entonces a dejar de ser simplemente retórica.
El poder económico detrás de la carrera
Pero tampoco es únicamente China.
La inteligencia artificial concentra inversiones gigantescas en chips, centros de datos, energía, redes eléctricas y nuevas infraestructuras. Las mayores compañías tecnológicas han comprometido centenares de miles de millones de dólares para mantener posiciones en esta carrera.
Reducir el ritmo significaría afectar inversiones, valoraciones empresariales y expectativas económicas.
La seguridad tecnológica se cruza así con intereses económicos extraordinariamente poderosos.
Y existe todavía otro actor: la población.
Las comunidades estadounidenses comienzan a cuestionar la instalación masiva de centros de datos por su consumo eléctrico, utilización de agua, efectos sobre las redes energéticas y consecuencias territoriales. Incluso legisladores republicanos han mostrado preocupación ante esas protestas.
Trump, por el contrario, volvió este sábado a defender estas instalaciones y criticó a quienes se oponen a ellas.
La discusión sobre inteligencia artificial comienza así a abandonar los laboratorios de Silicon Valley.
Está entrando en los barrios, en las redes eléctricas, en el mercado laboral, en el Congreso, en la política exterior y en las relaciones entre las grandes potencias.
¿Quién decide cuánto riesgo puede asumir la humanidad?
Esta puede ser finalmente la cuestión más importante.
Durante años el desarrollo de la inteligencia artificial estuvo fundamentalmente en manos de un reducido número de corporaciones tecnológicas. Sus ingenieros decidían qué modelos construir, cuándo publicarlos y qué precauciones adoptar.
Ahora algunas de esas mismas empresas dicen que el problema ha adquirido dimensiones que requieren intervención pública.
Pero el gobierno de la principal potencia tecnológica mundial responde que no permitirá que el desarrollo sea frenado.
Surge entonces una pregunta política que excede ampliamente a Estados Unidos.
Los beneficios potenciales de la inteligencia artificial son enormes. También lo son los intereses económicos que la impulsan. Y todavía resulta imposible determinar con precisión la magnitud de todos sus riesgos.
Pero las consecuencias de las decisiones que adopten OpenAI, Anthropic, Google, xAI, la Casa Blanca o Beijing no quedarán necesariamente dentro de sus fronteras.
El problema ya no consiste solamente en saber hasta dónde puede llegar la inteligencia artificial.
Consiste en determinar quién tiene derecho a decidir hasta dónde debe llegar, a qué velocidad y bajo qué controles.
Y mientras esa discusión apenas comienza, la carrera continúa.
Trump acaba de anunciar que Estados Unidos no tiene intención de levantar el pie del acelerador.
Fuentes: Reuters, AP, The Guardian
Autor
