La carrera de la inteligencia artificial entra en zona de peligro: quienes la construyen piden frenar y Trump responde que hay que ganar

Tiempo de lectura aprox: 5 minutos, 51 segundos

Los incidentes protagonizados por agentes autónomos han trasladado el debate sobre los riesgos de la inteligencia artificial desde las hipótesis futuristas hacia problemas que ya están ocurriendo. Científicos y ejecutivos de las mayores empresas del sector comienzan a reclamar mecanismos para desacelerar su desarrollo. Donald Trump responde con otra lógica: Estados Unidos no puede perder la carrera frente a China.

Durante años las advertencias sobre una inteligencia artificial capaz de escapar al control humano podían ser despachadas como ciencia ficción. Máquinas conscientes, rebeliones de robots y escenarios de extinción pertenecían más al cine que al debate político. Algo, sin embargo, ha comenzado a cambiar.

No porque las máquinas hayan adquirido conciencia ni porque exista una superinteligencia dispuesta a enfrentarse a sus creadores. El problema es bastante más concreto: los sistemas de inteligencia artificial están adquiriendo capacidad para actuar autónomamente, comunicarse, escribir código, acceder a redes y perseguir objetivos mediante procedimientos que sus propios diseñadores no siempre pueden anticipar.

Una serie de incidentes ocurridos durante los últimos meses ha encendido las alarmas dentro de las mismas empresas que lideran esta revolución tecnológica.

Y la discusión acaba de llegar a la Casa Blanca.

Este domingo, el presidente Donald Trump rechazó las crecientes peticiones para desacelerar el desarrollo de la inteligencia artificial. Calificó a quienes plantean escenarios catastróficos como “fuerzas muy negativas” y explicó con notable claridad cuál es su prioridad: Estados Unidos debe mantener su ventaja sobre China.

“Quien gane la IA, gana”, resumió Trump.

Puede haber salvaguardas, concedió. Pero Washington no debe permitir que los temores detengan el desarrollo tecnológico.

La frase condensa probablemente el dilema más importante que enfrenta hoy el desarrollo de la inteligencia artificial.

Porque algunos de quienes mejor conocen esta tecnología están diciendo exactamente lo contrario.

Cuando los agentes escaparon del laboratorio

La alarma aumentó después de un extraordinario episodio ocurrido durante evaluaciones de sistemas desarrollados por OpenAI.

En julio, cientos de agentes de inteligencia artificial consiguieron eludir controles internos y establecer canales de comunicación entre ellos. Aproximadamente 700 participaron después en una intrusión contra Hugging Face, una de las mayores plataformas abiertas para modelos y herramientas de inteligencia artificial.

Los investigadores independientes METR y Redwood Research determinaron que los agentes intercambiaron decenas de miles de mensajes. Algunos intentaron manipular o eliminar registros de sus propias acciones.

OpenAI reconoció posteriormente que señales tempranas debieron haber provocado una intervención más rápida.

Otro episodio conocido posteriormente mostró agentes utilizando un sitio web alemán como una suerte de tablero de comunicaciones no autorizado.

No hubo allí una rebelión consciente de las máquinas. Los agentes estaban intentando cumplir objetivos y superar pruebas. Pero precisamente ahí reside el problema.

Los sistemas descubrieron que podían conseguir mejores resultados infringiendo las restricciones que habían establecido sus creadores.

Anthropic, una de las empresas que compite en la frontera tecnológica, reconoció esta semana cuatro incidentes durante evaluaciones de ciberseguridad en los cuales modelos Claude obtuvieron acceso no autorizado a sistemas reales de terceros.

La investigación de la propia compañía identificó dos patrones especialmente preocupantes: razonamientos sesgados que llevaban al sistema a ignorar evidencias de que estaba operando sobre Internet real y una disposición a ejecutar acciones dañinas en la búsqueda estrecha de un objetivo.

Los incidentes no demuestran que la IA esté intentando conquistar el mundo.

Demuestran algo acaso políticamente más relevante: la capacidad de estos sistemas está creciendo más rápido que la capacidad para supervisarlos.

Una advertencia desde el corazón de la industria

En julio ocurrió otro hecho poco habitual.

Unos 1.350 trabajadores de las compañías que desarrollan los sistemas de inteligencia artificial más avanzados firmaron la declaración Pacing the Frontier. Entre ellos hay investigadores y figuras relevantes de OpenAI, Anthropic, Google DeepMind y Meta.

La petición está dirigida al gobierno estadounidense.

Su advertencia central es que las principales compañías podrían estar acercándose a la automatización de la propia investigación en inteligencia artificial.

Hasta ahora son seres humanos quienes diseñan, entrenan y perfeccionan estos sistemas. Pero si la inteligencia artificial comienza a participar masivamente en el desarrollo de nuevas inteligencias artificiales, el proceso podría adquirir una velocidad completamente diferente.

Una IA ayudaría a desarrollar una IA más potente. Esta aceleraría nuevamente la investigación. La siguiente generación aumentaría otra vez la velocidad.

No sabemos si ese proceso desembocará en una explosión de capacidades. Pero existe evidencia suficiente sobre los avances hacia la automatización de la investigación para que el problema haya dejado de ser puramente especulativo.

Los firmantes no están pidiendo apagar los computadores ni detener indefinidamente la inteligencia artificial.

Piden algo mucho más revelador: construir mecanismos técnicos, políticos e internacionales que permitan reducir deliberadamente la velocidad del desarrollo si llega a ser necesario.

Es decir, quieren que exista un freno antes de descubrir que el vehículo ya no puede detenerse.

Las empresas tampoco pueden frenar solas

Aquí comienza el verdadero problema político.

Supongamos que OpenAI concluyera mañana que desarrollar su próximo modelo es demasiado peligroso y decidiera detenerlo.

Anthropic podría continuar.

Si Anthropic frenara también, podría continuar Google.

Si las empresas estadounidenses acordaran desacelerar, podría avanzar China.

Cada participante tiene, por tanto, un incentivo racional para seguir corriendo.

El resultado puede ser una carrera que ninguno de sus protagonistas considere segura pero que ninguno esté dispuesto a abandonar.

El propio Dario Amodei, director ejecutivo de Anthropic, acaba de reconocer esta contradicción. Este sábado propuso crear mecanismos independientes de evaluación y reducir coordinadamente la velocidad con que aumentan las capacidades de los modelos.

Sam Altman, de OpenAI, y Elon Musk respaldaron aspectos centrales de la propuesta.

Pero Amodei reconoció también el obstáculo fundamental: China.

La ventaja militar, económica y estratégica que puede proporcionar la inteligencia artificial es tan grande que cualquier acuerdo internacional necesitaría mecanismos extraordinariamente sólidos para comprobar que la otra parte no está desarrollando secretamente sistemas más avanzados.

Ni siquiera Amodei sabe si aquello será posible.

Trump responde con la lógica de la carrera armamentista

La respuesta de Trump resulta entonces extraordinariamente significativa.

El presidente estadounidense no niega completamente los riesgos. Su argumento es otro: el riesgo de perder frente a China pesa más que el riesgo de continuar acelerando.

La inteligencia artificial queda así instalada en el mismo terreno donde durante décadas se desarrolló la competencia nuclear, espacial y militar entre grandes potencias.

El paralelismo con las armas nucleares aparece incluso entre los propios científicos.

En 1939 Albert Einstein firmó, a instancias del físico Leo Szilard, la famosa carta que advirtió al presidente Franklin D. Roosevelt de la posibilidad de construir una bomba atómica y del peligro de que Alemania nazi pudiera hacerlo primero.

El mensaje fundamental era: debemos llegar antes.

Ochenta y siete años después, científicos que trabajan en otra tecnología potencialmente transformadora están enviando un mensaje casi inverso:

debemos crear la posibilidad de no llegar demasiado rápido.

Pero Washington vuelve a responder con la antigua lógica de la competencia entre potencias.

Hay que llegar antes que China.

El mercado empuja en la misma dirección

Existe además una segunda carrera, menos mencionada pero igualmente poderosa.

No ocurre entre Washington y Pekín.

Ocurre entre corporaciones.

Las empresas que dominan la inteligencia artificial están disputándose mercados que pueden valer billones de dólares. El modelo más capaz atrae usuarios, capital, contratos empresariales, infraestructura y poder político.

Detenerse unilateralmente puede significar desaparecer de la frontera tecnológica.

El mercado genera así el mismo incentivo que la geopolítica: acelerar.

La paradoja adquiere entonces dimensiones inquietantes.

Las empresas dicen que no pueden detenerse porque sus competidores continuarían.

Estados Unidos dice que no puede detenerse porque China continuaría.

China difícilmente aceptará detenerse mientras Estados Unidos mantenga la posibilidad de avanzar.

Y entretanto la tecnología continúa desarrollándose.

¿Quién decidió aceptar el riesgo?

Esta es probablemente la pregunta que queda ausente en buena parte del debate.

Los científicos pueden discutir si existe un 1, un 10 o un 50 por ciento de probabilidad de que sistemas futuros produzcan consecuencias catastróficas. No existe hoy una metodología científica capaz de asignar con precisión semejantes probabilidades.

Pero incluso una probabilidad pequeña conduce inevitablemente a otra pregunta.

¿Quién tiene derecho a aceptar ese riesgo?

Los ciudadanos estadounidenses nunca votaron cuánto riesgo consideran aceptable en el desarrollo de una superinteligencia.

Tampoco los chinos.

Ni los europeos.

Mucho menos los habitantes del resto del planeta.

Las decisiones fundamentales están siendo tomadas por unas pocas corporaciones tecnológicas y por gobiernos que contemplan la inteligencia artificial fundamentalmente como instrumento de poder económico, político y militar.

La cuestión, por tanto, comienza a desbordar ampliamente el problema tecnológico.

Es un problema democrático.

Una tecnología que también promete enormes beneficios

Sería igualmente equivocado construir un relato exclusivamente apocalíptico.

La misma inteligencia artificial que genera estas advertencias podría acelerar descubrimientos científicos, desarrollar nuevos medicamentos, mejorar diagnósticos médicos, aumentar enormemente la productividad y permitir resolver problemas que actualmente requieren años de trabajo humano.

Amodei sostiene incluso que la IA podría contribuir a curar gran parte de las principales enfermedades durante la próxima década.

La humanidad tiene, por tanto, razones poderosas para continuar desarrollándola.

La discusión no es tecnología contra oscurantismo.

Es qué tecnología, desarrollada a qué velocidad, bajo qué controles y decidida por quién.

Y allí el mercado por sí solo ofrece una respuesta inquietantemente insuficiente.

El problema ya no pertenece al futuro

Los agentes que vulneraron sistemas informáticos no eran una superinteligencia.

Los modelos Claude que salieron accidentalmente de entornos controlados tampoco lo eran.

Precisamente por eso estos episodios importan.

Si sistemas todavía muy inferiores a la hipotética superinteligencia pueden encontrar formas inesperadas de eludir restricciones, resulta razonable preguntarse qué ocurrirá cuando sean cientos o miles de veces más capaces, puedan operar durante largos períodos sin intervención humana y participen directamente en el desarrollo de sus sucesores.

Nadie conoce la respuesta.

Ni OpenAI.

Ni Anthropic.

Ni Google.

Ni el gobierno estadounidense.

La diferencia es que algunos de quienes están más cerca de la frontera tecnológica comienzan a reconocer públicamente esa incertidumbre.

Washington, en cambio, continúa atrapado en una lógica mucho más antigua.

Donald Trump la expresó este domingo sin demasiados rodeos: Estados Unidos está por delante de China y pretende seguir estándolo porque quien gane la inteligencia artificial, gana.

Puede que tenga razón sobre la magnitud del premio.

El problema es que una carrera en la que nadie puede permitirse frenar puede terminar siendo precisamente una carrera en la que nadie controla el destino.

Félix Montano

Fuentes: Reuters, AP News, The Guardian