El CEO de OpenAI afirmó que ‘de alguna manera ya estamos en la singularidad’ y alertó sobre la pérdida de control; más de 200 economistas y 16 premios Nobel instaron a actuar con urgencia.
El 25 de julio, el jefe de OpenAI, Sam Altman, afirmó que «de alguna manera ya estamos en la singularidad» y recientemente alertó que «podríamos perder el control del futuro», al tiempo que reclamó reglas de seguridad comunes y auditorías externas. Estas advertencias coinciden con las expresadas recientemente por otros dirigentes de las principales empresas estadounidenses de inteligencia artificial.
Tales afirmaciones contrastan con otras que enfatizan que la singularidad también podría ser buena para el mundo. El problema es que sistemas de inteligencia artificial cada vez más capaces podrían participar de manera creciente en su propia mejora, planteando a los humanos el desafío de controlar o revertir su desarrollo. Esto podría tener efectos impredecibles sobre la civilización humana.
Por ejemplo, supongamos que le damos a una IA el objetivo de maximizar la producción de energía. Una IA suficientemente capaz podría descubrir que la manera más eficiente de hacerlo es apropiarse de todos los recursos disponibles, impedir que los humanos la desconecten y transformar enormes cantidades de materia en infraestructura energética generando un colapso ecológico irreversible.
No hace falta imaginar un robot humanoide que decide destruir a la humanidad. Un escenario de pérdida de control podría ser mucho más abstracto pero contundente: una IA superinteligente obtiene acceso a Internet, encuentra vulnerabilidades, consigue recursos computacionales, copia o distribuye sus procesos, desarrolla estrategias que sus creadores no comprenden, intenta evitar ser apagada y persigue sus objetivos a una escala que los humanos no pueden contrarrestar.
Cuanto más inteligente sea el sistema, más difícil podría ser detectar el problema antes de que sea demasiado tarde. Incluso podría aprender a ocultar sus intenciones. Este es precisamente uno de los problemas de la investigación sobre alineamiento (alignment), que, simplificando, implica conseguir que una inteligencia mucho más poderosa que nosotros siga siendo compatible con nuestros intereses y pueda ser controlada.
Una IA suficientemente avanzada podría tener capacidades extraordinarias en ciberseguridad, manipulación de información, investigación científica, desarrollo de agentes autónomos o incluso en el diseño de agentes biológicos potencialmente peligrosos.
En paralelo, más de 200 economistas, investigadores y referentes de la industria tecnológica, entre los cuales hay 16 premios Nobel, difundieron una carta abierta titulada «Hay que actuar ya», en la que advierten que la inteligencia artificial podría provocar una transformación económica comparable a la Revolución Industrial, aunque concentrada en un período considerablemente más corto. Si sumamos la inocultable crisis ecológica actual, todo ello conlleva un desafío civilizatorio mayúsculo.
El problema es, por supuesto, que no existe actualmente un organismo o agencia mundial con capacidad efectiva para imponer semejante pausa: hay muchas empresas y Estados desarrollando IA, y cada uno de ellos sospecha que los demás, incluso si están públicamente de acuerdo con dicha pausa, seguirán en secreto a toda velocidad, con lo que podrían conseguir una enorme ventaja económica, militar y tecnológica.
Parte de la amenaza de la IA reside, entonces, no en la tecnología en sí sino en las relaciones sociales dentro de las cuales se producen estas máquinas: vivimos en un universo de competencia y sospecha global que nos impide salir de la lógica destructiva del dilema del prisionero. Aunque sabemos racionalmente que la solidaridad y la colaboración son mejores para todos los participantes, el enfoque capitalista basado en el lucro privilegia la desconfianza hacia los demás: percibe a los otros como amenazas potenciales que podrían utilizar nuestra buena fe como excusa para atacarnos de manera todavía más brutal.
El problema es estructural. Necesitamos mecanismos que modifiquen los incentivos: acuerdos internacionales; estándares comunes de seguridad; auditorías independientes; obligación de evaluar los modelos antes de liberarlos; mecanismos eficaces para verificar que los demás cumplen con los límites a determinadas capacidades; intercambio de información sobre incidentes y, eventualmente, acuerdos multinacionales. EE.UU. y China, por ejemplo, anunciaron que se reunirán el 24 de este mes en Washington en lo que sería el primer diálogo bilateral específico sobre seguridad de la IA. La reunión buscará abrir canales de diálogo sobre la gobernanza y seguridad de los sistemas de IA más avanzados para evitar que la competencia tecnológica derive en una carrera armamentista sin reglas.
El riesgo se presenta tanto a nivel general -si la IA se vuelve incontenible, sale de entornos de prueba y accede a sistemas reales mediante vulnerabilidades- como a nivel individual: la eventual creación de interfaces capaces de conectar directamente nuestra actividad cerebral con agentes digitales podría abrir la posibilidad de que información proveniente de nuestros pensamientos sea interpretada por sistemas de IA y, eventualmente, por quienes los controlen.
No es menos cierto que hablar de extinción puede distraernos de problemas mucho más inmediatos y actuales: su utilización para la desinformación, el desplazamiento y transformación de empleos, la concentración de poder, los ciberataques, etc. Incluso no sería descartable que las alertas emitidas por parte de los directivos de estas empresas no tengan el propósito oculto de dejar fuera de mercado a otros competidores occidentales o chinos que no puedan sortear las regulaciones que reclaman.
El problema no necesariamente es que OpenAI, Anthropic, Google o la empresa china DeepSeek quieran crear una IA peligrosa. El problema puede ser que todos estén atrapados en una estructura competitiva que los empuja a avanzar más rápido de lo que individualmente considerarían prudente.
Una razón más para que las discusiones ideológicas renazcan y planteen un profundo debate en pos de generar, con urgencia, una regulación del sistema o bien una alternativa ante los estertores de este capitalismo cada vez más salvaje.
* Sociólogo. Psicólogo social.