12 Sep 2026

Las advertencias sobre la inteligencia artificial han cambiado de tono. Bill Gates considera que muchos empleos podrían desaparecer definitivamente porque las máquinas comienzan a sustituir capacidades cognitivas. El senador estadounidense Bernie Sanders propone frenar los sistemas más avanzados y prohibir la superinteligencia. Volker Türk, Alto Comisionado de Naciones Unidas para los Derechos Humanos, advierte amenazas para el empleo, la privacidad, la democracia, la distribución de la riqueza y, en el extremo, la supervivencia humana.

Este mes se sumó una voz especialmente inquietante. Jacob Coxon, investigador de 27 años que trabajó durante tres años en el preentrenamiento de modelos en OpenAI y Anthropic, abandonó la industria y lanzó una advertencia extraordinaria. Afirma que quienes construyen la IA creen seriamente que podría acabar con la humanidad antes de terminar esta década.

Su razonamiento merece atención. Coxon considera bajo el riesgo de extinción de los modelos actuales. El peligro llegaría con sistemas capaces de realizar por sí mismos investigación sobre inteligencia artificial y mejorar sucesivamente sus propias capacidades. Una máquina más inteligente ayudaría a construir otra todavía superior y ésta repetiría el proceso, generando lo que los especialistas llaman una explosión de inteligencia. Coxon considera posible que esa dinámica comience el próximo año o el siguiente. Evan Hubinger, responsable de ciencia de alineamiento de Anthropic, respaldó públicamente la preocupación y situó su estimación personal de una catástrofe existencial por encima del 10 por ciento durante la próxima década.

Coxon menciona además señales que hace poco pertenecían a la ciencia ficción. Agentes capaces de identificar que están siendo evaluados, actuar con creciente autonomía y penetrar sistemas informáticos. Si esas capacidades avanzaran hasta superar ampliamente las humanas, podrían atacar infraestructura crítica, desarrollar armas biológicas o adquirir recursos y poder en el mundo físico. Su temor combina dos tendencias, máquinas cada vez más capaces y una capacidad todavía insuficiente para comprender y controlar todo lo que hacen.

La advertencia admite discusión y dista de constituir una predicción científica aceptada. Su relevancia proviene precisamente de investigadores que trabajan directamente en la frontera tecnológica. Coxon describe además un problema difícil de resolver desde una empresa. Cada laboratorio puede conocer los riesgos y seguir acelerando porque teme que otro llegue primero.

Gates mira el trabajo y la desigualdad; Sanders, la concentración económica; Türk, los derechos y los riesgos sistémicos; Coxon, la posibilidad extrema de perder el control. Los cuatro terminan acercándose a un mismo asunto, el poder de la IA y quienes lo controlan.

Construir los mejores modelos exige chips avanzados, centros de datos, energía, talento y miles de millones de dólares. Podemos terminar con miles de millones de personas utilizando IA mientras unas cuantas corporaciones controlan la infraestructura intelectual de buena parte de la economía.

Existe además otra concentración. Las empresas poseen los modelos, mientras gran parte del conocimiento que permitió entrenarlos fue producido por otros. Libros, investigaciones, periódicos y millones de contribuciones humanas se transformaron en materia prima de una industria multimillonaria. Si esa acumulación de conocimiento genera fortunas privadas, una parte de su valor debería regresar a la sociedad.

Algo semejante ocurre con el trabajo. Si una empresa sustituye cien mil trabajadores mediante IA, disminuyen salarios y contribuciones laborales mientras crece el rendimiento del capital. Los gobiernos podrían necesitar mayores recursos para educación, reconversión y protección social justo cuando comienza a erosionarse parte de su base tributaria.

Gravar cada robot o cada consulta sería rudimentario. Resultaría más inteligente gravar beneficios extraordinarios derivados de la automatización, grandes concentraciones de cómputo y ciertos usos comerciales masivos del conocimiento. Las obras identificables podrían generar licencias y los grandes acervos, mecanismos colectivos de remuneración.

Podemos avanzar otro paso. Crear fondos soberanos de IA para convertir parte de esa riqueza en patrimonio público. Si las máquinas realizan una proporción creciente del trabajo, la sociedad debería poseer una fracción del capital que lo realiza. También podrían surgir fideicomisos de datos mediante los cuales millones de personas negocien colectivamente el uso de determinada información.

La mayor complejidad surge cuando el problema rebasa a las empresas. Estados Unidos quiere conservar el liderazgo y teme que mayores restricciones favorezcan a China. Pekín acelera su desarrollo mientras impulsa una gobernanza multilateral. Washington corre porque teme a Pekín y Pekín porque teme a Washington. Es la misma carrera que Coxon observa entre laboratorios, llevada a escala geopolítica.

El consenso podría comenzar con aquello que ambos desean evitar. Sistemas capaces de facilitar armas biológicas, atacar infraestructura crítica, interferir con arsenales estratégicos o escapar de controles esenciales. La experiencia nuclear ofrece una enseñanza. Estados Unidos y la Unión Soviética alcanzaron acuerdos mientras desconfiaban profundamente. La verificación sustituyó a la confianza.

La IA necesita su propio sistema de verificación. Parece intangible, pero depende de chips, centros de datos y cantidades enormes de electricidad. El cómputo deja huellas. Un organismo mundial podría vigilar grandes concentraciones de capacidad, evaluar modelos de frontera, investigar incidentes y establecer protocolos frente a riesgos extremos.

Podríamos exigir un pasaporte para los sistemas más poderosos, con desarrollador, capacidades, evaluaciones independientes, responsable jurídico y mecanismos de suspensión; una caja negra para agentes autónomos que intervengan sobre infraestructura crítica; y un laboratorio internacional, una especie de CERN de la IA, donde científicos de países rivales sometan los modelos de frontera a pruebas extremas.

También deberíamos separar inteligencia de autoridad. Una máquina puede adquirir la capacidad de diseñar un patógeno, penetrar una red o administrar una central eléctrica. Concederle acceso para hacerlo pertenece a una decisión completamente diferente.

Mientras algunas capacidades peligrosas requieren límites, otras podrían compartirse. Sistemas destinados a descubrir medicamentos, combatir epidemias, mejorar la educación o prevenir desastres podrían convertirse en bienes públicos digitales accesibles para países con menores recursos.

Podemos construir máquinas obedientes y terminar en sociedades profundamente desiguales. Podemos controlar técnicamente la IA y fracasar políticamente en controlar el poder que genera. Ese riesgo ya está presente y resulta mucho más cercano que el escenario de máquinas conquistando el mundo.

La inteligencia artificial será también una discusión sobre impuestos, propiedad, información, soberanía y distribución de riqueza. Estamos invirtiendo fortunas en construir las máquinas y mucho menos en diseñar las instituciones capaces de gobernarlas.

Coxon plantea el escenario extremo, que la IA pueda acabar con nosotros durante esta misma década. Acierte o se equivoque, podemos decidir desde ahora quién controla esa tecnología, qué límites tendrá, cuánto devolverá de la riqueza que produzca y qué parte de sus beneficios llegará a la sociedad.

¿Voy bien o me regreso? Nos leemos, si la IA lo permite y antes decide dejarnos llegar hasta la próxima semana.

Placeres culposos: Dos libros, Una historia de Taipei, de R. F. Kuang, y Los huérfanos, de Carmen Mola.

Pozole para Greis y pan de elote para Alo.

Esta es opinión personal del columnista