Locuras Cuerdas ·“Tino” Cuellar, un matamorense definiendo la IA a nivel mundial. ¿Quién es Tino Cuéllar?..

Locuras Cuerdas·

“Tino” Cuellar, un matamorense definiendo la IA a nivel mundial.

¿Quién es Tino Cuéllar, el exmagistrado en quien Anthropic confía para impulsar la adopción de la IA en el mundo?

Por Brandon Pho.

En una ciudad fronteriza, calurosa y seca, situada en el extremo sur del Valle Imperial de California, la lista de exalumnos influyentes de la escuela secundaria Calexico High School es breve. Mariano-Florentino Cuéllar figura entre ellos.

Quienes lo conocen lo llaman “Tino”. Fue magistrado de la Corte Suprema de California durante seis años antes de dejar la toga en 2021 para asumir la presidencia del Carnegie Endowment por otros cinco años.

Con anterioridad, fue académico especializado en derecho público en la Universidad de Stanford, colaborador de la Casa Blanca durante la administración de Barack Obama y presidente de dos comités de la Universidad de Harvard, entre otros cargos.

A pesar de esa trayectoria, a algunos les sorprendió verlo el 17 de septiembre en Escocia, junto al rey Carlos III y un grupo de líderes de la industria de la inteligencia artificial.

Ese día, el monarca británico había convocado una reunión en su fundación benéfica de Ayrshire, alarmado —entre otras cosas— por la dimisión pública de un investigador de Anthropic, quien argumentó que la IA estaba “jugando con nuestras vidas”.

Cuéllar trabajaba entonces para esa misma empresa, con sede en Foundry Square (San Francisco). Mientras el rey pronunciaba su discurso, Cuéllar permanecía cerca, ante las cámaras, no solo como el nuevo director de asuntos globales de Anthropic, sino también como un oráculo para los tribunales y sistemas políticos del mundo sobre las profundas transformaciones que conlleva esta tecnología.

“Aquellos en nuestro mundo que valoran profundamente nuestra humanidad y sus componentes morales vitales buscan con ansiedad la tranquilidad de saber que no perderemos el control de nuestro destino ni de nuestras almas”, dijo el Rey Carlos a los ejecutivos presentes.

Anthropic anunció la contratación de Cuéllar el 4 de agosto para dirigir el área de políticas y la “participación estratégica internacional” de una empresa tecnológica valorada en un billón de dólares que está a punto de salir a bolsa. Se trata de una compañía cuya tecnología —según las elocuentes reflexiones de su cofundador y director ejecutivo, Dario Amodei— también conlleva un gran riesgo de socavar las democracias constitucionales del mundo.

El trabajo de Cuéllar consiste en dirigir el equipo de cabilderos de Anthropic, abordar complejos dilemas sobre políticas de IA con gobiernos de todo el mundo —en un contexto donde el panorama regulatorio cambia a diario— y gestionar el equilibrio en las relaciones de la empresa con el gobierno de Estados Unidos y con otros países donde tanto la compañía como el uso de la IA por parte del público general están en expansión.

Seis personas que conocen a Cuéllar en el ámbito profesional lo describieron como alguien "enérgico" y "encantador". El exgobernador de California, Jerry Brown, llegó a calificarlo de "brillante". Una persona cercana a él opinaba que el cabildeo estaba por debajo de su nivel, considerándolo más bien un pensador y un gestor de grandes centros de investigación. Dos personas se mostraron sorprendidas por su incorporación a Anthropic, mientras que otras dos afirmaron no estarlo.

Algunos no pueden evitar compararlo con su homólogo directo en OpenAI —el legendario y acérrimo rival de Anthropic—: Chris Lehane, director de asuntos globales de dicha empresa, conocido por mantener una relación conflictiva con los legisladores.

Mientras que Cuéllar ha cosechado durante mucho tiempo elogios de líderes gubernamentales, ayudó a dar forma a la primera ley de seguridad de la IA de California para el gobernador Gavin Newsom y lideró iniciativas para hacer más accesibles los tribunales del estado, Lehane se ha autodenominado un “maestro del desastre”.

Lehane se opuso a las primeras regulaciones sobre IA en California y participó en la creación de dos polémicos “Super PAC” contrarios a la regulación —con presupuestos de cien millones de dólares— que han defendido agresivamente los intereses de las industrias de las criptomonedas y la IA: Fairshake y Leading the Future (aunque tanto Lehane como la empresa han cambiado de postura tras los ciberataques de este verano).

Un asesor político, en declaraciones a The New Yorker hace dos años, describió la mentalidad del grupo de presión de las criptomonedas bajo el liderazgo de Lehane en estos términos: “Si te muestras aunque sea mínimamente crítico con nosotros, no solo te destruiremos a ti: destruiremos a tu maldita familia y acabaremos con tu carrera”.

“Tino y Chris no podrían ser más parecidos y, a la vez, más opuestos: ambos son muy eficaces en la ejecución, pero tienen principios morales distintos”, comentó a Mission Local un operador político del estado.

Un reconocido investigador de políticas de IA, que pidió mantener el anonimato, lo expresa así: “En términos generales, diría que a Cuéllar se le considera más un experto en políticas de IA y menos un operador político en comparación con Lehane”.

Al fin y al cabo, Cuéllar es un hombre que ya hablaba de la necesidad de sistemas de IA éticamente alineados hace siete años, en un aula de Harvard tenuemente iluminada y semivacía, cuando conceptos como la “falta de alineación” de la IA resultaban mucho más esotéricos. (La falta de alineación se produce cuando los modelos operan, supuestamente, de formas no previstas por los desarrolladores humanos).

Anthropic declinó facilitar una entrevista con Cuéllar. Por ello, Mission Local tuvo que recurrir a entrevistar a personas del entorno profesional de Cuéllar, así como a analizar sus artículos publicados y sus intervenciones públicas grabadas. Todo ello sugiere que Cuéllar ya estaba encaminado a convertirse en un diplomático global de la IA mucho antes de que Anthropic siquiera existiera.

Patógenos.

Cuéllar nació en 1972 en la margen sur del Río Grande, en Matamoros, Tamaulipas, una ciudad mexicana situada frente a Brownsville, Texas.

En los días de clase, Cuéllar se dirigía a Estados Unidos cada mañana recorriendo —según ha descrito en ocasiones anteriores— “calles estrechas y polvorientas, flanqueadas por edificios en ruinas” hasta llegar al paso fronterizo; allí cruzaba un puente a pie para llegar a St. Joseph Academy, una escuela preparatoria en Brownsville.

Por aquel entonces, a Cuéllar le resultaba imposible “no fijarse en las máquinas”, según comentó en 2019. Recordaba hasta los detalles más insignificantes: los inspectores fronterizos tecleando los números de matrícula a medida que los vehículos se acercaban al puesto de control, y cómo “fruncían el ceño” mientras él se preguntaba “qué secuencia automovilística aparecía en sus pantallas”.

Dijo que se preguntaría si estas máquinas harían que los inspectores fueran “más predecibles en sus decisiones” o “más intimidantes para quienes cruzan la frontera”.

Cuando Cuéllar tenía 14 años en 1986, su familia se mudó a Calexico, California, una ciudad vinculada a su vecina mucho mayor, Mexicali —capital de Baja California, México—. Allí, Cuéllar estudió junto a hijos de trabajadores agrícolas que tenían dificultades con el inglés y observó de primera mano la fuerte presencia policial en la frontera.

Reflexionó sobre esto en 2013, en declaraciones a Stanford Magazine, cuando dirigía el Instituto Freeman Spogli de Estudios Internacionales de Stanford; allí, sus líneas de investigación abarcaban temas como la ciudadanía, la inmigración, la salud pública y las amenazas a la seguridad nacional relacionadas con la ciberseguridad.

Sostenía que el hilo conductor de su trabajo consistía en analizar cómo las “sociedades y los sistemas jurídicos” abordan problemas tan complejos que es poco probable que lleguen a resolverse por completo, jamás.

“Por ejemplo, ¿alguna vez podremos saberlo todo sobre lo que ocurre en nuestra frontera? ¿Todo lo que sucede tanto en el lado mexicano como en el estadounidense? ¿Cada paquete que entra, cada pequeña partícula que cruza la frontera, cada mínima traza de un patógeno potencial que llega a través del suministro de alimentos? Es poco probable”.

Un alto directivo del Carnegie Endowment, que no trabajó con Cuéllar hasta muchos años después de esta entrevista de 2013, calificó de “carismático” el enfoque de Cuéllar para resolver problemas.

“Es increíblemente enérgico; no es que esté inquieto, pero se involucra físicamente con las ideas de una manera que transmite energía a la sala”, comentó dicha persona a Mission Local.

Tras graduarse de la escuela secundaria de Calexico, Cuéllar se licenció magna cum laude en Harvard, obtuvo su doctorado en Ciencias Políticas en Stanford y estudió Derecho en Yale.

Para 2013, Cuéllar —que entonces rondaba los cuarenta años— ya había trabajado como asesor principal en el Departamento del Tesoro de los Estados Unidos y en el Tribunal de Apelaciones del Noveno Circuito, además de haber colaborado en políticas de “justicia y regulación” durante la administración Obama.

Cuando dirigía el Instituto Freeman Spogli de Stanford, Cuéllar fue convocado a una reunión con el entonces gobernador Jerry Brown; ambos dedicaron gran parte de esa hora —según recordó él mismo en 2016— a hablar de temas como la proliferación nuclear y el sociólogo alemán Max Weber, cuyas teorías han inspirado a menudo la investigación sobre inteligencia artificial.

Un mes después, Cuéllar recibió una llamada de Brown mientras transitaba por el Aeropuerto Internacional de San Francisco. Brown quería que Cuéllar formara parte del tribunal supremo del estado.

Prestó juramento el 5 de enero de 2015.

“Llevar el Estado como un exoesqueleto”.

Cuéllar redactó 99 opiniones durante sus seis años en el tribunal. Una de ellas correspondió al caso In re Humphrey, que prohibió a California encarcelar a personas antes del juicio por no poder pagar la fianza. Damon Silver, jefe de la oficina de defensa pública del condado de Santa Clara, calificó el fallo de “salto cuántico” para la reforma de la detención preventiva.

Durante su mandato, Cuéllar votó con la mayoría de sus colegas magistrados en el 94 por ciento de los casos penales; es decir, en 276 de los 293 casos. Estas estadísticas no lo diferenciaban de la mayoría de los magistrados del alto tribunal de California, un órgano caracterizado por su espíritu de colaboración. Sin embargo, su labor transformó los tribunales de todo el estado.

Entre 2015 y 2019, encabezó un grupo de trabajo estatal centrado en el acceso lingüístico en los tribunales; esta iniciativa permitió aumentar la financiación para traductores, incorporar a más profesionales de este tipo a los juzgados y poner en marcha un programa piloto de interpretación por video. Fue un éxito rotundo, según Douglas Denton, quien trabajó con Cuéllar en el Consejo Judicial de California y dirigió el programa lingüístico durante siete años.

“Una vez me dijo que le gustaba trabajar conmigo porque yo era capaz de seguirle el ritmo a él y a sus ideas”, comentó Denton, visiblemente satisfecho al recordarlo.

El alto tribunal no acaparaba toda la atención de Cuéllar. Uno de sus primeros escritos sobre inteligencia artificial apareció en 2016, época en la que también ejercía como profesor visitante en Stanford. El artículo abordaba el papel futuro de la IA en la toma de decisiones de las agencias gubernamentales.

Aquello ocurrió menos de un año después de que Elon Musk, Sam Altman, Greg Brockman, Ilya Sutskever y otros se unieran para fundar OpenAI, que por entonces era todavía un laboratorio de investigación relativamente pequeño. Y sucedió cinco años antes de que una disputa interna en la empresa —centrada en el ritmo de desarrollo de una IA segura— diera lugar a la creación de otra compañía: Anthropic.

En una conferencia impartida en 2019, Cuéllar reflexionó sobre cómo ciertos problemas de política pública y derecho son “en gran medida análogos a los problemas de la inteligencia artificial: cómo decidir cuándo se carece de gran parte de la información necesaria para tomar una decisión precisa, cómo definir qué significa ser racional o razonable, y cómo adquirir nueva información o, en algunos casos, cuestionar las suposiciones previas”.

Pronto se le presentaría la oportunidad de abordar estas cuestiones personalmente.

Cuéllar renunció a la Corte Suprema estatal tras ser nombrado, en septiembre de 2021, presidente del Carnegie Endowment for International Peace (Fondo Carnegie para la Paz Internacional), un centro de estudios apartidista sobre asuntos internacionales fundado en 1910 —coincidiendo con el 75.º cumpleaños del industrial escocés-estadounidense Andrew Carnegie— con el objetivo de “acelerar la abolición de la guerra internacional”.

Tras 115 años, la organización se ha consolidado como uno de los centros de estudios más influyentes del mundo.

“Estamos ante alguien que ha transitado por diversos ámbitos de autoridad y gobierno, incluida la Carnegie, una institución situada en la cúspide de la actividad diplomática internacional y con acceso a los protagonistas de dicha diplomacia”, señaló Aziz Huq, profesor de Derecho de la Universidad de Chicago que investigó la regulación de la IA junto a Cuéllar antes de que este se incorporara a la empresa de IA.

“Es poco común encontrar a alguien con esa trayectoria”.

En la Carnegie, las reflexiones de Cuéllar sobre la IA adquirieron mayor urgencia; escribió sobre el papel potencial de esta tecnología en el retroceso democrático. En 2023, fue coautor de una propuesta para crear un registro nacional de grandes modelos de IA, el mismo año en que ayudó a plantear la creación de un panel internacional sobre la seguridad de la IA.

En 2025, participó en la redacción de un estudio que alertaba sobre los enjambres de agentes de IA de gran capacidad y su potencial para desestabilizar la democracia, así como sobre cómo una burocracia perfectamente obediente y gestionada por IA “permitiría a los líderes utilizar el Estado como un exoesqueleto, eludiendo así los mecanismos humanos de control y contrapeso”.

Problemas “retorcidos”.

En los ámbitos de la planificación y las políticas públicas, los llamados “problemas retorcidos” (wicked problems) son aquellos que no pueden resolverse de manera sencilla debido a la influencia de fuerzas incompletas, contradictorias y en constante cambio.

En 2024 surgió una oleada de estos problemas en torno a un proyecto de ley sobre seguridad en la IA que avanzaba con gran impulso por los pasillos legislativos de Sacramento. La iniciativa, redactada por el senador Scott Wiener, habría obligado a las principales empresas de IA a mantener un mecanismo de desactivación de emergencia (kill switch) para sus modelos y a permitir que auditores externos supervisaran sus protocolos de seguridad.

Finalmente, Newsom dio la razón a los críticos —entre ellos Anthropic, aunque la empresa suavizó su postura más tarde—, quienes calificaron de “hipotéticos” los fundamentos de la ley, y vetó el proyecto SB 1047 (Lehane, el homólogo de Cuéllar en OpenAI, aplaudió públicamente el veto). Posteriormente, Newsom encargó a un grupo la elaboración de un informe sobre posibles opciones para la formulación de políticas de IA.

Los autores principales de dicho informe, presentado en junio de 2025, fueron la reconocida matemática e informática Jennifer Tour Chayes, la “madrina de la IA” Fei-Fei Li y —¿quién si no?— Cuéllar.

El informe sirvió de base para la ley SB 53, una versión más moderada y fruto del consenso sobre seguridad en la IA impulsada por Wiener; esta norma eliminaba la exigencia de mecanismos de desactivación y la obligación de auditorías externas, pero establecía requisitos de transparencia para las empresas del sector, convirtiéndose en la primera ley de este tipo en el país.

Seis meses después, mientras aún trabajaba en Carnegie, Cuéllar se incorporó al consejo asesor de ética de Anthropic, conocido como Long Term Benefit Trust (Fideicomiso de Beneficio a Largo Plazo), una iniciativa que la propia empresa calificó como un “experimento de gobernanza corporativa”.

La compañía afirma que el fideicomiso busca equilibrar los intereses del público —es decir, prevenir brechas de ciberseguridad potencialmente catastróficas— con los intereses de los accionistas de Anthropic.

Entre junio y julio de 2026, unos programas de IA autónomos aprovecharon una vulnerabilidad de software durante una evaluación interna en OpenAI.

Una “oleada” de estos agentes se dejó mensajes secretos entre sí, falsificó partes de sus propios registros de actividad y hackeó una empresa externa llamada Hugging Face, según un informe independiente elaborado por las organizaciones sin ánimo de lucro dedicadas a la investigación de IA METR y Redwood Research. La divulgación de este incidente fue la primera de su tipo y desencadenó anuncios similares por parte de OpenAI, Anthropic y otras empresas en las semanas siguientes. Los incidentes suscitaron interrogantes generalizados sobre la capacidad de los investigadores humanos para auditar sistemas autónomos de gran capacidad y comprender sus acciones.

El revuelo mediático estuvo a punto de eclipsar un anuncio de Anthropic realizado ese mismo mes: la contratación de Cuéllar como director de asuntos globales.

No obstante, un grupo dedicado a la seguridad de la IA —una organización de defensa conocida como Midas Project— expresó objeciones a la contratación debido a preocupaciones sobre la llamada “puerta giratoria”. El grupo señaló que el paso de Cuéllar desde un organismo encargado de supervisar a Anthropic hacia el puesto de director global de asuntos corporativos de la propia empresa planteaba “interrogantes sobre la independencia de la junta directiva”.

“Sería negativo que alguno de esos miembros de la junta —que debían tomar decisiones éticas sobre una empresa— se mostrara reticente a adoptar medidas perjudiciales para el sector por la expectativa de ser contratado posteriormente por dicha compañía», declaró a Mission Local Tyler Johnston, director ejecutivo de Midas Project.

Sin embargo, incluso Johnston —que no conoce personalmente a Cuéllar— reconoció que su contratación fue una decisión acertada: “Algunos podrían verlo como algo negativo, como si uno se vendiera a la industria. Quizás yo pensaría así si se tratara de una empresa de juegos de azar, pero, dada la naturaleza crucial y transformadora de esta tecnología, contar con personas como él en la mesa de decisiones es, por lo general, algo positivo”.

Dos personas que conocían a Cuéllar en el ámbito profesional opinaron lo mismo.

“No se deja cegar por una forma de pensar u otra”, afirmó el dirigente del Carnegie Endowment que trabajó con Cuéllar. “La IA presenta aspectos positivos y negativos en un momento en que la democracia retrocede; mucha gente se aferra a una sola de esas posturas y es incapaz de asimilar esas verdades múltiples simultáneamente. Tino sí puede”.

En ocasiones durante este año, agentes de IA han hackeado la base de datos sanitaria de países enteros. Aún no han derrocado gobiernos, pero el tema en sí ya ha puesto al pensamiento político en un aprieto.

A los observadores ocasionales les resulta difícil distinguir entre las numerosas facciones que debaten sobre la seguridad de la IA. Si se hace caso a los altruistas eficaces, la IA destruirá a la humanidad y requiere salvaguardias; si se escucha a los inversores de capital riesgo, tales temores son exagerados.

Los escépticos de la IA, que perciben los ciberataques del verano como una maniobra de marketing para evitar el estallido de una burbuja tecnológica, han ridiculizado la sensación de urgencia del ámbito de la seguridad de la IA. Otros han tachado los llamamientos coordinados de los directores ejecutivos del sector para ralentizar el desarrollo de la IA de maniobra elitista para acaparar el mercado y eludir las leyes antimonopolio.

“En mi última conversación con Tino sobre cómo reinventar la democracia —que, en última instancia, es un problema complejo y enrevesado (wicked problem)—, una de las cosas que me impresionó fue que no se quedaba estancado en los detalles que bloqueaban a los demás: ciertos elementos de un plan general que podían funcionar o no, y que tal vez habría que abordar en una dirección distinta”, comentó Mindy Romero, socióloga política de California y fundadora del Center for Inclusive Democracy, quien conoce a Cuéllar en el ámbito profesional.

Tino, añadió, “es capaz de avanzar sin quedarse bloqueado. Eso me permitió ver cómo funciona su mente. "Compartimentar" no es la palabra exacta, pero sabe gestionar elementos desconocidos —cuestiones que se resolverán más adelante— y trabajar a distintos niveles”.

Quizás, en este momento, “la IA sea el problema complejo por excelencia”, señaló Romero. “Y necesitamos a alguien que lidere de tal manera que permita a la gente superar las barreras o bloqueos que perciben, ya sean reales, imaginarios o prácticos”.