Hugo Alfredo Hinojosa
CIUDAD DE MÉXICO 30 DE SEPTIEMBRE DE 2026.- En medio de las discusiones geopolíticas que se dan a nivel global entre invasiones de migrantes musulmanes en Europa y Estados Unidos, la guerra de Ucrania que no tiene fin y la constricción económica obligada hacia el mundo inmaterial: me refiero aquí a la urgencia extraña de los gobiernos por desaparecer el papel moneda, la tecnología toma su propio rumbo y batalla. El universo específico de la Inteligencia Artificial gira hacia un apocalipsis ad hoc: generar caos donde de raíz no hay entendimiento generalizado del tema. Pero, digamos que el problema del momento es: la ética.
Cuando en el universo tecnológico se habla de ética en realidad la cuestión que debemos atender es qué se quiere regular y a favor de quién o para qué. La ética sin mecanismos ni necesidades de aplicación es, tan solo, un documento de relaciones públicas que delata una buena fe instrumental, y que llena de superioridad moral a una empresa o grupo de Poder. Las regulaciones en general, en este caso tecnológicas, tienen costos que los actores con más recursos saben administrar, no es un misterio entender el mundo de esta forma. Por ejemplo, ahora que en México se pretende regular hasta los “memes” en las redes sociales por parte del gobierno como una defensa “ética” del ejercicio del Poder, aunque ridículo, es el gobierno el que reordena la ética a conveniencia porque entonces no toda libertad de expresión es libre, no nos metamos en el tema moral.
Empecemos por los conceptos porque el debate público sobre Inteligencia Artificial opera con términos que la mayoría de sus participantes no puede definir con precisión. El machine learning, el aprendizaje automático, es el proceso mediante el cual un sistema ajusta sus parámetros para mejorar su desempeño en una tarea a partir de datos masivos que clasifica y encausa sobre un objetivo. El deep learning, el aprendizaje profundo, usa redes (conexiones) neuronales artificiales con múltiples capas para procesar datos complejos como imágenes, audio o texto, entre otros objetivos científicos. Los modelos de lenguaje que generan texto a partir de tokens (las unidades de texto) son una aplicación entrenada sobre volúmenes masivos de texto humano: generan secuencias y patrones estadísticos aprendidos, y esa capacidad produce respuestas parecidas al razonamiento sin que eso demuestre comprensión, conciencia ni intención propias.
Así, la “Inteligencia Artificial Agéntica” que genera video, audios e imágenes a destajo, es el desarrollo tecnológico que preocupa a los investigadores con razones verificables debido a la capacidad de estos sistemas para tomar decisiones secuenciales, usar herramientas externas y ejecutar tareas de múltiples pasos con menor intervención humana cuasi autónoma parecida a Dios, por decirlo de forma llana. ¿Entonces qué somos los humanos?
Ahora bien, quienes expresan su preocupación apocalíptica por la Inteligencia Artificial responden a la imagen de una superinteligencia que decide por sí misma destruir a la humanidad, escenario que los investigadores serios consideran relevante en horizontes de largo plazo pero que ningún sistema existente hoy remotamente anticipa o, por lo menos, no estamos enterados de que así sea. Se vale pensar mal. En este sentido, sí debo decir que me llama la atención cuando personajes como Peter Thiel, el titular de Palantir, al ser cuestionado si ve factible un mundo sin humanos no duda en decir, con una sonrisa, que es una posibilidad viable, después de todo la IA en su generalidad es programada por mentes maquiavélicas como esa.
Así que lo que existe hoy son sistemas automáticos que ya se usan en finanzas para ejecutar operaciones de trading en milisegundos, en diagnósticos médicos para identificar patrones en imágenes clínicas. Todos estos sistemas producen efectos sobre personas que no eligieron ser afectadas por ellos y que en la mayoría de los casos desconocen que lo están siendo.
El problema ético concreto es que la IA agéntica toma decisiones que afectan a personas sin que esas personas sepan cómo ni por qué… pero no es la IA agéntica por sí misma, para que ésta actúe de todo necesita de un objetivo dictado con antelación por alguien, por ustedes o por mí. Volker Türk, Alto Comisionado de la ONU para los Derechos Humanos, pidió el 14 de septiembre de 2026 establecer urgentemente mecanismos que permitan controlar los riesgos de los sistemas más avanzados, incluyendo verificación técnica independiente, acceso a modelos y documentación, debida diligencia en derechos humanos y obligaciones específicas para los Estados donde operan las empresas tecnológicas.
El AI Act europeo, el marco regulatorio más desarrollado existente, prevé requisitos de documentación, trazabilidad y supervisión humana para sistemas de alto riesgo. Aun así, los límites de jurisdicción y la poca o nula capacidad de vigilancia sobre los diferentes programas que conforman una u otra IA muestran la distancia real entre lo que la regulación pide y lo que puede exigir. Los gobiernos mismos no cuentan con especialistas en el tema que sepan qué normar, cómo normarlo y para qué. Se confunden los principios y el alcance con el mundo del internet en sí mismo.
En el ámbito geopolítico, Estados Unidos y China acordaron esta semana abrir un canal de comunicación para gestionar incidentes de IA que puedan escalar a nivel de seguridad nacional, como parte de la visita de Xi Jinping a Washington. El acuerdo no incluyó menos restricciones estadounidenses sobre chips avanzados de IA ni sobre equipos para semiconductores: es apenas gestión de riesgos entre potencias que compiten y que no abandonarán el desarrollo de dichas tecnologías. En los últimos 15 días empresas como Anthropic solicitaron detener el desarrollo de modelos y simultáneamente publicaron una actualización de modelo… ¿pausamos o no el avance?
El debate sobre ética de la IA, tanto en su versión institucional como en su versión de pánico tecnológico, comparte un defecto: desplaza la atención de los daños presentes hacia escenarios futuros. La pregunta ética no es si las máquinas tendrán conciencia sino ¿quién diseña el sistema, qué datos utiliza, qué decisiones puede tomar, quién lo supervisa, qué persona puede impugnarlo y quién repara el daño cuando falla? Porque puede ocurrir como pasa con las redes sociales, las empresas trasladan la responsabilidad solo al usuario, pero en el caso de la IA por lo menos en sus modelos comerciales éstos no actúan sin instrucción alguna.
Mientras esas preguntas no tengan respuestas, los documentos de principios éticos de las empresas cumplen principalmente la función de demostrar que quienes concentran el poder sobre la tecnología han pensado apenas en el problema de forma por demás artificial. La ética de la IA, en su versión institucional más difundida, no protege a las personas que resultan afectadas por los sistemas que regula. Protege a las empresas que los construyen; el resultado visible es que el vocabulario ético del sector, alineamiento, seguridad, responsabilidad, bienestar humano, circula con una fluidez que no tiene correlato en los mecanismos concretos de reparación para quien ya es dañado por un sistema automático.
El rumbo que toman los mercados en este momento lleva a pensar que en un futuro no lejano los gobiernos saldrán al rescate de las empresas pues el endeudamiento de éstas va en aumento. Recordemos que la ética se enmarca sí o sí en los parámetros de moralidad tanto de los desarrolladores como de los usuarios. La venta que se nos hace del problema de la IA es más ideológica que técnica: el fin del mundo es latente por tanto hay que regular… la idea del fin de algo nos lleva a querer regularlo, salvaguardarlo y, sobre todo, a encarecer su cuidado.
El USAID, hasta el segundo mandato de Donald Trump, operaba bajo una lógica que no era filantropía: era administración de dependencia. Las comunidades africanas que recibían esos recursos no eran el objetivo del programa, sino que el objetivo real era mantener presencia institucional estadounidense en territorios con valor geopolítico, controlar narrativas sobre desarrollo y democracia, y generar las condiciones para que ciertos gobiernos permanecieran dentro de una órbita de influencia específica. El bienestar de las comunidades era el lenguaje. El poder sobre los Estados era el contenido.
Cuando esos recursos se retiraron, las comunidades entraron en etapas de caos que sus propios gobiernos tuvieron que administrar sin las herramientas que el sistema de dependencia nunca les había dado. Eso no fue un accidente de política exterior sino el resultado predecible de un modelo que no estaba diseñado para producir autonomía. El cuidado como mecanismo de control tiene una historia larga y documentada, y su característica más constante es que siempre se presenta con el vocabulario del altruismo.
La ética de la inteligencia artificial opera con la misma gramática. No se presenta como lo que es, un instrumento de posicionamiento competitivo y control regulatorio, sino como preocupación por la humanidad. Las empresas que más activamente promueven marcos éticos son las mismas que tienen más que perder si la competencia se abarata y más que ganar si la regulación que proponen se convierte en barrera de entrada. La diferencia con el USAID es de escala y de velocidad porque en ambos casos, quien define los términos del cuidado controla a quien dice cuidar. Y quien controla los términos del cuidado tecnológico en este momento no son los gobiernos ni los ciudadanos afectados: son las mismas empresas cuyos sistemas producen el daño que la ética dice querer prevenir.
Y así, la ética, es pues, un pretexto industrial que al socializarse genera preocupación y ansiedad sobre la sociedad que, si bien aún no entiende del todo qué pensar de la IA, tiene que aprender a marchas forzadas a temerle a una tecnología que, en el peor de los casos, es cómplice de sus sueños y pasiones, un acompañante perfecto en esta sociedad tan alienada.
Filósofo, maestro en comunicación política estratégica por la FLACSO y candidato a maestro en Inteligencia Artificial Aplicada por el ITESM.
Esta columna no refleja la opinión de Agencia Fronteriza de Noticias, sino que corresponde al punto de vista y libre expresión del autor.
