Cuatro desafíos que enfrenta el regulador frente a las tecnologías emergentes: los ritmos, la asimetría de conocimiento, la tentación de regular el artefacto en vez del riesgo, y la capacidad institucional

En noviembre de 2023 expuse en la primera versión del Congreso DO Data Science, organizado por Data Observatory con apoyo de ANID. Buena parte de mi presentación la dediqué a un tema que me parece anterior y más de fondo que cualquier proyecto de ley específico: los desafíos que enfrentan los reguladores cuando les toca normar tecnologías emergentes. Recordé esa exposición producto de una conversación hace unos días con personas vinculadas a los espacios de regulación. En esa exposición plantee algunos desafíos que me permito recordar (el video de la charla está al final de post).

El problema de los ritmos

El primer desafío es el más evidente y el más difícil de resolver: el problema de los ritmos. Un proyecto de ley que se tramita durante tres o cuatro años corre el riesgo de nacer regulando una tecnología que ya no existe en la forma en que el legislador la imaginó. Basta ver lo que pasó con la inteligencia artificial generativa: cualquier marco regulatorio diseñado antes de fines de 2022 quedó conceptualmente obsoleto en cuestión de meses. El regulador corre una carrera en la que el otro competidor cambia de vehículo a mitad de pista.

La asimetría de conocimiento

El segundo desafío es la asimetría de conocimiento. Quienes desarrollan estas tecnologías entienden su funcionamiento, sus límites y sus riesgos reales mucho mejor que quienes deben normarlas. Esa brecha no se cierra con audiencias en comisiones parlamentarias. Y cuando el regulador no entiende la complejidad de lo que regula, tiende a dos errores simétricos: o regula de más, poniendo barreras a cosas inocuas, o regula de menos, dejando pasar los riesgos que sí importan. Muchas veces se regula sin entender la complejidad que hay detrás.

Regular el artefacto en vez del riesgo

El tercer desafío es la tentación de regular el artefacto en vez del riesgo. Cuando la norma se escribe pensando en una tecnología específica —»la inteligencia artificial», «el blockchain», «los drones»— envejece con esa tecnología y hay que volver a legislar con cada ola. Cuando se escribe pensando en riesgos y usos —decisiones automatizadas que afectan derechos, opacidad en sistemas críticos, discriminación algorítmica— la norma resiste mejor el paso del tiempo. Parece una distinción académica, pero define si un marco regulatorio dura quince años o cinco.

La capacidad institucional del regulador

Y hay un cuarto desafío del que se habla poco: la capacidad institucional del propio regulador. Esto conecta con algo que he planteado hasta el cansancio a propósito de la transformación digital del Estado. Aprobar una ley es la parte fácil; implementarla requiere equipos técnicos que entiendan la materia, presupuesto y herramientas. Un regulador sin capacidad técnica frente a industrias que concentran a los mejores especialistas del mundo no es un regulador: es un espectador con timbre. Si vamos a crear institucionalidad para supervisar tecnologías, la pregunta incómoda es la de siempre: con qué gente, con qué plata y con qué infraestructura.

Nada de esto es un argumento contra la regulación. Es un argumento a favor de regular bien: con enfoque de riesgos, con marcos tecnológicamente neutros donde se pueda, con reguladores dotados de capacidad real, y con espacios de diálogo entre academia, industria y sociedad civil. Porque este es un espacio por descubrir en muchos ámbitos, y las respuestas no las tiene ningún actor por sí solo.

Información Complementaria

Mas sobre regulaciones, les dejo este debate en la Universidad Diego Portales en el cual me tocó compartir con  representantes de la Fiscalía Nacional Económica y la Comisión Nacional de Productividad

La entrada El regulador frente a la tecnología: una carrera que corre con desventaja se publicó primero en Escritorio de Alejandro Barros.

El problema del gobierno digital chileno no es de diagnósticos — de esos tenemos de sobra. Es que nadie quiere sincerar plazos, costos y capacidades. Cuatro desafíos para hacerlo ahora, cuando todavía se puede.

Cada cambio de administración abre una ventana que dura poco: los primeros meses, cuando todavía es posible sincerar diagnósticos sin cargar con los costos políticos de las decisiones anteriores. En materia de gobierno digital, esa ventana está abierta ahora. Y conviene aprovecharla, porque los problemas que arrastra la implementación de la Ley 21.180 no se van a resolver solos ni con más de lo mismo. Me atrevo en este espacio a delinear los que me parece son los principales desafíos que se enfrenta en materia de desarrollo digital

Llevo años siguiendo este proceso —el que quiera revisar la evidencia puede partir por el análisis predictivo que publiqué hace unos meses, ¿cumpliremos el 2027?— y a partir de esos datos identifico al menos cuatro desafíos que la actual administración debiera abordar con urgencia. No son los únicos, pero sí los que definen si esta política pública llega a puerto o se transforma en otra promesa incumplida del Estado.

Desafío 1 – Sincerar plazos y costos de la Ley 21.180 (TD)

Lo primero es asumir algo que los datos vienen gritando hace rato: con los plazos establecidos actualmente no vamos a llegar de ninguna manera. El análisis que hice sobre el universo de organismos obligados es lapidario: alrededor del 40% de las instituciones —municipios pequeños, corporaciones municipales, servicios sin presupuesto TI— simplemente no tiene cómo cumplir al 2027. No por falta de voluntad, sino porque la brecha de capacidad es estructural y no se resuelve con plataformas.

Por eso planteo que este es el momento de un ejercicio de sinceramiento. Sincerar los plazos, sí, pero también los costos y los esfuerzos asociados. Hoy no hay recursos asignados suficientes para el tamaño del desafío, algo que vengo advirtiendo desde 2022 y que instrumentos como el Oficio Circular N°16 solo agravaron. Una administración que recién comienza tiene la legitimidad para hacer ese dimensionamiento con la realidad de los servicios públicos sobre la mesa, sin heredar la ficción de que todo va bien.

Ojo: sincerar no es lo mismo que prorrogar por secretaría. Ya lo dije en su momento —una prórroga sin recursos reales ni plan serio solo confirmaría que los plazos de este proceso son más una aspiración que un compromiso exigible. El sinceramiento tiene valor si viene acompañado de asignaciones presupuestarias estructurales y de un plan de implementación creíble.

Desafío 2 – Métricas que midan lo que importa

El segundo desafío es más técnico pero igual de determinante: mejorar las métricas con que se monitorea el cumplimiento de la ley. Hoy tenemos indicadores inflados o definidos de una manera que poco ayuda al seguimiento del proceso de implementación.

El ejemplo que más he repetido es la diferencia entre adopción y uso, el concepto de adopción lo utilizo en términos de implementación, esto es, adopción es cuando una solución está en condiciones de ser usada y uso es cuanto realmente se utiliza. Cuando revisé el tablero de la Secretaría de Gobierno Digital lo vi con claridad en FirmaGob: las instituciones habilitadas crecen a buen ritmo, pero las transacciones no acompañan. Una institución «habilitada» que no transacciona no está transformada digitalmente; está inscrita en una lista. Y si medimos listas en vez de operaciones reales, el tablero nos dirá que vamos bien mientras la realidad dice otra cosa.

Un buen sistema de métricas debiera medir uso efectivo, calidad de servicio y resultados para el ciudadano. Y debiera ser estable en el tiempo: no puede ser que indicadores desaparezcan del tablero sin explicación, como ocurrió con el SII y ClaveÚnica a mediados de 2025. La trazabilidad de los datos públicos es condición mínima para que cualquiera —academia, sociedad civil, el propio Estado— pueda evaluar el avance con seriedad.

Desafío 3 – Separar aguas: el ente rector no puede ser también el operador

El tercer desafío es institucional, y creo que es el menos comprendido. Dentro de la Secretaría de Gobierno Digital conviven dos realidades muy distintas. Una es la labor rectora: acompañar la implementación de la ley, normar, asesorar, definir estándares. Un rol consultivo y normativo.

La otra realidad son las operaciones. Y aquí el asunto cambia de naturaleza, porque los servicios compartidos que opera la SGD —ClaveÚnica a la cabeza— se van a transformar, si no lo son ya, en servicios de misión crítica. Estamos hablando de decenas de millones de transacciones. Cuando un servicio de esa escala se cae, no falla un sistema: se detiene la relación entre el Estado y los ciudadanos.

Basta hacer comparaciones relativamente simples con la industria financiera local para darse cuenta de que la SGD no tiene ni los recursos ni la musculatura para operar servicios con esos volúmenes y esas exigencias. Ningún banco chileno opera su core transaccional con la dotación, los esquemas de continuidad operacional y los presupuestos con que hoy se opera ClaveÚnica. Y sin embargo, ClaveÚnica mueve más autenticaciones que varios de ellos juntos.

Esto exige un diseño institucional que reconozca ambas funciones con perfiles un funciones muy diferentes y las dote de lo que requiere cada una de manera diferenciada. Confundirlas o financiar la operación crítica como si fuera una unidad más de un servicio público es una receta para el incidente mayor que nadie quiere protagonizar.

Desafío 4 – Más Vitamina-I: capacidad de implementar

Y el cuarto desafío es el que amarra todo lo anterior: dotar a la Secretaría de Gobierno Digital de más Vitamina-I. ¿Qué es la Vitamina-I? La capacidad de implementar, de echar a andar las exigencias que la propia ley plantea. Porque diagnósticos tenemos de sobra —yo mismo he contribuido con varios— pero la distancia entre el diagnóstico y la implementación es exactamente donde este proceso se ha ido quedando.

Eso significa recursos adecuados, financieros y de personal. Significa equipos con capacidad de ejecución, no solo de coordinación. Y probablemente signifique también definir estrategias de externalización que permitan que algunos servicios sean operados por terceros, con los resguardos y la gobernanza que corresponde. El Estado no tiene por qué operarlo todo directamente; sí tiene que asegurar que lo que se opera por quien sea cumpla los estándares de un servicio crítico.

Lo he dicho de muchas formas en este espacio: la transformación digital no se juega en los anuncios ni en las plataformas, se juega en las tres variables aburridas de siempre presupuesto, capital humano e infraestructura base más una cuarta que las activa: la capacidad de implementación. Sin Vitamina-I, todo lo demás es PowerPoint.

Una ventana que no va a durar

Los cuatro desafíos están conectados. Sincerar plazos sin mejorar métricas es cambiar la fecha de la misma ficción. Mejorar métricas sin resolver el problema operacional es medir mejor un riesgo que sigue creciendo. Y nada de eso ocurre sin Vitamina-I.

La nueva administración tiene la oportunidad y casi la obligación de hacer este ejercicio ahora, cuando el costo político de sincerar es bajo y el beneficio de ordenar la casa es alto. En un par de años, cuando los plazos de la ley empiecen a vencer masivamente, esa ventana estará cerrada y solo quedará administrar el incumplimiento.

La entrada Gobierno digital: cuatro desafíos urgentes para la nueva administración se publicó primero en Escritorio de Alejandro Barros.

Empezamos el siglo convencidos de que internet repartiría el poder. Un cuarto de siglo después conviene preguntarse si eso ocurrió o si el poder, simplemente, cambió de manos.

Producto de una charla que tuve que dar hace unos días, hice una retrospectiva del desarrollo digital y su impacto en nuestras democracias, debo decir que no soy ni con mucho un experto en ciencias políticas (que me perdonen por adelantado mis amigos cientistas políticos si hay alguna aberración). A comienzos de los 2000 nos contamos una promesa y que hoy 25 años después pareciera de otra época: la red iba a descentralizar el poder, dar voz a quien no la tenía y desarmar a los intermediarios que filtraban lo que podíamos saber. Era una promesa seductora, y durante un tiempo pareció cumplirse. Pero si miramos lo que ha ocurrido: el poder no se repartió, se reconcentró. Lo que cambió no fue la cantidad de poder en circulación, sino quién lo ejerce y con qué herramientas.

Para verlo con claridad ayuda recorrer estos 25 años como un péndulo, en cuatro etapas.

2001–2008: ciberoptimismo y Estado vigilante

El siglo digital no arrancó con la utopía, sino con el miedo. Tras el 11 de septiembre y el ataque a las torres gemelas en Estados Unidos, la ley Patriot Act inauguró una era en que la seguridad legitimó la vigilancia masiva, y el Estado adquirió una capacidad de monitoreo sobre sus ciudadanos que ningún régimen anterior había tenido. En paralelo, y casi sin que lo notáramos, nacían las plataformas que definirían el resto del período: Facebook en 2004, Twitter y WikiLeaks en 2006. Con ellas se inauguró la economía de la atención, donde el dato personal pasó a ser materia prima, y se abrieron canales de difusión y filtración que esquivaban tanto a los medios tradicionales como a los gobiernos.

2009–2013: movilización y desencanto

Esta fue la etapa del entusiasmo. La revolución verde iraní de 2009 y, sobre todo, la Primavera Árabe de 2010–2011 instalaron la idea de la red como tecnología de liberación: las plataformas eran infraestructura de protesta, y filtraciones como el Cablegate de WikiLeaks desafiaban de frente el secreto de Estado. Por un momento, el relato descentralizador parecía confirmado.

El desencanto llegó en 2013, con las revelaciones de Edward Snowden. Lo que destaparon no fue un abuso puntual, sino una arquitectura: la vigilancia masiva era global y sistemática. Ahí el péndulo cambió de signo. Descubrimos que la misma red que nos permitía organizarnos era también la que nos vigilaba. El optimismo se volvió sospecha.

2016–2020: posverdad y captura algorítmica

Si la etapa anterior reveló que la red vigilaba, esta reveló que también manipulaba. El Brexit y la elección de Trump en 2016 mostraron la microsegmentación y la desinformación operando a escala industrial, e instalaron en el debate público la palabra «posverdad». El escándalo de Cambridge Analytica en 2018 puso nombre y método al uso de datos personales para influir en votantes; ese mismo año, Europa respondió con la regulación al uso de datos personales (RGPD), su primer gran intento de devolverle al ciudadano algún control sobre sus datos. La pandemia de 2020 aceleró todo: un salto digital forzado y, con él, la tensión —que sigue abierta— entre vigilancia sanitaria y libertades individuales, más una «infodemia» que mostró lo frágil que es nuestro ecosistema informativo.

2021–2026: poder algorítmico, IA y soberanía digital

Cerrando el círculo. El asalto al Capitolio en 2021 dejó a la vista algo que veníamos intuyendo: las plataformas podían dar de baja a un presidente en ejercicio. El poder privado sobre el debate público dejó de ser una abstracción. En 2022, mientras Europa regulaba a las plataformas con la DSA y la DMA, la irrupción de ChatGPT masificó la IA generativa y volvió a redibujar el tablero. El «superaño electoral» de 2024 —más de setenta países a las urnas, entre deepfakes y campañas asistidas por IA— puso a prueba ese ecosistema, y la UE aprobó su Ley de IA. Y ya en 2025–2026, con los agentes de IA, el poder se concentra de forma todavía más nítida en quienes controlan los datos, el cómputo y los modelos, mientras los Estados descubren que su autonomía tecnológica es un bien que hay que disputar.

El hilo conductor

Visto así hay un patrón, difícil de ignorar. Cada vez que celebramos que la tecnología democratizaba algo, el ciclo siguiente nos mostró el reverso: la red que organiza también vigila, la plataforma que da voz también manipula, el modelo que asiste también concentra. No es que la tecnología sea mala; es que el poder que habilita rara vez se queda donde la narrativa optimista prometía. De los Estados y los medios pasó a un puñado de plataformas, y de ahí a quienes hoy controlan la infraestructura de la IA.

Creo que la pregunta correcta ya no es la que nos hacíamos en 2001. No se trata de si la tecnología democratiza, la respuesta, claramente, es «depende», sino de algo más político y más urgente:

A propósito de la pregunta en la foto adjunta de la última reunión del G7 desarrollada en Francia se ven a los presidentes de Francia y Estados Unidos acompañados de los CEO’s de OpenAI, Anthropic, Google DeepMind y SalesForce

La entrada El péndulo digital: 25 años de tecnología, poder y democracia se publicó primero en Escritorio de Alejandro Barros.

Alguien con audiencia de mil millones de personas finalmente está instalando reflexiones en torno a la IA y haciendo las preguntas correctas.

El 15 de mayo, justo en el 135° aniversario de la encíclica Rerum Novarum, el Papa León XIV publicó su primera encíclica social: Magnifica Humanitas. El subtítulo es bastante certero: Sobre la custodia de la persona humana en el tiempo de la Inteligencia Artificial.

Es un texto que tiene más lucidez política sobre los riesgos del poder tecnológico que la mayoría de los libros blancos de gobernanza de IA que circulan por ahí, además de ser uno de los pocos documentos oficiales de la Iglesia que advierte sobre los usos de las nuevas tecnologías, en particular la IA. Aunque también tiene algunos problemas, que es bueno señalar.

Lo que el documento dice bien

León XIV parte de una constatación que cualquiera que siga el sector reconoce: el poder tecnológico hoy no está en manos de los estados. Está en un puñado de actores privados transnacionales con más recursos que muchos gobiernos y con una velocidad de acción que los reguladores nunca logran igualar. Y hace la pregunta que muchos evitan: ¿quién la controla y hacia qué fines?

Para plantear el dilema de fondo usa dos imágenes bíblicas. La Torre de Babel: tecnología construida sobre el orgullo y la autosuficiencia, que termina en dispersión y deshumanización. Y la reconstrucción de los muros de Jerusalén por Nehemías: trabajo comunitario, responsabilidad compartida, orientado al bien común. Puede sonar a homilía dominical, pero si uno lo traduce al lenguaje de política pública, la distinción es interesante: la diferencia entre un ecosistema tecnológico diseñado para concentrar valor versus uno diseñado para distribuir capacidades y fortalecer lo público.

Un capítulo interesante es el que plantea transhumanismo —esas corrientes que prometen que la tecnología nos liberará de la fragilidad, la vejez y eventualmente de la muerte. León XIV no lo trata como una extravagancia de Silicon Valley. Lo trata como un riesgo filosófico serio, porque parte de una premisa equivocada: que la vulnerabilidad humana es un error que hay que corregir. La respuesta cristiana es la Encarnación: Dios eligió la fragilidad, no la esquivó. No sé cuántos ejecutivos de OpenAI leerán encíclicas, pero la crítica filosófica vale independientemente de quién la firme.

También hay un capítulo sobre la guerra y la IA que es de los más directos que he leído en un documento de esta naturaleza. León XIV dice sin rodeos que los sistemas de armas autónomos, los ataques cibernéticos y las campañas de desinformación algorítmica son formas reales de violencia, que la guerra nunca es inevitable y que los líderes tienen la obligación de dialogar. Sin la habitual diplomacia vaticana que suaviza todo.

Lo que se complementa desde acá

Casualmente, doce días antes del lanzamiento de la encíclica, el 12 de mayo en la Aula Magna de la Universidad Alberto Hurtado, se presentó el libro Mensajes para una IA al servicio de la humanidad — del que tuve el privilegio de ser parte del Comité Editorial. Treinta voces, chilenas y del extranjero, respondiendo las preguntas de fondo sobre IA: las que raramente aparecen en los titulares pero que son las que realmente importan.

Cuando uno lee los dos textos seguidos, la convergencia es llamativa. La tesis central que emerge del libro es que el mayor riesgo hoy no es que las máquinas piensen, sino que nosotros dejemos de hacerlo. Ricardo Baeza-Yates lo dice directo: siempre debemos tener pensamiento crítico, dudar de todo. Yo mismo planteo en mi capítulo que me preocupa que empecemos a perder el juicio crítico frente a lo que dice el computador. Andrés González S.J. lo formula de la manera quizás más provocadora: el peligro es crear máquinas que parezcan humanos y tratar a los humanos como máquinas.

León XIV dice prácticamente lo mismo pero desde la filosofía: ningún sistema de cálculo genera un corazón que se entrega ni una conciencia capaz de discernir el bien.

Fernando de la Torre, en el primer capítulo del libro, dice sin rodeos que el 1% que concentra el poder tecnológico es el mayor peligro para la humanidad. La encíclica hace la misma lectura. Que una encíclica papal y un investigador de Carnegie Mellon coincidan en el mismo diagnóstico no es menor. Cuando voces tan distintas dicen lo mismo, conviene prestar atención.

El libro también aborda usos concretos, por ejemplo: María Paz Hermosilla hablando de transparencia algorítmica en políticas públicas, Carlos Aspillaga mostrando IA al servicio de comunidades indígenas, Daniela Mennickent describiendo cómo la IA podría detectar endometriosis sin cirugía.

Lo que la encíclica no se atrevió a decir

Dicho todo lo anterior, una lectura honesta obliga a señalar lo que falta.

Magnifica Humanitas tiene 110 páginas. Cuando uno llega al final esperando encontrar qué hacer con todo esto, el documento se diluye en generalidades: Desarmar las palabras. Construir la paz en la justicia. Relanzar el diálogo. Invertir en educación. Cuidar las relaciones. Nadie va a estar en contra de ninguna de esas cosas. El problema es que tampoco sirven como programa de acción, y si bien las encíclicas no tienen por objetivo ser un plan de acción, quizás identificando ciertos criterios generales para su desarrollo hubieran sido útiles..

No hay una posición sobre regulación de sistemas de IA de alto riesgo. No hay opinión sobre si los modelos fundacionales deberían ser bienes públicos o pueden seguir siendo propiedad privada de cuatro empresas. Nada sobre estándares mínimos de transparencia algorítmica. Nada sobre qué hacer con los trabajadores desplazados más allá de «valorar la dignidad del trabajo». La Rerum Novarum de 1891, que el propio León XIV invoca como inspiración, tuvo la misma limitación — y la historia la juzgó con justicia. Lo que cambió las condiciones del trabajo no fueron los principios pontificios, sino la organización sindical, la presión política y legislación concreta.

La segunda crítica es más de fondo. Cuando la encíclica habla de «actores privados transnacionales» que concentran el poder tecnológico, está hablando en la práctica de Google, Meta, Microsoft, OpenAI, Apple, Amazon. El documento lo sabe, pero nunca lo dice. Prefiere la abstracción al nombre propio. Y eso tiene una consecuencia analítica seria: el texto lee la revolución de la IA casi exclusivamente desde la lógica de Silicon Valley. Hay una sola mención tangencial a China.

La encíclica habla mucho de dignidad humana universal, pero su mirada sobre el poder tecnológico tiene un fiurete sesgo a lo que ocurre en Silicon Valley. El problema de la concentración no es solo que cuatro empresas tengan demasiado poder: es que esas cuatro empresas están en un solo país, operan bajo una sola lógica de mercado, y sus decisiones de diseño incorporan los valores y los prejuicios de un contexto cultural muy específico que se exporta al resto del mundo como si fuera neutro. Eso no es un detalle. Es el corazón del problema de gobernanza global de la IA, y la encíclica lo roza sin profundizarlo.

¿Qué le dice Magnifica Humanitas a un municipio rural chileno sin presupuesto TI ni profesionales capacitados? ¿O a un país cuya economía digital está mediada casi completamente por plataformas diseñadas en otro hemisferio?

Por qué igual vale la pena leerlo

Dicho todo eso, León XIV está haciendo una pregunta que los gobiernos de la región evitan sistemáticamente. No ¿cómo digitalizamos más rápido? sino ¿digitalizamos para qué y para quién?

Esa pregunta incomoda a los ministerios de tecnología, a los organismos multilaterales y a los consultores que viven de vender la transformación digital como fin en sí misma. Que la haga un documento con la audiencia global que tiene el Vaticano tiene valor, aunque la respuesta sea incompleta.

El problema es que las preguntas correctas sin respuestas concretas pueden convertirse, con el tiempo, en cobertura moral para la inacción. Y en eso, la Iglesia tiene una historia larga.

Mientras tanto, los treinta del libro de Mensaje siguen intentando responder desde acá, con nombres propios y casos concretos. Que ambos esfuerzos coexistan en el mismo mes de mayo no es casualidad. Es señal de que la pregunta ya no puede ignorarse.

Magnifica Humanitas está disponible aquí. Mensajes para una IA al servicio de la humanidad disponible aquí.

La entrada El Papa habla de IA: lo que dijo, lo que no dijo y por qué vale la pena leerlo se publicó primero en Escritorio de Alejandro Barros.

Hay libros que llegan en el momento exacto. Este es uno de esos.

Mensajes para una IA al servicio de la humanidad no es un manual técnico, ni el ensayo de un solo autor. Es un mosaico de treinta voces expertas —chilenas y del extranjero— que intentan responder las preguntas de fondo sobre inteligencia artificial: las que raramente aparecen en los titulares, pero que son las que realmente importan.

Tuve el privilegio de ser parte del Comité Editorial de este proyecto. Y lo que me llevé no fue solo la satisfacción de haber contribuido a algo valioso, sino la certeza de que este es exactamente el tipo de reflexión que necesitamos hoy: informada, crítica, multidisciplinaria y profundamente humana.

Lo que más me llamó la atención, leyendo los manuscritos durante el proceso editorial, fue la convergencia en algo que nadie hubiera predicho como tema central: la importancia del pensamiento humano. En el fondo, este libro no es tanto sobre la IA como sobre nosotros. Sobre lo que somos capaces de hacer con estas herramientas —y sobre lo que podríamos perder si no prestamos atención y nos hacemos cargo de los desafíos que plantean.

El mayor riesgo hoy no es que las máquinas piensen, sino que nosotros dejemos de hacerlo

El mayor riesgo hoy no es que las máquinas piensen, sino que nosotros dejemos de hacerlo. Esa es la tesis transversal que emerge de casi todas las entrevistas, independientemente del perfil del entrevistado.

Libro organizado en cinco capítulos

Capítulo I — IA: revolución planetaria

El punto de partida es la magnitud del fenómeno. No estamos ante un cambio tecnológico más: estamos ante una transformación que redefine la economía, el Estado y la vida cotidiana de las personas. Las voces de este capítulo abarcan desde quienes lideran la adopción de IA en el sector público hasta quienes advierten sobre los límites planetarios del desarrollo tecnológico.

Un nombre que destaca: Fernando de la Torre, quien sin rodeos plantea que la concentración del poder tecnológico en el 1% es el mayor peligro que enfrenta la humanidad hoy. También Aisén Etcheverry, con una visión de Estado que combina eficiencia e inclusión. Y Ricardo Baeza-Yates, recordándonos que el pensamiento crítico no es opcional.

• Álvaro Soto Arriaza — «La inteligencia artificial va a cambiar en forma disruptiva la vida de cada uno de nosotros»
• Aisén Etcheverry Escudero — «Inteligencia artificial con propósito: para un Estado inclusivo y eficiente»
• Claudio Seebach Speiser — El corazón eléctrico de la inteligencia artificial
• Martín Tironi Rodó — Comprendiendo la IA en el contexto de los límites planetarios
• Fernando de la Torre — «El 1% que concentra el poder tecnológico es el mayor peligro para la humanidad»
• Ricardo Baeza-Yates — «Siempre debemos tener pensamiento crítico, dudar de todo»
• Felipe Mancini Ruiz-Tagle — «El mayor freno para la industria no será tecnológico, será humano»
• Rodrigo Durán Rojas — El reto de desarrollar una IA en Chile con enfoque propio

Capítulo II — Dignidad e identidad humana en el ciberespacio

Aquí el libro se pone algo más filosófico. Si la IA puede imitar lo que hacemos, ¿qué nos queda como propiamente humano? Los dilemas éticos, el libre albedrío, la soledad digital de los jóvenes, el juicio crítico frente a lo que dice el algoritmo: todo eso tiene nombre y apellido en este capítulo.

Pedro Maldonado Arbogast compara la IA con una sombra de nuestro propio cerebro. Ramón López de Mántaras advierte sobre el riesgo de olvidar el valor del ser humano.

• Gabriela Arriagada Bruneau — «La lista de dilemas éticos que presenta la IA es larga»
• Ramón López de Mántaras — «El riesgo de la inteligencia artificial es que nos lleve a olvidar el valor del ser humano»
• Pedro Maldonado Arbogast — «La IA es una sombra de lo que puede hacer nuestro cerebro»
• Alejandro Piscitelli Murphy — «Desde el punto de vista del diseño del futuro, siempre tenemos que ir al pasado»
• Daniela Alegría Fuentes — De chatbots, robots cuidadores y la soledad digital de los jóvenes
• Juan Inostroza Lanas — Del libre albedrío de la persona humana a la libertad condicionada de la inteligencia artificial
• Alejandro Barros Cabero — «Me preocupa que empecemos a perder el juicio crítico frente a lo que dice el computador»
• Julio Rojas Gutiérrez — «La ciencia ficción siempre ha sido el gran predictor del futuro y modelador de la realidad»
• Cristián Barría Huidobro — Pensar la máquina: humanismo y ciberseguridad en tiempos de inteligencia artificial

Capítulo III — Ética y gobernanza en la frontera digital

¿Quién gobierna el ciberespacio? ¿Cómo se regulan tecnologías que avanzan más rápido que los marcos legales? Este capítulo baja a tierra con perspectivas concretas sobre derechos, gobernanza y regulación.

Danielle Zaror argumenta la tecnología debe ampliar derechos, nunca limitarlos. Kenneth Pugh propone pensar el ciberespacio como un dominio creado por la humanidad que debe gobernarse como tal. Y Maximiliano Santa Cruz advierte contra la tentación de legislar apresuradamente ante cada novedad tecnológica

• Danielle Zaror Miralles — «Esta tecnología debe permitir el ejercicio de los derechos, no limitarlos ni anularlos»
• Kenneth Pugh Olavarría — Cómo gobernar el ciberespacio: un dominio creado por la humanidad
• Maximiliano Santa Cruz Scantlebury — «No soy partidario de sobre reaccionar y hacer inmediatamente normas ad hoc para la IA»

Capítulo IV — La educación y las nuevas alfabetizaciones

Si hay un capítulo que debería leer todo rector, decano o director de colegio, es este. Las habilidades que importarán en un mundo con IA no son las mismas de siempre. Las metahabilidades —aprender a aprender, el pensamiento crítico, lo relacional— cobran una relevancia que nunca habían tenido.

Cristóbal Cobo lo dice directo: necesitamos nuevas alfabetizaciones. Paula Aguirre presenta cómo la Universidad Católica está enfrentando este desafío. Andrés González S.J. alerta sobre el riesgo de crear máquinas que parezcan humanas y tratar a los humanos como máquinas. Julio Bascuñán añade algo fundamental: ninguna tecnología reemplazará a la persona ni a sus vínculos.

• Cristóbal Cobo Romaní — «Hoy necesitamos nuevas alfabetizaciones y metahabilidades»
• Paula Aguirre Aparicio — La PUC, frente al futuro humano de la inteligencia artificial
• Andrés González S.J. — El riesgo de crear máquinas que parezcan humanos y tratar a los humanos como máquinas
• Julio Bascuñán B. — «Ninguna herramienta tecnológica reemplazará a la persona y su relación con sus semejantes»

Capítulo V — IA al servicio de la humanidad

El capítulo final es el más esperanzador —y también el más exigente. No se trata de la IA que existe, sino de la IA que podemos construir. Los casos que se presentan aquí muestran que el potencial es enorme, si nos lo proponemos.

• María Paz Hermosilla Cornejo — Transparencia algorítmica en políticas públicas
• Carolina Sepúlveda Valenzuela — Las humanidades digitales en el centro de la innovación
• Brian Keith Norambuena — Analítica narrativa e inteligencia artificial para enfrentar la desinformación
• Carlos Aspillaga Valdés — Inteligencia artificial al servicio de las comunidades indígenas
• Richard Weber Haas — Fiscal HeredIA, un rock star
• Daniela Mennickent Barros — La IA ayudaría a detectar la endometriosis sin cirugía
• Gonzalo Ruz Heredia — La nueva frontera del conocimiento y la ética se llama IA

¿Por qué vale la pena leerlo?

No es un libro de respuestas fáciles. No encontrarás aquí el entusiasmo acrítico de Silicon Valley ni el catastrofismo que también cansa. Lo que encontrarás son treinta personas —investigadores, académicos, funcionarios, emprendedores, filósofos— que piensan en serio, con evidencia y con honestidad intelectual.

Está editado por Mensaje, con el respaldo de la Pontificia Universidad Católica, Universidad Católica del Norte, Universidad Católica de Sanatisima Concepción, Universidad Alberto Hurtado, Red Educacional Ignaciana y Red Santo Tomás.

El lanzamiento del libro se desarrolló el día 12 de mayo del 2026, en el Salón Aula Magna de la Universidad Alberto Hurtado. Aquí les dejo el video de dicho lanzamiento. Si se entusiasmó a compralo, pase por acá

La entrada Mensajes para una IA al servicio de la humanidad se publicó primero en Escritorio de Alejandro Barros.