Cuatro desafíos que enfrenta el regulador frente a las tecnologías emergentes: los ritmos, la asimetría de conocimiento, la tentación de regular el artefacto en vez del riesgo, y la capacidad institucional

En noviembre de 2023 expuse en la primera versión del Congreso DO Data Science, organizado por Data Observatory con apoyo de ANID. Buena parte de mi presentación la dediqué a un tema que me parece anterior y más de fondo que cualquier proyecto de ley específico: los desafíos que enfrentan los reguladores cuando les toca normar tecnologías emergentes. Recordé esa exposición producto de una conversación hace unos días con personas vinculadas a los espacios de regulación. En esa exposición plantee algunos desafíos que me permito recordar (el video de la charla está al final de post).

El problema de los ritmos

El primer desafío es el más evidente y el más difícil de resolver: el problema de los ritmos. Un proyecto de ley que se tramita durante tres o cuatro años corre el riesgo de nacer regulando una tecnología que ya no existe en la forma en que el legislador la imaginó. Basta ver lo que pasó con la inteligencia artificial generativa: cualquier marco regulatorio diseñado antes de fines de 2022 quedó conceptualmente obsoleto en cuestión de meses. El regulador corre una carrera en la que el otro competidor cambia de vehículo a mitad de pista.

La asimetría de conocimiento

El segundo desafío es la asimetría de conocimiento. Quienes desarrollan estas tecnologías entienden su funcionamiento, sus límites y sus riesgos reales mucho mejor que quienes deben normarlas. Esa brecha no se cierra con audiencias en comisiones parlamentarias. Y cuando el regulador no entiende la complejidad de lo que regula, tiende a dos errores simétricos: o regula de más, poniendo barreras a cosas inocuas, o regula de menos, dejando pasar los riesgos que sí importan. Muchas veces se regula sin entender la complejidad que hay detrás.

Regular el artefacto en vez del riesgo

El tercer desafío es la tentación de regular el artefacto en vez del riesgo. Cuando la norma se escribe pensando en una tecnología específica —»la inteligencia artificial», «el blockchain», «los drones»— envejece con esa tecnología y hay que volver a legislar con cada ola. Cuando se escribe pensando en riesgos y usos —decisiones automatizadas que afectan derechos, opacidad en sistemas críticos, discriminación algorítmica— la norma resiste mejor el paso del tiempo. Parece una distinción académica, pero define si un marco regulatorio dura quince años o cinco.

La capacidad institucional del regulador

Y hay un cuarto desafío del que se habla poco: la capacidad institucional del propio regulador. Esto conecta con algo que he planteado hasta el cansancio a propósito de la transformación digital del Estado. Aprobar una ley es la parte fácil; implementarla requiere equipos técnicos que entiendan la materia, presupuesto y herramientas. Un regulador sin capacidad técnica frente a industrias que concentran a los mejores especialistas del mundo no es un regulador: es un espectador con timbre. Si vamos a crear institucionalidad para supervisar tecnologías, la pregunta incómoda es la de siempre: con qué gente, con qué plata y con qué infraestructura.

Nada de esto es un argumento contra la regulación. Es un argumento a favor de regular bien: con enfoque de riesgos, con marcos tecnológicamente neutros donde se pueda, con reguladores dotados de capacidad real, y con espacios de diálogo entre academia, industria y sociedad civil. Porque este es un espacio por descubrir en muchos ámbitos, y las respuestas no las tiene ningún actor por sí solo.

Información Complementaria

Mas sobre regulaciones, les dejo este debate en la Universidad Diego Portales en el cual me tocó compartir con  representantes de la Fiscalía Nacional Económica y la Comisión Nacional de Productividad

La entrada El regulador frente a la tecnología: una carrera que corre con desventaja se publicó primero en Escritorio de Alejandro Barros.

Empezamos el siglo convencidos de que internet repartiría el poder. Un cuarto de siglo después conviene preguntarse si eso ocurrió o si el poder, simplemente, cambió de manos.

Producto de una charla que tuve que dar hace unos días, hice una retrospectiva del desarrollo digital y su impacto en nuestras democracias, debo decir que no soy ni con mucho un experto en ciencias políticas (que me perdonen por adelantado mis amigos cientistas políticos si hay alguna aberración). A comienzos de los 2000 nos contamos una promesa y que hoy 25 años después pareciera de otra época: la red iba a descentralizar el poder, dar voz a quien no la tenía y desarmar a los intermediarios que filtraban lo que podíamos saber. Era una promesa seductora, y durante un tiempo pareció cumplirse. Pero si miramos lo que ha ocurrido: el poder no se repartió, se reconcentró. Lo que cambió no fue la cantidad de poder en circulación, sino quién lo ejerce y con qué herramientas.

Para verlo con claridad ayuda recorrer estos 25 años como un péndulo, en cuatro etapas.

2001–2008: ciberoptimismo y Estado vigilante

El siglo digital no arrancó con la utopía, sino con el miedo. Tras el 11 de septiembre y el ataque a las torres gemelas en Estados Unidos, la ley Patriot Act inauguró una era en que la seguridad legitimó la vigilancia masiva, y el Estado adquirió una capacidad de monitoreo sobre sus ciudadanos que ningún régimen anterior había tenido. En paralelo, y casi sin que lo notáramos, nacían las plataformas que definirían el resto del período: Facebook en 2004, Twitter y WikiLeaks en 2006. Con ellas se inauguró la economía de la atención, donde el dato personal pasó a ser materia prima, y se abrieron canales de difusión y filtración que esquivaban tanto a los medios tradicionales como a los gobiernos.

2009–2013: movilización y desencanto

Esta fue la etapa del entusiasmo. La revolución verde iraní de 2009 y, sobre todo, la Primavera Árabe de 2010–2011 instalaron la idea de la red como tecnología de liberación: las plataformas eran infraestructura de protesta, y filtraciones como el Cablegate de WikiLeaks desafiaban de frente el secreto de Estado. Por un momento, el relato descentralizador parecía confirmado.

El desencanto llegó en 2013, con las revelaciones de Edward Snowden. Lo que destaparon no fue un abuso puntual, sino una arquitectura: la vigilancia masiva era global y sistemática. Ahí el péndulo cambió de signo. Descubrimos que la misma red que nos permitía organizarnos era también la que nos vigilaba. El optimismo se volvió sospecha.

2016–2020: posverdad y captura algorítmica

Si la etapa anterior reveló que la red vigilaba, esta reveló que también manipulaba. El Brexit y la elección de Trump en 2016 mostraron la microsegmentación y la desinformación operando a escala industrial, e instalaron en el debate público la palabra «posverdad». El escándalo de Cambridge Analytica en 2018 puso nombre y método al uso de datos personales para influir en votantes; ese mismo año, Europa respondió con la regulación al uso de datos personales (RGPD), su primer gran intento de devolverle al ciudadano algún control sobre sus datos. La pandemia de 2020 aceleró todo: un salto digital forzado y, con él, la tensión —que sigue abierta— entre vigilancia sanitaria y libertades individuales, más una «infodemia» que mostró lo frágil que es nuestro ecosistema informativo.

2021–2026: poder algorítmico, IA y soberanía digital

Cerrando el círculo. El asalto al Capitolio en 2021 dejó a la vista algo que veníamos intuyendo: las plataformas podían dar de baja a un presidente en ejercicio. El poder privado sobre el debate público dejó de ser una abstracción. En 2022, mientras Europa regulaba a las plataformas con la DSA y la DMA, la irrupción de ChatGPT masificó la IA generativa y volvió a redibujar el tablero. El «superaño electoral» de 2024 —más de setenta países a las urnas, entre deepfakes y campañas asistidas por IA— puso a prueba ese ecosistema, y la UE aprobó su Ley de IA. Y ya en 2025–2026, con los agentes de IA, el poder se concentra de forma todavía más nítida en quienes controlan los datos, el cómputo y los modelos, mientras los Estados descubren que su autonomía tecnológica es un bien que hay que disputar.

El hilo conductor

Visto así hay un patrón, difícil de ignorar. Cada vez que celebramos que la tecnología democratizaba algo, el ciclo siguiente nos mostró el reverso: la red que organiza también vigila, la plataforma que da voz también manipula, el modelo que asiste también concentra. No es que la tecnología sea mala; es que el poder que habilita rara vez se queda donde la narrativa optimista prometía. De los Estados y los medios pasó a un puñado de plataformas, y de ahí a quienes hoy controlan la infraestructura de la IA.

Creo que la pregunta correcta ya no es la que nos hacíamos en 2001. No se trata de si la tecnología democratiza, la respuesta, claramente, es «depende», sino de algo más político y más urgente:

A propósito de la pregunta en la foto adjunta de la última reunión del G7 desarrollada en Francia se ven a los presidentes de Francia y Estados Unidos acompañados de los CEO’s de OpenAI, Anthropic, Google DeepMind y SalesForce

La entrada El péndulo digital: 25 años de tecnología, poder y democracia se publicó primero en Escritorio de Alejandro Barros.

En un mundo donde cualquier imagen puede ser falsa, la confianza se vuelve un recurso escaso. La CAI apunta en la dirección correcta.

En la actualidad en la web circulan millones de imágenes, vídeos y documentos cuya procedencia resulta difícil de verificar. La irrupción de herramientas avanzadas de edición, sumado a la generación de contenido mediante IA, ha llevado a un escenario en el que distinguir lo real de lo “fake” se ha convertido en un un gran desafío desafío, incluso para los expertos. Esto afecta a las personas, medios de comunicación, instituciones públicas, organizaciones sociales y empresas. 

La credibilidad en torno a cualquier pieza digital —una fotografía de prensa, un video institucional, un documento oficial— nunca ha estado tan cuestionada como hoy.  En este contexto se está desarrollando una interesante iniciativa, esto es, la Content Authenticity Initiative (CAI), una propuesta colaborativa impulsada inicialmente por la empresa Adobe y hoy sostenida por un ecosistema amplio de empresas tecnológicas, medios de comunicación y organizaciones de la sociedad civil. 

Con un objetivo ambicioso, restablecer la confianza digital mediante la creación de un estándar abierto que permita conocer el origen, la edición y el historial de un contenido. 

Si las personas pudieran saber de forma clara quién creó un contenido, cuándo, con qué herramienta, y qué modificaciones ha sufrido, la credibilidad del entorno digital aumentaría de manera significativa.

La CAI se articula en torno a la especificación técnica C2PA,  un estándar abierto que define cómo incorporar un conjunto de metadatos verificables, es un esquema de credenciales de los contenidos digitales (procedencia, edición, uso de inteligencia artificial, etc).  La información queda asociada al archivo mediante mecanismos criptográficos que permiten asegurar su integridad. Si alguien manipula el contenido sin seguir los pasos que permiten registrar cambios, la credencial lo reflejará.

Lo interesante de esta iniciativa es que apunta a un problema sistémico y no a una simple solución técnica. Las metadatos de procedencia no solo protegen a los creadores, sino que refuerzan la confianza en los usuarios, quienes pueden interpretar mejor el contexto y valorar la fiabilidad del contenido. Del mismo modo, organizaciones públicas y privadas pueden transparentar sus procesos, acreditando la autenticidad de material oficial, campañas institucionales o registros visuales sensibles.

En un mundo donde la desinformación se ha convertido en un vector de riesgo reputacional, político y social, esta herramienta puede aportar una capa adicional de seguridad y legitimidad.

Sin embargo, la CAI enfrenta varios desafíos importantes en su camino hacia la masificación. 

• Adopción: el primero y probablemente el más relevante, es la adopción. Ningún estándar prospera si solo es utilizado por un grupo reducido de actores. Para que los Content Credentials se conviertan en un componente cotidiano del ecosistema digital, deben integrarse tanto en las herramientas de creación —como cámaras, teléfonos, editores y plataformas de IA— como en los lugares donde se publica y distribuye contenido: redes sociales, medios de comunicación, repositorios, galerías y sistemas de archivos. Si bien, la iniciativa cuenta con el apoyo de organizaciones importantes, aún está lejos de ser un estándar universal.

• Confianza: aunque los mecanismos criptográficos aportan seguridad, la veracidad de la información registrada depende del comportamiento de quienes generan y firman esas credenciales. Que un archivo tenga una etiqueta de procedencia no garantiza por sí mismo que lo que se muestra sea éticamente legítimo o que represente los hechos de manera fiel. Esto requiere una cadena de confianza robusta, modelos de gobernanza transparentes y actores que respondan por el uso adecuado de sus identidades digitales.

• Difusión y uso: la capacitación de los usuarios es otro obstáculo considerable. Para que este mecanismo tenga impacto real, las personas deben comprender qué significan las credenciales, cómo se visualizan y qué información aportan. De lo contrario, podrían transformarse en un elemento decorativo o, peor aún, generar una sensación de falsa seguridad. Del mismo modo, la industria tendrá que desarrollar interfaces claras y consistentes para que la procedencia sea visible sin dificultar la experiencia del usuario.

• Autenticidad versus Privacidad: hay que  enfrentar tensiones entre autenticidad y privacidad. Registrar el contexto de creación y edición de un contenido puede revelar información sensible sobre personas, procesos o instituciones. Será crucial definir cómo equilibrar transparencia con protección de datos, especialmente en ámbitos que manejan información crítica o sujetos vulnerables.

• Obsolescencia tecnológica: la evolución tecnológica añade una última capa de complejidad. A medida que las herramientas de manipulación digital avanzan, también lo harán las formas de evadir, falsificar o romper los mecanismos de autenticidad. La CAI deberá adaptarse con rapidez, actualizar sus especificaciones y mantener una comunidad técnica activa para enfrentar nuevas amenazas.

A pesar de estos desafíos, el potencial de la CAI para fortalecer la confianza digital es significativo. En el ámbito público chileno, por ejemplo, podría convertirse en una pieza valiosa para asegurar la autenticidad de campañas gubernamentales, documentos oficiales, evidencia audiovisual o materiales utilizados en procesos institucionales. La transparencia es un activo crítico en la gestión pública, y dotar a los contenidos de una certificación verificable puede contribuir a enfrentar la desinformación, fortalecer la rendición de cuentas y mejorar la interacción con la ciudadanía.

La Content Authenticity Initiative no resolverá por sí sola la crisis de confianza digital, pero constituye un paso importante hacia un ecosistema más transparente. Al ofrecer una forma clara y verificable de conocer el origen y la manipulación del contenido, abre la puerta a nuevas prácticas de integridad informacional. Su éxito dependerá de la adopción, de la alfabetización digital y de la capacidad de gobernar un estándar que debe ser, ante todo, confiable y universal. 

La entrada Desafíos frente a la autenticidad del contenido en la era de la IA se publicó primero en Escritorio de Alejandro Barros.

Gustavo Entrala en un interesante video, plantea un pregunta válida respecto de la evolución de la IA, ¿se acabó la fiesta?

Durante los últimos dos años, el crecimiento del mercado de la inteligencia artificial ha sido tan vertiginoso que muchos analistas han comenzado a preguntarse si estamos viviendo un fenómeno similar al de la burbuja .com de fines de los noventa e inicios de los 2000 de fines de los noventa.

Antecedentes

A partir de algunos de los elementos que muchos analistas financieros e historiadores planteancomo claves para anlizar los ciclos económicos, podemos ver algunas señales que resultan preocupantes.

Valoraciones extraordinarias, alta concentración en pocas empresas

Relaciones circulares proveedores-clientes (OpenAI, MS, Oracle, AMD, Nvidia, …),

Expectativas desmedidas y el nivel de hype de la IA

La IA va a transformar todo.

Muy buen análisis

Un buen amigo Germán Quintana, y con el cual habíamos conversado el tema, me compartió un interesante video en el cual en forma bastante seria Gustavo Entrala realiza un análisis respecto de si estamos frente a una burbuja financiera producto del desarrollo de la IA, en si video explicativo intenta abordar el tema desde diferentes dimensiones (financiera, tecnológica, empresarial y de infraestructura).

Entrala realiza un serio análisis respecto de si están dadas las condiciones para una burbuja financiera, su análisis lo realiza en base a las investigaciones de la economista Carlota Pérez y su libro  Revoluciones tecnológicas y capital financiero en el cual vincula los cambios tecnológico con la dinámica del capital financiero, argumentando que cada revolución tecnológica pasa por una fase inicial de especulación financiera («burbuja») y caos, seguida por un colapso, y luego por una fase de «época dorada» o bonanza. 

No les hago más “spoiler” les recomiendo se den un tiempo para verlo, es realmente interesante su análisis

La entrada IA: ¿se aproxima una BURBUJA financiera? se publicó primero en Escritorio de Alejandro Barros.

Los programas de gobierno de los candidatos en estas materias son bastante pobres, muestran avances parciales y un énfasis en modernización administrativa más que en una transformación digital profunda

Revisé los programas presidenciales (publicados en la web, adjunto los documentos al final de este post) de algunos de los candidatos, me refiero a Jeannette Jara, José Antonio Kast y Evelyn Matthei (en orden alfabético). Si ya se que hay más candidatos, pero me di el trabajo de analizar a los que según últimas encuestas tienen mayores probabilidades de transformarse en la próxima administración. Adicionalmente propongo algunas ideas en materias de Desarrollo Digital del Estado para la próxima administración.

Programas de Gobierno 2026-2030

Algunas de las principales propuestas en el ámbito digital de los candidatos presidenciales Jeannette Jara, José Antonio Kast y Evelyn Matthei son:

Jeannette Jara

• Conectividad digital: culminar la red 5G con cobertura en zonas rurales, para mejorar productividad, salud, educación e inclusión .
• Transformación productiva: inversión en investigación, desarrollo e innovación (I+D+i) con énfasis en sectores como litio, cobre, hidrógeno verde y energías renovables .
• Ventanilla única digital para inversión: simplificación de permisos con trazabilidad digital y ventanilla única (SEA y sectorial), más participación ciudadana temprana en proyectos .
• Oficina presidencial de proyectos estratégicos: coordinación público-privada para destrabar proyectos de inversión, con fuerte componente de infraestructura digital.
• Infraestructura tecnológica: impulso a fibra óptica y redes logísticas inteligentes, además de un sistema nacional de inversiones más ágil .
• Industria digital y conocimiento: fomento a la creación de empleos en sectores tecnológicos avanzados y a la atracción de inversión extranjera en innovación .

Algunas propuestas interesantes en el área productiva y de conectividad. Sin embargo, en otras áreas medidas muy “old school”, incluso hay referencias a una ventanilla que viene desarrollándose desde la administración Piñera.

José Antonio Kast

• Seguridad digital y vigilancia: plantea fortalecer infraestructura tecnológica de las policías, con inteligencia artificial y análisis de datos masivos para prevención del delito .
• Gobierno digital y simplificación: digitalización de trámites estatales, eliminación de duplicidades administrativas y modernización de servicios públicos para reducir burocracia .
• Conectividad: compromiso con ampliar infraestructura digital en regiones, con foco en acceso universal a internet de calidad .
• Economía digital y emprendimiento: promoción de start-ups tecnológicas, reducción de trabas regulatorias y apoyo a innovación privada como motor de empleo .
• Educación y capacitación digital: impulso a competencias tecnológicas desde la educación básica hasta la formación técnica y superior .

El documento (con una estructura bastante confusa y de difícil lectura), propone muchas ideas en torno al tema de seguridad pública, en los otros temas es bastante débil.

Evelyn Matthei

• Seguridad pública: uso intensivo de cámaras inteligentes, drones, pórticos de reconocimiento y sistemas de inteligencia para enfrentar crimen organizado y narcotráfico .
• Ciencia y tecnología para el desarrollo: fomento de sectores estratégicos como minería sustentable, energías limpias, bioindustria, acuicultura y tecnología .
• Educación digital: fortalecimiento de la educación técnico-profesional, recuperación de aprendizajes perdidos en pandemia y apoyo a profesores con menos burocracia .
• Digitalización del Estado: apuesta por una “digitalización masiva” de trámites, simplificación administrativa, control estricto del gasto y fortalecimiento de Contraloría y justicia para combatir corrupción .
• Salud digital: uso de telemedicina y eliminación de trámites innecesarios en salud .

Algunas propuestas interesantes en seguridad pública, bastante tradicionales en digitalización y muy poco visionarias en tecnologías emergentes y economía digital.

Conclusión General

En términos generales, las propuestas son bastante pobres, muestran una comprensión parcial de los desafíos actuales del país, todas reconocen la necesidad de agilizar trámites y mejorar la conectividad, pero lo hacen con una mirada todavía parcial y con un enfoque de modernización administrativa tradicional que a la transformación digital de nueva generación.

Se aprecia un esfuerzo por avanzar en ventanillas únicas, trazabilidad y uso de tecnologías en áreas específicas como salud o seguridad, pero falta una visión integral que incorpore de manera sistemática los desafíos de interoperabilidad, uso avanzado de datos, ciberseguridad y la aplicación responsable de la inteligencia artificial en servicios públicos.

Propuestas para el Desarrollo Digital del Estado

Como una forma de aportar al debate, les adjunto un conjunto de propuestas que fueron elaborados para una candidatura que ya no se encuentra en carrera, las cuales se basan en diversas fuentes, siendo la más relevante el estudio de Modernización del Estado en Chile 1990-2023 desarrollado por el Centro de Sistemas Públicos de Ingeniería Industrial de la Universidad de Chile del cual fui parte. 

La propuestas, algunas de las cuales están bastante más documentas en el estudio de la referencia, se estructuraron en torno a ocho principios rectores: digital por diseño, centrado en las personas, interoperabilidad, eficiencia, transparencia, innovación, confianza y resiliencia. Las propuestas se agrupan en once líneas de trabajo con un horizonte de tiempo al 2030, en todas ellas se plantean metas:

1. Institucionalidad digital robusta con una Agencia Nacional de Transformación Digital autónoma y un Fondo de Aceleración Digital.
2. Servicios digitales transversales (ClaveÚnica, Pisee, DocDigital, FirmaGob, etc.) tratados como infraestructura crítica.
3. Cierre de brechas territoriales mediante centros regionales de servicios digitales, ERP municipal y repositorios documentales en la nube.
4. Interoperabilidad y datos como activo estratégico, con un Consejo Estratégico de Datos y el principio “una sola vez”.
5. Portal único del Estado (Gob.cl) con 80% de los trámites integrados, carpeta ciudadana y diseño basado en eventos de vida.
6. Talento digital público con certificaciones, programas de alfabetización y equipos digitales ágiles.
7. Inteligencia artificial y tecnologías emergentes, con un laboratorio de innovación, repositorio de algoritmos públicos y automatización del 30% de procesos rutinarios.
8. Ciberseguridad y resiliencia digital, fortaleciendo la Agencia de Ciberseguridad, SOC 24/7 y planes actualizados en todas las instituciones.
9. Participación ciudadana digital con APIs abiertas, rendición de cuentas digital y 50% de políticas con mecanismos de participación.
10. Transformación digital territorial, con laboratorios regionales e inversión para reducir en 50% la brecha digital.
11. Marco legal digital, para estandarizar y actualizar leyes recientes (ciberseguridad, datos personales, IA, delitos informáticos).

En cuanto a compromisos 2026–2030, se fijan metas concretas: 1% del PIB en inversión digital, 80% de trámites totalmente digitales, 90% interoperables, 100% de instituciones con planes de ciberseguridad, 50.000 funcionarios capacitados y reducción del 50% de la brecha digital territorial .

Programas de Gobierno 2026-2030

• Programa de Gobierno – Jeannette Jara 2026-2030

• Programa de Gobierno – José Antonio Kast

• Programa de Gobierno Evelyn MAtthei

La entrada Desarrollo Digital, ideas para un programa de gobierno se publicó primero en Escritorio de Alejandro Barros.