Atlas de la IA, no todo es tan «cool»

“Los sistemas IA no son autónomos, racionales o capaces de discernir nada, sino sistemas de procesamiento computacional intensivo, entrenados con conjuntos de datos monstruosos (en tamaño) y reglas predefinidas”

Muchos dicen que el 2022 fue el año de la Inteligencia Artificial (IA), y hay varios sucesos que lo confirman, como la masificación de su uso en diversas industrias, el surgimiento de productos y servicios como Dall-E y ChatGPT, que han dado pie para muchas interrogantes, la mayoría sin respuesta aún.  Otra de las reacciones es la de asombro de lo que pueden realizar estas tecnologías, con mucho de hype en esa mirada.

Más allá de todo esto, y dejando de lado el momento cool de estas tecnologías, hay varias cosas sobre la IA que es bueno tener más antecedentes.  A partir de eso y sobre la base de la recomendación de un amigo (Alvaro Graves) es que me puse a analizar los escritos e información existente en la red de Kate Crawford. Ella es una escritora, compositora, productora y académica. Crawford es investigadora principal en Microsoft Research,  profesora visitante en el centro MIT para Civic Media, miembro principal del Information Law Institute en NYU, y profesora asociada en el Centro de Investigación de Periodismo y Medios de la  Universida de Gales del Sur, como ven un curriculum bastante impresionante.

Crawford viene hace ya años investigando los impactos de la Inteligencia Artificial en diferentes dimensiones, partiendo por un proceso de disección de todas las componentes involucradas en la IA y para ello inició ese proceso analizando el Amazon Echo.

Anatomía de la IA

El desafío era explicar como funciona la IA, tarea ardua por cierto. Ella, junto a Vladan Joler, desarrollaron una exposición denominada la Anatomía de la IA en el Victoria & Albert Museum de Londres en el año 2018.

El Amazon Echo como mapa anatómico del trabajo humano, los datos y los recursos planetarios involucrados

Para lo cual, montaron una gráfica en la que se muestran todos los componentes necesarios para que funcione un gadget, esto es el Amazon Echo.  En la gráfica se muestran todos los componentes involucrados desde la fabricación hasta la operación del dispositivo, los cuales son mucho más de los que pensamos.

El grabado en cuestión, se llama Anatomía de un sistema de IA como lo muestra la imagen siguiente (para mejor resolución descargar desde aquí):

 

Atlas de la IA

A partir de la investigación y según relata Crawford, le dio la idea de hacer una análisis más profundo de la IA, y para ello construyó lo que denomina el Atlas de la IA, el cual terminó en un exitoso libro publicado en 2021.

Es una colección de mapas publicados de manera conjunta en un libro. Dependiendo del área geográfica y de los temas tratar, los atlas se pueden clasificar en Generales o Temáticos

Qué es un Atlas?

Porque el nombre Atlas, la definición de este concepto es: colección de mapas publicados de manera conjunta en un libro. Dependiendo del área geográfica y de los temas tratar, los atlas se pueden clasificar en generales o temáticos.

Los atlas contribuyen al conocimiento geográfico, social, religioso, político y económico de un determinado territorio.

Presentan típicamente mapas de la Tierra o de una región de la Tierra, aunque hay atlas de otros planetas (y sus satélites) en el Sistema Solar. Además, existen atlas de anatomía, trazando órganos del cuerpo humano u otros organismos. Los atlas se han presentado tradicionalmente en forma de libros, pero hay muchos atlas en formatos multimediales. Además de presentar rasgos geográficos y fronteras políticas, muchos atlas suelen presentar estadísticas geopolíticas, sociales, religiosas y económicas.

Atlas de la IA

En el caso de la Inteligencia Artificial, Crawford en su buen libro (aquí empieza el spoiler) analizó, la IA en sus diferentes dimensiones y como estas impactan nuestra vida en diferentes aspectos.  Partiendo por afirmar que “la IA no es ni Inteligente, ni Artificial”.

La IA está hecha de recursos naturales, combustible, trabajo, infraestructura, logística y clasificación.  “Los sistemas IA no son autónomos, racionales o capaces de discernir nada, sino sistemas de procesamiento computacional intensivo, entrenados con conjuntos de datos monstruosos (en tamaño) y reglas predefinidas”.

El video que les adjunto corresponde a una conferencia de Crawford en la que presentó su libro y los conceptos allí descritos, para que vean que no sólo yo hago spoiler del libro 😉 pero habiendo visto el video y leído el libro, les recomiendo su lectura.

Al cargar el vídeo, acepta la política de privacidad de YouTube.
Más información

Cargar vídeo

Desbloquear YouTube siempre

En el libro Crawford analiza la IA desde las siguientes dimensiones:

• Tierra (Earth): El desarrollo de la IA parte con el consumo y uso de gran cantidad de recursos naturales no renovables (tierras y minerales raros, litio y estaño entre otros), componentes esenciales para la infraestructura TI que la soporta.  De hecho las grandes compañías tecnológicas no admiten la huella de carbono que generan, ni se hacen cargo de ella, existe la impresión errónea de que se trata de empresas “limpias”.  Adicionalmente el procesamiento computacional asociado tiene un gran impacto desde el punto de vista del consumo energético.

• Trabajo (Labor): El trabajo que hay detrás de muchas factorías, desde mineros hasta personas trabajando en factorías tecnológicas en China (por ejemplo: Foxconn) produciendo las compoenentes que forman parte de la infraestructura TI, pasando por trabajadores en la modalidad de crowdworkers en India y otros países del tercer mundo mal pagados en plataformas como Amazon Machanical Turk para apoyar el procesamiento de los modelos IA (etiquetado, categorización, …). Muchos de estos trabajo con serios problemas (sueldo bajos, pocos derechos laborales y otros).

A muchas datos (datasets) se accede en forma pública y gratuita, para luego crear modelos privados

• Datos (Data): Capturando datos de múltiples fuentes la mayoría de acceso abiertos (públicos), sin asumir los costos asociados (data for free).  Las frases “los datos son el nuevo petroleo” son una forma retórica para no aceptar que en muchas ocasiones se trata de datos sensibles, personales y sin el control de sus dueños, utilizados en forma gratuita y sin ninguna retribución por parte de las compañías tecnológicas. Por otra parte diferentes fuentes de datos tienen el mismo peso (blog, sitios, medios de prensa y otros) y con con grandes sesgos en términos de países, contextos, e idiomas entre otros. Una pequeña muestra de los sesgos en la siguiente gráfica.

• Clasificación (Classification): El proceso de etiquetado y clasificación con sus sesgos ampliamente identificados (raciales, étnicos, religiosos, políticos y de genero entre otros) que generan acciones y decisiones discriminatorias.

• Emociones (Affect): Un ejemplo de sesgos es creer que con el análisis de las expresiones faciales se pueden interpretar en forma universal los sentimientos.  Incluso con la evidencia científica en contrario, la industria sigue desarrollando servicios basados en esta hipótesis, transformando a estos sistemas en determinísticos.

• Estado (State):  Las profundas y secretas relaciones (ejemplo Google y el proyecto Mayen) entre el sector TI, la milicia y las grandes agencias de seguridad, muchas veces sustentadas en agendas nacionalistas que han resultado en el desarrollo de productos y servicios de vigilancia masivos, incluso a nivel doméstico, por ejemplo en sistemas de reconocimiento facial que utilizan departamentos de policía, sin administrar adecuadamente los sesgos que estos sistemas tienen.

Crawford, luego de analizar en forma bastante detallada cada una de estas dimensiones, llega a la conclusión que la IA se han transformado en herramientas de poder en manos de unos pocos y que van a afectar a muchos (millones) en su cotidiano vivir sin un adecuado entendimiento, además muchas de esas compañías tech con esa imagen distorsionada de una industria limpia y cool.

Interesantísimas reflexiones de Kate Crawford en su Atlas de la IA, les recomiendo ampliamente su lectura.

Foto de Liz Young/The Wall Street Journal