La Web que se viene y el Bosque Oscuro

Hace ya un tiempo que estamos viendo que la web está incrementando en forma significativa la cantidad de contenidos generados automáticamente, hay varios que se preguntan ¿cuál será el impacto de esto? y ¿cuáles son los desafíos que presentan a futuro?

Hace ya unos meses que hemos visto un importante debate respecto de nuevas herramientas, basadas en modelos y algoritmos de Inteligencia Artificial, para generar contenidos en forma automática, algunos con propósitos dudosos como los videos del tipo deepfake herramienta muy poderosa que puede ser usada para profundizar los procesos de desinformación, y otros con propósitos supuestamente bastante más loables como Dall-E y ChatGPT, en los que también aparecen algunas dudas, por ejemplo vinculados a los temas de propiedad intelectual, derecho de autor y otros más pedestres como su uso en actividades de plagio (academia).

Algunos ejemplos: Dall-E y ChatGPT

Algunos ejemplos de Dall-E y ChatGPT y así como estas existen otras herramientas similares y de seguro a futuro existirán más.

En primer lugar el caso de imágenes de personas inexistentes generadas por Dall-E como la de este niño

O bien lo que se puede hacer con ChatGPT, aquí les dejo un par de ejemplos que me parecieron graciosos, en base a la pregunta

 ¿Cómo sería el inicio del Señor de los Anillos escrito por Pablo Neruda o Nicanor Parra?

o Nicanor Parra

Este es un ejemplo gracioso y no muy útil, pero estas herramientas podrían ser usado para desarrollar informes, documentos, cartas y un largo etcétera. En algunos casos, muy similares a lo que podría escribir una persona, el sueño dorado de un estudiante mediocre al cual se le encarga un ensayo, incluso en algunos lugares, Colegios de Nueva York ya bloquearon el acceso a ChatGPT, una medida más bien mediática que útil.

El Bosque Oscuro 

Estas últimas herramientas y la proliferación de contenidos generados en forma automática, harán que como lo plantea Maggie Appleton en su blog, los humanos se retiren, y la web se convierta en un gran repositorio de contenidos generados por algoritmos.

Appleton plantea que los seres humanos, desaparecerán de la web, reemplazados por: bots, algoritmos, y contenidos generados por algún software basado en Inteligencia Artificial, y si bien no comparto del todo su predicción, es bastante de certero en su análisis.

En uno de sus últimos ensayos, recomiendo su lectura, La expansión del bosque oscuro y la generación de contenido por IA, Appleton, plantea algunas reflexiones sobre los desafíos que tenemos los seres humanos para discriminar entre contenidos generados en forma automática y aquellos generados por una persona de carne y hueso.

En el mismo post, plantea que existen múltiples capas en la Web que conviven (Dark Forest, Cozy Web y Dark Web) y con habitantes y usuarios muy diferentes en cada una de ellas.

De hecho plantea, que la Web Acogedora o Cozy Web, definida por Venkatesh Rao, escritor y consultor residente en Los Angeles, refiriéndose a espacios privados y cerrados de Internet a los que todos nos hemos retirado en los últimos años.

“Espacio de los tugurios, con muchos guardianes, que comprende slacks, aplicaciones de mensajería, grupos privados, servicios de almacenamiento como Dropbox y, por supuesto, el correo electrónico. El espacio informal, no rastreado y desordenadamente humano en el que los bots y los algoritmos aún no se han infiltrado”.

Venkatesh Rao

Appleton plantea algunas preguntas y da sus recomendaciones respecto de:

¿Cómo demostrarías que no eres un modelo lingüístico que genera texto predictivo? ¿Qué trucos especiales puedes hacer que un modelo lingüístico no pueda? 

Para lo cual recomienda estas cuatro acciones:

1. Usar la realidad objetiva,
2. Ser original, crítico y sofisticado,
3. Desarrollar particularidades creativas del lenguaje, dialectos, memes y jergas y
4. Considerar la verificación institucional.

No es el primero que plantea desafíos frente a lo que ocurre en la web

Desde hace algunos años varios expertos y autores han planteado desafíos importantes que los usuarios de la Web están enfrentado y que a futuro, si las predicciones de Appleton se concretan no hará más que aumentar, recordemos algunos de ellos: 

• El planteamiento sobre Capitalismo de Vigilancia de Shoshana Zuboff

• La falta de neutralidad y sesgos en las búsquedas destacado por Eli Pariser

• Los múltiple sesgos en la Web desde hace tiempo estudiado por Ricardo Baeza

• Los cambios neurológicos provocados por el uso de Internet que pueden mermar nuestra capacidad de concentración profunda durante periodos prolongados, relatados por Nicholas Carr en su libro The Shallow

• y finalmente los problemas de la desinformación y el fin de las redes sociales como las conocemos planteado por Ian Bogost.

Estos planteamientos no hacen más que poner de manifiesto nuevamente la necesidad de tener una mirada crítica de lo que podemos encontrar en la Web.

Foto de Keagan Henman en Unsplash