De chatbots, temores y realidades

Las aplicaciones que inundan el mercado con novedosas y esperadas soluciones generan efectos contradictorios que van desde el optimismo futurista hasta los más oscuros pronósticos sobre la deshumanización y la alienación del hombre a las maquinas. Solventar las dudas en torno a ciertos rasgos específicos de una economía basada en los datos hace parte de las tareas de la academia de cara a la consolidación de una ética que permita la humanización de nuestro futuro digital.

Todas las reacciones frente a las noticias que iluminan las pequeñas pantallas móviles que llevamos en nuestros bolsillos comparten un denominador común: ¿Debemos temer al desarrollo de la inteligencia artificial y a sus efectos? Esta simple alusión al miedo como respuesta debe servir como punto de partida para dejar en claro dos puntos esenciales: i) El Estado debe asumir la obligación de asignar un rol coherente al despliegue de la IA por parte de las plataformas digitales procurando su integración a las actividades económicas y, ii) en la elaboración de las respuestas regulatorias debe primar un enfoque antropocéntrico dando prioridad a los derechos de los individuos reconociendo el carácter histórico que ha impregnado la consagración de derechos como resultado de las tensiones normales que se han generado en cada “revolución industrial.”

Obviamente, lo anterior es más fácil decirlo que trasladarlo a la práctica. Sin embargo, cuando se observa con detenimiento el impacto de las nuevas tecnologías se llega rápidamente a la conclusión de que la utilización de los medios tecnológicos por parte de los humanos –incluido el uso actual de la IA– siempre ha estado dirigida a simplificar tareas rutinarias. Estas soluciones en últimas vienen a sustituir labores que los humanos ya dominamos ampliamente y que por efecto del volumen de las iteraciones tendemos a desarrollar de manera poco eficiente, razón por la cual la robotización de tales funciones podría verse justificada por las pretendidas mejoras que se introducirían en diferentes procesos cotidianos, económicos o sociales.

Visto desde esta perspectiva, la precisión de las respuestas de un chatbot diseñado para “redactar disertaciones” (que en realidad son afinadas secuencias estadísticas, resultado del entrenamiento facilitado por los altos volúmenes de información que las plataformas logran capturar de nuestra propia actividad en las redes) no debería provocar miedo en los funcionarios públicos, profesores, médicos ni en los conductores de taxis o camiones de transporte pesado, desbordados y extenuados estos por el carácter repetitivo de sus labores y la presión por la competitividad de sus empleadores que, dentro de la dinámica capitalista, han terminado por obligarlos inclusive a resignar cualquier tentativa de ocio o de participación en la vida colectiva de sus comunidades.

Por el contrario, las mejoras de la robotización en la capacidad de generar contenidos y de programar soluciones deben verse como un apoyo para mejorar procesos como: i) los tiempos de respuesta de las entidades públicas, incentivar las capacidades analíticas de los estudiantes,[1] ii) lograr una asignación más eficiente de turnos en los centros de salud, iii) la simplificación de diagnósticos sencillos que mejoren las condiciones de vida o la situación de los pacientes o iv) para reducir los tiempos de los procesos logísticos de transportes de personas y/o mercancías, entre otros. De igual manera, también podrían facilitar la resolución simple y sin intervención burocrática de ciertos procesos como i) tramitar las quejas de los consumidores ante autoridades de protección, ii) el estudio sobre la concesión de signos distintivos o iii) la tutela instantánea de derechos fundamentales sin necesidad de incurrir en la contratación de juristas o asistentes judiciales/administrativos. Todo esto liberando a los usuarios (humanos) del desarrollo de tareas rutinarias que resultan redundantes, ineficientes y que generan un alto costo social.

Ahora bien, curiosamente, el éxito que conocen actualmente estas aplicaciones está en la incapacidad “temporal” de los usuarios (humanos), para detectar las imprecisiones o errores que puede contener la respuestas automatizadas provenientes de una IA. Lo cual equivale a decir que los procesos de entrenamiento de la maquinas tienen como destinatarios finales la valoración humana, esto es, la capacidad de juzgar de manera crítica las respuestas fabricadas estadísticamente por las maquinas y de considerar su aptitud para reemplazar la labor humana que se pretende sustituir con su uso.[2]

Por ende, la evaluación del riesgo de habilitar la utilización de estas tecnologías no es una cuestión trivial o secundaria, pues como es bien sabido, la programación de algoritmos abre la puerta a la manipulación por parte de quienes controlan su diseño y despliegue en los mercados. En este sentido, los anuncios de la integración de las tecnologías de Inteligencia artificial tipo Chat GPT por parte de empresas con grandes externalidades en red como Microsoft o la introducción de tecnologías similares por parte de Alphabet (Google) plantean serios interrogantes en relación con el poder de mercado que se puede estar autorizando a estas compañías en el ensanchamiento de esta nueva frontera del procesamiento algorítmico.[3]

Es claro que hasta el momento la novedad y éxito rutilante de los chatbots ha estado basada en el entrenamiento que estas maquinas han tenido durante un periodo relativamente corto y prioritariamente en idioma inglés. No obstante, la posibilidad de que los gigantes tecnológicos adquieran el acceso a nuevos tipos de información (léase los derechos de autor o acceso a colecciones de dominio público o simplemente a la información diaria) abre un gran boquete para que por esta vía, la utilización sucesiva de chatbots pueda ser instrumentalizado o desviado hacia fines de manipulación de la opinión con los efectos políticos que ya conocemos en relación con la alteración de la estabilidad democrática e institucional de los Estados que,[4] por el momento, no encuentran la solución a los problemas sociales generados por la incursión de otras plataformas.

Como corolario de todo lo anterior, es necesario reiterar que la inteligencia artificial y el internet de la cosas ganarán ciertamente espacio justamente en relación con las actividades en las que, como consecuencia de su carácter repetitivo, se han logrado detectar patrones de respuestas que a su vez permiten predecir con cierta precisión estadística una solución satisfactoria a las necesidades del usuario. Esta tendencia enmarcada en lo que se denomina el capitalismo de la vigilancia,[5] tiene que ser apreciada más allá de las mejoras evidentes que podrían tener en términos productividad. Abrir la posibilidad de que las grandes empresas tecnológicas absorban los datos que los habilitan para la prestación de este tipo de servicios supone abrir la caja de pandora que puede conllevar a habilitar una manipulación de la información que nos desvíe hacia escenarios aun desconocidos de nuestra ya descontrolada y autoinducida “locura virtual”.

---

Referencias:

[1] El carácter rutinario se ha expandido al ámbito académico donde la presión por la publicación y divulgación de resultados de la investigación ha llevado a una explosión de editores científicos con dudosa calidad científica. Otras dimensiones de esta problemática pueden ser exploradas en Greenwood, C. (1993). Publish or Perish: The Ethics of Publishing in Peer-Reviewed Journals. Media Information Australia, 68(1), 29–35. https://doi.org/10.1177/1329878X9306800106

[2] Ver: https://www.turing.org.uk/scrapbook/test.htm

[3] Ver: Bard: Google launches ChatGPT rival,  https://www.bbc.com/news/technology-6454629

[4] Ver: The State of Chatbots After Cambridge Analytica: Hurt or Helped?  https://resources.clearvoice.com/blog/state-of-chatbots-after-cambridge-analytica-scandal-hurt-or-helped/

[5] Zuboff, S. (2019) The Age of surveillance Capitalism, The fight for a Human Future at the New Frontier of Power, Londres.