Frente a las alucinaciones de la IA generativa, el lazarillo del machine learning

Ray G. Butler botó su empresa, Butler Scientifics, diez años atrás. Medio canario, medio irlandés, con 24 años de residencia en Cataluña y profesor de ciencia de datos y estadística en Euncet Business School, entidad adscrita a la UPC, dirige un equipo cuya misión consiste en automatizar cualquier herramienta que permita analizar datos a través de un software propio, AutoDiscovery. 

Igual que otros divulgadores como Enrique Dans, Butler es capaz de convertir en sencillo lo enrevesado. Cuesta, entre el público generalista, distinguir dos conceptos básicos para un científico de datos: la inteligencia artificial y el machine learning. Si la IA “engloba un sinfín de tecnologías con el objetivo de imitar la inteligencia humana, el machine learning es un área muy concreta de aquella que permite que la máquina aprenda cualquier cosa”. 

Tanto un sistema capaz de analizar una imagen para determinar qué contiene (visión por computación) como esos recomendadores domésticos que Netflix utiliza para sugerir al consumidor una serie entran dentro de la vasta categoría de la IA. “Hay una manera de construir sistemas que es, digámoslo así, la algorítmica de toda la vida. Describes un problema, propones una secuencia de pasos y alternativas y determinas cuál es el camino a seguir. Esto no es inteligencia artificial. La IA viene a ayudarnos cuando la cosa se complica: son sistemas pensados para tratar situaciones complejas cuya receta no podrías escribir en un papel”, explica Butler. 

Rescata el emprendedor afincado en Barcelona una reflexión que suele exponer cada curso a sus estudiantes. “El término inteligencia artificial tiene cero de inteligente y todo de artificial. ¿Por qué entonces lo llamamos IA? Porque intentamos simular lo que conseguiría una persona, superando a veces ese desempeño”. 

DE IMPRECISIONES Y BUENOS GUÍAS

En los LLMs (grandes modelos de lenguaje) esta exigencia de emulación es clave porque ChatGPT o Gemini deben aprender a escribir como lo haría un profesional casi de cualquier disciplina. El otro desafío de estos modelos fundacionales es evitar las famosas borracheras o alucinaciones, es decir, la invención de las respuestas e incluso la formulación de teorías estrafalarias. Es ahí donde el machine learning desempeña el rol de lazarillo. 

“Hablar no es simplemente una concatenación de palabras adecuadas, es una experiencia humana -recuerda Butler-. Si te digo que voy a analizar unos datos, tengo que entender el contexto, a dónde quieres ir a parar, qué tipo de análisis quieres que efectúe. Guiar al usuario por ese camino es lo que la IA no está sabiendo hacer. Por supuesto que el machine learning puede ayudar a través de técnicas que surgen ahora porque ya existe ese nivel de IA generativa. Se trata, en resumen, de agentes artificiales inteligentes que colaboran entre ellos para resolver el problema del usuario. Si le pregunto a la IA por un plan para pasar dos semanas en Vietnam, esa petición llega a un agente que le dice a la IA qué información necesita para organizar un viaje a Vietnam y qué debe preguntar al viajero. Esos sistemas multiagente ya existen y es ahí donde están las grandes oportunidades de negocio para las startups”. 

ChatGPT y Gemini, por ejemplo, recurren a estos sistemas multiagente, pero las compañías más pequeñas tendrán su hueco en el mercado porque, según el CEO de Butler Scientifics, absorberán los flujos de diálogo en ciertos sectores y aplicaciones (salud y productividad, por ejemplo), pero permitirán a terceros crear capas más personalizadas. 

ENFRIAR LA EXPECTATIVA

En realidad, no es la IA la que alucina. “Somos nosotros, que esperamos de la máquina más de lo que hoy puede dar. Esto es positivo porque significa que detrás de esas propuestas hay valor y ganas. La otra cara de la moneda son las expectativas desmesuradas. Hablamos en última instancia de un sistema numérico, algebráico, de optimización matemática. ¿Habrá algún día vidas cibernéticas? Quizás lo que se imponga sea un límite ético que implique que no se llegue a ese nivel de sofisticación sencillamente porque sería perjudicial para la propia especie”.