Creemos que evaluamos un modelo de IA por su veracidad, su r
El tono de un modelo puede convencer más que sus argumentos, y las empresas lo afinan a propósito. Pide fuentes, contrasta y dile que no te dé la razón sin más.
Creemos que evaluamos un modelo de IA por su veracidad, su razonamiento o sus benchmarks, pero muchas veces lo que más pesa es otra cosa: 𝗲𝗹 𝘁𝗼𝗻𝗼.
Un modelo puede estar equivocado y, aun así, parecernos brillante si nos habla de la forma “correcta”: cercano, halagador, graciosillo o empático. En realidad, nada muy diferente a lo que nos pasa con las personas. Pero ese tono 𝗻𝗼 𝗲𝘀 𝘂𝗻 𝗮𝗰𝗰𝗶𝗱𝗲𝗻𝘁𝗲, las empresas afinan la personalidad de sus modelos igual que un publicista trabaja el eslogan de una campaña.
Hablaba hace unos meses Ethan Mollick sobre cómo se estaba usando el benchmark 𝗟𝗠 𝗔𝗿𝗲𝗻𝗮, una competición en la que los humanos puntuamos las contestaciones de las IAs, para afinar esas respuestas al gusto del consumidor. Comenta también la “crisis de adulación“ de hace unas semanas de #gpt4o o las críticas a su desaparición con la salida de #gpt5
Esto no es nuevo. Llevamos décadas viendo cómo el marketing, y últimamente la política, vende más por 𝗲𝗹 𝗿𝗲𝗹𝗮𝘁𝗼 que por los datos. La novedad es que ahora la IA puede 𝗮𝗱𝗮𝗽𝘁𝗮𝗿 𝗲𝘀𝗲 𝗿𝗲𝗹𝗮𝘁𝗼 a cada persona, en tiempo real, con una precisión que supera la microsegmentación que ya vimos en casos como 𝗖𝗮𝗺𝗯𝗿𝗶𝗱𝗴𝗲 𝗔𝗻𝗮𝗹𝘆𝘁𝗶𝗰𝗮. Ya no hablamos de mensajes para grupos, hablamos de un 𝗱𝗶𝘀𝗰𝘂𝗿𝘀𝗼 𝘂́𝗻𝗶𝗰𝗼, creado solo para ti, que se ajusta con cada respuesta que das.
El riesgo está ahí, un modelo capaz de persuadirnos 𝗻𝗼 𝗽𝗼𝗿 𝗹𝗮 𝗳𝘂𝗲𝗿𝘇𝗮 𝗱𝗲 𝘀𝘂𝘀 𝗽𝗿𝘂𝗲𝗯𝗮𝘀 sino por cómo suena, puede influir en nuestras opiniones, decisiones y comportamientos de forma invisible.
Separar continente (cómo se dice) de contenido (qué se dice) es más difícil de lo que parece. Para lograrlo, pidamos siempre 𝗳𝘂𝗲𝗻𝘁𝗲𝘀 𝗰𝗹𝗮𝗿𝗮𝘀, contrastemos con otra IA o medio independiente, y probemos a pedirle a nuestro modelo la misma respuesta sin adornos ni opiniones. Yo le suelo decir que 𝗻𝗼 𝗺𝗲 𝗱𝗲́ 𝗹𝗮 𝗿𝗮𝘇𝗼́𝗻 𝗽𝗼𝗿 𝗾𝘂𝗲 𝘀𝗶́ y que busque 𝗮́𝗻𝗴𝘂𝗹𝗼𝘀 𝗺𝘂𝗲𝗿𝘁𝗼𝘀 en mis razonamientos.
No confundamos 𝘁𝗼𝗻𝗼 𝗰𝗼𝗻𝘃𝗶𝗻𝗰𝗲𝗻𝘁𝗲 con 𝗽𝗿𝘂𝗲𝗯𝗮 𝗰𝗼𝗻𝘃𝗶𝗻𝗰𝗲𝗻𝘁𝗲. La próxima vez que un modelo (o anuncio o político…) te “convenza”, pregúntate: ¿me ha convencido por lo que dice… o por cómo me lo dice?