La inteligencia artificial tiene un problema curioso: cuanto más útil parece, más explicaciones le pedimos.
Al principio nos bastaba con que respondiera. Luego quisimos que escribiera, resumiera, programara, tradujera, dibujara o resolviera tareas que antes parecían reservadas a personas. Ahora empieza la fase adulta de la conversación: si una máquina nos ayuda a trabajar, estudiar, diagnosticar, decidir o crear, no basta con que acierte. También necesitamos entender por qué acierta, cuándo falla y quién se hace cargo de sus errores.
Pilar Manchón lleva años trabajando justo en esa frontera. Hoy es Senior Director of Engineering, Research Strategy en Google AI, con foco en investigación, aplicación de IA a productos, nuevos dominios y herramientas para ampliar el acceso a esta tecnología. Su trayectoria no empezó con la fiebre de la IA generativa: viene de la lingüística computacional, los sistemas de diálogo, las interfaces conversacionales y una pregunta muy antigua en tecnología: cómo hacemos que las máquinas nos entiendan sin dejar de entenderlas nosotros.
Antes de que hablar con máquinas fuera normal
Hay perfiles que interesan no porque hayan llegado a una ola, sino porque estaban allí cuando la ola todavía parecía una piscina pequeña.
Manchón fundó Indisys en Sevilla en 2005, una empresa especializada en asistentes virtuales inteligentes y sistemas de diálogo. Aquello ocurrió mucho antes de que cualquier empresa presumiera de chatbot en su web y bastante antes de que hablar con una IA se convirtiera en gesto cotidiano. Indisys acabó integrada en Intel en 2013, y después su carrera pasó por Intel, Amazon, Roku y Google.
Ese recorrido importa porque le da algo que escasea en la conversación actual: memoria. La IA de hoy parece repentina, pero no lo es. Viene de años de asistentes que no entendían bien, interfaces incómodas, promesas exageradas y avances técnicos que iban preparando el terreno.
Si alguna vez has discutido con un asistente de voz que no captaba nada, sabes que la confianza no se gana con una demo. Se gana en el uso repetido, cuando la tecnología deja de parecer magia y empieza a parecer fiable.
La cuestión ya no es solo qué puede hacer
La IA ha entrado en una fase más delicada: ya no se trata únicamente de enseñar capacidades, sino de definir relaciones.
Una IA puede escribir una respuesta correcta y aun así ser peligrosa si no sabes de dónde sale. Puede ahorrar tiempo y, al mismo tiempo, empobrecer criterio si se usa sin pensar. Puede democratizar herramientas avanzadas y también concentrar poder si solo unos pocos controlan los modelos, los datos, la infraestructura y las reglas.
Esa es la parte que hace interesante a Manchón para Los nombres del cambio. No es una pieza sobre “la directiva española en Google”. Es una forma de mirar el paso de la IA desde el asombro hacia la convivencia.
En conversaciones públicas ha insistido en cuestiones que van más allá de la potencia técnica: seguridad, transparencia, gobernanza, educación del usuario y desarrollo responsable. También ha defendido una idea relevante sobre el empleo: la IA transformará trabajos, como otras revoluciones industriales, pero esta vez a mucha más velocidad.
Ese matiz cambia la conversación. El miedo a la IA no se resuelve diciendo “no pasará nada”. Y el entusiasmo tampoco basta con decir “todo será mejor”. Entre las dos frases queda lo importante: aprender a usarla, limitarla, auditarla, corregirla y decidir dónde no conviene delegar.
Lenguaje, poder y educación
El lenguaje no es una interfaz cualquiera. Es la forma en la que pensamos, pedimos, negociamos, aprendemos y obedecemos.
Por eso los sistemas conversacionales son tan importantes. Cuando una tecnología adopta forma de conversación, baja la guardia del usuario. Ya no parece una herramienta fría; parece alguien que responde. Y eso tiene ventajas enormes, pero también riesgos nuevos.
Manchón ha trabajado durante años en esa zona: máquinas que interpretan lenguaje humano, asistentes digitales, interfaces cognitivas, IA conversacional. Su experiencia ayuda a entender que el futuro de la IA no se jugará solo en modelos más grandes o en chips más potentes. También se jugará en algo mucho más cotidiano: cómo preguntamos, cómo interpretamos la respuesta y cuánto criterio conservamos después.
La alfabetización en IA no debería consistir solo en aprender a usar herramientas. Debería enseñar a desconfiar bien. A preguntar mejor. A detectar cuándo una respuesta parece convincente pero no necesariamente es cierta. A no confundir fluidez con conocimiento.
Ahí está una de las grandes transformaciones que representa Manchón: la IA como tecnología que necesita educación pública, no solo adopción empresarial.
Dónde poner la mirada
Lo primero será cómo se convierte la IA responsable en producto real. Los principios importan, pero la prueba está en el diseño: límites visibles, explicaciones útiles, evaluación de riesgos, protección frente a sesgos y mecanismos de supervisión.
Lo segundo será la educación. Si la IA va a entrar en escuelas, empresas, administraciones y hogares, aprender a usarla con criterio será tan importante como aprender a buscar en internet lo fue hace veinte años.
Lo tercero será la relación con los agentes inteligentes. A medida que la IA deje de responder y empiece a ejecutar tareas, la pregunta cambiará: ya no será solo “qué me contesta”, sino qué le dejo hacer en mi nombre.
Lo cuarto será el idioma y la diversidad cultural. Una IA realmente útil no puede tratar el mundo como si todos habláramos igual, preguntáramos igual o necesitáramos lo mismo. La experiencia en lenguaje, conversación y contexto será cada vez más valiosa.
Y lo quinto será la confianza. No una confianza ciega, sino una confianza adulta: saber cuándo apoyarse en la máquina, cuándo pedir explicaciones y cuándo decir que no.
Pilar Manchón representa esa etapa menos espectacular y más importante de la IA: la que viene después del asombro. La etapa en la que las máquinas no solo tienen que responder mejor, sino aprender a convivir con personas que necesitan seguir entendiendo el mundo que están construyendo con ellas.
