Los últimos dos años han sido una verdadera locura. Si pensamos en la explosión de la inteligencia artificial generativa, la velocidad a la que evolucionan los modelos y el impacto que suponen en nuestro trabajo es algo que no habíamos visto nunca hasta hoy. Ya han cambiado nuestra forma de trabajar, pero ¿quién diseña estos modelos? Y no me refiero únicamente al diseño de interacción o cómo interactuamos con ellos, sino cómo se diseñan los modelos en sí.
Las alucinaciones, la privacidad, los sesgos de la IA no son solo problemas que encuentran los usuarios que la usan, sino que están profundamente arraigados en la forma en la que se construyen. ¿Qué oportunidades se abren ante nuestros ojos?
¿Cuál es el papel de los Model Designers en la creación de modelos de IA éticos y responsables? Hoy hablamos con Paz Pérez, Senior UX Designer en Google.
R076 - Model Designers, con Paz Pérez
¿Qué es para ti el mundo real?
Pues el mundo real es como cada uno experimentamos nuestra vida, nuestro día a día. El mundo real es cómo vamos por nuestro día, con nuestro aprendizaje, con nuestro bagaje, con nuestras cosas, con nuestro contexto —que vamos a hablar mucho de contexto— y yo creo que el mundo real es muy personal al final. Cada persona lo vive desde su propia perspectiva, pero lo que lo conecta todo es cómo aprendemos y crecemos a lo largo del camino.
Yo creo que vamos aprendiendo todo el rato y vamos sumando. Cada experiencia, cada situación nos aporta algo nuevo. Incluso cuando fallamos, hay un aprendizaje. Es lo que hace que nuestras vidas sean tan únicas y personales, pero también es lo que nos conecta con los demás: todos estamos en un proceso constante de aprender y adaptarnos.
Tu vienes de la arquitectura. ¿Cómo diste el salto al diseño UX?
Sí, estuve trabajando muchos años de arquitecta, un par de ellos aquí en Barcelona, que la verdad que fueron años estupendos, y muchos en Nueva York también. Allí en Nueva York lo que hacía era diseñar escuelas públicas. Pero siempre tuve un ojo en tecnología desde que terminé la carrera. Cuando acabé arquitectura en Sevilla, decidí mudarme a Barcelona y fue cuando empezamos un e-commerce en 2005-2006, cuando montar plataformas de venta no era como ahora. Tú hacías todo desde cero. Aprendimos muchísimo de tecnología mi pareja —ahora mi marido— y yo, hasta que llegó 2008 y empezó la crisis. Fue un momento difícil para la arquitectura. La crisis fue un punto de inflexión, y aunque seguí trabajando varios años como arquitecta, nunca perdí de vista el mundo de la tecnología.
La mentalidad que tienes al diseñar un edificio, una silla o un producto digital es la misma: resolver problemas de diseño.
Aunque seguí varios años trabajando como arquitecta, siempre miraba qué estaba pasando en el mundo de la tecnología, que ya me llamaba mucho la atención. Llegó un momento en que decidí tirarme a la piscina. La arquitectura me dio una gran base, porque diseñar un edificio, una silla o un producto digital implica la misma mentalidad: resolver problemas de diseño. La transición fue natural porque ambas disciplinas requieren un enfoque estructurado, comprensión del usuario y atención al detalle.
¿Y cómo es trabajar en Google y vivir en San Francisco?
Es fantástico. Para mí, lo mejor es la gente. Desde fuera se ven los perks —como las salas de masaje o los snacks gratis— pero realmente son las personas las que hacen la diferencia. Trabajas con profesionales excelentes. Además, Google fomenta mucho la colaboración entre ramas distintas, lo que enriquece mucho tu trabajo. Y San Francisco es un lugar especial; está lleno de gente creativa e innovadora, pero también tiene sus desafíos. El acceso a mentes brillantes y recursos es increíble, pero es un lugar caro y con muchas desigualdades.
Es el mejor momento para estar en diseño; todo está por hacer, y eso lo hace increíblemente emocionante
¿Qué es un Model Designer y qué habilidades necesita?
Un Model Designer trabaja en diseñar los modelos de IA desde un enfoque ético y centrado en el usuario. No solo se trata de diseñar la interfaz, sino de dar contexto y feedback al modelo. Esto implica colaborar estrechamente con ingeniería y entender cómo se entrenan los modelos y cómo incorporar feedback. Las habilidades esenciales incluyen conocimiento en arquitectura de información, escritura de prompts, taxonomía, y un gran entendimiento del usuario. También es crucial saber trabajar con datos: asegurar que sean limpios y sin sesgos. La colaboración con ingeniería y Data Science es fundamental para garantizar que el modelo funcione como se espera.
Nuestra responsabilidad como diseñadores es garantizar que lo que diseñemos no haga daño a ningún humano, ni psicológica ni físicamente.
Ética en Model Design
Estamos en la prehistoria de los agentes de IA. Diseñar para ellos plantea un cambio de paradigma enorme.
¿Cómo se trabaja la ética en el diseño de modelos?
Es un tema complejo. Lo que es ético para una persona puede no serlo para otra. En Google hablamos de Human Risk Engagement: minimizar el daño potencial de las interacciones con IA. Por ejemplo, diseñar modelos que no discriminen y que sean seguros para todas las personas. Sin embargo, la ética no siempre se traduce fácilmente en acciones concretas, porque es un debate constante. Por eso es crucial establecer marcos claros y herramientas que guíen el trabajo diario.
Estamos en la prehistoria de los agentes de IA. En el futuro, podríamos tener agentes especializados que colaboren entre sí, eliminando la necesidad de múltiples aplicaciones. Esto requerirá repensar cómo diseñamos interfaces y procesos. Por ejemplo, propongo crear agent personas para entender mejor las necesidades y límites de los agentes. Estos agentes podrán razonar, planificar y trabajar de manera autónoma en ciertas tareas, pero siempre deberían estar bajo control humano.
¿Llegamos tarde a la revolución de la IA?
Nunca es tarde. Estamos en un momento emocionante donde todo está por definirse. Es el mejor momento para aprender, experimentar y dar forma al futuro del diseño. La clave es mantenerse curioso y buscar referentes sólidos.
Este es el momento de crear, no de temer quedarse atrás. Si estás interesado, ahora es el momento perfecto para involucrarte.
Estamos en la prehistoria de los agentes de IA. Diseñar para ellos plantea un cambio de paradigma enorme.
Supongo que algunos de los conceptos de los que hemos hablado en esta entrevista te habrán explotado un poquito la cabeza. No sé tú, pero desde que decidí dedicarme a la tecnología hace más de 20 años, yo siempre vivo con la sensación de estar viviendo un momento único e increíble en la historia de la humanidad. Pero he de reconocer que lo de estos dos últimos años, lo que estamos viendo en la IA generativa es algo realmente sobrecogedor. Si no lo estás siguiendo con la atención que merece, te recomiendo que no apartes la vista de los avances que se están produciendo mes a mes, semana a semana, día a día y sobre todo que lo uses porque tu trabajo ya ha cambiado. Déjanos un comentario explicando qué te ha parecido el episodio, qué te ha sorprendido o si hay algo sobre lo que te gustaría saber más. No te olvides de compartirlo. Y si aún no lo has hecho de suscribirte, ya sabes cómo son los algoritmos. Cualquier like, corazoncito o interacción es siempre una gran ayuda. Un fuerte abrazo y os espero en el mundo real.