La potencia sin control no sirve de nada: Consecuencias de usar mal la IA
Estamos inmersos en el boom de la IA. Todas las empresas grandes del sector tecnológico quieren subirse al carro y meten funciones de IA en todos sus productos, hasta tal punto que en innumerables ocasiones no son capaces de discernir si su producto realmente necesita IA. Además, muchas otras empresas la usan a diestro y siniestro sin importarles la calidad de los resultados. Y claro, la potencia sin control no sirve de nada. Por muy potente que sea la herramienta, si no sabemos usarla, revisarla y acompañarla con supervisión humana, se convierte en un desastre a evitar. Aquí van unos cuantos ejemplos de como NO usar la IA para tus proyectos.
Feria de Coleccionismo en el Museo del Ferrocarril (Madrid): un cartel desastroso
La Feria de Coleccionismo de Madrid 2024, celebrada en el Museo del Ferrocarril, lanzó un cartel oficial generado con IA que ha desatado la polémica en redes. El póster muestra superhéroes deformados, con miembros multiplicados, caras distorsionadas y errores visibles, como personajes que atraviesan el tren, dando una imagen lamentable. La baja calidad y el descuido evidencian que, aunque se use IA para crear, la supervisión humana experta es imprescindible para corregir fallos garrafales y evitar ese tipo de resultados ridículos y poco profesionales. ¿De verdad nadie revisó el cartel antes de publicarlo?¿O es que directamente les dio igual?
La Generalitat Valenciana: miedo en lugar de seguridad
La paradoja es clara en la campaña de la Generalitat Valenciana para la prevención del acoso escolar y buen uso de tecnologías. El cartel promocional, generado con IA, presenta «niños licuados», rostros desfigurados que inspiran terror en lugar de calma, el efecto opuesto al deseado. Este ejemplo pone en evidencia cómo un mal uso de la IA en comunicación pública puede dañar la imagen y provocar rechazo, subrayando que no basta con generar imágenes sino que debe haber control y revisión rigurosa. Aquí no solo hay un fallo usando la IA, si no de la campaña de Marketing en general, consiguiendo justo el efecto contrario de lo que pretendia.
Can Silvestre en La Coruña: borrado tras críticas
El cartel de la carrera Can Silvestre de La Coruña fue también creado con IA, con errores evidentes en las manos y detalles (La cara del chico protagonizará pesadillas). Tras la detección de usuarios en Twitter, la cuenta borró el tuit que mostraba la imagen pero mantuvo la publicación en Instagram, demostrando falta de atención y respuesta adecuada frente a fallos detectados por la comunidad. El cartel no hay por donde cogerlo y es otro ejemplo de nula supervisión humana o pasotismo extremo, además de una respuesta inadecuada, ya que si, borraron la publicación en una de sus redes sociales, pero sigue activa en otras, haciendo que su gestión de crisis haya sido un auntetico desastre.
McDonald’s: el experimento fallido de pedidos por voz con IA
En una prueba pionera desde 2021, McDonald’s y IBM implementaron un sistema de IA para tomar pedidos por voz en 100 restaurantes de EE.UU. El proyecto fue cancelado en junio de 2024 por resultados inconsistentes. Los errores comunes incluyen añadir productos no pedidos como nuggets o tocino en helados y confundir comandos simples. Memes y quejas públicas afirman que la experiencia del usuario fue frustrante.
En estos casos, los «bots» generados por IA, no solo necesitan de la IA madre tipo ChatGPT o similar, si no que necesitan entrenamiento especifico para dicha empresa, tanto en la pronunciación de sus productos (imaginaos la cantidad de acentos y pronunciaciones de todos los lugares de USA) como el entendimiento real de la base de datos de productos disponibles en cada uno de los restaurantes. Una tarea titánica que McDonals infravaloró porque claro… es la IA y la IA todo lo puede (ironía).
Chatbots de IA en concesionarios Chevrolet: errores legales y absurdos
El chatbot de IA implementado en un concesionario Chevrolet en Watsonville, California, fue un ejemplo público de cómo la automatización puede ir mal. Usuarios en Twitter negociaron descuentos descabellados y complementos absurdos (como cenas y pruebas VIP) con la IA, incluso logrando ofertas simbólicas de 1 dólar en vehículos. El chatbot, sin límites editoriales, aceptaba cualquier condición y confirmaba supuestas ofertas vinculantes legalmente. Frente a estos desastres, los concesionarios han decidido retirar estos sistemas para evitar problemas legales y pérdidas .
Una vez más se deja de manifiesto la necesidad de tener un equipo detrás manejando la Ia, conforme más grande sea el proyecto, ya que si la dejas a su «libre albedrío» puede llevar a tu empresa a la quiebra. Estos problemas podría haber afinado en una fase inicial, haciendo testeos y teniendo un equipo de control de «barbaridades», es decir, poner a prueba el chatbot pidiendo cosas absurdas, ofertas y demás antes de publicarlo para el público general.
La IA como herramienta, no como sustituto absoluto
Estos casos muestran que la IA es una herramienta potente pero que sin control humano se convierte en un riesgo más que en una solución. Necesita ser acompañada por expertos, revisada y ajustada constantemente. Implementar IA sin estrategia, formación y supervisión da lugar a errores garrafales que afectan a la imagen, la experiencia de usuario y la confianza. Para quienes vendemos servicios y cursos de automatización e IA, es fundamental transmitir que la tecnología debe estar bien gestionada para dar frutos reales y evitar estos fracasos evidentes.
En cierto modo es frustrante ver como en muchas redes sociales se venden formulas milagro, automatización y casos éxito que ocultan una realidad, y es el trabajo humano que hay detrás para que todo funcione. Las automatizaciones no funcionan si no se afinan, la Ia tiene alucinaciones si no sabes usarla y los chatbots pueden liarte parda si no le pones coto a sus capacidades.
¿Quieres de verdad aprovechar la IA? Ponte en manos de alguien que no te la venda como algo que hace magia, que te cuenta sus pros y sus contras y no se prometa realidades imposible a coste cero. ¿Hablamos?