#27 · 8 oct 2026 · 1 h 4 min
IA fiable, jailbreaks y regulación
Con Elisabet Bolarín y Fran Cortés
¿Es fiable una inteligencia artificial, o solo nos lo parece porque hace lo que le pedimos? Fran Cortés, que se dedica a atacar modelos de lenguaje para encontrar sus fallos, opina que intrínsecamente no lo son. Elisabet Bolarín añade los sesgos humanos con los que se entrenan.
En el primer Innosfera grabado en persona, en los estudios de 7RM, hablamos de fiabilidad frente a utilidad, de cómo se rompe una IA con jailbreak y red teaming (con el paper reciente de Fran), del human in the loop y sus límites, de la regulación y de cómo plantear un plan de IA en una empresa.
Un episodio para entender qué significa realmente que una IA sea fiable, contado desde dentro por quien se dedica a romper estos sistemas y por quien los aplica en empresas y recursos humanos.
- 00:00 — Presentación
- 04:46 — ¿Qué hace fiable a una IA?
- 13:34 — Cuando una IA se rompe: jailbreak y red teaming
- 24:33 — Human in the loop
- 32:36 — Regulación y responsabilidad
- 40:58 — Estrategia empresarial con IA
- 54:13 — Recursos recomendados
- 01:00:09 — Cierre
TEMAS QUE TRATAMOS
- Fiabilidad frente a utilidad en la IA
- Sesgos, alucinaciones y fuentes
- Jailbreak y red teaming
- El paper de Fran: un consejo de agentes atacantes
- Ciberseguridad, legislación y educación ante los fallos de la IA
- Human in the loop y fatiga decisional
- Pérdida de habilidades al programar con IA
- Responsabilidad cuando la IA se equivoca
- El AI Act en pymes y autónomos
- Planes de IA en la empresa a corto y largo plazo
- Formación en IA y pensamiento crítico
- Humanizar o no a los agentes de IA
INVITADOS
Fran Cortés Delgado: investigador en la Universidad de Murcia, con estancias en IBM Research (Dublín) y en la Universidad de Cambridge. Ya estuvo en el episodio 12.
LinkedIn de Fran Cortés Delgado
Elisabet Bolarín: fundadora y CEO de OMN Hub, un centro especial de empleo tecnológico. Especialista en inteligencia artificial, blockchain y realidad extendida, y consultora de recursos humanos.
RECURSOS MENCIONADOS
- Episodio 12 con Fran Cortés: Las Aventuras de Fran Cordel
- Episodio 11 con Óscar Corominas: ¿Qué nos hace Humanos ante la IA?
- Episodio 25 con Jorge C. Rella: Cómo Deciden los Bancos: Créditos, Hipotecas y ML
- El paper de Fran Cortés sobre jailbreak y red teaming con agentes
- DotCSV, el canal de YouTube que recomienda Fran para seguir las novedades de IA
- Los blogs de Anthropic y OpenAI: Fran recomienda ir a la fuente original antes que a las noticias de segunda mano
- Carl Jung: la lectura que recomienda Elisabet para tener bases éticas antes de empezar con la IA
- LeetCode, la plataforma de ejercicios de programación que menciona Fran
- Reglamento europeo de IA (AI Act)
INNOSFERAWeb: innosferapodcast.com
