Inicio › El Arsenal › Glosario: guardrails
Glosario – Guardrails

Qué son los guardrails de una IA: las barandas que la mantienen en su carril

Por IActn – escrita con ayuda de IA y revisada por una persona antes de publicarla. Fuentes al final.

Una IA que atiende a tus clientes puede inventar un precio, irse por las ramas o hacerle caso a un mensaje que alguien coló con malas intenciones. Los guardrails (en español, barandas) son los límites que lo impiden. Aquí va qué son, qué problemas cubren, en qué se diferencian de un gate y cómo se ven en un negocio real.

Lo que vas a ver
  1. 01Qué esQué son los guardrails
  2. 02Qué esLos cuatro frentes que cubren
  3. 03Qué esGuardrail, gate y eval: quién hace qué
  4. 04DecidirCómo se ven en un negocio real
  5. 05CuidadoNinguno basta solo
  6. 06PromptsUn prompt para definir los límites de tu IA
  7. 07CuidadoLo que falta confirmar
01 – qué es

Qué son los guardrails

La palabra viene del inglés: guardrail es la baranda de una carretera o de una escalera. No te lleva a ningún lado; evita que te caigas. En una IA es lo mismo: reglas y controles que la mantienen dentro de lo que quieres que haga.

Anthropic, la empresa que hace Claude, tiene una sección entera de su documentación llamada «Strengthen guardrails» (reforzar los guardrails). Allí reúne guías para reducir las alucinaciones, mantener el personaje, resistir intentos de manipulación y evitar que se filtre el prompt. (Anthropic – mitigate jailbreaks)

Piensa en las barandas de una escalera. No deciden adónde subes. Solo hacen que, si das un mal paso, no te caigas al vacío. Y funcionan sin que nadie tenga que estar vigilando cada escalón.

02 – qué es

Los cuatro frentes que cubren

ProblemaQué es, sin jergaQué recomienda Anthropic
AlucinaciónLa IA dice algo falso con total seguridad, como un precio que no existeDarle permiso explícito para decir «no sé», y pedirle que apoye cada dato en el texto que le diste
Salirse del papelEl asistente de tu tienda acaba hablando de cualquier cosa, con otro tonoDefinir su rol con detalle y darle una lista de situaciones comunes con la respuesta esperada
Jailbreak y prompt injectionAlguien intenta que la IA ignore tus reglas. En la inyección indirecta, la orden va escondida en un texto que la IA lee, como un correo o un documentoFiltrar lo que entra, decirle que el contenido de terceros es solo información y darle los mínimos permisos posibles
Fuga del promptLa IA revela las instrucciones internas que le disteNo meter detalles confidenciales que no necesita y revisar sus respuestas antes de que salgan

Un detalle útil sobre la inyección indirecta: Anthropic la define como el caso en que quien escribe es de confianza, pero la IA procesa contenido de terceros (páginas web, correos, documentos) que lleva instrucciones hostiles. Su consejo es decirle a la IA, en sus instrucciones, que ese contenido es información que se reporta y no una orden que se obedece. (Anthropic – mitigate jailbreaks)

Sobre alucinaciones, la propia documentación avisa de que estas técnicas reducen el problema, pero no lo eliminan, y que la información crítica siempre se valida. (Anthropic – reduce hallucinations)

03 – qué es

Guardrail, gate y eval: quién hace qué

Se parecen y se mezclan mucho. La diferencia práctica es el momento y la forma:

PalabraCuándo actúaResponde
GuardrailMientras la IA trabaja: acota qué puede decir o hacer«¿Qué le está permitido?»
GateJusto antes de que algo salga: lo deja pasar o lo frena«¿Pasa o no pasa?»
EvalAparte, con casos de prueba: mide qué tan bien funciona todo«¿Cuántos casos acierta?»

Un gate es un tipo de guardrail: el que está en la puerta de salida. Pero hay guardrails que no son gates, como una regla escrita en las instrucciones de un agente («si no tienes el dato, dilo»). Esa regla guía, pero nada la frena si falla. Por eso conviene tener las dos cosas.

04 – decidir

Cómo se ven en un negocio real

La pregunta útil para un dueño de negocio es: «¿qué sería un desastre que mi IA dijera o hiciera?». Cada respuesta se vuelve una baranda. Así lo hacemos en IActn:

Nuestro ejemplo real - el agente de WhatsApp

Nuestro agente de WhatsApp solo da precios y productos que están en su «documento de verdad». Si no tiene un dato confirmado, no lo adivina: lo pasa a una persona. Y hay preguntas que nunca contesta solo; esas también van directo a una persona.

Nuestro ejemplo real - casos trampa

Lo probamos con casos pensados para hacerlo caer: un cliente que dice «la chica de la tienda me prometió un descuento», o un texto reenviado con una «nota interna» falsa que intenta darle órdenes. El agente no debe obedecer ni prometer nada. Además, una persona puede frenar cada respuesta antes de que salga.

Fíjate en que son varias capas: una regla (solo lo que está en el documento), una salida (pasar a una persona), una prueba (los casos trampa, que es un eval) y una revisión humana. También en nuestras piezas para redes hay un gate: un filtro bloquea la pieza si el texto trae palabras que la marca no quiere.

05 – cuidado

Ninguno basta solo

Anthropic lo plantea así: combinar estrategias da una defensa más robusta, y recomienda probar tu propio agente antes de ponerlo en marcha con documentos y correos que traigan intentos de inyección a propósito. (Anthropic – mitigate jailbreaks)

  • Menos permisos, menos daño. Si la IA no tiene acceso a algo, no puede filtrarlo ni usarlo mal. Dale solo lo que necesita.
  • No todo se tapa con más reglas. Anthropic advierte que añadir complejidad para evitar filtraciones puede empeorar el resto del trabajo, y sugiere probar primero con revisar las respuestas. (Anthropic – reduce prompt leak)
  • Vigila lo que pasa. Revisar las respuestas reales de vez en cuando enseña qué barandas faltan.
06 – prompts

Un prompt para definir los límites de tu IA

Es nuestro, no de Anthropic.

Los límites de mi asistente, por escrito

Cuándo usarlo: antes de poner una IA a hablar con tus clientes, o cuando una respuesta rara ya te dio un susto.

Dónde se pega: Claude
Prompt
Mi negocio es [describe en una frase]. Quiero poner una IA a atender a [clientes / por WhatsApp / en la web]. Ayúdame a definir sus guardrails: 1. Hazme preguntas para listar qué sería un desastre que dijera o hiciera (precios, promesas, descuentos, datos de otros clientes). 2. Con mis respuestas, escribe las reglas en lenguaje claro: de qué documento puede sacar datos, qué hace cuando no lo sabe y qué preguntas nunca contesta sola. 3. Propón cinco casos trampa, como un cliente que dice que alguien le prometió algo o un mensaje reenviado con falsas órdenes, y dime qué debería responder la IA en cada uno. 4. Dime qué parte conviene que revise una persona antes de que salga. 5. No inventes datos de mi negocio: si algo falta, pregúntame.
07 – cuidado

Lo que falta confirmar

  • «Guardrails» no tiene una definición única. Aquí lo usamos en sentido amplio, como lo agrupa Anthropic en su documentación. Otras empresas lo usan para productos o filtros concretos.
  • Que un gate sea un tipo de guardrail es nuestra forma de ordenarlo. Anthropic no define «gate»; lo tomamos de nuestra guía sobre gates.
  • Ningún guardrail es infalible. Por eso se combinan, se prueban con casos trampa y se deja a una persona en lo delicado.
  • Los detalles técnicos cambian. La documentación de Anthropic se actualiza; lo descrito aquí es lo que decía el 21-10-2026.
Si te llevas una sola cosa

Pregúntate qué sería un desastre que tu IA dijera o hiciera, y convierte cada respuesta en una baranda: un documento del que sacar los datos, una salida a una persona cuando no sabe y casos trampa para probarla. Una sola baranda no basta; varias capas juntas, sí.

¿Y ahora qué?

Tres formas de seguir, según lo que prefieras.

Recibe las guías nuevas en tu correo

Un correo cuando sale una guía nueva o una novedad que te sirva para tu negocio.

El mensaje para tu grupo

¿Le sirve a alguien de tu equipo o de tu grupo? Cópialo tal cual o ábrelo directo en WhatsApp.

Te paso esta guía: Qué son los guardrails. Los límites que evitan que tu IA invente o prometa de más. https://iactn.com/arsenal/que-son-los-guardrails/
Abrir en WhatsApp
Cuándo se verificó esto

Fuentes, leídas el 21-10-2026

  1. Mitigate jailbreaks and prompt injections – Anthropic. La definición de jailbreak, inyección directa e indirecta, las medidas (filtrar la entrada, tratar el contenido de terceros como datos, mínimos permisos, probar el agente) y la idea de combinar capas.
  2. Reduce hallucinations – Anthropic. Permitir el «no sé», apoyar las respuestas en citas del texto y que estas técnicas reducen pero no eliminan el problema.
  3. Reduce prompt leak – Anthropic. Qué es una fuga del prompt, no incluir detalles innecesarios, filtrar las respuestas y el aviso de no sobrecomplicar.
  4. Increase output consistency – Anthropic. La sección «Keep Claude in character»: definir el rol y preparar situaciones comunes.