Cloudflare y los bots de IA: la nueva señal use=reference en robots.txt Carlos González Pizarro Septiembre 2, 2026

Cloudflare y los bots de IA: la nueva señal use=reference en robots.txt

article-cloudflare-firewall-bots

Cloudflare reemplazó el interruptor binario ‘Block AI Bots’ por una taxonomía de tres comportamientos (Search, Agent, Training) y desde el 15 de septiembre de 2026 los nuevos defaults bloquean Training y Agent por defecto en páginas con anuncios, mientras Search permanece permitido. Esta transformación, anunciada en el segundo ‘Content Independence Day’ de Cloudflare el 1 de julio de 2026, representa el cambio más significativo en el control de crawlers de IA desde la creación del estándar robots.txt.

La nueva señal use=reference en robots.txt extiende los Content Signals de Cloudflare, permitiendo a los editores chilenos especificar cómo los motores generativos pueden interactuar con su contenido: indexar y citar con enlace (referencia), interactuar sin almacenar (immediate), o resumir y reproducir (full). Para sitios B2B que dependen de tráfico calificado y autoridad semántica, comprender esta taxonomía es crítico para mantener visibilidad en AI Overviews sin ceder propiedad intelectual para entrenamiento de modelos competitivos.

Puntos clave

  • 1 de julio de 2026: Cloudflare celebra su segundo Content Independence Day y reemplaza el switch binario por taxonomía Search/Agent/Training.
  • 15 de septiembre de 2026: Nuevos defaults bloquean Training y Agent en páginas con anuncios; Search permanece permitido por defecto.
  • use=reference: Nueva señal en robots.txt que permite indexar, citar y enlazar sin reproducción completa, el default recomendado para SEO B2B.
  • Crawlers multi-propósito: Googlebot, Applebot y BingBot que combinan Search + Training serán afectados por la regla más restrictiva.

La taxonomía Search/Agent/Training: fin del enfoque binario

Durante años, los editores web enfrentaron una decisión binaria: bloquear todos los bots de IA o permitirlos sin distinción. El 1 de julio de 2026, Cloudflare eliminó esta falsa dicotomía al introducir una taxonomía de tres comportamientos que refleja cómo los sistemas de IA realmente interactúan con el contenido web. Search corresponde a la indexación tradicional con retorno de referrals, el comportamiento que conocemos de Googlebot desde hace dos décadas. Agent describe la actuación en tiempo real por usuarios, como ChatGPT-User o agentes de navegador que navegan en nombre de humanos. Training es el uso de contenido para entrenar modelos de lenguaje, el comportamiento más controvertido y que genera menos retorno para editores.

Esta granularidad permite estrategias sofisticadas: un sitio B2B puede permitir Search (manteniendo visibilidad en resultados), bloquear Training (protegiendo propiedad intelectual) y decidir caso a caso sobre Agent (útil para asistentes que recomiendan servicios). La implicación crítica es que los crawlers multi-propósito como Googlebot, Applebot y BingBot (que históricamente combinan Search con Training) serán afectados por la regla más restrictiva aplicada. Si bloqueas Training, bloqueas automáticamente a Googlebot, incluso si permites Search.

Defaults del 15 de septiembre de 2026: qué cambia para sitios con anuncios

Desde el 15 de septiembre de 2026, Cloudflare aplica nuevos defaults automáticos que bloquean Training y Agent por defecto en páginas que contienen publicidad, mientras Search permanece permitido. Esta configuración aplica a nuevos dominios y zonas sin preferencias explícitas configuradas. La lógica subyacente es proteger el modelo de negocio de editores que monetizan mediante anuncios: el contenido no puede ser usado para entrenar modelos competitivos ni para que agentes de IA actúen sin generar impresiones publicitarias, pero la indexación Search se mantiene porque genera tráfico referrals.

Para sitios existentes, Cloudflare respeta las preferencias configuradas antes de la fecha límite. Sin embargo, los administradores deben revisar manualmente su configuración (o delegarlo a un plan de mantención web) antes del 15 de septiembre si quieren mantener comportamientos diferentes a los nuevos defaults. La señal Content-signal: search=yes, ai-train=no, use=reference en el robots.txt gestionado de Cloudflare es la configuración recomendada para la mayoría de los sitios B2B chilenos que buscan visibilidad sin ceder contenido para entrenamiento.

La señal use=: immediate, reference y full

Cloudflare extendió los Content Signals con una nueva señal use= en robots.txt que especifica cómo los motores generativos pueden utilizar el contenido indexado. use=reference (el default) permite indexar, citar y enlazar el contenido, ideal para SEO tradicional donde buscas que tu sitio sea mencionado como fuente en AI Overviews. use=immediate permite interactuar sin almacenar, útil para contenido sensible o dinámico que no debe persistir en índices. use=full permite resumir y reproducir contenido completo, la opción más permisiva que puede generar cero-clicks pero también mayor exposición de marca.

Para un consultor SEO B2B en Chile, use=reference es la configuración óptima: asegura que tu contenido sea citado como fuente en respuestas de IA (GEO/SGE) manteniendo el control sobre reproducción completa. Esta señal trabaja en conjunto con la taxonomía Search/Agent/Training: puedes permitir Search con use=reference mientras bloqueas Training completamente.

Verified bots ya no son ‘always allow’: el nuevo significado de verificación

Históricamente, los bots ‘Verified’ en Cloudflare recibían tratamiento preferencial automático. Con la nueva taxonomía, Verified ya no significa ‘always allow’: ahora indica que el bot está correctamente etiquetado y puede ser permitido dentro de su categoría específica. Un bot Verified de Training sigue estando sujeto a las reglas de Training que configures. Este cambio elimina el tratamiento especial que grandes actores de IA recibían anteriormente y nivela el campo para editores que quieren control granular.

Cloudflare también lanzó BotBase, una base de datos de visibilidad de bots disponible para clientes de Enterprise Bot Management. BotBase proporciona inteligencia sobre qué bots están accediendo a tu sitio, sus comportamientos declarados y patrones de tráfico. Para sitios B2B de alto valor, esta visibilidad permite ajustar políticas basadas en datos reales de acceso en lugar de suposiciones.

Pay-Per-Crawl y Forwarded: monetización y trazabilidad

Cloudflare introdujo un marketplace Pay-Per-Crawl que permite a los editores cobrar a los bots por scraping de contenido. Este modelo transforma el acceso de crawlers de un derecho implícito a una transacción económica, alineando incentivos entre creadores de contenido y consumidores de datos. Para sitios B2B con contenido premium (informes de mercado, análisis técnicos, datos propietarios), Pay-Per-Crawl genera un flujo de ingresos adicional mientras mantiene control sobre quién accede y bajo qué términos.

Adicionalmente, Cloudflare propone extender el header Forwarded (RFC 7239) para que las políticas de bots sigan al operador final. Esto significa que si un intermediario reenvía tráfico de bot, las configururas de robots.txt y Content Signals del sitio original se mantienen aplicables. Esta extensión previene que terceros evadan restricciones mediante proxies o servicios de caché, cerrando una laguna que editores han identificado durante años.

Búsqueda por voz

¿Qué pasa con mi sitio en WordPress si no configuro nada antes del 15 de septiembre de 2026?

Si tu sitio WordPress usa Cloudflare y no configuras preferencias explícitas antes del 15 de septiembre de 2026, se aplicarán los nuevos defaults automáticamente. Si tu sitio tiene anuncios, Training y Agent quedarán bloqueados por defecto mientras Search permanece permitido. Para la mayoría de los sitios B2B chilenos sin anuncios, los defaults históricos se mantienen, pero debes verificar manualmente tu configuración en el dashboard de Cloudflare. La recomendación es configurar explícitamente Content-signal: search=yes, ai-train=no, use=reference en tu robots.txt gestionado para asegurar comportamiento consistente independientemente de cambios futuros de defaults.

Señal use=IndexaciónCitación con enlaceReproducción completaCaso de uso recomendado
use=reference (default)NoSEO B2B, GEO/SGE, contenido premium
use=immediateNoNoNoContenido dinámico, datos sensibles, APIs
use=fullContenido educativo, marca awareness, zero-click aceptable

Preguntas frecuentes

¿Cómo configuro la taxonomía Search/Agent/Training en Cloudflare?

Accede al dashboard de Cloudflare, navega a tu zona específica y ve a Bots → Content Independence. Allí verás tres toggles independientes para Search, Agent y Training. Para la mayoría de sitios B2B chilenos, la configuración recomendada es Search=yes, Agent=no (o caso a caso), Training=no. Cloudflare también genera automáticamente un robots.txt gestionado con la señal Content-signal: search=yes, ai-train=no, use=reference que puedes habilitar en la sección Scrape Shield.

¿El bloqueo de Training afecta el posicionamiento en Google Search tradicional?

No directamente. Googlebot realiza principalmente comportamiento Search (indexación con referrals). Sin embargo, como Googlebot combina Search + Training en un solo crawler, bloquear Training bloquea automáticamente todo el acceso de Googlebot. Para mantener indexación en Google Search tradicional mientras bloqueas Training, debes usar la configuración granular de Cloudflare que permite separar comportamientos, o aceptar que Googlebot completo será bloqueado y depender de otros canales de adquisición.

¿Qué es BotBase y cómo accedo a él?

BotBase es una base de datos de visibilidad de bots lanzada por Cloudflare para clientes de Enterprise Bot Management. Proporciona inteligencia sobre qué bots acceden a tu sitio, sus comportamientos declarados, patrones de tráfico y tendencias históricas. Para acceder, necesitas una suscripción Enterprise de Cloudflare con Bot Management habilitado. Para sitios B2B de alto valor en Chile, BotBase justifica su costo al proporcionar datos accionables sobre intentos de scraping y acceso de competidores.

¿Cómo afecta use=reference a mi estrategia de GEO/SGE?

La señal use=reference es óptima para GEO (Generative Engine Optimization) porque permite que tu contenido sea citado como fuente en AI Overviews de ChatGPT, Google SGE, Bing Chat y otros motores generativos, manteniendo el enlace de atribución. A diferencia de use=full, que permite reproducción completa sin necesidad de click, use=reference incentiva usuarios a visitar tu sitio para leer el contenido completo. Para consultores SEO B2B, esta configuración maximiza visibilidad en respuestas de IA mientras preserva tráfico calificado.

¿Puedo monetizar el acceso de bots con Pay-Per-Crawl?

Sí, Cloudflare lanzó un marketplace Pay-Per-Crawl que permite cobrar a los bots por acceder a tu contenido. La configuración se realiza en el dashboard de Cloudflare bajo Bots → Pay-Per-Crawl, donde defines precios por crawl y seleccionas qué bots pueden acceder bajo este modelo. Para sitios B2B con contenido premium (informes de mercado, análisis técnicos, datos de industria), Pay-Per-Crawl transforma el scraping de un costo a un flujo de ingresos. Sin embargo, evalúa cuidadosamente el impacto en visibilidad SEO antes de habilitarlo para todos los bots.

Infraestructura crítica

¿Tu hosting actual soporta Cloudflare avanzado?

La configuración correcta de Content Signals, taxonomía Search/Agent/Training y señales use= requiere integración profunda con Cloudflare. Nuestro hosting Premium con Cloudflare integrado incluye configuración experta de estas políticas para maximizar tu visibilidad GEO sin ceder propiedad intelectual.

Ver planes de hosting

Carlos González Pizarro es Consultor SEO B2B y Arquitecto Semántico en Chile. Fundado en la Universidad de Chile, combina el desarrollo avanzado (WordPress/WooCommerce) con la estructuración algorítmica de datos (JSON-LD, Graph Stitching y WPO). Su dominio se centra en transformar sitios web en Entidades Digitales validadas, dominando el Knowledge Graph de Google y capturando tráfico High Ticket a través de la Optimización para Motores Generativos (GEO / SGE).