Aller au contenu
BiVelio rejoint le NVIDIA Inception ProgramNVIDIA Inception Program
Le lecteur web de BiVelio

BiVelioOneBot : ce qu’il lit et comment l’arrêter

Il lit quelques pages publiques du site d’une entreprise, uniquement quand quelqu’un le demande pour le site de son entreprise ou d’un client qui lui a donné son consentement, et estime quels processus valent la peine d’être découverts avec son équipe. Il respecte robots.txt et la réserve de fouille de textes et de données, et s’identifie toujours.

Qui est BiVelioOneBot

C’est le lecteur web de BiVelio One, l’espace de travail de BiVelio Inc. Il sert au diagnostic « Découvrez vos processus depuis votre site » de bivelio.com et à la phase Compréhension de One.

  • Uniquement sur demande

    Il ne parcourt pas Internet de lui-même : chaque lecture commence parce qu’une personne donne un site et déclare qu’il appartient à son entreprise ou à un client qui lui a donné son consentement.

  • Un seul site

    Il lit la page d’accueil et quelques pages du même site (avec ou sans www). Il ne suit pas les liens vers d’autres domaines et ne lit pas les réseaux sociaux.

  • Des règles, pas des copies

    Il transforme chaque page en texte, applique des règles explicables et jette le HTML. Le résultat est une estimation de processus, jamais une copie de votre site.

Ce qu’il lit et ce qu’il ne fait pas

Ce qu’il lit

  • /robots.txt d’abord et, avant d’analyser quoi que ce soit, /.well-known/tdmrep.json (la réserve de fouille de textes et de données) ; puis un sitemap : celui qu’indique robots.txt ou, s’il n’en indique aucun, /sitemap.xml.
  • Jusqu’à 8 pages HTML publiques (accueil compris), une par thème : contact, services, réservations, emploi, mentions légales, FAQ…
  • Du HTML seulement : il ne télécharge ni images, ni PDF, ni feuilles de style, ni scripts, et n’exécute pas JavaScript.
  • Avec des plafonds : 2 Mio par page, 8 Mio et 20 secondes au total, 3 redirections au plus et toujours dans le même site.

Ce qu’il ne fait jamais

  • Il n’envoie pas de formulaires, ne se connecte pas, ne crée pas de comptes et n’ajoute rien à aucun panier.
  • Il ne garde pas de copies des pages. Le diagnostic de bivelio.com ne conserve rien de votre site. Dans One, l’entreprise qui l’a demandé conserve 90 jours le résultat de l’analyse (les pages lues, les processus et de courts extraits de 240 caractères au plus, sans e-mails ni téléphones), ainsi qu’une empreinte (SHA-256) de chaque page pour pouvoir vérifier ce qui a été lu sans en garder de copie, puis le tout est supprimé automatiquement ; jamais le HTML.
  • Il n’envoie ni cookies, ni en-tête Authorization, ni Referer.
  • Il ne contourne pas les blocages : face à un 403, un 429 ou un 503 (ce que renvoient les blocages et presque toutes les pages de vérification), il s’arrête sans réessayer.

Comment exclure votre site

Une seule de ces quatre voies suffit. BiVelioOneBot les vérifie avant d’analyser quoi que ce soit, et vous n’avez pas besoin de nous prévenir.

robots.txt

Il suit robots.txt (RFC 9309) sous le nom BiVelioOneBot, sans distinction de casse. Pour qu’il ne lise rien de votre site :

User-agent: BiVelioOneBot
Disallow: /

En-tête ou meta (TDMRep)

Réservez la fouille de textes et de données avec le protocole TDMRep du W3C : l’en-tête HTTP ou la balise meta de vos pages.

tdm-reservation: 1

<meta name="tdm-reservation" content="1">

/.well-known/tdmrep.json

Ou un fichier pour tout le site (ou seulement pour les chemins de votre choix), lui aussi de TDMRep :

[
  { "location": "/", "tdm-reservation": 1 }
]

Dans vos mentions légales ou vos conditions

Si vos mentions légales ou vos conditions d’utilisation indiquent que vous vous réservez la fouille de textes et de données (par exemple, « La fouille de textes et de données de ce site est interdite »), BiVelioOneBot le lit comme une réserve et n’analyse pas le site.

La fouille de textes et de données de ce site est interdite.
  • S’il n’y a pas de groupe pour BiVelioOneBot, il suit celui de «User-agent: *», et la règle la plus spécifique l’emporte.
  • Un noindex sur la page d’accueil (meta robots ou en-tête X-Robots-Tag) arrête l’analyse ; avec nofollow, il ne suit pas ses liens.
  • Si votre robots.txt répond par une erreur 5xx, il ne lit rien ; si tdmrep.json répond 429 ou 503, non plus.
  • Si vous préférez qu’il n’essaie jamais, écrivez à support@bivelio.com depuis une adresse de votre domaine et nous l’ajouterons à notre liste d’exclusion.

Il a lu votre site ?

Si BiVelioOneBot est passé sur votre site et que vous voulez savoir pourquoi, qu’il ne revienne pas ou que ce qui reste dans One soit supprimé, écrivez à support@bivelio.com (pour la protection des données : privacy@bivelio.com). Nous répondons en moins de 24 heures ouvrées.