Depuis quelques années, l’intelligence artificielle générative est devenue le sujet de toutes les conversations. Les entreprises veulent créer des agents, automatiser leurs processus, connecter leurs systèmes, déléguer des tâches à des intelligences artificielles toujours plus performantes.
Mais une question me revient systématiquement.
Comment savons-nous que le processus actuel fonctionne réellement ?
Cette question paraît presque naïve. Pourtant, elle est probablement la plus importante de toutes.
Parce qu’avant d’automatiser un processus, encore faut-il savoir comment il fonctionne réellement. Et surtout, s’il fonctionne.
Nous vivons dans une illusion du fonctionnement
Dans beaucoup d’organisations, les processus métiers n’existent que dans les présentations PowerPoint.
On demande à un responsable comment fonctionne une validation.
Il répond.
On demande ensuite à un autre responsable.
Il répond différemment.
Puis on interroge les utilisateurs.
Ils expliquent qu’ils contournent le processus officiel depuis des années parce qu’il est trop lent.
Alors lequel est le vrai processus ?
Le document ? Le responsable ? L’utilisateur ?
Ou la réalité ?
La plupart du temps, personne ne le sait vraiment.
Nous reconstruisons des systèmes d’information sur des hypothèses.
Nous automatisons des suppositions.
Nous entraînons des agents sur des descriptions qui ne correspondent plus à la réalité opérationnelle.
Sans audit, il n’existe aucune vérité
Le véritable problème n’est pas l’absence d’automatisation.
Le problème est l’absence de preuve.
Lorsqu’un client affirme :
« Vos systèmes ont divulgué mes informations confidentielles. »
Quelle est votre réponse ?
Pensez-vous que répondre :
« Normalement, ce n’est pas possible. »
constitue une preuve ?
Évidemment non.
Une organisation doit être capable de répondre :
- qui a accédé aux données ;
- quand ;
- depuis quel appareil ;
- avec quelle identité ;
- à partir de quelle adresse IP ;
- quelle application a réalisé l’action ;
- quelles données ont été consultées ;
- quelles données ont été modifiées ;
- quelles données ont été exportées.
Sans ces informations, il ne reste qu’une succession d’opinions.
L’audit est précisément ce qui transforme une opinion en fait vérifiable.
L’audit est le « Source of Proof »
On parle souvent du Source of Truth : la source de vérité.
Je pense qu’il existe un concept encore plus important.
Le Source of Proof.
Une vérité n’a de valeur que si elle peut être démontrée.
L’audit est cette capacité à démontrer.
Il ne raconte pas une histoire.
Il montre les faits.
Dans un monde où les décisions sont de plus en plus automatisées, cette capacité devient essentielle.
Les agents IA rendent l’audit indispensable
Lorsque des employés prennent des décisions, il reste toujours possible de les interroger.
Pourquoi avez-vous fait cela ?
Quelle information aviez-vous ?
Pourquoi avez-vous choisi cette option ?
Mais lorsqu’un agent IA agit ?
La réponse devient beaucoup plus complexe.
Quel prompt a été envoyé ?
Quel contexte a été utilisé ?
Quel document a été consulté ?
Quelle version du modèle était utilisée ?
Quel agent est intervenu ?
Quelle chaîne d’agents a participé à la décision ?
Quel outil a exécuté l’action ?
Si aucune de ces informations n’est conservée, l’organisation perd sa capacité d’expliquer ses propres décisions.
Et une décision qu’on ne peut plus expliquer devient très difficile à défendre.
Les outils Microsoft sont une excellente base…
L’écosystème Microsoft fournit déjà des outils extrêmement puissants.
L’audit de Microsoft 365, aujourd’hui intégré à la plateforme , permet de suivre un très grand nombre d’activités réalisées dans Microsoft 365.
À un niveau supérieur, permet de centraliser, corréler et analyser les événements provenant de multiples systèmes.
Ces solutions sont remarquables.
Elles répondent à des milliers d’organisations.
Mais précisément parce qu’elles répondent à tout le monde…
…elles ne répondent parfaitement à personne.
Chaque entreprise possède ses propres processus.
Ses propres règles.
Ses propres indicateurs.
Ses propres risques.
Son propre vocabulaire métier.
Le véritable tableau de bord décisionnel doit être construit autour de cette réalité.
L’audit n’est pas un produit
C’est probablement le point le plus important.
L’audit n’est pas, et ne devrait jamais être une licence !
Ce n’est pas un logiciel.
Ce n’est pas une technologie.
L’audit est une architecture.
C’est une manière de penser l’ensemble du système d’information.
Chaque événement important doit laisser une trace.
Chaque décision doit pouvoir être expliquée.
Chaque automatisation doit pouvoir être rejouée.
Chaque agent doit pouvoir justifier son action.
Chaque donnée doit pouvoir raconter son histoire.
Observer avant d’automatiser
Je vois aujourd’hui énormément d’entreprises qui souhaitent automatiser leurs processus.
Mais lorsqu’on leur demande :
« Combien de fois ce processus est-il exécuté chaque semaine ? »
Personne ne sait.
« Quel est son taux d’erreur ? »
Silence.
« Combien coûte réellement ce processus ? »
Aucune mesure.
« Combien de temps prend-il ? »
Une estimation.
« Où se trouvent les goulots d’étranglement ? »
Une intuition.
Nous voulons optimiser quelque chose que nous n’avons jamais réellement observé.
C’est un peu comme vouloir améliorer un moteur sans jamais avoir ouvert le capot.
L’audit permet enfin de mesurer le retour sur investissement
L’une des difficultés de nombreux projets IA est simple.
Comment démontrer qu’ils fonctionnent ?
Si aucune mesure n’existait avant le projet…
Comment démontrer un gain après le projet ?
Impossible.
L’audit permet justement de créer cette référence.
Avant.
Pendant.
Après.
On peut alors comparer.
Mesurer.
Vérifier.
Corriger.
Améliorer.
Sans audit, il ne reste que des impressions.
Avec le produit BizDesk, nous défendons une autre approche
Notre vision est simple.
Nous ne cherchons pas à remplacer les solutions existantes.
Nous cherchons à construire une couche d’observabilité adaptée à chaque organisation.
Un tableau de bord qui parle le langage du métier.
Un tableau de bord capable de raconter ce qui se passe réellement.
Pas ce que l’on croit qu’il se passe.
Notre objectif n’est pas de vendre une plateforme propriétaire.
Au contraire. Notre proposition est un socle Open-source que vous pouvez personnaliser.
Nous accompagnons nos clients pour construire cette capacité directement dans leur propre infrastructure lorsque c’est possible.
Pour accélérer les premiers projets, nous pouvons également proposer une infrastructure hébergée.
Cela permet de démarrer rapidement, de valider les indicateurs, de construire les tableaux de bord et d’obtenir rapidement de la valeur.
Puis, lorsque l’organisation est prête, l’ensemble peut être transféré dans son environnement afin qu’elle conserve la maîtrise complète de ses données, de ses journaux d’événements et de son patrimoine informationnel.
L’objectif n’est jamais de créer une dépendance.
L’objectif est de construire une autonomie durable.
Demain, l’audit deviendra plus important que l’intelligence artificielle
Je suis convaincu que nous allons vivre une inversion des priorités.
Hier, tout le monde parlait des agents.
Aujour’hui, tout le monde parle de leur gouvernance.
Hier, nous construisions des automatisations.
Demain, nous voudrons comprendre pourquoi elles prennent certaines décisions.
Aujourd’hui, nous voulons accélérer.
Demain, nous voudrons prouver.
L’intelligence artificielle ne remplacera jamais la nécessité de comprendre ce qui se passe dans une organisation.
Au contraire.
Plus nos systèmes deviendront autonomes, plus nous aurons besoin d’une mémoire fiable de chacune de leurs actions.
Parce qu’au fond, un système d’information ne mérite notre confiance que s’il est capable de répondre à la question la plus simple qui soit :
Que s’est-il réellement passé ?
Et tant que cette question restera sans réponse, aucune transformation numérique ne pourra prétendre être véritablement maîtrisée.
