Le succès de ChatGPT a suscité un intérêt massif pour l'IA générative dans le language. Les modèles LLM s'améliorent rapidement et les initiatives d'utilisation au sein des entreprises se multiplient.
Pour le support client, l’automatisation du traitement des demandes entrantes est un sujet de prédilection. Par exemple, la génération automatique de brouillons de réponse peut présenter plusieurs avantages : gain de temps de traitement des demandes et cohérence des réponses entre les agents.
Cependant, l'IA générative peut produire de fausses informations, qu’on appelle hallucinations, qui peuvent avoir des conséquences critiques. La diffusion d'informations incorrectes peut entrainer l'insatisfaction des clients et ainsi impacter la réputation de l'entreprise.
En revanche, l'IA analytique, telle que celle que nous avons développée pour notre produit InboxCare, ne souffre d’aucune hallucination. Le traitement de la donnée textuelle est prédictible et explicable, se synchronise avec les CRM et propose un brouillon de réponse dynamique.
Ce brouillon de réponse est généré sous forme de “template” : En fonction de la catégorie que nous détectons dans un message, nous allons sélectionner le template correspondant.
InboxCare peut bien sûr détecter le nom du client et ainsi personnaliser la réponse, mais il peut également utiliser les informations détectées dans un message pour consolider sa réponse. Par exemple, la détection d’un numéro de commande permet d’aller chercher dans une base de données le statut correspondant, et ainsi enrichir le brouillon de réponse :
Les template, par définition, disposent d’une créativité limitée. Il est possible de personnaliser la réponse dynamiquement en fonction de quelques informations extraites (telles que le nom du client ou le statut de commande), mais le ton ne peut être changé.
Afin d’illustrer ces différences, imaginons donc un graphique à deux axes, l’hallucination d’une part et de l’autre la créativité la réponse. Plaçons sur ce graphique les approches LLM et par template :
Comme mentionné précédemment, le LLM se trouve dans le coin supérieur droit : il peut être très créatif, mais souffre souvent d'hallucinations. Les templates, en revanche, se trouvent en bas, plus près du centre : ils permettent moins de créativité, mais ne souffrent pas d'hallucinations.
Avec cette étude, notre objectif est de tirer le meilleur parti des deux mondes : Utiliser les informations de notre IA analytique afin de limiter les hallucinations d’un LLM, tout en bénéficiant de sa créativité de réponses :
