| Données insuffisantes ou fragmentées | Les enregistrements en double, les coordonnées obsolètes, les résultats manquants et les étapes incohérentes faussent les scores et les synthèses. | Nettoyez les données nécessaires au cas d'utilisation spécifique, définissez une source de référence et attribuez-en la responsabilité. Évitez les projets interminables consistant à “ tout nettoyer ”. |
| Confidentialité et sécurité des données | Les données CRM peuvent inclure des contrats, des messages privés et des informations sensibles sur les clients. Les agents peuvent également être manipulés par des instructions malveillantes intégrées dans des e-mails ou des documents. | Restreindre déterminer ce à quoi le modèle a accès et ce qu’il peut modifier, examiner les règles de conservation et de traitement, tester des scénarios d’utilisation abusive et mettre en place une procédure de gestion des incidents. |
| Biais et résultats inexacts | Les modèles peuvent reproduire des biais historiques, passer à côté d'éléments de contexte importants ou fournir des réponses qui semblent sûres mais qui sont erronées. | Testez le système en tenant compte des différents groupes de clients, des différentes langues et des cas complexes. Veillez à ce que le contenu source reste visible et autorisez le système à répondre “ Je ne sais pas ”.” |
| Complexité de l'intégration | L'IA peut fournir la bonne réponse alors même que le flux de travail échoue en raison de données obsolètes, de mappages incorrects ou de mises à jour rejetées. | Testez l'ensemble du processus, de la source à l'action, en incluant les erreurs, les tentatives de reprise, la récupération et une solution de secours manuelle. |
| Coûts de mise en œuvre | Les licences ne représentent qu'une partie du coût total. Il faut également compter le temps consacré au traitement des données, aux intégrations, aux tests, à la formation, à la surveillance et aux corrections. | Modélisez les coûts en conditions normales et en période de pointe, suivez le coût par résultat accepté et vérifiez d'abord si une fonctionnalité native ou une règle simple peut résoudre le problème. |
| Automatisation excessive | La suppression de toute intervention humaine rend plus difficile la résolution des affaires inhabituelles ou à enjeux élevés. | Définissez les niveaux d'approbation en fonction de l'importance des conséquences. La rédaction d'une réponse et la modification des clauses d'un contrat ne devraient jamais bénéficier de la même marge de manœuvre. |
| Faible taux d'adoption par les employés | Les gens ignoreront les IA qui imposent davantage de vérifications, qui semblent peu fiables ou qui suscitent des inquiétudes quant à la manière dont leur travail est surveillé. | Impliquez les utilisateurs dès le début, donnez-leur la possibilité de rejeter les résultats, montrez-leur où ils gagnent du temps et mesurez la fréquence d'utilisation plutôt que la participation aux formations. |
| Une gouvernance défaillante | Personne ne sait à qui appartient ce système, à quelles données il peut accéder, ni quand il faudrait l'arrêter. | Désigner les responsables métier et techniques, consigner les données et les actions approuvées, veiller à ce que le processus de révision reste gérable et procéder à de nouveaux tests après toute modification significative. |