France - FR
België - NL
Nederland - NL
España - ES
Europe - EN
L’intelligence artificielle promet aux commerçants une révolution en matière d’efficacité et de service client. Mais ses failles apparaissent également de plus en plus clairement. Inti De Ceukelaire, pirate éthique : « Il faut d’abord savoir comment se comporte un chien avant de le laisser approcher de vos enfants. »
« Encore souvent des semaines marquées par les cyberattaques »
D’abord Ahold Delhaize, puis le dégivrage des frigos français, sans oublier la cyberpanique chez H&M: la semaine dernière ressemblait à s’y méprendre à « la semaine des cyberattaques ». « Ça va encore souvent être la semaine des piratages », ironise le hacker éthique Inti De Ceukelaire. Pourquoi les hackers s’en prennent-ils autant aux détaillants ? « C’est là qu’il y a de l’argent à gagner : ils sont très visibles et détiennent de grandes quantités de données clients et d’informations de paiement. »
Le maillon faible de la cybersécurité des entreprises ? Pendant des années, c’était l’humain. Mais selon Inti De Ceukelaire, cette vulnérabilité se déplace désormais vers l’intelligence artificielle. Avec l’émergence des agents IA et des systèmes automatisés de service client, de nouvelles possibilités s’ouvrent aux pirates informatiques ainsi qu’aux consommateurs qui souhaitent tirer profit de cette technologie.
De Ceukelaire a lui-même déjà réussi à manipuler des chatbots pour accéder à des fichiers internes, des comptes et des données privées. Les applications commerciales s’avèrent elles aussi vulnérables. Il a réussi à amener des responsables commerciaux, via des systèmes d’IA, à promettre des remises qu’ils n’auraient peut-être jamais voulu accorder. Et que se passe-t-il lorsqu’un chatbot accorde noir sur blanc une remise à un client ? Qui en est responsable ?
L’IA est-elle sensible à la publicité ?
La relation entre les détaillants et les consommateurs évolue également. À mesure que les clients font appel à des assistants IA pour rechercher des produits, comparer les prix et effectuer des achats, les boutiques en ligne risquent de voir leur trafic direct diminuer. Cela pose un défi fascinant aux spécialistes du marketing. La publicité vise en fin de compte à influencer les comportements. Mais que se passe-t-il si ce n’est plus un être humain, mais un agent IA qui prend la décision d’achat ? Cet ordinateur peut-il lui aussi être convaincu par des techniques publicitaires ?
Le hacker éthique explore cette question sous l’angle de la psychologie. Il teste l’efficacité des techniques de manipulation classiques sur des modèles linguistiques. Ceux-ci s’avèrent parfois étonnamment prévisibles et influençables, mais ils ne fonctionnent pas comme le cerveau humain. C’est justement ce dernier point que nous oublions (trop) vite.
« Tout ne doit pas nécessairement relever de l’IA »
De Ceukelaire utilise lui-même intensivement l’IA et y voit d’énormes possibilités pour les entreprises. Il s’irrite toutefois de la rapidité avec laquelle les organisations adoptent ces applications sans bien comprendre leur fonctionnement. Les détaillants automatisent leur service client et expérimentent des agents IA autonomes, souvent par crainte de se faire distancer par la concurrence. Mais toutes les applications n’apportent pas réellement de gains d’efficacité. « Tout ne doit pas nécessairement relever de l’IA », souligne-t-il.
De plus, le contrôle humain risque de disparaître. Le principe du « human in the loop », selon lequel un humain supervise et peut intervenir, s’affaiblit selon lui. « Que se passe-t-il si une IA commet une erreur ? Qui va payer pour cette erreur ? » Prenons l’exemple d’un agent IA qui commande une centaine de produits, mais indique la mauvaise couleur. Qui en porte la responsabilité lorsque le client et la boutique en ligne ont chacun une commande différente en tête ? Selon De Ceukelaire, de tels litiges peuvent créer une toute nouvelle problématique.
Entre engouement et catastrophisme
Lors de la RetailDetail Night, le 19 novembre, De Ceukelaire démontrera à quel point les systèmes d’IA sont faciles à manipuler. Peut-on convaincre un agent IA d’annuler une contravention de stationnement ? Comment négocier le prix d’une voiture avec un ordinateur ? Et jusqu’où peut-on amener un chatbot à s’écarter de ses instructions initiales ?
Avec son spectacle interactif, il souhaite mettre fin tant à l’enthousiasme excessif qu’au catastrophisme qui entourent l’IA. Cette technologie peut apporter beaucoup aux détaillants, mais aussi causer des dommages considérables s’ils s’y fient aveuglément. « C’est comme accueillir un chien chez soi : il peut être le meilleur ami de l’homme, mais avant de le laisser avec de jeunes enfants, on veut tout de même savoir comment l’animal réagit. »
Son message principal ? Les entreprises ne doivent pas éviter l’IA, mais elles doivent bien comprendre ce qu’elles mettent exactement en place. Surtout lorsqu’elles laissent les systèmes négocier, vendre et prendre des décisions de manière autonome. Car lorsqu’on confie des responsabilités à l’IA, il faut aussi savoir à quel point il est facile de tromper cette technologie.
Vous souhaitez savoir à quel point vos applications d’IA sont réellement sûres ? Découvrez-le lors de la RetailDetail Night au Trademart de Bruxelles et réservez dès maintenant votre billet.
