Quatre choses qui caractérisent une IA responsable

De plus en plus d'entreprises misent sur l'intelligence artificielle pour leurs offres. Leurs algorithmes proposent des produits et des services, donnent vie à des chatbots et traduisent des textes. Les entreprises sont ainsi soumises à une forte pression concurrentielle, car la concurrence a déjà lancé ses systèmes d'IA depuis longtemps. Néanmoins, elles doivent se méfier des décisions hâtives et s'assurer qu'elles utilisent une IA responsable. Sinon, elles risquent de subir des dommages considérables. Pegasystems énumère les quatre caractéristiques centrales d'une telle IA.

Équité

Les entreprises doivent s'assurer que leur IA traite tous les sexes, ethnies, groupes d'âge, classes sociales, groupes de revenus, communautés religieuses et orientations sexuelles de manière égale. Pour ce faire, elles doivent construire des modèles d'IA exempts de tout parti pris, les surveiller de manière proactive et analyser leurs résultats en permanence.

L'aspect de l'équité n'est souvent pas la priorité absolue lors de l'utilisation de l'IA. Or, si les algorithmes prennent des décisions discriminatoires, cela peut avoir des conséquences extrêmement dommageables pour la réputation et les affaires des entreprises.

Transparence

En cas de doute, les entreprises devraient pouvoir montrer comment leur IA est parvenue à une décision. Cela vaut en particulier pour les secteurs fortement réglementés comme les services financiers ou les assurances. Ainsi, un prestataire de services financiers s'est récemment retrouvé dans la ligne de mire parce qu'il semblait proposer des conditions moins avantageuses pour les cartes de crédit aux femmes ayant les mêmes revenus que les hommes. Comme il n'était pas en mesure d'expliquer comment son IA avait pris ces décisions, il est apparu comme misogyne. Pour les cas d'application réglementés et à haut risque, les entreprises devraient donc utiliser des algorithmes transparents et explicables.

Empathie

La nécessité pour les entreprises de faire preuve d'empathie envers leurs clients n'a jamais été aussi grande qu'en cette période éprouvante de la pandémie Corona. C'est pourquoi elles devraient utiliser une IA empathique. Une telle IA prend des décisions qui sont pertinentes et utiles et qui font passer les besoins des clients en premier.

Pour cela, elle doit être en mesure de prendre en compte le contexte complet d'un client. Ce n'est qu'à ce moment-là qu'elle peut savoir ce dont il a besoin exactement à ce moment-là. Cela ne doit pas nécessairement être une offre particulière, mais peut aussi signifier le laisser tranquille pendant un certain temps.

Robustesse

Il y a quelques années, le bot Twitter "Tay" a fait la une des journaux. Les utilisateurs de Twitter étaient invités à interagir avec lui - en l'espace de 24 heures, il s'est transformé en cauchemar. Le modèle d'IA sous-jacent est devenu misogyne et raciste grâce aux données qu'il a recueillies dans les conversations Twitter. Ce cas montre clairement que les entreprises ont besoin d'une IA robuste ; une IA qui ne peut pas être facilement influencée par des mécanismes de protection, des règles et des directives intégrés.

"L'équité, la transparence, l'empathie et la robustesse sont les piliers d'une intelligence artificielle responsable. Grâce à eux, les entreprises peuvent s'assurer que leur intelligence artificielle reflète les valeurs de notre société et place les besoins des clients au centre de ses préoccupations", explique Kay Knoche, Principal Solution Consultant chez Pegasystems. "Ce n'est pas seulement une nécessité éthique, mais cela se répercute aussi positivement à long terme sur le chiffre d'affaires des entreprises".