Les 5 principes fondamentaux du développement éthique de l’intelligence artificielle

intelligence artificielle

Kriti Shama

L’éthique du code : les cinq principes fondamentaux du développement de l’intelligence artificielle pour les entreprises

Comme l’explique Kriti Shama, vice-présidente Bots et IA chez Sage, « S’il est facile de concevoir des chatbots et des solutions d’intelligence artificielle pour aider nos clients, la montée de l’IA soulève en revanche de vastes questions plus que jamais d’actualité. C’est pourquoi nous avons développé notre intelligence artificielle en observant un certain nombre de règles, élaborées, vérifiées et discutées à chaque étape de conception. Cela nous a permis d’en concevoir des principes, selon nous fondamentaux et universels, pour la conception de produits sûrs et éthiques. »

L’IA doit refléter la diversité de ses utilisateurs

L’industrie et les communautés doivent mettre au point des mécanismes permettant de filtrer efficacement les préjugés et les sentiments négatifs au sein des données utilisées pour l’apprentissage de l’IA. L’objectif est de faire en sorte que l’IA ne reproduise pas de stéréotypes.

L’IA, tout comme ses utilisateurs, doit être responsabilisée

Les utilisateurs établissent une relation avec l’IA et lui font confiance après seulement quelques interactions probantes. Or, la confiance implique des responsabilités, et l’IA doit rendre compte de ses actes et décisions, au même titre que les humains. La technologie, aussi intelligente soit-elle, ne doit pas se soustraire à ses responsabilités. Nous n’admettons pas ce type de comportements de la part des autres professions dites « expertes », alors pourquoi la technologie ferait-elle exception ?

L’IA doit être récompensée pour ses bons résultats

Si l’apprentissage des systèmes d’intelligence artificielle se construit à partir de mauvais exemples, alors cela peut avoir des conséquences socialement inacceptables. N’oublions pas qu’actuellement, la majorité des solutions d’IA n’ont pas conscience de ce qu’elles disent. Seul un apprentissage reposant sur une grande diversité de sources de données permettra de résoudre le problème. L’une des approches possibles consiste à développer un système d’apprentissage de l’IA basé sur la récompense. Attention toutefois : les méthodes d’apprentissage par renforcement doivent non seulement déterminer ce que l’IA ou les robots doivent faire pour parvenir à un résultat donné, mais aussi s’assurer que ces actions s’alignent sur les valeurs humaines.

L’IA doit promouvoir l’égalité des chances

Les technologies vocales et les robots sociaux offrent de nouvelles solutions accessibles, en particulier aux personnes malvoyantes, dyslexiques et à mobilité réduite. Notre industrie doit accélérer le développement de nouvelles technologies pour promouvoir l’égalité des chances et élargir ainsi le vivier de talents au sein des entreprises.

L’IA se substituera aux humains, mais créera aussi de nouvelles opportunités

La robotisation des tâches générera de nouvelles opportunités auxquelles nous devons d’ores et déjà former les humains. En adoptant l’IA, les entreprises pourront se concentrer sur ce qu’elles font le mieux : développer le relationnel et prendre soin de leur clientèle.
« Aujourd’hui, les entrepreneurs qui choisissent d’intégrer dans leurs usages quotidiens les innovations technologiques comme l’IA, vont pouvoir considérablement améliorer la productivité de leur entreprise. L’automatisation de tâches simples et répétitives permet aux salariés de consacrer plus de temps à des tâches créatrices de valeur et au développement du relationnel avec les clients. » explique Serge Masliah, Directeur Général, Sage Europe du Sud. « Il s’agit d’une avancée technologique déterminante. En publiant « l’éthique du code », Sage partage avec la communauté les règles essentielles au développement éthique de ces nouveaux outils. »

Élargir le vivier de talents

Pour combler la pénurie actuelle de professionnels de l’intelligence artificielle, Sage a lancé un programme de BotCamps. Il s’agit d’une première au Royaume-Uni dont l’objectif est de permettre aux 16-25 ans, ayant terminé leurs études, de se former aux rudiments de la programmation de bots et de systèmes d’intelligence artificielle. Ce programme inclusif est une belle opportunité de développement des compétences en conception de technologies accessibles. Ainsi enrichie de ces nouveaux talents formés aux technologies de pointe la communauté technologique entrera sans crainte dans la quatrième révolution industrielle.

Montrer l’exemple

Avec le lancement de son chatbot, Pegg, Sage a révolutionné le secteur de la comptabilité. Conçu pour libérer les clients des tâches administratives courantes qui les empêchent de se consacrer à des activités à plus forte valeur ajoutée, et entièrement conforme aux principes fondamentaux de Sage en matière d’intelligence artificielle, Pegg est un assistant intelligent qui permet aux petites entreprises de suivre leurs dépenses et de gérer leurs finances par le biais d’applications de messageries populaires telles que Facebook Messenger ou Slack. Un an après sa disponibilité générale, Pegg compte des dizaines de milliers d’utilisateurs dans 135 pays à travers le monde.


Fin de l'article