Boostez votre vie avec nos tips Carrière, Business, Lifestyle !

illustration

Newsletter
Boostez votre vie avec nos tips Carrière, Business, Lifestyle !

Kriti Sharma: rendre l’intelligence artificielle plus éthique

21.01.2018
Kriti Sharma : rendre l'intelligence artificielle plus éthique

Vice-présidente Bots et intelligence artificielle chez Sage, Kriti Sharma est une pionnière dans le développement de machines intelligentes capables de fonctionner et de réagir comme des êtres humains pour simplifier les tâches administratives des entreprises. Elle est aussi la créatrice de Pegg, le premier chatbot de comptabilité au monde qui sera sera commercialisé en 2018 en France et désormais adopté dans 135 pays.

L’intelligence artificielle est une des plus grandes révolutions de notre temps pouvant mettre en danger le pouvoir de l’être humain et son travail. Quel est votre point de vue ?

Kriti Sharma: L’intelligence artificielle est comme n’importe quelle autre révolution technologique majeure, elle aura des implications positives comme négatives. Maintenant, il faut être sûr qu’elles sont utilisées à de bonnes fins. Par exemple pour les petites entreprises qui n’ont pas beaucoup d’équipes technologiques, l’intelligence artificielle peut les aider à automatiser un certain nombre de process.

Par ailleurs, la technologie attire une main d’œuvre de plus en plus diversifiée, ce qui n’existait pas auparavant. L’intelligence artificielle peut également s’automatiser elle-même. Avant, créer un software prenait du temps, maintenant, l’IA commence à écrire ses propres codes. Elle peut, dans une certaine mesure, automatiser le travail de l’ingénieur software. Donc nous avons maintenant un besoin de gens aux compétences créatives, plus seulement des ingénieurs mais une combinaison de profils Art et Science.  Autrement dit, vous n’avez pas besoin d’être un ingénieur ou un Data scientifique avec un master pour travailler dans l’intelligence artificielle.

Dans « the end of the professions » David Susskind évoque des professions comme les avocats, qui vont être impactées par l’automatisation et l’intelligence artificielle.  Ne pensez-vous pas que cela va accroitre les inégalités à l’échelle mondiale ?

Kriti Sharma: Il est sûr à 100% que la nature des emplois va changer. Dans notre industrie, nous avons parlé avec beaucoup d’experts comptables parce que l’intelligence artificielle peut automatiser beaucoup de ce qu’ils font. Le travail va devenir plus judicieux. Aujourd’hui on perd trop de temps avec les formalités administratives. Il est important que les experts comptables, les avocats, comprennent qu’ils ont besoin de changer et de s’adapter au monde moderne. Ce n’est pas la technologie qui prend des emplois mais ce sont les rôles et façons de travailler qui changent. La façon dont je perçois les inégalités dans le contexte de l’intelligence artificielle ne se situe pas au niveau des emplois mais au niveau des inégalités algorithmiques.

C’est à dire ? 

Kriti Sharma: Les algorithmes aujourd’hui prennent d’importantes décisions dans notre vie de tous les jours. Par exemple, quand vous obtenez un prêt auprès d’une banque, lors d’un recrutement ou  sur les réseaux sociaux, ce qui va apparaître dans mes actualités Facebook va être différent des vôtres parce que l’algorithme prend les décisions et anticipe ce que les gens voudraient lire. Mais ces algorithmes sont biaisés parce qu’ils ont appris à partir de bases de données biaisées, ce qui augmente les inégalités dans le monde. L’algorithme est fondé sur des données historiques, la machine fait alors des associations qui ne sont pas « justes ».  Quand la machine va avoir le choix de décider qui va recevoir une augmentation par exemple, elle va le faire à partir de données antérieures. Or, ces comportements biaisés sont entrés dans nos vies.

Les femmes sont peu nombreuses dans le monde de l’intelligence artificielle, ce qui veux dire que la discrimination qu’elles affrontent dans la vie réelle va être d’autant plus accentuée dans ce nouveau monde. Comment empêche-t-on cette nouvelle domination technologique ? Comment gère-t-on ces stéréotypes déjà reproduits ?

Kriti Sharma: J’ai deux suggestions. La première est que nous avons besoin de plus de femmes pour construire ces algorithmes et les intelligences artificielles. Nous n’avons pas assez de femmes dans la technologie et l’ingénierie.  Les intelligences artificielles sont conçues par une main d’œuvre très spécifique. Nous avons besoin de plus de diversité et notamment attirer la jeune génération. Nous devons leur donner l’opportunité de toucher du doigt ce domaine. Deuxièmement, toutes les entreprises technologiques ou de softwares doivent s’assurer que les intelligences artificielles ne sont pas biaisées. Créer un data set, une base de données plus inclusive. J’aime bien parler de Wikipédia où seulement 17% des auteurs sont des femmes. Le database est donc inégalitaire. Quand l’intelligence artificielle apprend de Wikipédia, ses connaissances sont faussées.  Nous devons créer des bases de données plus inclusives.

Combien  de femmes avez vous dans votre équipe ? 

Kriti Sharma : Les trois tops leaders sont des femmes. Nous travaillons aussi ici, au Royaume Unie, pour attirer plus de personnes dans cette industrie. Nous formons notamment des jeunes sans expériences en programmation. Cela leur donne un aperçu et leur permet d’obtenir les compétences nécessaires pour rester dans la course de l’évolution technologique.

Pour finir, comment inciter plus de femmes à venir dans le monde de la Tech ? 

Kriti Sharma : Pour ce qui est d’inciter les femmes, il faut tout d’abord qu’elles aient les moyens d’essayer dans de bonnes conditions avant de décider et c’est aux gouvernements et décideurs de mettre en place des fonds et des programmes. A l’heure actuelle les gens prennent des décisions sans connaître le secteur, basés sur des stéréotypes. Ce secteur va devenir très intéressant dans le futur car les machines vont écrire leurs propres codes, c’est le machine learning. Le travail humain va donc être plus axé sur la résolution de problèmes. Troisièmement, les études prouvent que quand les femmes s’intéressent à la technologie, les problèmes qu’elles résolvent sont pour le bien social, elles ont un but, il faut les encourager à venir résoudre ces problèmes.

Et quel était le moteur qui vous a poussé à entrer dans ce secteur ?

Kriti Sharma: J’adore la résolution de problèmes. J’ai grandi en Inde et ai construit mon propre ordinateur  vers quatorze/quinze ans parce que je n’en avais pas. Quand vous n’avez pas le choix vous en fabriquez un ! Je n’avais pas d’expérience, pas la communauté autour, juste des livres. J’ai commencé à apprendre aux autres, particulièrement à des filles de mon voisinage et c’est comme ça que tout a commencé. Je me préoccupe aussi des problèmes dont souffre le monde aujourd’hui et je pense que pour les résoudre nous avons besoin d’une technologie puissante. Que ce soit l’éducation, les inégalités, les droits de l’Homme, la technologie peut les résoudre mais pour cela il faut qu’elle soit “designé” correctement.

Kriti Sharma a participé à la rédaction d’un code éthique autour de l’intelligence artificielle.

L’éthique du code : les cinq principes fondamentaux du développement de l’intelligence artificielle pour les entreprises

1/L’IA doit refléter la diversité de ses utilisateurs.

L’industrie et les communautés doivent mettre au point des mécanismes permettant de filtrer efficacement les préjugés et les sentiments négatifs au sein des données utilisées pour l’apprentissage de l’IA. L’objectif est de faire en sorte que l’IA ne reproduise pas de stéréotypes.

2/ L’IA, tout comme ses utilisateurs, doit être responsabilisée

Les utilisateurs établissent une relation avec l’IA et lui font confiance après seulement quelques interactions probantes. Or, la confiance implique des responsabilités, et l’IA doit rendre compte de ses actes et décisions, au même titre que les humains. La technologie, aussi intelligente soit-elle, ne doit pas se soustraire à ses responsabilités. Nous n’admettons pas ce type de comportements de la part des autres professions dites « expertes », alors pourquoi la technologie ferait-elle exception ?

3/ L’IA doit être récompensée pour ses bons résultats

Si l’apprentissage des systèmes d’intelligence artificielle se construit à partir de mauvais exemples, alors cela peut avoir des conséquences socialement inacceptables. N’oublions pas qu’actuellement, la majorité des solutions d’IA n’ont pas conscience de ce qu’elles disent. Seul un apprentissage reposant sur une grande diversité de sources de données permettra de résoudre le problème. L’une des approches possibles consiste à développer un système d’apprentissage de l’IA basé sur la récompense. Attention toutefois : les méthodes d’apprentissage par renforcement doivent non seulement déterminer ce que l’IA ou les robots doivent faire pour parvenir à un résultat donné, mais aussi s’assurer que ces actions s’alignent sur les valeurs humaines.

4. L’IA doit promouvoir l’égalité des chances

Les technologies vocales et les robots sociaux offrent de nouvelles solutions accessibles, en particulier aux personnes malvoyantes, dyslexiques et à mobilité réduite. Notre industrie doit accélérer le développement de nouvelles technologies pour promouvoir l’égalité des chances et élargir ainsi le vivier de talents au sein des entreprises.

5. L’IA se substituera aux humains, mais créera aussi de nouvelles opportunités

La robotisation des tâches générera de nouvelles opportunités auxquelles nous devons d’ores et déjà former les humains. En adoptant l’IA, les entreprises pourront se concentrer sur ce qu’elles f

Ils nous font confiance