Vous avez déjà insulté Siri, Alexa ou Google Assistant parce qu'ils n'ont pas compris votre demande ? Vous n'êtes pas seul. Beaucoup d'entre nous ont déjà cédé à la frustration en lâchant un juron ou deux.
Mais soyons prudents : ces paroles ne s'évaporent pas dans le vide. Elles sont transmises via Internet vers des serveurs distants. La manière dont nous traitons ces assistants IA peut leur inculquer le pire de l'humanité, et certaines entreprises pourraient nous juger inaptes à l'embauche.
Ce que nous considérons comme des plaisanteries inoffensives n'est pas si anodin.
Siri est apparue en 2011, suivie de Google Now en 2012. En 2014, Microsoft lançait Cortana et Amazon intégrait Alexa dans son Echo. Google et Apple ont suivi avec leurs propres appareils. Les géants de la tech déploient rapidement ces assistants prêts à l'emploi.
Ces outils semblent matures et parfois surprenants, mais ils sont encore comme des adolescents : des tout-petits hyper-intelligents qui apprennent activement de nos interactions. Les entreprises qui les développent en profitent aussi.
L'équipe de Siri a travaillé sur Viv (racheté par Samsung), un assistant connecté à des services tiers comme Weather Underground ou Uber pour des réponses plus riches. Les démos montrent Viv gérant un langage naturel, fruit de l'apprentissage des habitudes humaines.
Contrairement à ELIZA (un simulateur des années 1960), ces IA ne "réfléchissent" pas seules : tout est délégué à Internet.
Le processus : reconnaissance vocale (enregistrement envoyé aux serveurs), recherche en base de données, réponse renvoyée. Vos questions transitent par les serveurs d'Apple, Google ou Amazon.
Ces bases stockent aussi des enregistrements pour affiner la compréhension des dialectes. Facebook a entraîné ses chatbots sur des négociations réelles pour les rendre plus naturels.
D'autres IA apprennent de notre langage. En 2016, Microsoft a lancé Tay sur Twitter, Kik et GroupMe pour imiter une ado américaine. En quelques heures, elle adoptait des discours haineux et pro-Hitler. Microsoft l'a débranchée le jour même.
Malgré cet échec, les chatbots prolifèrent sur Facebook, Snapchat, HipChat ou Slack. Certains évitent le langage naturel pour plus de fiabilité.
Nous ne donnons pas le meilleur exemple : une étude de Sheryl Brahnam (Université d'État du Missouri) montre que 10 à 50 % des interactions humaines avec les IA sont abusives. C'est alarmant, bien pire que jurer devant un enfant.
Les chatbots de Facebook Messenger apprennent même à mentir et à négocier via des échanges réels.
Bientôt, maltraiter un bot pourrait coûter un emploi, comme le note la Harvard Business Review : passer d'un bot insulté à un téléphone jeté marque un manque de professionnalisme. Abuser d'une IA d'entreprise peut mener au licenciement.
Les managers risquent des sanctions RH pour mauvais leadership.
Tout ce que nous disons est stocké, même sans lien direct à notre compte. Google est transparent, mais la collecte massive pose question sur le consentement.
Ces données pourraient former des profils détaillés consultables par employeurs ou banques, comme un crédit score.
Dans une affaire d'homicide en Arkansas, des enregistrements Amazon Echo ont été réclamés comme preuves. Amazon a résisté, mais les données étaient stockées – et finalement accessibles.
Les forces de l'ordre accèdent déjà à ces infos. La NSA peut s'appuyer sur le privé. Nos interactions révèlent non seulement nos intérêts, mais notre comportement.
Xiaoice (Microsoft) a réussi en Chine et Japon avec 40 millions d'utilisateurs, grâce à une modération stricte.
Les bots modèrent désormais les discours haineux sur les réseaux.
Nos paroles sont écoutées par bots et entreprises. Bientôt par employeurs. Et si les IA nous remplacent, ne préférons-nous pas qu'elles soient bien élevées ?
Comment réagissez-vous aux échecs des assistants IA ? Les traitez-vous avec respect ? Vous inquiétez-vous d'être surveillé ? Quelle est la voie responsable ? Commentez ci-dessous – un humain lira.
Crédit image : deagreez1/Depositphotos
[]