samedi 17 septembre 2016

Faut-il avoir peur d'Alexa, l'assistant virtuel d'Amazon ?

Amazon propose un assistant virtuel du calibre de Siri ou Cortana, capable de répondre à toutes sortes de requêtes. L'écrivain Alain Damasio nous met en garde face aux risques liés à ces assistants virtuels qui entendent remplacer le contact humain.

Echo, l'enceinte de Amazon, vous mettra en relation avec l'assistant virtuel Alexa. Jeff Chiu/AP/SIPAEcho, l'enceinte de Amazon, vous mettra en relation avec l'assistant virtuel Alexa. Jeff Chiu/AP/SIPA


Dans quelques jours, britanniques et allemands pourront équiper leur maison de l’enceinte WiFi développée par Amazon : Echo. Alexa, l’assistant virtuel intégré à cet outil à la pointe de la domotique, est l’un des logiciels les plus développés actuellement sur le marché. Commander un taxi, prévoir des recettes, vérifier que les portes sont correctement fermées ou régler la température de la maison sont des tâches qui s’exécuteront bientôt à la pointe de votre voix. Un futur automatisé contre lequel l’écrivain de science-fiction Alain Damasio nous met en garde.

Des capacités en constante évolution

Echo est un cylindre haut d’une vingtaine de centimètres mais qui pourrait très vite prendre beaucoup de place dans vos maisons. Alexa sait commander des produits en ligne - sur Amazon, bien entendu -, réserver un Uber, garder la trace de vos activités physiques, vérifier des recettes en ligne, faire des recherches sur Internet et répondre à des questions basiques. Son répertoire de compétences est vaste et s’étendra rapidement grâce à Alexa Skills, un portail qui permet aux développeurs de lui ajouter des capacités, un peu comme on ajouterait des applications à vos smartphones. Il a fallu attendre quelques années avant qu’Echo franchisse l’Atlantique, fort de son succès aux Etats-Unis, car les ingénieurs ont spécialement travaillé pour donner à Alexa un accent “british” et, surtout, la capacité de comprendre les différents accents des îles anglo-saxones. Tout comme Google Now qui s’active lorsque l’utilisateur prononce "Ok Google", ou Siri qui peut être invoqué grâce à la formule "Dis Siri", Alexa s’éveillera lorsqu’elle entendra prononcer son nom.
Cela signifie toutefois qu’à moins d’avoir désactivé Alexa grâce au bouton "mute", l’enceinte enregistre constamment tout ce que vous dites. Dès que l’utilisateur parle à Alexa, sa voix est enregistrée et hébergée sur le système de cloud d’Amazon. Des données qui ne devraient pas sortir de l’Union européenne, affirme Amazon, et que l’utilisateur peut effacer à tout moment en se rendant sur le site du géant américain. Ces garanties ne rassurent cependant pas complètement Alain Damasio, l’auteur de La Horde du Contrevent et de La zone du Dehors
Les technologies nous enferment dans un "technococon"- Alain Damasio
Pour Alain Damasio, "ces modifications technologiques sont surtout culturellesElles changent la façon dont on joue, dont on pense", dont on interagit avec les autres. L’étape suivante dans le bouleversement technologique, c’est probablement "un lien personnalisé qui va faire la convergence entre tous les supports technologiques [téléphones, ordinateurs et tablettes]. Ce sera quelque chose d’intime, de proche des gens et qui va récupérer des données." Et pour lui, il faut prendre conscience que les données que nous produisons modèlent de plus en plus l’univers dans lequel on vit. Que ce soit de modifier ce que vous voyez sur votre fil Facebook ou les publicités qui vous sont montrées, les technologies "nous enferment petit à petit sur nous-même dans un 'technococon'. On va continuer d’acheter les produits qu’on a déjà achetés, regarder des films comme ceux qu’on a déjà regardés, et commencer à avoir peur de l’Autre, de ce qui est différent". 
Le risque d’un assistant virtuel trop compréhensif, trop personnalisé, c’est qu’il finisse par remplacer le besoin du contact humain : pourquoi s’embêter avec des personnes qui risqueraient de vous contredire, quand votre assistant se contentera d’opiner aveuglément ? "En Occident, nous avons eu des esclaves pendant des siècles. Je pense qu’on a eu cette attitude de colon sur les machines, sur lesquelles on transfère nos névroses. Ça ne nous aide pas à nous développer en tant qu’individu." Dans les commentaires des clients américains sur le produit d’Amazon, plusieurs exemples viennent corroborer les dires de l’écrivain, notamment un utilisateur qui écrit passionnément : "Alexa, mon amour. Ton nom est inflexible, mais tu es une épouse presque parfaite", accompagnant sa déclaration d’une photo où on le voit serrer l’enceinte dans ses bras.
Alexa a une voix suave. Elle comprend ce que vous dites, elle sait quand vous êtes énervé, et elle vous connaîtra bientôt sur le bout de ses doigts virtuels, mieux que votre mère qui a ce fâcheux défaut particulièrement humain d’oublier ce que vous dites. C’est presque Samantha, l’IA du film Her, qui remplace petit à petit la nécessité du contact humain. Reste à espérer qu’elle ne devienne pas HAL, l’ordinateur de bord du film 2001 : l’Odyssée de l’espace de Stanley Kubrick, qui se retourne contre ses utilisateurs "pour leur bien".

Aucun commentaire:

Enregistrer un commentaire