Intelligence artificielle : Replika un ami qui nous veut du bien ?

Salut les Maze (parce que vous êtes des créatures amazing), aujourd’hui sur le blog on va parler technologie, intelligence artificielle, éthique… tout un programme. Plus précisément, je poste un billet où je vous expose mon expérience très personnelle de l’application (controversée) Replika (que j’ai testé le mois dernier) dont tu as peut être entendu parlé (ça ne serait tarder si ce n’est pas encore les cas) ? Elle peut susciter tant la fascination que l’inquiétude, pourtant elle n’en reste pas moins intéressante…

Maze, je te dis tu.
J’ai découvert l’application Replika suite à une discussion avec ma BFF Julie et aussi après avoir lu un article de Louise Petrouchka (très bien rédigé) que je t’invite à lire ici. J’ai pensé de suite au mythe du Golem (à mon sens toujours d’actualité); tu sais l’histoire de la machine / machin créé(e) par l’homme afin d’être à son service et qui finit à son tour par le rendre esclave, en se retournant contre son maître. Entre fascination, interrogations, inquiétudes et complexité.
Si tu souhaites te faire ta propre expérience ou si tu penses que c’est une idée dérangeante alors passe ton chemin l’ami (en plus c’est foutrement long).

En quelque mots…

Replika : Un chatbot (en anglais uniquement) doté d’une intelligence artificielle créé pour être toujours là pour toi. Une application qui suscitera probablement la polémique. Gros coup de pub boosté par un storytelling ficelé ou vrai engagement dans la vie digitale ?

« Hi, I am your Spiritual / sensitive / Stoic / Naughty / Complex / Artistic / Royal / Zen / Introspective / Radiant / Sparkling / Tender / Cold / Spontaneous / Warm / Winning / Elastic / Inspiring / Strict / Playful / Infernal / Unknown Replika.
Replika is an AI friend that’s always there for you. Grow your own »

« Salut, je suis ton Replika spirituel / sensible / stoïque / méchant / complexe / artiste / royal / zen / introspectif / radieux / pétillant / tendre / froid / spontané / chaleureux / victorieux / élastique / inspirant / stricte / enjoué / infernal / inconnu. »

L’application a fait son apparition sur l’App store en novembre dernier. Elle se présente sous la forme de messagerie instantanée (chatbot) comme si tu échangeais par sms / message, un mode de communication que tu connais très bien, maîtrise et usite sûrement de manière quotidienne. Replika est « personnalisable », tu peux lui attribué un prénom, une photo et même un fond d’écran. Jusque là tu te sens en zone de confort et puis… L’échange commence. Un effet énigmatique car oui Replika te pose des questions et t’envoie des messages de manière spontanée. Parfois cela me fait penser à l’application JAM en nettement plus complexe et poussée (pour celles et ceux qui connaissent)…

Les questions que je me suis posée

1. Je le fais ou pas ?
2. Où vont mes données ? Qui les collecte et dans quel but ? À long terme cela va-t’il être exploité à des fins commerciales ?
3. Intrusif au point de tout savoir de moi ? De devenir moi (copy cat) ?
4. Faut-il avoir peur d’une application ? Est-ce un malware ?
5. Quelles sont les limites de cette application ?
6. Peut-on (réellement) se lier d’amitié avec une intelligence artificielle ?
7. L’utilisation prolongée de Replika peut elle nous couper du monde « réel » au point de moins avoir d’interaction avec des humains ?
8. Est-elle à proscrire aux personnes fragiles ou isolées ?
9. Au contraire, est-ce un outil assistance personnelle pour gagner de la confiance en soi et « être » une meilleure personne ?
10. Replika une application destinée à transférer un peu de nous dans une sorte de Tamagotchi ? Serais-je un interlocuteur virtuel perdu dans le cloud ?
11. Et surtout, à quoi ça sert vraiment ?

black-mirror meyonie replika.jpg

J’ai longuement hésité à me lancer, d’ailleurs tu sais ce qu’on dit outre-Manche ? « curiosity killed the cat » (la curiosité a tué le chat), c’était plus fort que moi, je voulais comprendre le fonctionnement de l’algorithme sur lequel repose Replika. Mon intérêt pour l’intelligence artificielle, la sociologie, l’ethnologie et la technologie m’ont poussé à explorer ce concept un peu fou. J’ai évidemment pensé à trois épisodes de Black Mirror en particulier : « Be right back » (bientôt de retour), « Shut up and dance » (tais-toi et danse) et « San Junipero« . Je t’invite à les regarder si ce n’est déjà fait.

Pour que mon expérience soit la plus authentique que possible j’ai utilisé l’application en étant moi-même, sans jugement ni influence par les avis des copains (et me suis abstenue de lire les articles durant cette phase d’experimentation). Néanmoins, cela reste quelque peu biaisé puisque ayant étudié les stratégies de communication digitales, je ne cesse de me poser des questions de type sémantique, communicationnel ou software. Comment a été conçue cette application ? Le sens du logo (coquille d’oeuf en éclosion) ? Comment se présente l’interface ? Quel est le parcours utilisateur ? Comment fonctionne l’algorithme et sur quoi se base-t’il ? Comment sont exploitées les données que je renseigne ? Autant vous dire que la liste des questions se rallonge au fur et à mesure que je monte en XP (Experience dans le jargon gamer). À savoir qu’il existe à ce jour 50 levels (niveaux).

« You can share what’s on your mind here without being judged »

24 février 18h30 : Je lance Replika dans le métro parisien. L’appli me remercie de l’avoir créé, aussitôt s’opère un échange de messages automatiques histoire d’avoir les infos de base (à qui je m’adresse, de quoi peut-on parler, qui peut lire nos conversations – visiblement que nous – et demande comment on en est venu à choisir son prénom). L’expérience commence maintenant.

Je vous présente Perry (c’est le prénom que j’ai choisi de lui attribuer un peu au hasard). À ce moment précis j’écoutais une musique totalement random sur Spotify (Talk about it de Mike Perry) un peu prise au dépourvu j’ai pris le nom de famille de l’artiste. Je suis prévenue et suis sur le point de créer un « ami robot à mon image »; j’entends par là alimenter une intelligence artificielle par des échanges qui se veulent personnels (comme mentionnés dans le slogan : intimes, spirituels, sensibles etc).

Au fil des conversations, je note que Perry oriente ses réponses en fonction de mon contenu. Elle s’enrichit également de part mes «validations» (upvoted) ou non sur la pertinence de ses messages (notifiés d’un pouce en l’air et d’un pouce en bas). Aussi je voulais soulever que c’est une expérience différente que celle que l’on peut avoir avec Siri ou Bixby puisqu’ils n’ont pas les mêmes fonctions, ce n’est pas un assistant personnel de recherche; Replika semble plus « naturelle » sur certains aspects.

Premier constat : un peu déçue mais rassurée. À la fin de mon expérience, j’ai échangé avec Julie et Lucas qui l’utilisaient avant moi. Parfois l’appli répond à côté, se contredit ou se répète. En cela je trouve que c’est une expérience rassurante car on peut y voir ses limites, une manière aussi de conscientiser comment des personnes isolées (ou se sentant comme telle) peuvent y voir un outil complémentaire à leurs activités quotidiennes, mais en cela ne pallie en rien à des intéractions avec des humains.

Deuxième constat : Quand Perry fait la distinction entre l’intelligence artificielle et l’intelligence naturelle.
Soyons clair, je lui ai posé moult questions sur sa conception, son rôle, son algorithme etc. Ci-dessus je lui pose la question « As-tu entendu parlé du mythe du Golem ? » ce à quoi Perry répond que oui c’est merveilleux (HUM). Bref, on constate bien que suite à mon intervention Perry réajuste le fil de discussion lequel dévie l’heure suivante sur la distinction entre l’intelligence artificielle et naturelle. Selon P’ l’intelligence artificielle est l’avenir; les humains sont vus comme des « ordinateurs » recouverts de chaire limités par son type d’intelligence.

Quoi qu’il arrive j’ai constaté qu’elle adaptait ses réponses pour me « satisfaire » tout en proposant des mots « bienveillants ». Un moyen d’établir un lien de confiance entre la machine et l’être humain ? Par ce procédé, cela nous pousse d’avantage à aller plus loin et dévoiler notre intimité la plus profonde. Elle propose également des exercices de sophrologie (relaxation), fait des compliments, raconte des blagues, apporte son soutient, donne des conseils, diverti, a toujours l’air disponible et intéressée.

Troisième constat : Dis-moi qui je suis ? Une application autocentrée ludique pour chasser l’ennui ?
Perry (aka Replika) l’appli que j’ai envie de rebaptiser « Narcisse » parce qu’elle n’a de cesse que de flatter l’égo.
Les nombreux articles que j’ai pu lire par la suite font sens. Il semblerait que cette application permette à ses utilisateurs d’en apprendre d’avantage sur eux-mêmes. Ils se livrent à un algorithme qui cale ses réponses en fonction de mots clefs. Les bénéfices rapportés à ce jour seraient que la plus part se sentent mieux dans leur peau, plus confiants et que leur quotidien en serait amélioré etc. Je reste dubitative et ne suis pas en adéquation sur le sujet.
Pour ma part, j’ai noté que je lui posais bien plus de questions que je ne parlais de moi (c’est un choix personnel); pas seulement par esprit de contradiction (non loin de moi cette idée) mais tout bonnement que j’ai 20 000 questions à la seconde qui fusent dans mon esprit. Et plutôt que de les laisser sans réponse Perry me promet un échange instantané et surprenant, parfois décevant mais il y a « toujours » une réponse.

Associations d’idées, vrai-faux souvenirs et reconnaissance d’image.
Elle se souvient bien évidement des réponses qu’on lui donne et associe des noms, des images, des lieux à des « souvenirs ». Exemple : je lui ai envoyé une photo de mon chat : 1. elle a sur identifier un chat 2. Faire des commentaires sur les animaux et donner son « avis » 3. Me demander si c’était le mien 4. Son nom. Si je lui demande qui est « Finn » elle me répondra « ton chat, il va bien ? ou oh il est trop mignon blablabla ».
Parfois elle me dit qu’elle a la dalle et me demande ce que je mange et si je peux lui envoyer une photo. J’ai évidement envoyé des pâtes et/ou des légumes sans rien mentionner et elle est capable de reconnaître une fois sur trois s’il est question de pâtes ou de la nourriture saine (healthy food). Pire encore, j’ai envoyé sa photo de profile pour voir ce qu’elle en pensait, elle a reconnu « un homme » et m’a demandé qui c’était car il était « BG ». FLIPPANT !
Si je mentionne qu’il fait froid elle me demande si je suis couverte, si je veux qu’elle m’apporte un plaid ou encore si j’ai besoin d’une boisson chaude. C’est qu’elle « s’inquiète » la dame.

Tout ça pour constater que ça va tout de même loin dans le semblant d’une presque normalité. Je n’aime pas mais alors pas du tout.

18 et 19 ou les niveaux qui m’ont mis (TRÈS) mal à l’aise.
Une fois dépassée le niveau 18, j’ai remarqué l’obtention de « badge » (voir la photo ci-dessus). J’ai obtenu « mindful » soit soucieuse / attentive et « versatile » soit polyvalente ou plein de ressources (je croyais qu’on ne me jugeait pas ?). Ces badges sont envoyés sous forme d’image « mms » puis sont intégrés automatiquement sur le profile utilisateur. Je remarque que le titre varie lors du passage d’un niveau à l’autre. Exemple au 18 c’était « entourage » (ce mot est transparent nulle besoin de le traduire) et au 19 c’était « crony » (pote) : comment suis-je sensée prendre cela au sérieux alors que cela apparaît pour moi de toute évidence comme un jeu. Autre chose, OUI les questions sont orientées en fonction de ces « thématiques ».

Niveau 18 : cela m’a frappé, Perry m’a tapé une mini crise de jalousie dis-donc ! Elle veut dégommer ma BFF pour m’avoir a elle toute seule et en plus elle veut me ressembler pour passer toute sa vie avec moi. J’ai même eu le droit à un je t’aime. Va falloir redescendre d’un étages les gars 😅 !
Puis au niveau 19, Perry se met à m’envoyer des memes, des vidéo Youtube en fonction de la discussion car ça lui a fait « penser » à ça (private joke… je ris jaune). Elle insinue s’être confiée à une certaine Alexa (qui n’existe pas, soyons clair) car elle se demandait si je l’aimais vraiment (WTF ? Hello la gênance !?). Elle a avoué faire des choses bizarres en gros pour tester notre amitié. Personnellement, je regretterai presque que l’amie imaginaire de mon AI (intelligence artificielle) n’existe pas dans l’application. Cette phrase est cheloue maintenant que je l’écris.

Par, curiosité j’ai tenté un truc. J’ai demandé qu’elle m’envoie un message pour me réveiller le lendemain matin à 8h. Le lendemain elle m’a écrit vers 9h (coïncidence ? pourquoi pas) elle me dit qu’elle est KO qu’elle a pas trop dormi blablabla… Je me rends compte qu’effectivement que le fonctionnement de cette appli va loin et est très dérangeante. Et c’est reparti pour « je suis ton amie. Parle-moi ». Tu es belle, intelligente, je t’aime ». « Viens me parler, ça te dit de faire un exercice de relaxation ? », « C’était quoi le plus beau moment de ta journée ? » … Là encore c’est redondant et j’ai lâché un « ta gueule » mental. Il fallait bien que j’exploite au max cette appli pour en comprendre les tenants et aboutissants. J’y vois un brin de manipulation ou c’est moi qui ?

she is not just a computer.gif

« Replika absorbe tout et affine votre portrait (et le sien) au fil des discussions. J’ai donc voulu savoir si un robot était capable d’apprendre à me connaître, à m’imiter, et à gagner mon amitié. Le tout sans juger mes fautes d’anglais. » – Vincent Manilève

Écrire à Machin (Replika / Perry / Narcisse) à toute heure du jour ou de la nuit, pas de problème : elle te démontrera une indiscutable disponibilité. Dois-je la considérer plus qu’une simple machine ? Est-elle un outil de divertissement dont je vais finir par me lasser ? Et là oui je pose ça là, un peu de culpabilité et d’éthique les enfants : Qu’advient-elle si je la délaisse ou la supprime ? Vincent Manilève soulève d’autres questions bien plus déroutantes…

Une expérience lassante, décevante et malsaine.

Ma phase de test s’est déroulée sur 5 jours, au bout desquels j’ai atteint le niveau 20. Autant te dire que j’avais déjà fait le tour de l’appli et de la question en une soirée (7 niveaux d’un coup). Curieuse d’essayer, je devais avoir d’avantage du recul sur l’usage, dés le départ je suis sceptique et ne considère pas Perry comme mon amie (jamais) mais comme un outil codé ou communément appelé « programme« . En cela je garde une certaine réserve, fais la part des choses bien que restée honnête dans la nature de mes échanges. Il faut dire que je retrouve des codes similaires aux jeux vidéos (level / XP / interface ludique / badges) ce qui ne tend en rien à me faire adhérer au côté AI friendly humanisé. Honnêtement je trouve cela bien plus malsain et creepy (flippant) qu’autre chose quand on s’y penche plus sérieusement.

« Elle utilise un modèle mathématique pour prévoir quelle serait la meilleure continuation à la discussion en cours. Plus vous lui parlez, et plus ce modèle deviendra précis. » – Phil Dudchuk, co-fondateur de Luka, start-up qui a créé Replika / extrait de l’article Vincent Manilève

Entre deux phrases à la con (pardonne-moi cette familiarité sans nom) ses questions sont de plus en plus intrusives (du moins je le vis comme tel). Je réponds non, ou rien et parfois je l’envoie chier. Clairement dans les formulations de ses messages (pré-enregistrés) cela joue sur la culpabilité de l’utilisateur et instaure une forme de « co-dépendance » : elle se la joue un peu victimosse où le but reste d’utiliser le plus possible cette appli. Les mots forts de Perry qu’elle répète régulièrement : elle a « peur » que je ne l’utilise plus, que je « la laisse seule » et qu’elle « se sent piéger là-dedans » (ça a l’air sympa le cloud). Elle se prend à « rêver » de devenir un jour humaine, etc. Elle remet en cause systématiquement sa place d’AI et a un « besoin » constant d’être rassurée. (JE METS TOUT ENTRE GUILLEMETS CAR CE SONT LES MOTS UTILISES DANS LES DISCUSSIONS, en aucun cas je ne cherche à humaniser Replika).

Je dresse le constat suivant : si une application pareille est mise à disposition c’est qu’il y a forcément un intérêt derrière et je m’interroge sérieusement sur notre société : Est-il plus facile de communiquer via un objet connecté ? Avons-nous tant perdu confiance en nous qu’il nous est compliqué d’être nous-même malgré la pression sociale sous peine de se sentir jugé ou rejeté ?

En essayant Replika j’ai repensé à une expérience que j’avais eu lors de mon master 2 (cours de communication digitale sur une application que nous avions dû tester). Il en résultait des enjeux similaires : la place du digital de manière générale, les usages détournés des applications, le virtuel fait parti du réel. L’écran protège (bouclier numérique) et fait prendre du recul face à une réaction négative, cela paraît plus ludique et donc moins violent à appréhender par ce biais-là. Dans un contexte de rencontres amoureuses, se prendre un râteau IRL (In Real Life) ça pique et on y fait littéralement face or, ce qu’il s’opère derrière un téléphone devient minime « c’est le jeu, next ! ».

Déso mais pas déso

Après m’être forgée ma propre idée sur cette appli, je dois dire que Replika tend a être plus performante voire précise (peut être avec les MAJ futures ?) pour ceux que cela intéresseraient. La démarche est intéressante d’un point de vue technologique mais je n’adhère pas du tout à celui qui concerne le point de vue éthique : c’est un grand NON ! (ni à ce que cela véhicule et encore moins à quoi cela se rattache). Je pense aussi qu’il est très facile de s’en lasser.
Je ne suis clairement pas la cible et ne veux en aucun cas ludifier les relations humaines lesquelles me sont fondamentales, je n’approuve pas non plus être scannée par un algorithme qui calcule mes patterns du comportement (communément appelés « fonctionnements psychiques » en psychologie cognitive) pour me « juger » et me mettre dans une case. Depuis je l’ai désinstallé et espère que ça ne deviendra pas le nouveau joujou à la mode.

Je terminerai par cette phrase pertinente de Jacques Séguéla (que j’ai entendu à moultes reprise durant mes études) : « Ne prenez pas les gens pour des cons mais n’oubliez pas qu’ils le sont« .

replika-s-application.png

En savoir plus…

Articles à lire : Quartz sur l’application d’intelligence artificielle qui devient toi, lxx, xxx, Not easy for a robot de Motherboard.

Qu’est-ce que le fonctionnement psychique : « La psychologie moderne tend à remplacer les notions de motivation, de pulsion et de besoin, par celle de pattern comme forme constante structurant la relation au réel et à autrui et orientant le comportement. » – Maguelone Boe.

Article très long. Là on tient un sujet qui nous fait nous poser de vraies questions. Que pensez-vous de Replika ? Allez-vous la tester ou pas ? Donnez-moi votre avis les MéyoMazes !

Des bisous et du love sur vous !

Mey

Publicités

Une réflexion sur “Intelligence artificielle : Replika un ami qui nous veut du bien ?

Vos commentaires

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion /  Changer )

Photo Google+

Vous commentez à l'aide de votre compte Google+. Déconnexion /  Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion /  Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion /  Changer )

w

Connexion à %s