Appareils Amazon Echo et Echo Plus derrière des appareils Echo Button illuminés lors d’un événement organisé par la société à Seattle en septembre 2017.
Elaine Thompson/AP
masquer la légende
basculer la légende
Elaine Thompson/AP
Appareils Amazon Echo et Echo Plus derrière des appareils Echo Button illuminés lors d’un événement organisé par la société à Seattle en septembre 2017.
Elaine Thompson/AP
Le son de la voix d’un parent décédé vous manque-t-il ?
N’ayez crainte : Amazon a dévoilé une nouvelle fonctionnalité en préparation pour son assistant virtuel Alexa qui peut lire à haute voix dans la voix d’un être cher décédé sur la base d’un court enregistrement de la personne.
“Bien que l’IA ne puisse pas éliminer cette douleur de la perte, elle peut certainement faire durer leurs souvenirs”, a déclaré mercredi Rohit Prasad, vice-président senior et scientifique en chef d’Alexa, lors de la conférence re:MARS d’Amazon à Las Vegas.
Dans une vidéo diffusée lors de l’événement, on demande à un Amazon Echo Dot : “Alexa, grand-mère peut-elle finir de me lire ‘Le Magicien d’Oz’ ?”
“OK,” répondit la voix d’Alexa.
Youtube
“Au lieu de la voix d’Alexa lisant le livre, c’est la voix de la grand-mère de l’enfant”, a déclaré Prasad. “Nous avons dû apprendre à produire une voix de haute qualité avec moins d’une minute d’enregistrement.”
Il a ajouté : “Nous vivons incontestablement l’âge d’or de l’IA, où nos rêves et la science-fiction deviennent réalité.”
En effet, la fonctionnalité a immédiatement établi des comparaisons avec des représentations fictives de la technologie, mais celles qui sont plus sombres que ce à quoi Prasad faisait probablement référence, comme Miroir noirla série télévisée dystopique qui présentait un épisode dans lequel une technologie comparable était déployée.
Les réactions sur Twitter allaient de “sinistre” à “morbide” à “non” autant d’internautes ont exprimé leur malaise face à une fonctionnalité qui ramène une voix d’entre les morts.
La fonctionnalité est toujours en développement et Amazon ne dirait pas quand elle pourrait être lancée publiquement, mais son aperçu intervient à un moment où les capacités de pointe de l’intelligence artificielle sont étroitement surveillées.
En particulier, le débat entre les chercheurs s’est intensifié sur ce que l’on appelle les deepfakes – une vidéo ou un son rendu avec l’IA pour donner l’impression que quelqu’un a fait ou dit quelque chose qui ne s’est jamais produit.
Cela survient également peu de temps après qu’un ingénieur de Google a suscité la controverse pour avoir soutenu que le chatbot sophistiqué de l’entreprise communiquait comme s’il était sensible, une affirmation qui n’avait pas le soutien de la communauté de recherche sur l’IA mais qui a néanmoins souligné les compétences de communication étrangement humaines du Logiciel.
Les entreprises Big Tech étudient de plus en plus l’impact de l’IA sur la société. Microsoft a récemment annoncé qu’il restreignait l’utilisation de logiciels qui imitent la voix d’une personne, affirmant que la fonctionnalité pourrait être militarisée par ceux qui tentent de se faire passer pour des haut-parleurs comme un acte de tromperie.
Subbarao Kambhampati, professeur d’informatique à l’Arizona State University, a déclaré qu’il espérait qu’Amazon présentant une démo de l’outil de réplication vocale rende le public vigilant quant à l’utilisation de voix synthétiques dans la vie quotidienne.
“Aussi effrayant que cela puisse paraître, c’est un bon rappel que nous ne pouvons pas faire confiance à nos propres oreilles de nos jours”, a déclaré Kambhampati. “Mais plus tôt nous nous habituerons à ce concept, qui nous est encore étrange en ce moment, mieux nous nous porterons.”
Kambhampati a déclaré que la fonction Alexa a le potentiel d’aider un membre de la famille démuni, bien qu’elle doive être mise en balance avec une variété de questions morales que la technologie présente.
“Pour les personnes en deuil, cela pourrait en fait aider de la même manière que nous regardons en arrière et regardons des vidéos des personnes décédées”, a-t-il déclaré. “Mais cela s’accompagne de graves problèmes éthiques, comme est-il acceptable de faire cela sans le consentement de la personne décédée?”
