Éthique et propriété des identités alimentées par l'IA

janvier 24, 2022 Par admin 0
Éthique et propriété des identités alimentées par l'IA

Crédit d'image: cosmin4000/Getty



Avez-vous manqué une session du Sommet sur l'avenir du travail? Rendez-vous sur notre bibliothèque à la demande Future of Work Summit pour diffuser.

Cet article a été rédigé par Taesu Kim, PDG de Neosapience

Avec les formidables avancées de l'IA/ML technologies sont déployées, l'une des avancées les plus passionnantes, controversées et en évolution rapide concerne la voix humaine. Un exemple particulier saute aux yeux comme encapsulant le complexe de problèmes et d'émotions liés aux voix alimentées par l'IA.

L'été dernier, la technologie de l'IA a été utilisée pour donner la parole à certains des des écrits, des mots qu'il n'a jamais prononcés ou lus à haute voix mais qui étaient pourtant les siens ; la technologie de clonage de la voix a donné vie au texte dans Roadrunner: un film sur Anthony Bourdain

. Certains dans le public se sont sentis dupés que ce n'était pas vraiment Bourdain, d'autres ont pensé que le mouvement était un faux pas car Bourdain n'était pas en vie pour donner la permission de manipuler sa voix de cette manière, tandis que beaucoup pensaient qu'il s'agissait simplement d'un dispositif de narration créatif.

L'exemple de Bourdain met en évidence deux questions clés qui seront au premier plan de la manière dont les technologies vocales basées sur l'IA seront utilisées à l'avenir. D'une part, il y a des questions sur qui est propriétaire d'une voix, et donc sur la façon dont elle pourrait être utilisée maintenant et à l'avenir. De l'autre, la question éthique : est-il moralement juste de permettre que la voix de quelqu'un soit utilisée dans le domaine public après sa mort alors qu'il n'a aucun contrôle sur la façon dont elle sera utilisée ou sur ce qui sera dit ?

Événement

Le 2e sommet annuel GamesBeat et Facebook Gaming et GamesBeat: dans le métaverse 2

25-27 janvier 2022

Apprendre encore plus

Ces questions surgissent parce que la technologie vocale basée sur l'IA commence à vraiment décoller; il y a eu énormément de temps et d'argent consacrés à la recherche et au développement pour que les voix générées par la machine sonnent «réelles». Ils sont désormais capables de transmettre les émotions, la texture, la cadence ainsi que la montée et la descente naturelles et bien d'autres marqueurs distincts qui caractérisent la parole humaine (sans parler du chant). Cela change la donne, car il est devenu difficile pour les auditeurs de déterminer la différence entre le discours d'un humain et celui d'une machine.

Ainsi, nous avons atteint un moment décisif dans le développement de la technologie où nous devons définir des lignes directrices de base et définir des garde-fous, ou comme tant de technologies avant elle, les applications de la technologie vocale seront utilisées d'une manière qui n'a jamais été prévue.

Propriété de identités numériques

Nous sommes devenus une société mondiale assoiffée d'expériences de contenu riches, que ce soit par le biais de services de cinéma, de télévision et de streaming ou de supports générés par les utilisateurs comme YouTube et TikTok. Et bientôt, le métaverse offrira encore plus de nouvelles façons d'interagir avec le contenu. Toutes ces avenues présentent d'énormes opportunités pour la voix alimentée par l'IA, ainsi que pour la vidéo. La voix et la vidéo alimentées par l'IA rendent la création de contenu exponentiellement plus rapide, plus facile et moins coûteuse, sans parler de l'adapter à d'autres langues. Ces technologies sont également hautement accessibles via des services de synthèse vocale, de sorte que n'importe qui peut tirer parti de l'IA pour la création de contenu sans avoir besoin d'un studio et de nombreux équipements sophistiqués, ce qui stimule la forte demande dans l'industrie du divertissement.

En même temps, il y a beaucoup de peur autour de la propriété et de la monétisation de son identité virtuelle. Dans un monde de contrefaçons profondes, de fausses déclarations et de vol d'identité, il est juste que les individus se demandent ce qui se passe si quelqu'un coopte leur identité numérique à leurs propres fins. Non seulement l'individu perdrait le contrôle de la façon dont sa ressemblance est déployée, ainsi que de tout revenu ou de la reconnaissance de la marque qui y est associée, mais elle pourrait être utilisée de manière inappropriée, voire illégale – du moins c'est ce qu'on pense.

Ceci est toutefois hautement improbable. Chaque voix humaine – ainsi que chaque visage – a sa propre empreinte unique, composée de dizaines de milliers, voire de millions, de caractéristiques. Grâce aux technologies avancées de détection et de gestion des fraudes en cours de développement, les identités basées sur l'IA peuvent être protégées relativement facilement. Ce qui est beaucoup plus compliqué, cependant, c'est de gérer cette identité numérique dans le temps. Il ne s'agit plus seulement d'affaires, mais d'une série de décisions éthiques inextricablement liées.

L'éthique de la représentation virtuelle et des identités alimentées par l'IA

Est-ce que ça allait pour le réalisateur utiliser la voix numérisée de Bourdain dans son film? Le réalisateur aurait obtenu la permission d'utiliser sa voix clonée par l'IA pour prononcer les répliques en question, mais de qui ? Qui détient finalement le droit de décider?

De même, la voix alimentée par l'IA du célèbre chanteur de folk rock sud-coréen Kim Kwang-Seok a récemment été utilisée pour sortir une nouvelle chanson. L'artiste est mort depuis 25 ans, mais une société de radiodiffusion a négocié un accord avec la famille de l'artiste pour utiliser l'IA pour cloner sa voix et la déployer pour quelque chose d'entièrement nouveau, en grande partie pour le plus grand plaisir du public. Il existe de nombreux autres cas de sociétés de divertissement et de créateurs de contenu cherchant à ramener la voix et la ressemblance de personnes célèbres pour des concerts ou des films. Mais est-ce éthiquement responsable?

En surface, c'est quelque chose qui peut être résolu assez simplement par le biais d'accords de licence et de contrats avec la succession de l'artiste ou, idéalement, déterminé pendant que l'artiste est toujours en vie. Au fur et à mesure que la pratique devient plus courante, nous devrions être prêts à voir une sorte de nom, d'image, de voix, de clause de ressemblance dans le testament d'une personne, en particulier une clause qui régit ses souhaits posthumes ou nomme un responsable pour superviser la carrière de son moi virtuel – beaucoup de la même manière qu'ils ont un chef d'entreprise dans la vie.

Les identités virtuelles ne sont pas seulement pour célébrités

C'est une chose pour les célébrités d'envisager de telles offres de contenu et de gestion, mais que sur les gens ordinaires, ordinaires? Peut-être ceux qui pleurent des êtres chers, comme cette femme qui a perdu sa jeune fille à cause d'une maladie ? Se rencontrant dans un environnement de réalité virtuelle, la femme a pu se connecter avec sa fille sous forme d'avatar, voyageant apparemment vers une version du paradis et organisant une fête d'anniversaire. L'expérience est clairement très significative pour la jeune mère et sa famille, mais l'interaction n'est en aucun cas réelle. Certaines entreprises – ainsi que les consommateurs – ne veulent pas participer au développement de telles expériences car cela prend des libertés avec la ressemblance et la personnalité de l'enfant, tandis que d'autres y voient une chance de réconforter et de fermer les familles en difficulté.

Et qu'en est-il de la création de nouvelles expériences virtuelles à des fins éducatives, telles que les hologrammes interactifs primés: expérience des histoires de survivants? À une époque où les étudiants et les citoyens se demandent si l'Holocauste était réel ou ce qu'impliquait réellement le fait d'être nazi, n'y a-t-il pas lieu d'utiliser une telle technologie pour le bien? Quelles lignes sont appropriées en termes de licence créative?

Passer à un avenir alimenté par l'IA avec des identités alimentées par l'IA

Il n'y a pas de réponses faciles quand il s'agit d'un virtuel, ou une identité alimentée par l'IA. Nous sommes assis au bord d'un tout nouveau moyen de création de contenu, où des personnes célèbres ainsi que des personnes ordinaires seront bientôt invitées à réfléchir à la manière dont leur voix et leur image pourraient être utilisées non seulement aujourd'hui, mais longtemps après leur départ.

L'identité virtuelle deviendra une monnaie qui devrait être considérée comme similaire à leurs actifs physiques, une monnaie dans laquelle ils peuvent spécifier leurs souhaits de vie et de mort, et nommer des gestionnaires et des exécuteurs testamentaires pour approuver son utilisation à l'avenir. Cela peut sembler tiré par les cheveux, mais les voix numériques ne vieillissent pas, pas plus que les avatars. Avec le métavers qui se généralise, nos moi virtuels peuvent vivre bien au-delà de nos années.

Cela deviendra un nouvel impératif que chacun détermine et définisse clairement les paramètres avec lesquels il est à l'aise en termes de identité numérique. De même, les entreprises qui proposent des plates-formes de création vocale et vidéo alimentées par l'IA doivent élaborer des politiques claires pour l'adoption et l'utilisation d'une identité virtuelle spécifique alimentée par l'IA. Cela empêche les particuliers et les entreprises de dégringoler sur une pente glissante alors que les identités virtuelles hautement perturbatrices alimentées par l'IA se normalisent.

Taesu Kim est le PDG de Neosapience

Décideurs de données

Bienvenue dans la communauté VentureBeat!

DataDecisionMakers est l'endroit où les experts, y compris les techniciens travaillant sur les données, peuvent partager informations et innovation liées aux données.

Si vous souhaitez en savoir plus sur les idées de pointe et les informations à jour, les meilleures pratiques et l'avenir des données et de la technologie des données, rejoignez-nous à DataDecisionMakers.

Vous pourriez même envisager de contribuer à votre propre article!

En savoir plus sur DataDecisionMakers