Comédiens, artistes, narrateurs, éditeurs de livres audio, auteurs, se mobilisent pour tenter de contenir la déferlante de l’intelligence artificielle générative (IA). Les professionnels donnent de la voix ! 

La Ligue des Auteurs Pro a récemment réagi (lire notre article). Aujourd’hui, une trentaine d’organisations professionnelles liées à la culture à travers le monde lancent un cri d’alerte. Il créent  United Voice Artists (UVA) avec un slogan : DON’T STEEL OUR VOICES! (Ne volez pas nos voix !)

Stephan Kalb, comédien, producteur et membre fondateur de l’association Les Voix fait le point dans cet entretien sur les dangers et sur les actions menées en matière d’IA.

Vous avez récemment déclaré : L’intelligence artificielle et ses enjeux c’est assez simple à comprendre. Imaginez une voiture qui fonce dans une agglomération, sans signalisations, ni code de la route. Ce qu’on souhaite n’est pas de supprimer les voitures, mais simplement un code et des règles. C’est comme dans un western en fait. Pouvez-vous nous en dire plus sur ce cri d’alerte ?

Cette image est une façon de dire simplement qu’une technologie qui impacte l’homme doit être encadrée et que c’est le rôle du politique. Et ça tombe bien nous avons un dispositif unique pour cela en Europe, le RGPD (Règlement Général sur la Protection des Données) !

Je tiens bien à préciser que les artistes, les producteurs, les éditeurs, le monde de l’audiovisuel dans son ensemble, n’est pas “anti-IA”. Nous sommes souvent bien plus geeks que beaucoup d’autres secteurs, car la tech fait partie de nos vies au quotidien. Et l’IA va apporter beaucoup de choses positives, notamment dans le domaine de la santé. Mais pour le secteur audiovisuel, nous réclamons dès à présent un cadre légal et des dispositifs pour la protection des droits et de notre industrie.

Avez-vous personnellement essayé d’utiliser une IA de type ChatGPT ou autre ? Qu’en pensez-vous ?

Oui, bien entendu ! Prompter ou ne pas prompter, telle est la question… Je teste les prompts sur les IA (textes et images), ne serait-ce que pour maitriser à minima le sujet qui nous concerne.

L’IA n’est certes pas un sujet nouveau, mais la sortie des IA génératives grand public accélèrent un mouvement de changement radical de nos modèles économiques, que le politique n’a pas anticipé et ne semble pas du tout comprendre.

“Prompter ou ne pas prompter, telle est la question”

Pour l’instant, tout cela semble fun pour beaucoup de gens, il y a un effet nouveauté et “cool”, même si la plupart des utilisateurs ne savent pas bien quoi en faire.

La vraie question est bien de comprendre les enjeux sur le travail et la société que soulèvent ces IA génératives à très court, moyen et long termes. Nous sommes dans une société du tertiaire, tout ce qui est automatisable pourra être remplacé par des IA. Et cela va concerner énormément de métiers. Et la vitesse exponentielle de l’évolution de l’IA n’est pas corrélée avec la promesse de création de nouveaux emplois, ne serait-ce que parce qu’on ne les connaît pas encore !

Il faut donc accompagner ce mouvement, plutôt que de regarder le train avancer comme des bovins au bord de la route. Le Figaro a récemment publié un excellent article à ce sujet avec un graphique explicite sur tous les métiers impactés, je conseille à tout le monde de le lire.

Récemment Tanya Eby, comédienne voix américaine, déclarait à l’AFP qu’elle avait perdu la moitié de ses commandes depuis le début de l’année. Faites-vous les mêmes constats en France ? 

En France, pour l’instant nous n’avons pas encore de choc de ce type. Il y a eu des annonces d’agences de communication sur l’utilisation des IA “vocales”, mais les comédiens à ce jour ne sont pas encore impactés comme l’exemple que vous citez.
Les producteurs savent bien qu’utiliser des voix synthétiques menacerait automatiquement leurs propres métiers, car quelle serait leur valeur ajoutée s’il n’y avait plus de comédien derrière un micro ?

Je crains d’ailleurs davantage pour eux que pour les artistes à terme. Il y aura toujours des artistes. Mais nous ne sommes pas naïfs, nous savons que ce n’est qu’une histoire de temps… Cependant, rien n’est écrit ! Je vais vous citer une anecdote pour illustrer mon propos. J’étais invité il y a quelques jours au forum Change Now à Paris, avec une députée européenne de premier plan pour parler de ces sujets.

Lors du déjeuner nous avons discuté avec nos voisins de table, qui se trouvaient être des responsables d’une grande marque française du luxe. Ces personnes nous disaient qu’elles testaient déjà des voix de synthèses issues de l’IA et qu’elles étaient enthousiastes à l’idée de remplacer facilement des comédiens (sic). Mais elles ignoraient totalement que la voix est une donnée biométrique considérée comme sensible au RGPD.

Quand l’élue européenne en question leur a rappelé le sens du droit et le cadre qui sera créé par l’IA ACT d’ici quelques mois dont la charge incombe à Thierry Breton, l’enthousiasme initial s’est subitement évaporé pour laisser place à la crainte de la loi.

Il y a donc une méconnaissance du droit de la part des utilisateurs des IA et ceci renvoie à mon image de la voiture et du code de la route. Le RGPD sera appliqué et le travail de contrôle sera effectué par la CNIL (Commission Nationale de l’Informatique et des Libertés) de chaque pays. C’est le principe du droit européen et le sens de l’histoire.

“Derrière le sujet des IA génératives, se posent les questions

de l’industrie et de l’emploi”

Depuis plusieurs mois vous travaillez avec plusieurs organisations sur les Intelligences artificielles. Pour vous, les professions artistiques sont en danger (écrivains, narrateurs, comédiens), vous avez peur de quoi ?

Ce n’est pas de la peur, elle n’est jamais bonne conseillère. Il s’agit surtout d’informer les artistes et les producteurs de contenus qu’ils ont des droits et qu’il est légitime de les revendiquer. Tout comme il est légitime de saisir le législateur pour l’obliger à légiférer.

Derrière le sujet des IA génératives, se posent les questions de l’industrie et de l’emploi. On ne peut pas se réjouir d’avoir une industrie culturelle et audiovisuelle exemplaire, en croissance, qui fait rêver le monde entier, de parler avec fierté de notre “exception culturelle” et de nos modèles redistributifs vertueux de financements, sans se poser les questions des enjeux soulevés par l’IA ! Et il y a par ailleurs des enjeux cruciaux de souverainetés, car les sociétés à la tête des IA génératives sont extra-européennes, faut-il le rappeler ?

Il s’agit aussi des modèles culturel, éthique, social et démocratique que nous voulons pour les générations futures. Je donne là un simple exemple parmi des centaines… Voulons-nous vraiment demain que des contes pour enfants soit créés par ChatGPT, illustrés par MidJourney et enregistrés par une voix de synthèse ? Quels petits citoyens “uniformisés” allons-nous “créer” ? Qu’allons-nous leur mettre dans la tête et au service de quoi ? Il faut relire Asimov et Orwell et revoir 2001 de Kubrick…

Et ce n’est pas moi qui le dis, c’est entre autres Sam Altman le CEO et fondateur de ChatGPT qui a récemment signé une tribune en déclarant qu’il craignait “que l’IA ne cause de graves dommages au monde, en manipulant des élections ou en chamboulant le marché du travail.” Je vous renvoie à cette tribune quasi schizophrénique, où on a un peu le sentiment que Dr Jekkyl et Mr Hyde partent à confesse…

L’association Les Voix, des syndicats français, et de multiples organisations internationales annoncent la création de United Voices Artists. Quel est le but de cette action ?

Il s’agit d’une fédération mondiale d’associations professionnelles et de syndicats, et l’association Les Voix a contribué à sa création. À ce jour, nous sommes déjà plus de 30 organisations représentatives d’artistes des pays de l’UE et nous ont aussi rejoints les USA, la Suisse, la Turquie, le Chili… et le mouvement s’amplifie.

Notre action au sein de United Voice Artists est d’abord d’informer les comédiens à travers le monde que des sociétés sont en train de capter des voix de façon tout à fait illégale sans en préciser la destination et sans contrats spécifiques, pour nourrir les IA génératives.

Ensuite, nous échangeons des informations pour avoir une vision globale du sujet, car les pays anglo-saxons sont déjà beaucoup plus impactés que l’Europe. Je vous renvoie par exemple à la grève des scénaristes à Hollywood… soutenue par beaucoup de producteurs indépendants, c’est bon de le rappeler ! Et nous venons de publier un Manifeste à l’adresse du Parlement Européen.

Pouvez-vous nous indiquer les 5 points cruciaux défendus par le manifeste qui sera présenté prochainement à l’UE ?

Nous demandons d’abord un moratoire sur les IA génératives et spécifiquement sur celles concernant la voix et l’image.

Nous voulons que le parlement impose le RGPD avec un principe de responsabilité des fournisseurs de systèmes d’IA génératifs (foundation model) pour tout préjudice causé par les contenus générés par ces systèmes.

Nous demandons aussi une traçabilité et une transparence des IA (signalétiques audibles et visibles) car le public a le droit d’être informé de ce qu’il consomme.

Nous souhaitons une harmonisation européenne réelle et effective sur ces sujets.

Nous souhaitons par ailleurs que les organisations professionnelles, artistes et producteurs audiovisuels soient consultés et auditionnées, car elles maitrisent leur sujet mieux que quiconque. Et enfin, nous souhaitons la protection et la pérennité de notre patrimoine culturel.

IA génératives : “Nous n’avons entendu aucune femme ou homme politique en France s’exprimer sur le sujet“

Avez-vous pour le moment obtenu des réactions des politiques français et notamment de la ministre de la Culture ?

Non. La ministre de la Culture est pour le moment aux abonnées absentes. Il est plus facile de parler à une présidente de commission européenne qu’à notre ministre de tutelle. Idem pour le ministre du Numérique. Mais je ne doute pas que notre ministre de la Culture se sente concernée par ces sujets et qu’elle reçoive les professionnels bientôt… si jamais elle lit ce papier elle sait où nous trouver.

Cela dit, je ne lui jette pas la pierre. Nous n’avons entendu aucune femme ou homme politique en France s’exprimer sur le sujet… ni dans la majorité, ni dans l’opposition. Ils ont visiblement d’autres sujets à traiter que la plus importante révolution industrielle de l’humanité en marche depuis l’invention de l’imprimerie. Dont acte. Ils seront de toute façon très vite rattrapés par l’actualité.

“l’homme n’est pas encore assez con pour disparaître
derrière une machine“

Si vous n’êtes pas entendus par les différentes instances, quelles actions comptez-vous mener ?

Nous serons entendus. Le sujet est trop sérieux pour que le politique ne s’en empare pas. Et de toute façon nous sommes tous sur la même longueur d’ondes : artistes, producteurs audiovisuels, sociétés de répartition, monde de l’édition, syndicats de salariés et patronaux…

Notre industrie culturelle fonctionne, et souvent bien mieux qu’ailleurs. Soyons donc créatifs, discutons et trouvons les moyens d’accompagner l’IA pour la cadrer, plutôt que de subir et de réagir à contre-temps. Il est temps de sortir du Don’t look up sur l’IA !

Si on ne fait rien pour canaliser la vague IA, que risque-t-il de se passer ? Êtes-vous un peu optimiste sur le sujet tout de même ?

Je ne suis malheureusement pas médium et c’est bien dommage pour ma propre vie !
Là encore, je vous renvoie à cette tribune signée par Altman. Des créateurs de l’IA sont en train de nous dire qu’ils ont créé un monstre qui va tuer l’humanité. D’autres ont une vision idyllique d’un monde meilleur et amélioré, relevant le plus souvent de la pensée magique.
La vérité est sans doute au milieu du gué, comme toujours ! Ce qui est certain c’est que c’est à l’homme de cadrer la machine et la technologie. C’est à lui de choisir le monde qu’il désire, pour son bien. C’est d’ailleurs peut-être une opportunité de ramener enfin le sens du mot “politique” à son sens étymologique, qui sait ?

Pour terminer sur une note optimiste, je pense que l’homme n’est pas encore assez con pour disparaître derrière une machine, et qu’il trouvera la juste place à lui accorder pour être à son service et pas l’inverse. Du moins, il faut l’espérer…
Intéressés par l’IA ? Consultez notre rubrique ici