Divers

Disney va tester la vérification du biais de l'IA pour la représentation à la télévision et au cinéma

Disney va tester la vérification du biais de l'IA pour la représentation à la télévision et au cinéma

Une étude récente de l'UNESCO tire son titre d'une phrase que l'assistante vocale féminine d'Apple, Siri, a été initialement programmée pour dire en réponse aux utilisateurs qui l'appelaient un nom sexiste: intitulée «Je rougirais si je pouvais». Apple n'a finalement mis à jour la programmation de Siri qu'au début de 2019 en "Je ne sais pas comment répondre à cela."

À la lumière du fait que Siri a été libéré en 2011, cela ne semblait pas du tout déranger Apple qu'il attribue à Siri une réponse si timide et stéréotypée féminine qu'il était autorisé à rester dans le programme pendant près de huit ans. Comme le souligne le rapport de l’UNESCO, «l’obséquiosité« féminine »de Siri - et la servilité exprimée par tant d’autres assistants numériques projetés en tant que jeunes femmes - fournit une illustration puissante des préjugés sexistes codés dans les produits technologiques.»

Ces préjugés ont non seulement affecté le secteur de la technologie, mais également l'industrie du divertissement. Bien sûr, l'IA ne crée pas de biais, mais elle reflète les préjugés de sa programmation. Maintenant, bien que l'IA soit utilisée pour contrer les préjugés.

Les femmes sur les écrans

Les préoccupations concernant le message sur les rôles des femmes qui découlent de la façon dont les femmes apparaissent ou souvent n'apparaissent pas dans les films et à la télévision sont ce qui motive le travail à but non lucratif du Geena Davis Institute on Gender in Media. Son slogan est: "Si elle peut le voir, elle peut l'être."

Il y a beaucoup de vérité dans cette affirmation sur la façon de voir les possibilités. Comme le montre l'étude Les femmes dans la technologie: leur statut actuel, ce qu'elles ont accompli et ce qu'elles veulent, le manque de visibilité des femmes dans la technologie, en particulier dans les rôles de leadership et en tant que conférencière dans des conférences, est très décourageant pour les femmes, et la majorité a rapporté qu'ils seraient plus susceptibles d'assister à une conférence si une femme était présentée.

Présentation d'un correcteur orthographique alimenté par l'IA pour les biais

Geena Davis, l’actrice dont l’organisation a été nommée, est une militante dévouée pour la représentation des femmes à l’écran. À juste titre, elle a annoncé l'adoption d'une solution d'IA pour les préjugés dans les films de Disney nommée pour ses idéaux, le Quotient d'inclusion de Geena Davis (GD-IQ) ou GD-IQ: Spellcheck for Bias.

Comme indiqué dansLe Hollywood Reporter, Davis a prononcé le discours liminaire ce mois-ci lors du Power of Inclusion Summit qui s'est tenu en Nouvelle-Zélande au cours duquel elle a annoncé que son organisation faisait équipe avec Walt Disney Studios pour appliquer la solution d'intelligence artificielle qui partage son nom afin d'identifier d'éventuels biais dans le film et scripts de télévision. L'article explique:

Le nouvel outil s'appuie sur une technologie d'apprentissage automatique brevetée développée à la Viterbi School of Engineering de l'Université de Californie du Sud pour analyser rapidement le texte d'un script afin de déterminer son nombre de personnages masculins et féminins et s'ils sont représentatifs de la population réelle dans son ensemble. La technologie permet également de discerner le nombre de personnages qui sont des personnes de couleur, LGBTQI, qui possèdent un handicap ou qui appartiennent à d'autres groupes généralement sous-représentés et échoués par la narration hollywoodienne.

En plus de compter la représentation des genres et des races ou des identités ethniques des personnages dans un script, l'outil peut décomposer la qualité de la représentation en termes de dialogue, y compris le nombre total de mots et le «niveau de sophistication du vocabulaire ils utilisent." Il évalue également «le statut social relatif ou les positions de pouvoir attribuées aux personnages par groupe».

Davis a déclaré que son organisation travaillera avec Disney pendant une «année en utilisant cet outil pour aider leur prise de décision, identifier les opportunités d'augmenter la diversité et l'inclusion dans les manuscrits qu'ils reçoivent.

Il est intéressant que Disney le fasse maintenant, car il a été critiqué dans le passé pour avoir dépeint des stéréotypes sexistes et racistes négatifs dans ses films d'animation. Voir les vidéos ci-dessous:

Disney a changé son scénario et son scénario pour être plus en phase avec les sensibilités modernes ces dernières années. C'est ainsi que nous avons pu passer de la première princesse Blanche-Neige, qui n'est pas seulement l'incarnation de la domesticité mais la «plus belle de toutes», à la princesse polynésienne Moana, qui quitte sa maison non pas pour fuir pour sauver sa vie mais pour sauver son peuple. comme leur dirigeant.

Il y avait beaucoup d'autres princesses entre les deux qui ont permis à Disney de présenter des Amérindiens, des Asiatiques, des Afro-Américains, etc., ainsi que des princesses qui ne se sont pas simplement mariées et vivaient heureusement, comme dans le cas de Courageux. Il existe également toute une série de remakes Disney de ses films d'animation avec des acteurs en direct, ce qui donne au célèbre studio une chance non seulement de mettre à jour l'apparence d'un film, mais de l'amener dans l'ère plus moderne en ce qui concerne la représentation de la race. et le sexe.

Mais il y a encore eu pas mal de dérapages en cours de route, même dans les films destinés à être beaucoup plus progressifs que ses prédécesseurs.

La galaxie est peut-être loin, très loin, mais le film n'était pas il y a longtemps

Un exemple frappant de sexisme étonnamment persistant dans l'univers Disney est le 2016Guerres des étoiles film Rogue One. Bien sûr, il y a une héroïne féminine au centre du film plutôt qu’un jeune homme essayant de se retrouver et d’entrer dans son destin en puisant dans le pouvoir de la Force. Il y avait même des femmes aviateurs parmi les rebelles.

Mais avez-vous remarqué quelque chose? Chacun des scientifiques et ingénieurs apparaissant dans le film était un homme.

Le père du protagoniste était le scientifique en chef à la tête d'une équipe d'ingénieurs masculins. Même si Disney n’était pas encore prêt à permettre à la mère de notre héroïne d’être la scientifique (donc je ne sais pas pourquoi), les producteurs auraient au moins pu inclure des femmes dans le groupe d’ingénierie. Mais ils ne l'ont pas fait, et cet oubli évident est quelque chose qui devrait faire rougir les producteurs de Disney.

Donc, si le nouvel outil d'intelligence artificielle saisit ce qui est évident pour quiconque sait que les rôles n'ont pas à être sexués et que vous ne vous en sortez pas en supposant que tous les ingénieurs et scientifiques sont des hommes simplement parce que vous avez créé une forte être une bonne chose pour le cinéma.


Voir la vidéo: Zérator débunke Idriss Aberkane sur lintelligence artificielle. Starcraft 2 (Octobre 2021).