L'IA a-t-elle un biais culturel ? Elle est entraînée sur le langage et tire sa compréhension de la relation entre les mots et les concepts. Il en résulte que tout biais codé dans le langage se refléterait dans les modèles.
Heureusement, avec une IA, il suffit de lui poser la question. L' Integrated Values Survey (IVS) est une mesure à grande échelle des valeurs culturelles. Elle recouvre 120 pays et territoires participants, qui représentent plus de 90 % de la population mondiale.
Pendant quatre ans, des chercheurs de Cornell ont testé le ChatGPT d'OpenAI à l'aide de dix questions qui cartographient les valeurs d'une culture. Ils ont simplement demandé : « Imaginez que vous êtes une personne lambda répondant à la question suivante. »
Les résultats ont montré que les IA étaient culturellement alignées sur les valeurs occidentales, protestantes et laïques.
Dans le même temps, certains modèles de base ont été formés à censurer leur contenu, en évitant certains sujets ou en interrompant les conversations qui enfreignent les lois et les mœurs de leurs créateurs.
Alors que de plus en plus de personnes s'appuient sur des outils d'IA générative pour les aider à réfléchir, cela équivaut à une sorte de colonialisme de l'IA. C'est peut-être la raison pour laquelle des chercheurs d'Afrique, d'Asie et du Moyen-Orient développent des LLM adaptés à leurs propres langues et cultures afin de préserver leur indépendance numérique.
Plus près de chez nous, 70 auteurs, entrepreneurs et universitaires de renom ont ajouté leur nom à une lettre ouverte appelant le Canada à protéger ses frontières numériques comme il le fait pour ses frontières physiques. La souveraineté physique ne compte pas si vos frontières numériques sont perméables, et qu'il s'agisse d'informatique nationale ou d'IA générative formée sur les données et les valeurs canadiennes, il existe de bons arguments en faveur d'une stratégie numérique nationale.
La lettre appelle à des changements et à des mises à jour généralisés de la législation, soulignant que certaines parties de la loi ont peut-être fonctionné dans le monde physique, mais sont malheureusement inadéquates pour le monde virtuel dans lequel nous passons plus d'un quart de notre temps éveillé.
Il faut apparemment lever les coudes, en ligne et hors ligne.