L’intelligence artificielle peut-elle contribuer à l’inclusion ?

L’intelligence artificielle peut jouer un rôle dans la recherche de solutions à de nombreux défis de développement de l’Afrique, mais elle nécessite une sensibilité au contexte, sans parler d’un scepticisme sain à l’égard de l’idée d’une technologie objective ou non affectée par la position de ceux qui conçoivent les algorithmes de l’intelligence artificielle.

Pour la communauté scientifique africaine, l’IA ne peut être ignorée. En même temps, il s’agit d’une arme à double tranchant : elle offre un potentiel énorme pour faciliter le développement socio-économique durable, mais elle court en même temps le risque perpétuel d’aggraver les inégalités économiques et de reproduire les stéréotypes de genre et les normes sociales discriminatoires.

D’aucuns craignent également que l’Afrique ne soit pas prête pour l’IA et que le fait de s’y intéresser détourne inévitablement l’attention de priorités de développement plus importantes.

Reconnaissant la complexité de la question, un séminaire de septembre, animé par Gender at Work dans le cadre de son processus d’apprentissage par l’action en matière de genre ( ) pour le projet HSRC Gender & Inclusivity visant à promouvoir le genre et l’inclusion au sein des conseils scientifiques d’Afrique subsaharienne, a posé une question pertinente :

Que faudra-t-il pour que les conseils scientifiques soutiennent la recherche et le développement de l’intelligence artificielle en Afrique en tenant compte des besoins, des intérêts et des perspectives des divers habitants du continent ?

Les participants ont examiné les hypothèses clés qui sous-tendent le travail des conseils scientifiques en Afrique en ce qui concerne l’IA. Ils ont exploré ce que signifie l’intégration du genre et de l’inclusion dans le secteur de l’IA et comment les GCS se sont engagés dans l’IA dans le cadre de leur pratique et de leur culture.

Un séminaire précédent, organisé en juillet, avait souligné la nécessité de engagé qui reconnaît l’importance du contexte, a donné aux participants l’occasion de réfléchir à différentes façons de savoir, fournissant ainsi une base utile pour les discussions sur l’IA et sur la façon dont elle peut aider les conseils subventionnaires scientifiques et les praticiens à approfondir leurs engagements en matière de genre et d’inclusivité.

Repenser la dichotomie tradition-modernité

Situant la discussion dans un contexte africain, le Dr Olga Bialostocka, spécialiste principale de la recherche à l’AISA-HSRC, a fait référence au travail de Kwame Gyekye, figure de proue du développement de la philosophie africaine moderne, pour suggérer des alternatives à la dichotomie entre tradition et modernité imposée par la pensée occidentale dominante, qui tend à positionner la tradition africaine comme un obstacle au développement.

« Kwame Gyekye, un philosophe ghanéen, a donc proposé une voie à suivre, affirmant qu’une modernité auto-créée, forgée et affinée dans l’équité des conversations entre la créativité intellectuelle africaine et le patrimoine culturel complexe de l’Afrique, doit s’inspirer des expériences africaines et s’approprier plutôt que transférer ou transplanter la technologie », a-t-elle déclaré.

Ce type d’appropriation est en fait déjà en cours, comme l’a bien illustré un entretien préenregistré entre Michal Friedman, collaboratrice senior de Gender at Work, et Mitchel Ondili, chercheur au Centre for Intellectual Property and Information Technology Law (CIPIT) de l’université de Strathmore au Kenya.

Le centre de recherche et de formation fondé sur des données probantes, qui s’est d’abord concentré sur la propriété intellectuelle, s’est transformé au fil des ans pour intégrer les TIC et est devenu une plateforme d’apprentissage beaucoup plus large pour les étudiants, les chercheurs et l’ensemble de la communauté.

Un nouveau récit

Interrogé par M. Friedman sur la place des travaux du centre sur l’IA par rapport aux problèmes de développement auxquels le continent est confronté, M. Ondili a suggéré qu’il fallait « changer le discours » qui sous-tend actuellement l’idée qu’il existe une « hiérarchie des défis » et que l’Afrique ne mérite pas une solution d’IA à certains de ces défis.

« Je pense qu’il est nécessaire de changer un peu ce discours. [We need to] Voir comment l’IA s’applique, comment elle aide… Même dans la lutte contre la pandémie, nous avons eu besoin de solutions technologiques à bien des égards. Si, pendant tout ce temps, nous avions dit : « Vous savez, nous ne pouvons pas ; nous devons d’abord régler d’autres problèmes », la situation aurait été bien pire. Nous essayons donc de combler une lacune, mais aussi de créer une ressource », a-t-elle déclaré.

M. Ondile a déclaré que l’un des principaux objectifs du CIPIT était de développer la recherche africaine, en tirant parti des perspectives uniques offertes par le continent. Elle a remis en question l’idée selon laquelle l’Afrique n’était capable que de « transplanter » les technologies du Nord sans maîtriser la trajectoire de sa propre intelligence artificielle.

« En matière de développement, nous sommes confrontés à des problèmes et à des situations uniques. Elles ne se développent pas dans le même type d’environnement riche en données que celui que l’on trouve dans les pays du Nord, mais elles sont tout aussi valables.  Et beaucoup de solutions que nous recevons du Nord ne sont pas efficaces, ne s’appliquent pas au contexte. Et l’IA pour le développement est vraiment une façon pour nous de dire : « Quelle est la philosophie de l’IA en Afrique ? Quelle est la philosophie de l’IA en Afrique ? Comment développez-vous cette technologie par rapport aux problèmes que nous rencontrons ? Comment s’assurer qu’il ne s’agit pas simplement d’une forme de solutionnisme ?

M. Ondile a souligné la nécessité de « développer l’expérience et la richesse des gens ici » en Afrique, décrivant les Africains comme des « ressources inexploitées » dotées d’une « richesse de connaissances inexploitées ».

Elle a déclaré que la technologie avait une série d’applications dans un large éventail de domaines, notamment la médecine, l’agriculture et l’éducation.

L’accent mis sur la recherche juridique au CIPIT signifie également que l’accent est mis sur la justice dans l’espace de l’IA.

Le mythe de l’objectivité

« Il y a des problèmes de partialité », a-t-elle déclaré. « Comment, par exemple, rendre un algorithme responsable ? Comment responsabiliser les concepteurs d’un algorithme ? Comment l’expliquer aux autres ? Comment l’expliquer aux personnes concernées ? Quels sont leurs droits ? Quelles sont leurs responsabilités ? »

En ce qui concerne la recherche basée sur le genre, la question des préjugés devient également pertinente. M. Ondile a déclaré qu’il était nécessaire de comprendre que la technologie, tout en paraissant objective, reflète la position des personnes qui conçoivent et déploient les algorithmes pour les technologies d’IA – des personnes qui se trouvent être principalement des hommes.

« Je me souviens que lorsque j’ai commencé à m’intéresser à ce sujet, je suis tombé sur un livre qui soulignait que la raison pour laquelle les premiers modèles d’intelligence artificielle ne faisaient que deux choses – les mathématiques ou les échecs – était qu’il s’agissait principalement de passe-temps masculins.

M. Ondile a déclaré qu’il était nécessaire de reconnaître les implications de notre histoire sexuée sur les modèles d’apprentissage automatique qui sont « souvent présentés comme objectifs, alors qu’ils ne le sont vraiment pas ».

« Pour nous, l’inclusivité n’est pas seulement une partie intégrante de notre travail. Mais vous ne pouvez pas vraiment faire du bon travail sans cela, et vous ne pouvez pas vraiment faire du travail honnête sans cela ».

Elle a indiqué qu’un projet du CIPIT visant à développer une base de données permettant de suivre la parité hommes-femmes dans les entreprises d’intelligence artificielle en Afrique a soulevé la complexité de la définition de la parité hommes-femmes. « Ainsi, lorsque nous en avons parlé, nous avons dit qu’il ne s’agissait pas seulement de la représentation en termes d’hommes et de femmes. Nous nous demandons également où sont les femmes dans les postes de direction. Où se situent-ils dans la chaîne ? Qui est inclus ? Qui n’est pas inclus ?

« Il s’agit donc en grande partie d’une sorte de déploiement de la complexité. Mais je pense qu’à chaque fois que vous enlevez une nouvelle couche, vous en révélez davantage sur la façon dont vous abordez la recherche et sur les choses que vous considérez comme allant de soi lorsque vous commencez à travailler avec le processus ».

Ondile a suggéré que les approches étroites du développement de l’IA pourraient potentiellement renoncer à une appréciation des notions sociales, politiques et économiques importantes qui sont intégrées dans les codes algorithmiques qui reproduisent simplement les hypothèses sociétales sous le couvert de l’objectivité.

Équilibrer des intérêts multiples

Interrogée sur l’approche adoptée par le CIPIT, elle a déclaré : « Pour ce qui est de notre propre pratique, de nos projets et de notre équipe, nous devons faire preuve d’une grande humilité quant à notre position. Nous devons comprendre que nous abordons toujours tout ce que nous faisons d’un point de vue différent. Plus nous avons de perspectives, mieux c’est. Et même dans ce cas, nous devons reconnaître que tout résultat que nous obtenons n’est jamais que partiellement exact ou complet par nature », a-t-elle déclaré.

Elle a admis que s’il était parfois nécessaire de trouver un équilibre entre différents intérêts, en fin de compte, c’était la vie des gens qui était affectée.

« Pour obtenir l’adhésion de tous, on a parfois tendance à adoucir certains aspects qui, selon moi, devraient être plus sévèrement touchés, mais en fin de compte, nous ne parlons pas seulement de concepts abstraits d’algorithmes et de réglementation… Il s’agit de choses qui affectent les gens dans leur vie quotidienne ».

Elle a déclaré que trouver un terrain d’entente, ce qui était positif pour l’organisation, était « toujours un travail en cours … vous reconnaissez votre responsabilité et vous essayez de l’assumer du mieux que vous pouvez ».

Au cours de la discussion qui a suivi, la nécessité d’une certaine sensibilisation à l’évolution historique de l’IA, d’une approche contextuelle de son développement et d’une sensibilité à la probabilité de partialité dans le développement de l’IA a continué à émerger comme des thèmes clés dans ce qui est clairement une conversation en cours sur la façon dont l’IA peut être utilisée pour approfondir les engagements en faveur du genre et de l’inclusion.

Écrit par Sharon Dell