Poderá a inteligência artificial ajudar a alcançar a inclusividade?

A inteligência artificial pode desempenhar um papel na procura de soluções para muitos dos desafios de desenvolvimento de África, mas requer uma sensibilidade ao contexto, para não mencionar um ceticismo saudável em relação à ideia de que a tecnologia é objetiva ou não é afetada pela posicionalidade daqueles que concebem os algoritmos de IA.

Para a comunidade científica africana, a IA não pode ser ignorada. Ao mesmo tempo, é uma faca de dois gumes – oferecendo um enorme potencial para ajudar a facilitar o desenvolvimento socioeconómico sustentável, mas, simultaneamente, correndo o risco perpétuo de aprofundar ainda mais as desigualdades económicas e de reproduzir estereótipos de género e normas sociais discriminatórias.

Existe também alguma preocupação de que África possa não estar preparada para a IA e que o foco nela irá inevitavelmente desviar a atenção de prioridades de desenvolvimento mais importantes.

Reconhecendo a complexidade da questão, um “feminar” realizado em setembro, facilitado pela Gender at Work como parte do seu processo de Aprendizagem de Ação de Género para o Projeto de Género e Inclusividade do HSRC, destinado a promover o género e a inclusividade nos conselhos de concessão de subvenções científicas na África Subsariana, colocou uma questão pertinente:

O que será necessário para que os conselhos de concessão de subvenções científicas apoiem a investigação e o desenvolvimento da inteligência artificial em África que sirva e represente as necessidades, interesses e perspetivas dos diversos habitantes do continente?

Os participantes analisaram pressupostos fundamentais subjacentes ao trabalho dos conselhos científicos em África no que diz respeito à IA. Exploraram o que significa integrar o género e a inclusividade no setor da IA e como os conselhos de financiamento científico (SCGs) se têm envolvido com a IA como parte da sua prática e cultura.

Um “feminar” anterior realizado em julho, que enfatizou a necessidade de uma investigação empenhada que reconheça a importância do contexto, deu aos participantes a oportunidade de pensar sobre diferentes formas de saber, proporcionando uma base útil para discussões sobre a IA e como esta pode ajudar os conselhos de concessão de subvenções científicas e os profissionais a aprofundarem os seus compromissos com o género e a inclusividade.

Repensar a dicotomia tradição-modernidade

Situando a discussão num contexto africano, a Dra. Olga Bialostocka, especialista sénior de investigação na AISA-HSRC, referiu o trabalho de Kwame Gyekye, uma figura de destaque no desenvolvimento da filosofia africana moderna, para sugerir alternativas à dicotomia entre tradição e modernidade imposta pelo pensamento ocidental dominante, que tende a posicionar a tradição africana como um obstáculo ao desenvolvimento.

“Como resultado, muitos estados africanos tentam modernizar as suas culturas eliminando o que são consideradas práticas retrógradas; por isso, Kwame Gyekye, um filósofo ganense, propôs um caminho a seguir, afirmando que uma modernidade autocriada, forjada e refinada na justiça das conversas entre a criatividade intelectual africana e a complexa herança cultural de África, precisa de se basear nas experiências africanas e apropriar-se da tecnologia, em vez de a transferir ou transplantar”, afirmou.

Este tipo de apropriação já está, de facto, a ocorrer, como ilustrou pertinentemente uma entrevista pré-gravada entre a associada sénior da Gender at Work, Michal Friedman, e Mitchel Ondili, uma investigadora baseada no Centro de Propriedade Intelectual e Direito da Tecnologia da Informação (CIPIT) da Universidade de Strathmore, no Quénia.

O centro de investigação e formação baseado em evidências, que começou com um foco exclusivo na propriedade intelectual, transformou-se ao longo dos anos para incorporar as TIC e tornou-se uma plataforma de aprendizagem muito mais ampla para estudantes, investigadores e a comunidade em geral.

Uma nova narrativa

Questionada por Friedman sobre como o trabalho do centro em IA se posiciona em relação às questões de desenvolvimento enfrentadas pelo continente, Ondili sugeriu que havia necessidade de “mudar a narrativa” que atualmente sustenta a ideia de que existe uma “hierarquia de desafios” e que África não merece uma solução de IA para alguns desses desafios.

“Penso que há necessidade de mudar um pouco essa narrativa. [Precisamos de] ver como a IA se aplica, ver como ajuda… Mesmo ao… lidar com a pandemia, houve muitas formas em que precisámos de confiar em soluções tecnológicas. Se tivéssemos passado o tempo todo a dizer: ‘Sabem, não podemos; precisamos de resolver outros problemas primeiro’, teria sido uma situação muito, muito pior. Por isso, estamos a tentar preencher uma lacuna, mas também a construir um recurso”, afirmou.

Ondili afirmou que um objetivo central do CIPIT é fazer crescer a investigação africana, capitalizando as perspetivas únicas que se encontram no continente. Desafiou a noção de que África apenas era capaz de “transplantar” tecnologias do Norte Global sem ter o controlo da trajetória da sua própria IA.

“Quando se trata de desenvolvimento, temos problemas únicos… situações únicas. Estes não crescem no mesmo tipo de ambiente rico em dados que se encontra no Norte Global, mas continuam a ser igualmente válidos. E muitas das soluções que recebemos do Norte não são eficazes, não são aplicáveis ao contexto. E a IA para o desenvolvimento é realmente uma forma de dizermos: Qual é a filosofia da IA em África? Como se faz crescer esta tecnologia em relação aos problemas que temos? Como garantir que não é apenas uma forma de solucionismo?”

Ondili enfatizou a necessidade de “fazer crescer a experiência e a riqueza das pessoas aqui” em África, descrevendo os africanos como “recursos inexplorados” com uma “riqueza de conhecimento inexplorado”.

Afirmou que a tecnologia tinha uma gama de aplicações numa vasta variedade de áreas, incluindo medicina, agricultura e educação.

O foco na investigação jurídica no CIPIT também significa um foco na justiça no espaço da IA.

O mito da objetividade

“Existem questões de enviesamento”, disse ela. “Como é que se torna, por exemplo, um algoritmo responsável? Como é que se tornam os criadores de um algoritmo responsáveis? Como é que se explica isso aos outros? Como é que se explica às pessoas que são afetadas? Quais são os seus direitos? Quais são as suas responsabilidades?”

Em relação à investigação baseada no género, a questão do enviesamento também se torna relevante. Ondili afirmou ser necessário compreender que a tecnologia, embora pareça ser objetiva, reflete a posicionalidade das pessoas que concebem e implementam os algoritmos para as tecnologias de IA – pessoas que, por acaso, são maioritariamente homens.

“Lembro-me de que, quando estava a aprender sobre isto pela primeira vez, encontrei um livro que realçava o facto de a razão pela qual os primeiros modelos de inteligência artificial apenas faziam duas coisas – matemática ou jogar xadrez – era porque estes eram principalmente os passatempos dos homens.”

Ondili afirmou que era necessário reconhecer as implicações da nossa história de género nos modelos de aprendizagem automática que são “frequentemente apregoados como objetivos, quando na verdade não o são”.

“Portanto, a inclusividade para nós… não é apenas o facto de ser parte integrante do trabalho que fazemos. Mas não se pode realmente fazer um bom trabalho sem ela, e não se pode realmente fazer um trabalho honesto sem ela.”

Referiu que um projeto do CIPIT destinado a desenvolver uma base de dados que rastreasse a paridade de género em empresas de IA em toda a África levantou a complexidade de denotar a paridade de género. “E assim, quando falámos sobre isso, dissemos que não se trata apenas da representação em termos de masculino e feminino. Também estamos a falar de onde estão as mulheres em cargos de gestão? Onde estão elas ao longo da cadeia? Quem está a ser incluído? Quem não está a ser incluído?”

“Portanto, a maior parte disso é… uma espécie de desenrolar da complexidade. Mas penso que cada vez que se retira outra camada, também se revela mais sobre a forma como se aborda verdadeiramente a investigação e as coisas que se dão como garantidas quando se começa a trabalhar com o processo.”

Ondili sugeriu que abordagens estreitas ao desenvolvimento da IA poderiam potencialmente abdicar de uma apreciação de noções sociais, políticas e económicas importantes que estão incorporadas em códigos algorítmicos que meramente reproduzem pressupostos sociais sob o disfarce da objetividade.

Equilibrar múltiplos interesses

Questionada sobre a abordagem adotada pelo CIPIT, afirmou: “E assim, quando se tratou da nossa própria prática, projetos e equipa, temos de ser extremamente humildes quanto à nossa posicionalidade. Temos de compreender que estamos sempre a abordar tudo o que fazemos a partir de uma perspetiva. Quanto mais perspetivas pudermos obter, melhor. E mesmo assim temos de reconhecer que qualquer resultado que tenhamos é, na realidade, apenas parcialmente preciso ou completo por natureza”, afirmou.

Admitiu que, embora por vezes houvesse necessidade de equilibrar diferentes interesses, no final de contas, a vida das pessoas estava a ser afetada.

“Para conseguir a adesão de todos, por vezes tende-se a suavizar algumas das partes que penso que deveriam ser abordadas com muito mais força, mas no final de contas também não estamos apenas a falar de conceitos abstratos de algoritmos e regulamentação… Estas são coisas que afetam as pessoas nas suas vidas diárias.”

Afirmou que descobrir um meio-termo, o que era positivo para a organização, era “sempre um trabalho em curso… reconhece-se a responsabilidade e tenta-se cumpri-la da melhor forma possível.”

Na discussão que se seguiu, a necessidade de alguma consciência sobre o desenvolvimento histórico da IA, uma abordagem sensível ao contexto para o seu desenvolvimento e uma sensibilidade à probabilidade de enviesamento no desenvolvimento da IA continuaram a emergir como temas centrais no que é claramente uma conversa contínua sobre a forma como a IA pode ser utilizada para aprofundar os compromissos com o género e a inclusividade.

Escrito por Sharon Dell