A inteligência artificial pode ajudar a alcançar a inclusão?

A inteligência artificial pode desempenhar um papel na busca de soluções para muitos dos desafios de desenvolvimento da África, mas requer sensibilidade ao contexto, sem mencionar um ceticismo saudável em relação à ideia de que a tecnologia é objetiva ou não é afetada pela posição daqueles que projetam os algoritmos de IA.

Para a comunidade científica africana, a IA não pode ser ignorada. Ao mesmo tempo, é uma faca de dois gumes: oferece um enorme potencial para ajudar a facilitar o desenvolvimento socioeconômico sustentável, mas, ao mesmo tempo, corre o risco perpétuo de aprofundar ainda mais as desigualdades econômicas e reproduzir estereótipos de gênero e normas sociais discriminatórias.

Há também a preocupação de que a África pode não estar pronta para a IA e que o foco nela inevitavelmente desviará o foco de prioridades de desenvolvimento mais importantes.

Reconhecendo a complexidade da questão, um seminário realizado em setembro, facilitado pela Gender at Work como parte de seu processo de Aprendizagem de Ação de Gênero para o Projeto HSRC Gender & Inclusivity, que visa promover o gênero e a inclusão nos conselhos de concessão de ciência na África Subsaariana, fez uma pergunta pertinente:

O que será necessário para que os conselhos de concessão de ciência apoiem a pesquisa e o desenvolvimento de inteligência artificial na África que atenda e represente as necessidades, os interesses e as perspectivas dos diversos habitantes do continente?

Os participantes examinaram as principais suposições subjacentes ao trabalho dos conselhos científicos na África no que se refere à IA. Eles exploraram o que significa integrar o gênero e a inclusão no setor de IA e como os SCGs se envolveram com a IA como parte de sua prática e cultura.

Um seminário anterior realizado em julho, que enfatizou a necessidade de engajado que reconhece a importância do contexto, deu aos participantes a oportunidade de pensar sobre diferentes formas de conhecimento, fornecendo uma base útil para discussões sobre IA e como ela pode ajudar os conselhos de concessão de ciência e os profissionais a aprofundar seus compromissos com o gênero e a inclusão.

Repensando a dicotomia tradição-modernidade

Situando a discussão em um contexto africano, a Dra. Olga Bialostocka, especialista sênior em pesquisa do AISA-HSRC, fez referência ao trabalho de Kwame Gyekye, uma figura importante no desenvolvimento da filosofia africana moderna, para sugerir alternativas à dicotomia entre tradição e modernidade imposta pelo pensamento ocidental dominante, que tende a posicionar a tradição africana como um obstáculo ao desenvolvimento.

“Como resultado, muitos países africanos tentam modernizar suas culturas eliminando práticas consideradas retrógradas, de modo que Kwame Gyekye, um filósofo ganense, propôs um caminho a seguir, afirmando que uma modernidade autocriada, forjada e refinada na imparcialidade das conversas entre a criatividade intelectual africana e a complexa herança cultural da África, precisa se basear nas experiências africanas e se apropriar delas em vez de transferir ou transplantar tecnologia”, disse ela.

Na verdade, esse tipo de apropriação já está ocorrendo, conforme ilustrado em uma entrevista pré-gravada entre Michal Friedman, associada sênior da Gender at Work, e Mitchel Ondili, pesquisador do Centro de Propriedade Intelectual e Direito da Tecnologia da Informação (CIPIT) da Universidade de Strathmore, no Quênia.

O centro de pesquisa e treinamento baseado em evidências, que começou com foco exclusivo em propriedade intelectual, transformou-se ao longo dos anos para incorporar a ICT e tornou-se uma plataforma de aprendizado muito mais ampla para alunos, pesquisadores e a comunidade em geral.

Uma nova narrativa

Perguntado por Friedman sobre como o trabalho do centro em IA se posiciona em relação aos problemas de desenvolvimento enfrentados pelo continente, Ondili sugeriu que era necessário “mudar a narrativa” que atualmente sustenta a ideia de que há uma “hierarquia de desafios” e que a África não merece uma solução de IA para alguns desses desafios.

“Acho que é preciso mudar um pouco essa narrativa. [We need to] ver como a IA se aplica, ver como ela ajuda… Mesmo ao… lidar com a pandemia, houve muitas maneiras de dependermos de soluções tecnológicas. Se o tempo todo tivéssemos dito: “Você sabe, não podemos; precisamos resolver outros problemas primeiro”, a situação teria sido muito, muito pior. Portanto, estamos tentando preencher uma lacuna, mas também criar um recurso”, disse ela.

Ondile disse que um dos objetivos centrais do CIPIT é aumentar a pesquisa na África, capitalizando as perspectivas únicas encontradas no continente. Ela contestou a noção de que a África só poderia “transplantar” tecnologias do Norte Global sem ter o controle da trajetória de sua própria IA.

“Quando se trata de desenvolvimento, temos problemas únicos… situações únicas. Elas não crescem no mesmo tipo de ambiente rico em dados que você encontra no Norte Global, mas ainda assim são igualmente válidas.  E muitas das soluções que recebemos do Norte não são eficazes e não se aplicam ao contexto. E a IA para o desenvolvimento é realmente uma maneira de dizermos: Qual é a filosofia da IA na África? Como você desenvolve essa tecnologia em relação aos problemas que temos? Como você se certifica de que não se trata apenas de uma forma de solucionismo?

Ondile enfatizou a necessidade de “aumentar a experiência e a riqueza das pessoas aqui” na África, descrevendo os africanos como “recursos inexplorados” com uma “riqueza de conhecimentos inexplorados”.

Ela disse que a tecnologia tem uma série de aplicações em uma ampla gama de campos, incluindo medicina, agricultura e educação.

O foco na pesquisa jurídica no CIPIT também significa um foco na justiça no espaço da IA.

O mito da objetividade

“Há questões de preconceito”, disse ela. “Como você, por exemplo, torna um algoritmo responsável? Como você torna os criadores de um algoritmo responsáveis? Como você explica isso para os outros? Como você explica isso para as pessoas que são afetadas? Quais são os direitos delas? Quais são as responsabilidades delas?”

Em relação à pesquisa baseada em gênero, a questão do preconceito também se torna relevante. Ondile disse que é necessário entender que a tecnologia, embora pareça ser objetiva, reflete a posição das pessoas que projetam e implementam os algoritmos para as tecnologias de IA – pessoas que, por acaso, são principalmente homens.

“Lembro-me de que, quando comecei a aprender sobre isso, encontrei um livro que destacava o fato de que a razão pela qual os primeiros modelos de inteligência artificial só faziam duas coisas – matemática ou jogar xadrez – era porque esses eram principalmente os passatempos dos homens.”

Ondile disse que é necessário reconhecer as implicações de nossa história de gênero nos modelos de aprendizado de máquina que “muitas vezes são apresentados como objetivos, quando na verdade não são”.

“Portanto, para nós, a inclusão… não é apenas parte integrante do trabalho que fazemos. Mas você não pode realmente fazer um bom trabalho sem isso, e você não pode realmente fazer um trabalho honesto sem isso.”

Ela disse que um projeto do CIPIT destinado a desenvolver um banco de dados que rastrearia a paridade de gênero em empresas de IA em toda a África aumentou a complexidade de denotar a paridade de gênero. “E assim, quando conversamos sobre isso, dissemos que não se trata apenas da representação em termos de homens e mulheres. Também estamos falando sobre onde estão as mulheres em cargos de gerência? Onde eles estão em toda a cadeia? Quem está sendo incluído? Quem não está sendo incluído?

“Portanto, a maior parte disso é… uma espécie de revelação da complexidade. Mas acho que cada vez que você retira mais uma camada, também revela mais sobre como você realmente aborda a pesquisa e as coisas que você toma como certas quando começa a trabalhar com o processo.”

Ondile sugeriu que abordagens restritas ao desenvolvimento da IA poderiam potencialmente renunciar a uma apreciação de importantes noções sociais, políticas e econômicas que estão incorporadas em códigos algorítmicos que meramente reproduzem suposições sociais sob o pretexto de objetividade.

Equilíbrio de múltiplos interesses

Perguntada sobre a abordagem adotada pelo CIPIT, ela disse: “E assim, quando se trata de nossa própria prática, projetos e equipe, temos que ser extremamente humildes em relação à nossa posição. Temos que entender que estamos sempre abordando tudo o que fazemos a partir de uma perspectiva. Quanto mais perspectivas pudermos obter, melhor. E, mesmo assim, temos que reconhecer que qualquer resultado que tenhamos é, na verdade, apenas parcialmente preciso ou completo por natureza”, disse ela.

Ela admitiu que, embora às vezes houvesse a necessidade de equilibrar interesses diferentes, no final das contas, a vida das pessoas estava sendo afetada.

“Para conseguir a adesão de todos, às vezes tendemos a suavizar algumas das partes que, na minha opinião, deveriam ser muito mais atingidas, mas, no final das contas, não estamos falando apenas de conceitos abstratos de algoritmos e regulamentações… Essas são coisas que afetam as pessoas em suas vidas diárias.”

Ela disse que descobrir um meio termo, o que era positivo para a organização, era “sempre um trabalho em andamento… você reconhece sua responsabilidade e tenta cumpri-la da melhor forma possível”.

Na discussão que se seguiu, a necessidade de alguma conscientização sobre o desenvolvimento histórico da IA, uma abordagem sensível ao contexto para seu desenvolvimento e uma sensibilidade para a probabilidade de preconceito no desenvolvimento da IA continuaram a surgir como temas-chave no que é claramente uma conversa contínua sobre a maneira pela qual a IA pode ser usada para aprofundar os compromissos com o gênero e a inclusão.

Escrito por Sharon Dell