Diversidade na produção de conhecimento

A IA não criou as assimetrias na geração e no uso do conhecimento, mas potencializa as desigualdades já existentes. A boa notícia é que pode ser usada para reduzi-las, caso haja um esforço nesse sentido, incorporando saberes ancestrais e tradicionais

Por Martina Medina

A Inteligência Artificial (IA) é um reflexo da sociedade e, portanto, possui a tendência de amplificar estereótipos, desigualdades e injustiças sociais já existentes. O conjunto de dados usado para alimentar a IA é, portanto, um ponto central. “Os bancos de dados têm muito de uma cultura dominante e os algoritmos reproduzem esses dados, refletindo preconceitos e trazendo valores e ideias de um mundo não indígena e não preto”, resume Neidinha Suruí, liderança indígena e cofundadora da organização Kanindé.

Para fazer frente a essa tendência, algumas iniciativas e especialistas buscam refletir sobre a possibilidade de desenvolver uma IA mais plural, que amplie a representação de povos originários em toda a sua diversidade e inclua os saberes ancestrais.

“É preciso envolver todos os segmentos da sociedade”, diz Suruí, sobre os esforços por uma maior inclusão na tecnologia. “É preciso que a academia e a sociedade estejam dispostas a provocar as mudanças necessárias nos algoritmos.”

Um projeto realizado pelo Centro de Inteligência Artificial (C4AI), da Universidade de São Paulo (USP) e a IBM Research, braço de impacto social da empresa de tecnologia da informação, busca empregar IA no fortalecimento de línguas indígenas brasileiras. A iniciativa surgiu em 2022, declarado o primeiro ano da Década Internacional das Línguas Indígenas pela Organização das Nações Unidas para a Educação, a Ciência e a Cultura (Unesco), em meio ao alerta de que a maioria dessas línguas no Brasil e no mundo está ameaçada de desaparecer até o fim deste século.

Sempre em parceria com as comunidades indígenas, a iniciativa busca criar e desenvolver tecnologias que auxiliem na documentação, preservação e uso desses idiomas. A primeira aplicação ocorreu em 2023, atendendo a uma demanda da Terra Indígena (TI) Tenonde Porã, no Sul da cidade de São Paulo, onde crianças e jovens falam guarani mbya, mas possuem dificuldade em escrever na língua. O projeto incluiu oficinas semanais com professores e alunos do ensino médio para o desenvolvimento conjunto de ferramentas de escrita.

No fim do ano, porém, a iniciativa nessa TI foi suspensa. A comunidade preferiu ter mais tempo para discutir internamente até chegar a um consenso sobre a forma como gostariam de usar a internet. O acesso por lá chegou por fibra óptica há somente dois anos. “Ao longo do processo, também entendemos que o que faltava realmente era um processo de alfabetização em guarani”, acrescenta Claudio Pinhanez, pesquisador da IBM Research que lidera o trabalho e afirma total respeito à decisão dos indígenas de interromper o projeto.

Agora, a iniciativa atua com o nheengatu, conhecido como tupi moderno e falado por mais de 10 mil indígenas de diversas etnias na região amazônica. A iniciativa busca desenvolver um tradutor nheengatu-português para pessoas que entendam o idioma, mas não o falam, possam se comunicar por meio dele com mais confiança, de forma a revitalizá-lo. “Ter pessoas que entendem, mas não falam, é muito ruim para a língua, porque a próxima geração provavelmente não vai falar nem entender”, explica Pinhanez.

A ideia é que o tradutor fique disponível até a metade do ano que vem para o uso no dia a dia dos falantes. O envio de mensagens traduzidas diretamente em aplicativos como o WhatsApp pode ser uma das aplicações. Outro uso possível seria entre professores e tradutores que precisam adaptar materiais em português para o nheengatu. “Primeiro, estamos preocupados com o uso. Se isso vai evitar a perda da língua é uma questão que vem depois, até porque é algo complexo de medir.”

Há planos de expandir o projeto para outras línguas, adaptando os sistemas à realidade e à necessidade de cada povo, além de inaugurar uma frente de documentação de idiomas indígenas com poucos falantes, de forma que sejam mantidos para a posteridade. O impacto social pode ser expandido por meio de parcerias com o Ministério dos Povos Indígenas e a Unesco, aponta Pinhanez.

Ele vê o crescente interesse da juventude indígena em tecnologia como uma oportunidade para garantir a continuidade da cultura dos povos originários junto às futuras gerações. “Oisolamento que existia por conta da infraestrutura está desaparecendo muito rápido no Brasil. O impacto que a internet por satélite está tendo na Amazônia, para o bem e para o mal, é gigante”, reflete o especialista. “A pergunta é: como as comunidades vão ocupar esse espaço com a cultura delas? Estamos tentando criar maneiras para que  isso seja mais fácil e viável para as comunidades interessadas”, diz o pesquisador da IBM.

Apropriação da tecnologia

Outro objetivo futuro é transferir as tecnologias geradas para que os próprios indígenas formados na área se apropriem de sua gestão e atualização. “Estamos começando a trazer profissionais indígenas para dentro do projeto, como bolsistas que ajudem a avaliar as ferramentas”, explica. Os membros das comunidades também teriam a possibilidade de ensinar conteúdos de informática, programação, IA e linguística nas escolas indígenas, fomentando a continuidade de soluções nessa área entre crianças e jovens.

Uma das limitações dos projetos de IA plural é tentar fortalecer comunidades sub representadas no ambiente digital, já que é pequeno o volume de dados produzidos por elas e sobre elas, em meio a tecnologias que funcionam à base de uma quantidade gigantesca de informações.

“Bons tradutores chegam a usar 500 milhões de pares de sentenças como base. Em nheengatu, temos apenas sete mil – mil vezes menos do que o necessário para fazer um tradutor de ponta”, observa Pinhanez.

Mas, durante o projeto, o pesquisador notou a possibilidade de aproveitar o que esses sistemas massivos já trazem de forma genérica sobre tradução e linguagem, adaptando-os a línguas indígenas com uma “última calibrada” a partir dessa quantidade menor de dados. “Incrivelmente, isso funciona. Não é o estado da arte para um tradutor, mas é bom o suficiente para ser útil para alguém que já conhece a língua”, diz. “Do ponto de vista científico, estamos mostrando que é possível fazer a inclusão dessas línguas para tecnologias que não foram feitas para elas.”

Segundo o especialista, o desenvolvimento de uma IA mais plural deve ser ampliado à medida em que as plataformas de IA generativa passem a abarcar conteúdos em áudio e não apenas em texto. “Se esse avanço acontecer, expandimos o espectro de inclusão nessas línguas, em que a oralidade é fundamental em muitos casos”, diz. Uma aplicação prática importante seria na saúde, possibilitando a tradução automática dos sintomas relatados por indígenas, por exemplo, de modo a aprimorar o atendimento médico.

Visões distorcidas

Publicitários da agência One, do Grupo Publicis, que preparavam uma campanha sobre indígenas brasileiros que resistiram à colonização ficaram surpresos ao se depararem apenas com referências limitadas a indígenas norte-americanos em plataformas generativas como Midjourney. Mesmo colocando tags específicas para etnias brasileiras, a imagem do chefe apache era soberana.

“Nossa conclusão foi de que a IA está bebendo de uma fonte enviesada. A máquina cultural norte-americana é tão poderosa e produz tanto material imagético, que ela obviamente enviesa a plataforma”, afirma Rodrigo Esteves, head de criação da agência. Em parceria com a Scientia Consultoria, empresa especializada em pesquisas de patrimônio cultural, a agência criou o movimento Indígenas Por A.I..

A iniciativa convida artistas brasileiros, incluindo indígenas, a alimentarem as ferramentas de IA com representações das etnias brasileiras. O objetivo é que o acervo digital das ferramentas de IA generativa passem a ter referências imagéticas sobre uma diversidade maior de povos. “Curiosamente, em buscas recentes, apareceram um pouco mais de etnias que se assemelham às brasileiras. Não dá para ter certeza absoluta que foi por conta do projeto, mas é legal começar a perceber essa pequena melhoria desde o lançamento.”

Segundo ele, a grande métrica de sucesso seria entrar hoje no Midjourney, buscar por indígenas brasileiros, como tupinambá e pataxó, e ter resultados precisos, com as diferenças de fenótipos entre as etnias, mas isso ainda não acontece. O publicitário aposta que o caminho é que a sociedade civil continue se mobilizando para realizar campanhas como essa, chamando atenção para o problema, enquanto as plataformas desenvolvem mecanismos para diminuir vieses e ampliar a inclusão de minorias.

Até o momento, apenas dez artistas participaram da iniciativa. Segundo Esteves, o projeto, feito de maneira voluntária dentro da agência, está em busca de novas parcerias para ampliar a participação de artistas e o impacto social. O Ministério dos Povos Indígenas e a Fundação Nacional dos Povos Indígenas (Funai) foram procurados, mas ainda não manifestaram interesse pela proposta.

Prós e contras

Dora Savoldi, mestra em linguística pela USP, questiona a interlocução do projeto com grupos indígenas, lembrando que muitos povos têm restrições ao uso de imagens de pessoas que já faleceram, por exemplo. Além disso, a especialista é cética em relação à efetividade da iniciativa. “Para que se consiga realmente alcançar um nível de representatividade dentro desses sistemas, seriam precisos muitos dados, o que considero improvável dentro desse movimento especificamente”, diz.

Segundo Savoldi, a preocupação com a inclusão de saberes originários pelas grandes plataformas de IA generativa é praticamente inexistente. Uma alternativa seriam os esforços localizados para treinar outros modelos, como os Open Source, especialmente no que se refere a línguas minorizadas e saberes ancestrais. Ela ressalta a importância de consulta aos povos indígenas para verificar a utilidade dos programas e se eles não ferem práticas éticas e culturais das comunidades.

Em artigo sobre os impactos da IA em comunidades indígenas, o comunicador indígena Anápuàka Muniz Tupinambá Hãhãhãe, CEO da Rádio Yandê^[1], concorda com a inclusão das comunidades indígenas na tomada de decisão, desenvolvimento e implementação da IA. Ele sugere o investimento em programas de apoio e capacitação para que as comunidades reflitam sobre o uso e suas implicações éticas e étnicas.

O comunicador elenca entre os impactos negativos o uso de informações indígenas sem permissão ou créditos das fontes, podendo levar à perda de conhecimentos tradicionais e à assimilação cultural. “Por exemplo, se uma máquina aprende sobre práticas espirituais e as compartilha na internet, isso pode prejudicar as culturas indígenas”, escreve.

Outro ponto de atenção é o uso de modelos de IA para reforçar estereótipos, levando a mal-entendidos e discriminação. Muniz se preocupa ainda com a substituição de mão de obra indígena por IA na agricultura e no artesanato. Ele cita o uso de tecnologia para gerar designs “inspirados” nos artesanatos e artes indígenas sem o devido crédito da criação ou pagamento a essas comunidades.

O comunicador defende que o potencial positivo de uma IA plural depende do protagonismo indígena no processo de desenvolvimento, programação, alimentação e uso do algoritmo. Assim, seria possível preservar culturas, com o registro de histórias e tradições; criar novos recursos de educação e saúde online, de forma a incluir essas comunidades nas inovações existentes; promover o desenvolvimento sustentável, por meio de ferramentas de proteção dos territórios; e desenvolver empreendimentos econômicos.

“Com as devidas precauções, a IA é um meio que pode ser usado como ferramenta poderosa para o desenvolvimento das comunidades indígenas e pelos povos indígenas no comando dos prompts de suas vidas”, escreve o especialista.

Tecnologia indígena

O advogado Ivo Macuxi, assessor jurídico do Conselho Indígena de Roraima (CIR), engrossa o coro sobre as preocupações em relação à apropriação da “tecnologia indígena”, como ele define os saberes e criações ancestrais, pelos sistemas tecnológicos desenvolvidos pela sociedade ocidental sem os devidos créditos e compensações às comunidades.

Como exemplo positivo, ele destaca o projeto de Revitalização de Línguas Indígenas Ameaçadas de Extinção, criado pela Motorola, empresa de mobilidade do Grupo Lenovo. Em 2021, a iniciativa incluiu os idiomas kaingang e o nheengatu em smartphones com Android 11. Neste ano, a inclusão chegou também a notebooks Lenovo. Com a participação de profissionais indígenas e de pesquisadores da Universidade Estadual de Campinas (Unicamp) no processo, a empresa disponibilizou caracteres especiais dessas línguas, como o “˜” acima da letra “y”, em teclados digitais.

Outros teclados virtuais com caracteres de idiomas indígenas estão disponíveis para download na internet. Um deles é o “Linklado”, uma iniciativa criada por Samuel Benzecry, da Universidade Stanford (EUA) e Juliano Portela, aluno do ensino médio em Manaus (AM). Lançado em 2022, o software reúne caracteres especiais e diacríticos (como a letra u que inclui dois sinais gráficos ao mesmo tempo: trema e til), de mais de 40 línguas indígenas da região amazônica e está disponível gratuitamente para Windows e Android. O projeto contou com a participação de diversos estudantes, incluindo indígenas, no seu desenvolvimento^[2].

Outro destaque de desenvolvimento de IA em benefício de comunidades indígenas são as tecnologias de monitoramento do território, que aliam a tecnologia ancestral à moderna, segundo Macuxi. “São usados muitos drones e aplicativos, mas uma questão importante é a de que a aplicação de conhecimento tradicional ajuda a própria IA no monitoramento das terras indígenas”, diz. “Sem o conhecimento indígena sobre a preservação das espécies e da biodiversidade nos territórios, a IA não seria capaz de confirmar muitos dos dados necessários.”

Um dos destaques citados por Macuxi é o Alerta Clima Indígena (ACI). O aplicativo para celular começou a ser concebido em 2016 pelo Instituto de Pesquisa Ambiental da Amazônia (Ipam) e as comunidades indígenas. Alimentado por dados públicos e outros produzidos pelos indígenas, ele facilita o acesso a informações sobre ameaças de fogo, desmatamento, além de trazer previsões sobre temperatura, chuva e velocidade do vento.

O sistema é usado em 46 TIs e possui 927 logins ativos atualmente. Até dezembro de 2023, tinham sido registrados 761 alertas, sendo o de fogo o mais frequente, com 159 alertas registrados até essa data. Desde 2021, mais de 400 indígenas participaram de cursos sobre monitoramento territorial que usou o aplicativo como base.

“Por meio dos dados que o sistema disponibiliza, cruzados com os que os indígenas coletam em seus territórios, temos relatos de que foi possível promover um processo de desintrusão junto ao Ministério Público Federal”, diz Martha Fellows, pesquisadora de ciência do Ipam. “Com relação aos dados que são coletados pelos indígenas, esses são sigilosos e temos um sistema robusto de segurança para evitar o vazamento ou acesso por terceiros.”

Macuxi defende a participação indígena nas esferas de poder e decisão sobre o uso de IA. Para efetivar o direito à consulta e ao consentimento, ele sugere a efetividade de políticas públicas, como o Conselho Nacional de Política Indigenista, uma plataforma de diálogo entre os povos indígenas e o governo federal. O advogado reforça ainda a necessidade de fazer valer o direito das pessoas indígenas, como o acesso à educação, para que elas possam participar do desenvolvimento de tecnologias que beneficiem suas comunidades.

Em síntese – mensagens-chave:

^[1] https://www.youtube.com/channel/UC9c_PSOqE9RCv5zG2Xb-5tA

^[2] https://pagina22.com.br/2022/09/02/jovens-do-amazonas-lancam-teclado-com-caracteres-indigenas/

Perguntamos ao Chat GPT como a Inteligência Artificial é aplicada para diminuir preconceitos e desigualdades, abarcando os saberes e a diversidade de povos indígenas e populações tradicionais, como os quilombolas. Eis a resposta: