Um dos conteúdos aplaudidos de pé no PrograMaria Summit 2023 foi o painel “O que pessoas tecnologistas precisam saber sobre o impacto das IAs Generativas” e tivemos a honra de contar com as especialistas Carla Vieira, Kizzy Terra e Rosi Teixeira e com mediação de Bianca Kremer (she/ her).
O painel trouxe uma perspectiva de passado, presente e futuro, envolvendo as perspectivas de cada uma das painelistas sobre Inteligência Artificial (IA) e suas próprias trajetórias. Mas, antes de continuarmos, caso esteja um pouco perdide sobre o que são IAs Generativas, vale dar uma olhada na palestra “O que precisamos saber sobre a Inteligência Artificial” da Professora Dora Kaufman, que também aconteceu no Summit e explica muito bem os conceitos!
Passado
A pergunta que norteou a conversa sobre o passado foi voltada à educação e à formação. Como a popularização da IA Generativa tem impactado a capacitação profissional de quem deseja trabalhar ou de quem já trabalha com tecnologia hoje?
Carla começou o diálogo trazendo um olhar para o uso de IA nos estudos de forma abrangente, não apenas por pessoas de tecnologia: “a gente tem que começar a pensar em cenários de letramento digital, de que as pessoas entendam como que a tecnologia funciona para que elas usem com precaução”. Isso porque nem todas as informações que uma ferramenta devolve estão corretas e é preciso usá-las com consciência.
Kizzy trouxe um exemplo de uso positivo de IA no auxílio da produção de artigos, e acrescentou a preocupação com o uso de humanos virtuais (avatares) e IA. “A gente está nos primórdios, ainda vamos ter muitas combinações, muitos resultados, a gente está falando também de experimentos, de um trabalho empírico, então a gente precisa realmente observar, refletir, começar a abrir os olhos para entender onde que isso pode chegar.”
Rosi começa enfatizando que “Quem não está preocupado com o impacto desse movimento no mercado de trabalho está mal informado. Não estou falando só para tecnologistas.” Continuou falando sobre o cenário do Brasil: “A nossa sociedade é muito carente de letramento digital” e reforça que “A gente já tem uma dívida.”
Voltando para pessoas tecnologistas, Rosi aponta que “tem 2 comportamentos que eu considero ruins”. O primeiro é o que está totalmente cético e alheio e o segundo é o que está em completo deslumbramento com a IA, explica.
Presente
Com um olhar para o presente, a segunda etapa da conversa abordou os impactos causados pelo uso da tecnologia, seus potenciais riscos, levando em conta os aspectos éticos, considerando a realidade brasileira.
Carla chamou atenção para a desproporcionalidade dos impactos para grupos específicos. “Impactos sempre terão, mas se há uma seletividade acontecendo, isso começa a se tornar um grande problema” Ela reflete ainda sobre quem são as pessoas que não estão sendo capacitadas (e consequentemente serão prejudicadas no futuro) e reforça “é uma discussão a longo prazo mas que ela tem que ser feita agora.”
Kizzy adiciona uma outra preocupação: quem são as pessoas que estão tomando decisões e faz um convite para termos uma postura de reflexão diante dessas tecnologias, porém, também pensarem em estratégias de carreira. “Porque sim, os grupos minorizados serão os primeiros a serem “substituídos”, a serem demitidos quando não forem mais necessários ter tanta gente assim diante dessas tecnologias.” Reforça ainda que o intuito não é assustar, pois “A inteligência artificial não poderia nem ser comparada a uma pessoa, mas, sim, existem outras pessoas que estão desumanizando e nos igualando a essas ferramentas.” e fala sobre a importância de habilidades socioemocionais, que o Chat GPT não é capaz de substituir.
Rosi lembra que qualquer negócio tem impacto social e que as decisões impactam diretamente as pessoas do entorno. Porém, reforça que, com IA, a repercussão é ainda maior. “O que mudou é a nossa capacidade de ler grandes volumes de dados e tomar decisões a partir deles, seja com inteligência artificial preditiva ou generativa, então aumenta também a nossa responsabilidade enquanto tecnologistas, enquanto empresas de tecnologia, enquanto negócios baseados em tecnologia de construir tecnologia responsável.”
Quem vai pra área de computação porque gosta de exatas e acha que não vai lidar com gente, saia da área de computação porque você não vai ajudar. É tudo sobre gente. Se você não for uma pessoa preocupada com gente, você vai produzir tecnologia hostil. – Rosi
Após a fala da Rosi, Carla faz uma provocação de que precisamos “deixar de enxergar a tecnologia numa visão que é um fenômeno irrefreável que está acontecendo e vai acontecer e não há nada que possamos fazer. E passar a enxergar que existem sim pessoas decidindo os rumos da tecnologia”.
Nem sempre a gente está em um papel ou em um momento que a gente consegue questionar. Porque mesmo quando nós mulheres negras estamos em uma posição de questionamento em altos cargos de grandes empresas, se a gente começa a questionar demais, tchau. – Carla
Futuro
Para o último bloco do painel, a pergunta foi: Como vocês vislumbram futuros possíveis que façam sentido para a nossa realidade aqui do Brasil?
Carla começa falando de uma experiência pessoal, que após ter saído de “sua bolha” do eixo sul-sudeste, percebeu que “tecnologia não é somente a nossa concepção do que é tecnologia. Vai além de computação, vai além de inteligência artificial, vai além de ferramental tecnológico.” Falou ainda da percepção incorreta que muitas pessoas possuem de que populações indígenas e quilombolas não querem fazer parte desse debate. Questiona, ainda, quem define o que é o bem social? “Cada região, cada população vai ter seus próprios sistemas, suas próprias formas de trabalhar. A gente não precisa padronizar tudo. Não é assim que as coisas precisam funcionar, elas podem ser mais diversificadas.”
“Eu sonho com um mundo, com uma sociedade em que todas nós aqui possamos ter sonhos e eu acho que isso faz muita diferença.” Foi assim que Kizzy começou sua fala. Em seguida falou sobre pessoas estarem em papéis de liderança e deu o lembrete para o público: “vocês serão e podem ser [líderes] e eu acho que pode ter alguém aqui que daqui a pouco vai ocupar esse espaço.”
O meu convite aqui, mais do que falar dos meus sonhos, porque eu tenho vários e em algum momento, sim, na minha trajetória eu descobri e entendi que eu podia e deveria sonhar para que a nossa sociedade seja um pouco melhor. Eu preciso sonhar. Eu não posso deixar que meus sonhos sejam roubados por essa máquina que a gente vive de moer gente, a gente vive para sobreviver, a gente vive com várias dificuldades, a gente tem várias questões emocionais, mas eu quero que nesse momento vocês tirem ai um tempo para sonhar e pensar que sociedade vocês estão construindo e que sociedade que vocês acreditam que é possível e desejam viver. – Kizzy
Rosi, ao compartilhar seus sonhos, exalta sua ancestralidade: “Meu sonho de rainha, porque sou descendente de rainha, todas nós, todo o povo negro do Brasil é descendente de rainhas é que o Sul Global dê uma lição do que é viver em harmonia, com tecnologia amparando tudo isso, com tecnologias. O erro está justamente nessa tentativa de singularizar o que naturalmente é coletivo.”
Rosi deixa, ainda, um recado:
Eu não tô falando só pra você do presente. Eu tô falando para a CTO que você vai ser. Para a CDO que você vai ser. Para a CEO que você vai ser daqui a pouco. Para você se lembrar que tem gente aí, dentro de você: Não é você que serve a tecnologia. É a tecnologia que nos serve.
Ficou curiose e quer ver o painel na íntegra? Assista aqui!
Entenda mais sobre o tema do PrograMaria Summit 2023: Tecnologias {Re}Generativas.
Quer conhecer outros painel da PrograMaria? Saiba como foi o painel Por uma tecnologia anticapacitista
Texto por Raissa Ogashawara Revisão por Iana Chan