Gabriela Surita faz uma introdução ao campo do processamento de linguagem através da história, política e tecnologia, para refletir sobre os chatbots modernos; saiba mais
Para muitos, usar o ChatGPT pela primeira vez pareceu um passe de mágica. Mas, como todo passe de mágica, com um olhar mais atento, é possível, ao mesmo tempo, apreciar sua beleza e ver seus truques, limitações e falhas.
Quem nos guia nesse processo é Gabriela Surita, engenheira de pesquisa e desenvolvimento da Google Deepmind. Para dissecar os chatbots modernos, ela faz um recorrido histórico, apresentando técnicas e métodos que levaram à geração atual de modelos de linguagem.
Ela começa a partir das “máquinas que pensam” dos anos 50, citando Alan Turing e o seu jogo da imitação, e retomando a teoria matemática da comunicação de Claude Shannon. “Para que uma comunicação seja bem-sucedida, Shannon fala que transmissor e receptor tem que ser igualmente importantes, da perspectiva da decodificação”, lembra Surita.
Sobre as representações vetoriais de palavras, a engenheira fala de técnicas como bag-of-words (saco de palavras), TF-IDF, Word embeddings (Vetores de palavras). E, por fim, explica as abordagens para modelagem e geração de sequências como redes neurais (RNNs) e Transformers.
Para tornar o aprendizado mais interessante, Surita também dá dicas de exercícios que podem ser feitos para testar essas técnicas e de ferramentas do dia-a-dia que as utilizam – como os autocomplete de celulares.
Por meio dessa introdução ao campo do processamento de linguagem através da história, política e tecnologia, a engenheira consegue não só apresentar uma visão holística sobre o campo e fornecer vocabulário e referências para quem quiser se aprofundar em um ou mais temas relacionados, como também fazer uma análise crítica e reflexiva sobre o assunto do momento.
“Acho mais interessante pensar em uma IA que aumente a nossa humanidade ou inteligência, e não que a imite. Convido vocês a pensar em como podemos fugir um pouco dessa armadilha de Turing, e trazer aplicações e usos dessas tecnologias que sejam mais interessantes a longo prazo”, propõe.
Confira tudo no vídeo abaixo:
Acesse aqui a apresentação de Gabriela Surita
Autora Gabriela Surita trabalha na Google Deepmind como engenheira de pesquisa e desenvolvimento. Tem dez anos de experiência no mercado de engenharia de software, sendo os últimos quatro focados em inteligência artificial, aprendizado de máquina e processamento de linguagem natural. Para além do trabalho técnico, é crítica das filosofias e mitos do Vale do Silício. Adora trilhas no meio do mato e um bom boteco com amigos. Revisora Stephanie Kim Abe é jornalista, formada pela Escola de Comunicações e Artes da Universidade de São Paulo (ECA-USP). Trabalha na área de Educação e no terceiro setor. Esteve nos primórdios da Programaria, mas testou as águas da programação e achou que não era a sua praia. Mas isso foi antes do curso Eu Programo…
Este conteúdo faz parte da Programaria Sprint Dados: Ampliando as Fronteiras.
Sensacional, Gabriela!
Obrigada por compartilhar uma visão crítica tão bem elaborada e fundamentada.
Incrível, amei sua aula.
Gratidão