Para dar destaque merecido - e atrasado - às mulheres acadêmicas e outras focadas em IA, a TechCrunch está lançando uma série de entrevistas focadas em mulheres notáveis que contribuíram para a revolução da IA. Publicaremos peças ao longo do ano conforme o boom da IA continua, destacando trabalhos-chave que muitas vezes passam despercebidos. Leia mais perfis Emilia Gómez é investigadora principal no Centro Comum de Investigação da Comissão Europeia e coordenadora científica do AI Watch, a iniciativa da CE para monitorar os avanços, adoção e impacto da IA na Europa. Sua equipe contribui com conhecimento científico e técnico para as políticas de IA da CE, incluindo o recentemente proposto AI Act. A pesquisa de Gómez está alicerçada no campo da música computacional, onde ela contribui para a compreensão da forma como os seres humanos descrevem música e os métodos nos quais ela é modelada digitalmente. Partindo do domínio da música, Gómez investiga o impacto da IA no comportamento humano - em particular os efeitos em empregos, decisões e desenvolvimento cognitivo e socioemocional infantil. De forma breve, como você começou na área de IA? O que a atraiu para o campo? Comecei minha pesquisa em IA, em particular em aprendizado de máquina, como desenvolvedora de algoritmos para a descrição automática de sinais de áudio de música em termos de melodia, tonalidade, similaridade, estilo ou emoção, que são explorados em diferentes aplicações de plataformas musicais à educação. Comecei a pesquisar como projetar abordagens novas de aprendizado de máquina lidando com diferentes tarefas computacionais no campo da música, e sobre a importância do pipeline de dados incluindo a criação e anotação de conjuntos de dados. O que me interessava na época no aprendizado de máquina eram suas capacidades de modelagem e a transição de um desenvolvimento baseado em conhecimento para um baseado em dados - por exemplo, em vez de projetar descritores com base em nosso conhecimento de acústica e música, estávamos agora usando nosso know-how para projetar conjuntos de dados, arquiteturas e procedimentos de treinamento e avaliação. Da minha experiência como pesquisadora de aprendizado de máquina, e vendo meus algoritmos "em ação" em diferentes domínios, de plataformas musicais a concertos de música sinfônica, percebi o enorme impacto que esses algoritmos têm nas pessoas (por exemplo, ouvintes, músicos) e direcionei minha pesquisa para a avaliação de IA em vez do desenvolvimento, em particular estudando o impacto da IA no comportamento humano e como avaliar sistemas em termos de aspectos como justiça, supervisão humana ou transparência. Esse é o tópico de pesquisa atual da minha equipe no Centro Comum de Investigação. Com que trabalho você mais se orgulha (no campo da IA)? No lado acadêmico e técnico, me orgulho de minhas contribuições para arquiteturas de aprendizado de máquina específicas para música no Grupo de Tecnologia Musical em Barcelona, que avançaram o estado da arte no campo, como reflete em meus registros de citação. Por exemplo, durante meu doutorado, propus um algoritmo baseado em dados para extrair tonalidade de sinais de áudio (por exemplo, se uma peça musical está em Dó maior ou Ré menor) que se tornou uma referência chave no campo, e mais tarde co-projetei métodos de aprendizado de máquina para a descrição automática de sinais de música em termos de melodia (por exemplo, usado para buscar músicas cantarolando), tempo ou para a modelagem de emoções na música. A maioria desses algoritmos está integrada ao Essentia, uma biblioteca de código aberto para análise, descrição e síntese de áudio e música e tem sido explorada em muitos sistemas de recomendação. Sou especialmente orgulhosa do projeto Banda Sonora Vital (LifeSoundTrack), um projeto premiado com o Prêmio da Cruz Vermelha para Tecnologias Humanitárias, onde desenvolvemos um recomendador de música personalizado adaptado para pacientes idosos com Alzheimer. Também há o PHENICX, um grande projeto financiado pela União Europeia (UE) que coordenei sobre o uso de música e IA para criar experiências enriquecidas de música sinfônica. Eu amo a comunidade de computação musical e fiquei feliz em me tornar a primeira presidente feminina da Sociedade Internacional para a Recuperação de Informação Musical, à qual tenho contribuído ao longo de toda minha carreira, com um interesse especial em aumentar a diversidade no campo. Atualmente, em minha função na Comissão, para a qual entrei em 2018 como cientista líder, forneço suporte científico e técnico às políticas de IA desenvolvidas na UE, principalmente o AI Act. A partir desse trabalho recente, que é menos visível em termos de publicações, me orgulho de minhas modestas contribuições técnicas para o AI Act - digo "modestas" porque você pode imaginar que muitas pessoas estão envolvidas aqui! Como exemplo, há muito trabalho que contribuí para a harmonização ou tradução entre termos jurídicos e técnicos (por exemplo, propondo definições fundamentadas na literatura existente) e na avaliação da implementação prática de requisitos legais, como transparência ou documentação técnica para sistemas de IA de alto risco, modelos de IA de propósito geral e IA generativa. Também me orgulho bastante do trabalho da minha equipe em apoiar a diretiva de responsabilidade de IA da UE, onde estudamos, entre outros, características particulares que tornam os sistemas de IA inerentemente arriscados, como falta de causalidade, opacidade, imprevisibilidade ou suas capacidades de autoaprendizagem e contínuas, e avaliam as dificuldades associadas quando se trata de provar a causalidade. Como você navega pelos desafios da indústria tecnológica dominada por homens e, por extensão, pela indústria de IA dominada por homens? Não é apenas tecnologia - estou também navegando por um campo de pesquisa e políticas de IA dominado por homens! Não tenho uma técnica ou estratégia, pois é o único ambiente que conheço. Não sei como seria trabalhar em um ambiente diversificado ou dominado por mulheres. "Não seria bom?", como diz a música dos Beach Boys. Sinceramente, tento evitar a frustração e me divertir neste cenário desafiador, trabalhando em um mundo dominado por caras muito assertivos e desfrutando da colaboração com excelentes mulheres no campo. Que conselho você daria para mulheres que desejam entrar no campo da IA? Eu diria duas coisas para elas: Vocês são muito necessárias - entrem em nosso campo, pois há uma necessidade urgente de diversidade de visões, abordagens e ideias. Por exemplo, de acordo com o projeto divinAI - um projeto que co-fundei sobre monitoramento da diversidade no campo da IA - apenas 23% dos nomes de autores na Conferência Internacional sobre Aprendizado de Máquina e 29% na Conferência Internacional Conjunta sobre IA em 2023 eram femininos, independentemente de sua identidade de gênero. Vocês não estão sozinhas - há muitas mulheres, colegas não binárias e aliados masculinos no campo, embora possamos não ser tão visíveis ou reconhecidas. Procure por elas e receba seu mentoring e apoio! Nesse contexto, há muitos grupos de afinidade presentes no campo de pesquisa. Por exemplo, quando me tornei presidente da Sociedade Internacional para Recuperação de Informação Musical, fui muito ativa na iniciativa Women in Music Information Retrieval, pioneira em esforços de diversidade na computação musical com um programa de mentoria muito bem-sucedido. Quais são os problemas mais prementes enfrentados pela IA à medida que evolui? Na minha opinião, os pesquisadores devem dedicar tantos esforços ao desenvolvimento de IA quanto à sua avaliação, pois agora há uma falta de equilíbrio. A comunidade de pesquisa está tão ocupada avançando o estado da arte em termos de capacidades e desempenho de IA e tão empolgada em ver seus algoritmos sendo usados no mundo real que se esquece de fazer avaliações adequadas, avaliações de impacto e auditorias externas. Quanto mais inteligentes forem os sistemas de IA, mais inteligentes suas avaliações devem ser. O campo de avaliação de IA é pouco estudado, e isso é a causa de muitos incidentes que dão má reputação à IA, como viés de gênero ou racial presentes em conjuntos de dados ou algoritmos. Quais são alguns problemas dos quais os usuários de IA devem estar cientes? Os cidadãos que usam ferramentas baseadas em IA, como chatbots, devem saber que a IA não é mágica. A inteligência artificial é um produto da inteligência humana. Eles devem aprender sobre os princípios de funcionamento e limitações dos algoritmos de IA para serem capazes de desafiá-los e usá-los de forma responsável. Também é importante que os cidadãos sejam informados sobre a qualidade dos produtos de IA, como são avaliados ou certificados, para que saibam em quais podem confiar. Qual é a melhor maneira de construir IA de forma responsável? Em minha opinião, a melhor maneira de desenvolver produtos de IA (com um bom impacto social e ambiental e de forma responsável) é dedicar os recursos necessários à avaliação, à avaliação do impacto social e à mitigação de riscos - por exemplo, aos direitos fundamentais - antes de colocar um sistema de IA no mercado. Isso é para o benefício das empresas e da confiança nos produtos, mas também da sociedade. A IA responsável ou confiável é uma maneira de construir algoritmos onde aspectos como transparência, justiça, supervisão humana ou bem-estar social e ambiental precisam ser abordados desde o início do processo de design de IA. Nesse sentido, o AI Act não apenas estabelece o padrão para regulamentar a inteligência artificial em todo o mundo, mas também reflete a ênfase europeia na confiança e transparência - possibilitando a inovação enquanto protege os direitos dos cidadãos. Sinto que isso aumentará a confiança dos cidadãos no produto e na tecnologia.Q&A
