A União Europeia advertiu a Microsoft que ela pode ser multada em até 1% de seu faturamento global anual sob o regime de governança online do bloco, a Lei de Serviços Digitais (DSA), após a empresa não responder a um pedido legalmente vinculante de informações (RFI) que se concentrava em suas ferramentas de inteligência artificial generativa.

Em março, a UE havia solicitado à Microsoft e a outras grandes empresas de tecnologia informações sobre os riscos sistêmicos decorrentes das ferramentas de inteligência artificial generativa. Na sexta-feira, a Comissão afirmou que a Microsoft não tinha fornecido alguns dos documentos solicitados.

A Comissão deu à empresa até 27 de maio para fornecer os dados solicitados ou correr o risco de aplicação da lei. Multas sob a DSA podem chegar a 6% da receita global anual, mas a informação incorreta, incompleta ou enganosa fornecida em resposta a um RFI formal pode resultar em uma multa isolada de 1%. Isso poderia chegar a uma penalidade de até alguns bilhões de dólares no caso da Microsoft - a empresa relatou uma receita de US$ 211,92 bilhões no ano fiscal encerrado em 30 de junho de 2023.

As obrigações de riscos sistêmicos das plataformas maiores sob a DSA são supervisionadas pela Comissão em si, e esta advertência se soma a um arsenal de opções de execução poderosas que podem ser muito mais caras para a Microsoft do que qualquer dano reputacional que possa sofrer por não produzir dados a pedido.

A Comissão disse que está faltando informações relacionadas aos riscos provenientes das funcionalidades de inteligência artificial generativa do mecanismo de busca Bing - especialmente, o regulador destacou o assistente de IA 'Copilot no Bing' e a ferramenta de geração de imagem 'Gerador de Imagens por Designer'.

A UE afirmou estar especialmente preocupada com quaisquer riscos que as ferramentas possam representar para o discurso cívico e os processos eleitorais.

A Comissão deu à Microsoft até 27 de maio para fornecer as informações em falta ou correr o risco de uma multa de 1% da receita anual. Se a empresa não fornecer os dados até então, a Comissão também pode impor penalidades periódicas de até 5% de sua receita diária média ou faturamento anual global.

O Bing foi designado como um 'mecanismo de busca online muito grande' (VLOSE) sob a DSA em abril de 2023, o que significa que está sujeito a uma camada extra de obrigações relacionadas à mitigação de riscos sistêmicos como a desinformação.

A obrigação da DSA de plataformas maiores de mitigar a desinformação coloca as tecnologias de inteligência artificial generativa no centro das atenções. As gigantes da tecnologia têm estado na vanguarda da incorporação de GenAI em suas plataformas mainstream, apesar de falhas gritantes, como a tendência de grandes modelos de linguagem (LLMs) de fabricar informações enquanto as apresentam como fatos.

As ferramentas de geração de imagens com inteligência artificial também mostraram produzir saídas racialmente tendenciosas ou potencialmente prejudiciais, como deepfakes enganosos. Enquanto isso, a UE tem uma eleição marcada para o próximo mês, o que está concentrando a atenção em Bruxelas na desinformação política alimentada pela IA.

'O pedido de informações é baseado na suspeita de que o Bing pode ter violado a DSA devido a riscos associados à inteligência artificial generativa, como os chamados ‘alucinações’, a disseminação viral de deepfakes, bem como a manipulação automatizada de serviços que podem induzir em erro os eleitores', escreveu a Comissão em comunicado à imprensa.

'Nos termos da DSA, os serviços designados, incluindo o Bing, devem conduzir uma avaliação de risco adequada e adotar medidas de mitigação de risco correspondentes (Artigos 34 e 35 da DSA). A inteligência artificial generativa é um dos riscos identificados pela Comissão em suas diretrizes sobre a integridade dos processos eleitorais, particularmente para as próximas eleições para o Parlamento Europeu em junho.'

Ao ser contatada para comentar, um porta-voz da Microsoft enviou uma declaração na qual afirma estar 'profundamente comprometida em criar experiências seguras online e trabalhar com reguladores sobre este tópico importante'.

A Microsoft também escreveu: 'Temos colaborado plenamente com a Comissão Europeia como parte do pedido voluntário de informações e permanecemos comprometidos em responder às suas perguntas e compartilhar mais sobre nossa abordagem à segurança digital e conformidade com a DSA'. A empresa acrescentou: 'Por meio de nossa ampla gama de serviços online, tomamos medidas para medir e mitigar potenciais riscos. Isso inclui uma série de ações para preparar nossas ferramentas para as eleições de 2024 e ajudar a proteger os eleitores, candidatos, campanhas e autoridades eleitorais. Continuaremos a colaborar com nossos pares do setor como parte do Compromisso Tecnológico para Combater o Uso Enganoso da IA nas Eleições de 2024'.

Este relatório foi atualizado com comentários da Microsoft