A União Europeia deu um passo significativo para regulamentar a inteligência synthetic ao adotar um projeto de mandato de negociação sobre o que afirma serem as “primeiras regras do mundo” sobre IA.
A Comissão do Mercado Interno do Parlamento Europeu (ITRE) e a Comissão das Liberdades Civis (LIBE) adotaram o projeto de mandato na quinta-feira (11 de maio), com 84 votos a favor, 7 contra e 12 abstenções.
As novas regras são projetadas para garantir que os sistemas de IA sejam seguros, transparentes, não discriminatórios, rastreáveis e ecologicamente corretos e sejam “supervisionados por pessoas”.
A proposta foi alterada por membros do Parlamento Europeu (MEPs) para ter uma definição uniforme de IA “projetada para ser tecnologicamente neutra, de modo que possa ser aplicada aos sistemas de IA de hoje e de amanhã”, de acordo com um Comunicado de imprensa.
A legislação segue uma abordagem baseada no risco, com fornecedores e usuários tendo obrigações específicas dependendo do nível de risco envolvido no uso da IA.
Debaixo de projeto de mandatoos sistemas de IA com “um nível inaceitável de risco para a segurança das pessoas” seriam estritamente banidos.
Isso inclui sistemas que implementam técnicas manipulativas subliminares ou propositais, exploram as vulnerabilidades das pessoas ou são usados para pontuação social, como aqueles que classificam as pessoas de acordo com seu comportamento social, standing socioeconômico e características pessoais, entre outros.
“Estamos prestes a implementar uma legislação histórica que deve resistir ao desafio do tempo. É essential construir a confiança dos cidadãos no desenvolvimento da IA, definir o caminho europeu para lidar com as mudanças extraordinárias que já estão acontecendo, bem como orientar o debate político sobre IA em nível world.”
Brando Benifei, membro do Parlamento Europeu
Na China, por exemplo, um sistema de pontuação de crédito social conhecido como ‘Sistema de Crédito Social’ monitora e classifica o comportamento de indivíduos, empresas e organizações com base em vários critérios, incluindo histórico financeiro, registros criminais, atividades on-line e comportamento social.
No remaining de 2021, a China desconectado sobre as recomendações propostas pela Unesco sobre a ética da IA. O compromisso inclui o fim de sistemas de pontuação social e outras tecnologias que são vistas como uma ameaça aos direitos humanos.
As recomendações sobre a ética da IA, adotado pelos 193 estados membros da Unesco em novembro de 2021, destacam as ações políticas que devem ser realizadas para garantir que o desenvolvimento, a implantação e o uso da IA sejam feitos de forma ética.
As novas regras propostas pela UE também cobrem esses objetivos, acrescentando mais recomendações, incluindo a proibição de “usos intrusivos e discriminatórios de sistemas de IA”, como as seguintes:
- Sistemas de identificação biométrica remota ’em tempo actual’ em espaços acessíveis ao público
- Sistemas de identificação biométrica remota ‘pós’, exceto aqueles usados pela aplicação da lei para processar crimes graves
- Sistemas de categorização biométrica que usam caracteres sensíveis, como gênero, raça, etnia, standing de cidadania, religião, orientação política
- Sistemas de policiamento preditivo baseados em perfis, localização ou comportamento criminoso passado
- Sistemas de reconhecimento de emoções em aplicação da lei, gerenciamento de fronteiras, locais de trabalho e instituições educacionais, e
- Raspagem indiscriminada de dados biométricos de mídias sociais ou imagens de CFTV para produzir bancos de dados de reconhecimento facial
Os parlamentares também adicionaram sistemas de IA para influenciar os eleitores em campanhas políticas e em sistemas de recomendação usados por plataformas de mídia social à lista de alto risco.
Outra proposta importante são requisitos adicionais de transparência para modelos de fundação generativa como GPT, como divulgar que o conteúdo foi gerado por IA.
No início deste mês, a Autoridade de Mercados e Concorrência do Reino Unido lançado uma revisão inicial de “modelos básicos de IA”, como modelos de linguagem grandes ou LLMs que alimentam o ChatGPT da OpenAI e o Bing Chat da Microsoft.
A investigação se concentra nas considerações de concorrência e proteção ao consumidor no desenvolvimento e uso desses modelos de IA.
Uma recente onda de popularidade da música gerada por IAapresentando vocais gerados por computador que imitam os de artistas reais, gerou polêmica na indústria da música.
Essas faixas acumularam milhões de streams em várias plataformas de streaming digital, levando a discussões sobre violação de direitos autorais e outras questões éticas. O uso de inteligência synthetic na criação musical levanta questões sobre o papel da tecnologia na expressão artística e o impacto no futuro da indústria musical.
Enquanto isso, no início deste ano na China, o governo elaborou propostas para restringir o desenvolvimento da Inteligência Synthetic generativa no país.
As medidas propostas, Publicados na terça-feira (11 de abril) pela Administração do Ciberespaço da China (CAC) e intitulado Medidas Administrativas para Serviços de Inteligência Synthetic Gerativase aplicaria à pesquisa, desenvolvimento e uso de produtos generativos de inteligência synthetic na China.
“Estamos prestes a implementar uma legislação histórica que deve resistir ao desafio do tempo. É essential construir a confiança dos cidadãos no desenvolvimento da IA, definir o caminho europeu para lidar com as mudanças extraordinárias que já estão acontecendo, bem como orientar o debate político sobre IA em nível world”, disse o co-relator Brando Benifei.
“Estamos confiantes de que nosso texto equilibra a proteção dos direitos fundamentais com a necessidade de fornecer segurança jurídica às empresas e estimular a inovação na Europa”, continuou Benifei.
O co-relator Dragos Tudorache (Renew, Romênia) acrescentou: “Dado o profundo impacto transformador que a IA terá em nossas sociedades e economias, a Lei da IA é provavelmente a peça legislativa mais importante neste mandato”.
“É a primeira legislação desse tipo em todo o mundo, o que significa que a UE pode liderar o caminho para tornar a IA centrada no ser humano, confiável e segura. Trabalhamos para apoiar a inovação da IA na Europa e para dar start-ups, PMEe espaço da indústria para crescer e inovar, protegendo os direitos fundamentais, fortalecendo a supervisão democrática e garantindo um sistema maduro de governança e aplicação da IA.”
O projeto de mandato de negociação ainda precisa ser aprovado por todo o Parlamento, com votação prevista para a sessão de 12 a 15 de junho.
Negócios da música em todo o mundo
