Regulamento cria classificação de risco e traz requisitos de transparência e governança para sistemas de IA
O Parlamento Europeu aprovou, em 13 de março, regulamento que disciplina o uso da Inteligência Artificial (IA), estabelecendo um marco importante para o setor. A regulação busca equilibrar a inovação tecnológica com a proteção dos direitos fundamentais, a democracia e a sustentabilidade ambiental, estabelecendo diretrizes claras para a categorização de aplicações de IA com base em seus potenciais riscos e impactos, com o objetivo de tornar a Europa um líder no campo da IA responsável e segura.
Dentre as disposições da nova legislação, algumas aplicações de IA são categoricamente proibidas devido aos riscos que representam para os direitos dos cidadãos. Isso inclui sistemas de identificação biométrica baseados em características sensíveis, classificação social, e IA que manipula comportamentos ou explora vulnerabilidades humanas. Para o setor de seguros e financeiro, essas regras reforçam a necessidade de transparência e ética no uso de tecnologias, impactando diretamente na forma como as empresas desenvolvem e implementam soluções de IA.
O regulamento abrange sistemas de IA que operam em diversos contextos, desde softwares de reconhecimento facial até algoritmos que tomam decisões automatizadas sobre crédito ou seguros. A norma classifica os sistemas de IA em quatro categorias de risco: inaceitável, alto, baixo e mínimo.
– Sistemas proibidos: sistemas de IA que representam um risco inaceitável para a segurança, saúde ou direitos fundamentais dos cidadãos são proibidos. Isso inclui, por exemplo, sistemas de pontuação social que discriminam grupos específicos de pessoas.
– Obrigações para sistemas de alto risco: a legislação define obrigações específicas para sistemas de IA considerados de alto risco, que podem afetar a saúde, a segurança e outros direitos fundamentais. No contexto de seguros e finanças, isso pode envolver a utilização de IA em avaliações de risco, gestão de ativos e decisões de crédito, exigindo que tais sistemas sejam transparentes, exatos e sujeitos à supervisão humana.
– Obrigações para sistemas de risco baixo e mínimo: esses sistemas também estão sujeitos a obrigações, como a necessidade de serem transparentes sobre seu funcionamento e de fornecer informações claras aos usuários sobre como seus dados são coletados e utilizados.
Requisitos adicionais de transparência e governança também são impostos aos modelos de IA mais poderosos, o que é essencial para o setor financeiro, que se baseia na confiança e na clareza para a realização de suas operações. Isso inclui a necessidade de se poder explicar as razões nas decisões automatizadas e a garantia de que os conteúdos gerados ou manipulados por IA sejam devidamente identificados, aspectos essenciais para manter a integridade e a confiança no ambiente digital.
O regulamento agora segue para etapas finais de aprovação e implementação, com expectativa de que influencie não apenas a inovação tecnológica, mas também promova práticas de negócios mais éticas e transparentes. Para o Brasil, alinhar-se a esses padrões internacionais pode ser um diferencial competitivo, além de reforçar a proteção e confiança do consumidor em serviços de seguros, finanças e gestão
O texto integral da Resolução Legislativa do Parlamento Europeu pode ser acessado aqui
Fonte: com informações do Parlamento Europeu
Veja também
>>> Guerra cibernética, realidade tangível: como se antecipar?
>>> Tecnologias digitais: desafios e oportunidades de seguros em 2024
>>> O Open Insurance como fronteira do empreendedorismo digital
>>> O poder da personalização em serviços financeiros
