A Inteligência Artificial (IA) tem avançado rapidamente. As possíveis utilizações de softwares de inteligência artificial generativa, como o ChatGPT – que podem produzir textos, imagens, áudios e outros tipos de conteúdo a partir de dados e palavras-chave – têm ocupado amplo espaço nas discussões realizadas em todos os segmentos da atividade humana.
Isso ocorre devido à visão de que as ferramentas de IA, se, por um lado trazem benefícios, por outro também trazem desafios para a sociedade, como a disseminação de fake news, a manipulação de pessoas e a violação de direitos, por exemplo.
É nesse contexto que fica clara a necessidade de se regulamentar o uso da IA, para garantir a segurança, a ética e a responsabilidade dos seus desenvolvedores e usuários. No Brasil, tramita no Congresso Nacional o Projeto de Lei 21/2020, que busca estabelecer os princípios, os direitos e os deveres para o uso da IA no País, bem como criar um órgão regulador e um sistema de fiscalização.
Atribuir toda a regulação do uso da IA a uma única agência nacional é visto como algo pouco razoável e pragmático por diversos especialistas, que defendem a existência de uma coordenação geral, com regulamentações específicas sendo feitas pelas agências e órgãos reguladores setoriais.
Nos Estados Unidos, a proposição de princípios regulatórios para o setor de seguros
A NAIC – Associação Nacional dos Reguladores de Seguros dos Estados Unidos (1) – constituiu em 2019 um Grupo de Trabalho de Big Data e Inteligência Artificial com o objetivo de estudar o desenvolvimento da inteligência artificial, seu uso no setor de seguros e seu impacto na proteção e privacidade do consumidor, dinâmica do mercado e aspectos do marco regulatório de seguros. Os princípios regulatórios sobre inteligência artificial propostos pelo Grupo foram adotados por todos os membros do NAIC em meados de 2020.
Esses princípios devem ser interpretados e aplicados de forma a acomodar o ritmo de mudança no uso da IA pelo setor de seguros e promover a inovação, enquanto protege o consumidor:
1. Justiça e Ética
As leis e normas devem ser respeitadas por todos os envolvidos durante o ciclo de vida das ferramentas de IA. Isso inclui, além do conjunto normativo específico para a atividade seguradora, leis e normas relacionadas a práticas comerciais, discriminação injusta, acesso a seguros, subscrição, privacidade, proteção ao consumidor e práticas de elegibilidade, padrões de tarifação, decisões de publicidade, práticas de sinistros e solvência, por exemplo.
Os sistemas de IA não devem ser projetados para prejudicar ou enganar as pessoas e devem ser implementados de maneira a evitar consequências prejudiciais ou não intencionais, quando ocorrerem, deverão ser corrigidos e as consequências remediadas.
2. Responsabilidade
Todos os intervenientes devem assegurar que os sistemas de IA operem em conformidade com os princípios estabelecidos e os requisitos legais. Devem assegurar, também, que os dados que apoiam o resultado final de um aplicativo de IA sejam obtidos e utilizados de acordo com as leis e regulamentos de seguros.
Eles devem ser responsáveis pelos impactos de qualquer sistema de IA, ainda que não sejam intencionais. É de sua responsabilidade, também, implementar mecanismos e salvaguardas consistentes com o grau e a natureza dos riscos apresentados pela IA para garantir que todas as leis e regulamentos aplicáveis sejam seguidos, incluindo monitoramento contínuo e intervenção humana, quando apropriado.
3. Conformidade
Os intervenientes em sistemas de IA devem ter o conhecimento e os recursos para cumprir todas as leis e regulamentos de seguros aplicáveis, reconhecendo que o seguro é regulado principalmente por estados e territórios individuais dos Estados Unidos e pelo Governo Federal. A conformidade é vista como um processo contínuo e é necessária, independentemente de a violação ser intencional ou não. Os sistemas de IA devem ser consistentes com as leis aplicáveis e proteger contra resultados que sejam injustamente discriminatórios ou que violem padrões legais – incluindo leis e regulamentos de privacidade e segurança de dados.
4. Transparência
Os intervenientes devem se comprometer com a transparência e divulgações responsáveis sobre os sistemas de IA para as partes interessadas relevantes, protegendo a confidencialidade dos algoritmos proprietários e cumprindo as leis e regulamentos. As partes interessadas, incluindo reguladores e consumidores, devem ter uma maneira de consultar, revisar e buscar recursos para decisões de seguro baseadas em IA. As informações fornecidas devem ser fáceis de entender e apropriadas para as diferentes partes interessadas aplicáveis, descrevendo os fatores que levaram a uma previsão, recomendação ou decisão.
5. Segurança
Os sistemas de IA devem ser robustos, seguros e protegidos durante todo o seu ciclo de vida. Eles devem funcionar em conformidade com as leis e regulamentos aplicáveis e garantir um nível razoável de rastreabilidade em relação a conjuntos de dados, processos e decisões tomadas durante o ciclo de vida do sistema de IA.
Deve ser possível a análise dos resultados, respostas e outras consultas relacionadas a seguros do sistema de IA, de acordo com as melhores práticas aplicáveis do setor e requisitos legais. Todos os envolvidos devem aplicar uma abordagem sistemática de gerenciamento de riscos a cada fase do ciclo de vida do sistema de IA tratando os riscos relacionados – incluindo privacidade, segurança digital e discriminação injusta, conforme definido pelas leis e regulamentos aplicáveis.
(1) A NAIC (National Association of Insurance Commissioners) é uma organização que apoia os reguladores de seguros estaduais dos Estados Unidos e protege os consumidores e os mercados de seguros
Fonte: com informações disponíveis no site da NAIC
Cursos relacionados da Conhecer Seguros:
>> Lei Geral de Proteção de Dados no Setor de Seguros
>> Lei Geral de Proteção de Dados e as Operadoras de Planos de Saúde
>> Combo: LGPD no Setor de Seguros e Operadoras de Planos de Saúde
Veja também:
Atividades jurídicas, assim como as de seguros, estão sob risco com o ChatGPT
ChatGPT: ameaças e oportunidades para corretores de seguros
Conheça cinco aplicações do ChatGPT no jurídico e os cuidados para usar a tecnologia
