Inteligência Artificial: Quem é responsável por decisões automatizadas?

Com o aumento do uso de IA, as questões sobre responsabilidade jurídica têm ganhado relevância, e as empresas precisam estar atentas ao impacto legal dessa tecnologia.

O que é responsabilidade jurídica no uso de Inteligência Artificial?

A responsabilidade jurídica refere-se à obrigação de responder por ações ou omissões que possam causar danos a terceiros. No contexto de IA, isso pode acontecer quando decisões automatizadas resultam em prejuízos financeiros, discriminação ou violação de direitos. Empresas que utilizam sistemas de IA podem ser responsabilizadas, tanto no Brasil quanto em outras jurisdições, especialmente quando a tecnologia falha ou age de forma inesperada.

Leis aplicáveis no Brasil

Embora o Brasil ainda não tenha uma legislação específica para a IA, várias normas vigentes podem ser aplicadas. Entre as principais estão:

• Código de Defesa do Consumidor (CDC): O CDC impõe responsabilidade objetiva às empresas sobre os produtos e serviços que fornecem, o que inclui tecnologias de IA. Se um consumidor for prejudicado por decisões automatizadas de IA, a empresa pode ser responsabilizada.

• Lei Geral de Proteção de Dados (LGPD): A LGPD estabelece regras para o tratamento de dados pessoais, frequentemente usados para alimentar algoritmos de IA. Se a IA processar dados de forma inadequada ou violar direitos de privacidade, a empresa pode ser penalizada. A LGPD também exige que as empresas assegurem medidas de segurança adequadas para proteger os dados dos titulares.

  
  

• Marco Civil da Internet: Embora focado na regulação do uso da internet, o Marco Civil pode ser aplicado a plataformas digitais que utilizam IA, especialmente no que diz respeito à proteção da privacidade e responsabilidade por conteúdos automatizados.

  
  

• Responsabilidade Civil: Conforme o artigo 927 do Código Civil, a empresa pode ser obrigada a reparar danos causados por decisões de IA, seja por erro de programação, má implementação ou até falha em supervisionar a tecnologia.

  
  

Jurisprudências relevantes

Decisões judiciais que envolvem tecnologia e algoritmos começam a apontar como o Judiciário brasileiro pode lidar com IA. Casos recentes em plataformas de transporte e fintechs, por exemplo, mostram que empresas que utilizam IA podem ser responsabilizadas por decisões automatizadas que afetam consumidores. No exterior, em especial nos Estados Unidos e Europa, já existem decisões sobre discriminação por algoritmos e falhas de segurança, que podem influenciar o debate no Brasil.

Projeto de Lei para Regulação de IA no Brasil

O cenário regulatório de IA no Brasil está em evolução. Em junho de 2023, a Câmara dos Deputados aprovou o Projeto de Lei 2.338/2023, que estabelece diretrizes para o uso de IA no país. O projeto busca garantir o desenvolvimento seguro e ético da tecnologia, estabelecendo uma estrutura regulatória para mitigar os riscos e promover inovação.

Entre os principais pontos do projeto, estão:

• Classificação de sistemas de IA por risco: O PL propõe a categorização dos sistemas de IA conforme seu grau de risco, com diferentes níveis de controle para IA de baixo, médio e alto risco. As empresas que operam IA de alto risco, como aquelas usadas em saúde ou justiça, deverão seguir protocolos mais rigorosos.

• Transparência e supervisão: O projeto enfatiza a necessidade de garantir a transparência das decisões tomadas por IA, exigindo que as empresas expliquem como funcionam seus sistemas e quais são os impactos dessas decisões. A supervisão humana continua sendo essencial para evitar abusos e erros por parte dos algoritmos.

• Responsabilidade objetiva: No caso de danos causados por IA, a responsabilidade objetiva da empresa que desenvolveu ou utilizou a tecnologia será aplicada. Isso significa que, mesmo sem culpa direta, a empresa poderá ser obrigada a indenizar os prejudicados.

  
  

Esse projeto de lei segue a tendência global de criar uma regulamentação específica para IA, inspirada em legislações da União Europeia, que também busca garantir que as inovações tecnológicas respeitem direitos fundamentais, como privacidade e não discriminação.

Como minimizar riscos legais no uso de IA?

Para que sua empresa faça uso de IA de maneira segura e dentro da legalidade, é essencial adotar as seguintes medidas preventivas:

• Compliance com a LGPD: A IA deve estar em conformidade com as regras de proteção de dados pessoais, garantindo que os dados sejam tratados de forma ética e segura, com o devido consentimento dos titulares.

• Treinamento de algoritmos: Empresas precisam garantir que os algoritmos sejam treinados com dados imparciais, evitando a perpetuação de vieses e discriminação. Casos de algoritmos enviesados têm gerado processos judiciais em outros países, especialmente na área de recrutamento e concessão de crédito.

• Supervisão humana: Em áreas críticas, a supervisão humana deve complementar o uso de IA, especialmente quando as decisões podem impactar diretamente a vida dos consumidores.

• Contratos bem redigidos: Ao contratar ou desenvolver sistemas de IA, as empresas devem incluir cláusulas contratuais que limitem a responsabilidade dos fornecedores de tecnologia, mitigando os riscos de responsabilização exclusiva do usuário final.

  
  

Em outras palavras...

O uso de IA oferece grandes oportunidades para as empresas, mas também traz desafios jurídicos que não podem ser ignorados. Com a iminente aprovação de um marco regulatório específico no Brasil, as empresas precisarão estar ainda mais atentas às obrigações legais.

Se a sua empresa utiliza ou pretende adotar IA, é essencial buscar orientação jurídica especializada para garantir que as inovações estejam alinhadas com a legislação vigente e as melhores práticas de responsabilidade corporativa.