A adoção de inteligência artificial deixou de ser uma decisão exclusivamente tecnológica. Envolve supervisão humana, transparência e prestação de contas, e exige critérios definidos antes, durante e depois da implementação, sob pena de a organização responder por decisões que não é capaz de explicar. A Borelli Advogados estrutura a governança de sistemas automatizados desde a escolha do fornecedor até a documentação que sustenta cada decisão automatizada perante clientes, titulares e autoridades.
Escopo de atuação
- Estruturação de programas de governança de inteligência artificial, com política de uso, instância responsável pela aprovação de casos de uso e trilha de decisão documentada.
- Classificação de riscos por caso de uso e definição de medidas proporcionais de mitigação, supervisão humana e controle de qualidade dos resultados.
- Avaliação de impacto algorítmico, com atenção a vieses, efeitos discriminatórios, explicabilidade e impactos sobre grupos vulneráveis.
- Revisão de contratos e relações com fornecedores de tecnologias de IA sob a ótica de responsabilidade, transparência, titularidade dos resultados, uso de dados para treinamento e limitações de uso.
- Regras de transparência e de informação ao usuário sobre a interação com sistemas automatizados e sobre decisões tomadas de forma automatizada.
- Uso de inteligência artificial em produtos e serviços com acesso provável por crianças e adolescentes, com parâmetros reforçados de segurança e desenho responsável.
- Uso de inteligência artificial em ambiente escolar e corporativo, com regras de utilização por equipes, limites de inserção de dados e critérios de verificação humana. — Acompanhamento da evolução normativa nacional e internacional e ajuste periódico dos controles internos.