Sistema de IA de alto risco

O artigo 6 do AI Act define dois caminhos para o alto risco. O primeiro abrange a IA que é um produto, ou componente de segurança de um produto, já regido pela legislação de harmonização da UE e sujeito a avaliação da conformidade por terceiros, como dispositivos médicos ou máquinas. O segundo abrange os usos listados no Anexo III, entre eles biometria, infraestrutura crítica, educação, emprego, acesso a serviços essenciais como crédito e seguros, aplicação da lei, migração e administração da justiça. Um sistema do Anexo III pode escapar da classificação se executar apenas tarefa restrita ou preparatória e não influenciar materialmente decisões, mas sistemas que fazem perfilamento de pessoas continuam sendo de alto risco.

Fornecedores de sistemas de alto risco precisam manter um sistema de gestão de riscos, governar os dados de treinamento, manter documentação técnica e registros, projetar para a supervisão humana, alcançar exatidão e robustez adequadas, passar por avaliação da conformidade e apor a marcação CE. Responsáveis pela implantação devem usar o sistema conforme as instruções, designar supervisão humana competente e, em certos casos, realizar uma avaliação de impacto sobre direitos fundamentais.