A partir de 2 de agosto entram em vigor as primeiras disposições do AI Act, a legislação da União Europeia que estabelece um quadro regulamentar para a utilização da inteligência artificial (IA). A nova fase da regulamentação introduz exigências de transparência para empresas que desenvolvem ou recorrem a estas tecnologias, procurando reforçar a confiança dos utilizadores sem comprometer a inovação.
A implementação destas regras coincide com uma expansão significativa da adoção da IA nas organizações. Segundo um estudo global da McKinsey, 88% das empresas já utilizam inteligência artificial em pelo menos uma área da sua atividade, um aumento face aos 78% registados no ano anterior.
Embora as obrigações mais rigorosas destinadas aos sistemas classificados como de alto risco apenas sejam aplicadas em dezembro de 2027, especialistas consideram que a entrada em vigor desta primeira fase terá impacto imediato nas organizações que operam no mercado europeu ou prestam serviços a clientes da União Europeia.
De acordo com André Paganuchi, Chief Technology Officer (CTO) da Performa_IT, empresa especializada em transformação digital, inteligência artificial, dados e produto, o propósito da legislação passa por criar um ambiente de maior confiança na utilização destas soluções. “O foco inicial está em garantir a transparência. Se uma pessoa está a interagir com uma IA, precisa de saber disso. Se um modelo foi treinado para determinada finalidade, isso também deve estar documentado. O objetivo é criar confiança sem impedir a inovação”, afirma.
Transparência reforçada para chatbots e IA generativa
O AI Act divide os sistemas de inteligência artificial em quatro categorias de risco. As aplicações de risco mínimo, utilizadas, por exemplo, na previsão de procura, gestão de inventário ou processos financeiros internos, mantêm-se praticamente sem novas exigências.
Já os sistemas considerados de risco limitado, como chatbots, assistentes virtuais e ferramentas de inteligência artificial generativa capazes de produzir texto ou imagens, passam a estar sujeitos a novas obrigações. As empresas deverão informar claramente os utilizadores sempre que estes estejam a interagir com uma IA, bem como manter documentação sobre o treino e o funcionamento dos modelos utilizados.
Por outro lado, as aplicações classificadas como de alto risco — nomeadamente nas áreas da saúde, educação, recrutamento, concessão de crédito ou serviços públicos — terão futuramente de cumprir requisitos mais exigentes relacionados com gestão de risco, supervisão humana, documentação técnica e avaliações de conformidade. Contudo, a entrada em vigor destas medidas foi adiada para dezembro de 2027, permitindo à União Europeia concluir a estrutura de fiscalização necessária.
Os sistemas considerados de risco inaceitável, entre os quais determinados mecanismos de pontuação social e algumas formas de identificação biométrica em tempo real, permanecem proibidos.
Regras europeias poderão influenciar empresas de outros mercados
Apesar de ser uma legislação da União Europeia, o AI Act tem um alcance que ultrapassa as fronteiras do espaço comunitário. O regulamento prevê a aplicação das suas disposições a empresas estabelecidas fora da União Europeia sempre que disponibilizem soluções de inteligência artificial a utilizadores ou organizações europeias.
Na prática, esta realidade poderá influenciar relações comerciais internacionais, à semelhança do impacto que teve o Regulamento Geral sobre a Proteção de Dados (RGPD).
Para André Paganuchi, a conformidade com o AI Act tenderá a tornar-se um fator determinante na escolha de soluções de inteligência artificial por parte das empresas. “A empresa vai comprar uma solução de IA e provavelmente vai perguntar: esta solução cumpre as exigências? Está adequada? Tal como aconteceu com o RGPD, isso tende a surgir nos contratos. Quem não conseguir demonstrar conformidade pode perder oportunidades de negócio”, salienta.
O responsável considera ainda que o sucesso da regulamentação dependerá da capacidade de equilibrar segurança e inovação. “Vejo com bons olhos a existência de algum tipo de validação. O meu receio é quando esse processo passa a impedir a inovação. A regulamentação deve funcionar como um guarda-corpo: estabelecer limites para reduzir riscos, sem dizer exatamente como a inovação deve acontecer”, conclui.
