A partir de 02/02/2025, os Capítulos I e II do EU AI Act passaram a vigorar. Essa nova fase traz importantes mudanças sobre letramento de IA e práticas proibidas no uso de inteligência artificial.
Trata-se de um marco regulatório da União Europeia que estabelece diretrizes para o desenvolvimento e a aplicação de sistemas de inteligência artificial, garantindo segurança, transparência e ética na sua utilização.
Letramento de IA (Artigo 4º)
O Artigo 4º foca na capacitação e no entendimento das tecnologias de IA. Ele exige que empresas e profissionais estejam aptos a compreender os fundamentos e implicações dos sistemas de IA, promovendo um uso mais consciente e responsável.
Por que investir no letramento de IA?
- Transparência: Usuários têm direito a compreender como as decisões são tomadas.
- Responsabilidade: Empresas devem capacitar seus colaboradores para avaliar riscos e benefícios.
- Confiabilidade: Um ambiente mais informado gera confiança no uso da tecnologia.
LEIA TAMBÉM: Do Blueprint à execução: Uma análise da estratégia americana para governança da Inteligência Artificial
Práticas Proibidas (Artigo 5º)
O Artigo 5º estabelece quais práticas não serão permitidas na utilização de sistemas de IA. O foco é evitar a implementação de soluções que possam colocar em risco os direitos e liberdades fundamentais dos cidadãos.
O que está vedado?
Entre as práticas proibidas, destacam-se:
- Manipulação de comportamentos: Sistemas que influenciem decisões pessoais de forma indevida.
- Discriminação: Algoritmos que possam reforçar preconceitos ou desigualdades.
- Violação de privacidade: Utilização de dados sem o devido consentimento, quando necessário, ou garantia de transparência com o titular do dado.
- Sistemas de vigilância em massa sem critérios claros: Soluções que possam comprometer a liberdade individual.
- Tomada de decisão automatizada sem supervisão humana: Processos que eliminem o controle humano, potencializando erros e vieses.
- Uso de IA para manipulação de informações: Algoritmos destinados à disseminação de desinformação ou manipulação de opinião pública.
As novas disposições do EU AI Act exigem uma revisão nos processos e estratégias de diversas empresas, impactando setores como tecnologia, finanças, saúde e indústria. Essa regulamentação impõe um novo patamar de exigências quanto à transparência, segurança e ética, estimulando a inovação responsável e a competitividade no mercado global.
VEJA MAIS: Aplicações de inteligência artificial potencializam o ESG
As empresas brasileiras que operam ou colaboram com parceiros na União Europeia também vão precisar estar atentas às novas exigências do EU AI Act. Essa legislação impõe padrões rigorosos de transparência, ética e segurança na utilização de sistemas de inteligência artificial, não só para quem está na União Europeia e isso inclui:
- Adequação de Processos: Revisão e adaptação dos fluxos de dados e controles internos para garantir conformidade com as normas europeias.
- Capacitação e Inovação: Investimento em treinamento e atualização tecnológica para atender aos critérios de letramento e supervisão de IA.
- Competitividade Global: Alinhamento às melhores práticas internacionais, fortalecendo a reputação e ampliando as oportunidades no mercado global.
Nosso escritório está acompanhando de perto as mudanças trazidas pelo EU AI Act. Se você tem dúvidas ou precisa de consultoria para se adequar às novas exigências, entre em contato conosco. Estamos prontos para ajudar a transformar desafios em oportunidades.
