O Desafio de Mapear o Uso de IA
Praticamente todo e qualquer guia ou framework de mercado em Inteligência Artificial (IA) vai afirmar o seguinte: o primeiro passo para se estabelecer uma governança no tema é mapear os sistemas da organização que utilizam IA.
A instrução é clara, mas sua implementação, no entanto, não passa perto de ser algo trivial, sobretudo para as grandes empresas.
Neste artigo, explorarei alguns complicadores desse desafio, expondo ao final sugestões para lidar com essa árdua tarefa.
DEFINIÇÃO DE IA
O primeiro desafio para implementação de governança em IA no contexto de uma organização passa por se ter uma definição clara do que é IA, o que já torna a tarefa dos profissionais que lidam com o tema muito mais árdua do que é implementar uma governança em proteção de dados.
Se, por um lado, o conceito de dado pessoal, embora abrangente e contextual, está muito bem estabelecido mundo afora, por outro, a definição de IA está longe de ser consensual, sobretudo diante da complexidade e do constante avanço da tecnologia. Para se ter uma ideia, um recente levantamento da International Association of Privacy Professionals (IAPP) já reuniu mais de 50 definições internacionais sobre o tema.
Ainda que tomemos como base conceitos de ampla repercussão, como, por exemplo, a definição mais recente de sistema IA publicada pela OCDE (que, possivelmente, servirá de inspiração para a futura legislação brasileira), percebemos que, ainda assim, referida definição carece de interpretação, sobretudo em relação à abrangência do termo “inferere”:
An AI system is a machine-based system that, for explicit or implicit objectives, infers, from the input it receives, how to generate outputs such as predictions, content, recommendations, or decisions that can influence physical or virtual environments. Different AI systems vary in their levels of autonomy and adaptiveness after deployment.
Além disso, qualquer que seja a definição de IA que se adote, fato é que sua adequada interpretação sempre carecerá de uma boa dose de (ainda raro) conhecimento técnico sobre o funcionamento dos sistemas.
SHADOW IT
Em muitas organizações, por opção ou não, a gestão de tecnologia não é totalmente centralizada, de modo que as áreas de negócio ou de backoffice possuem certa autonomia para adotar ferramentas tecnológicas em seus processos.
Nesses casos, nem sempre há um repositório centralizado e atualizado de tecnologias adotadas pela organização, o que gera uma falta de visibilidade do departamento de tecnologia sobre as ferramentas adotadas na organização (fenômeno conhecido como shadow IT) e, consequentemente, torna o mapeamento do uso de sistemas de IA extremamente desafiador, senão impossível.
FORNECEDORES
Com o hype em torno do tema, é natural que as organizações, cada vez mais, utilizem o argumento do uso de IA como impulsionador da venda de seus produtos e negócios. Com isso, torna-se cada vez mais difícil identificar quais fornecedores de fato oferecem soluções baseadas em IA, e quais utilizam técnicas similares que não necessariamente se enquadram na melhor definição de IA, ou seja, aquela que adotamos para fins do nosso programa de governança.
De toda forma, também é fato que, ainda que se tenha uma gestão centralizada para homologação e controle das tecnologias adotadas pela organização, a rápida e generalizada adoção de IA pelas organizações fará com que qualquer lista de soluções que se utilizam de sistemas de IA tenha de ser aumentada a cada instante.
SUGESTÕES
Diante de tamanho desafio, parece-me claro que é momento de arregaçar as mangas e começar a estancar a sangria hoje representada pela falta de visibilidade em relação aos usos de sistema de IA.
Para tanto, não há solução única, muito menos mágica. De toda forma, parece fazer sentido que as organizações:
- Definam parâmetros e diretrizes para a interpretação do conceito de IA, sem deixar de considerar a evolução dos debates regulatórios, os quais vêm firmando definições sobre o tema, geralmente derivadas do conceito da OCDE mencionado neste texto;
- Estabeleçam políticas e procedimentos para sanar eventuais lacunas de visibilidade quanto às tecnologias utilizadas pela organização; e
- Revisitem o processo de gestão de terceiros.
Do ponto de vista estratégico, essa última medida parece ser de urgente implementação, pois, de outra forma, diante da rápida adoção de IA pelos mais diversos fornecedores, o backlog a ser endereçado no futuro por parte das empresas contratantes será cada vez maior, tornando essa essencial tarefa ainda mais cara e complexa.
Portanto, mesmo em um contexto de eventuais restrições de recursos, é essencial concentrar esforços no item 3, para que, daqui para frente, futuras contratações feitas pela organização ao menos já tragam informações sobre envolvimento de IA e, consequentemente, atraiam os deveres correspondentes (tais como avaliações de risco e obrigações contratuais aplicáveis ao contexto de IA). Sem dúvidas, isso evitará que a missão se torne mais desafiadora amanhã, quando as organizações serão ainda mais cobradas – por regulações e pelo mercado – a terem uma sólida governança em IA.
Por Luis Fernando Prado, sócio-fundador do escritório Prado Vidigal, especializado em Direito & Tecnologia.
