A aceleração de mercados inteiros e processos está, constantemente, alcançando novas dimensões, assim como a quantidade e tipos de dados disponíveis para análise também. O processo de análise do que chamamos de "big data" trouxe uma mudança, mas ainda requer uma disrupção no atual paradigma das empresas, para que elas possam acompanhar mercados altamente competitivos com a transformação tecnológica crescente. O impacto da IA (inteligência artificial) na economia mundial já é um fato.

Trazer um assunto como IA para debates nunca é uma tarefa das mais fáceis e simples. Ainda há um mistério que paira sobre esse nome, especialmente em economias nas quais o acesso a tal ferramenta, destrutível de conceitos e modelos, ainda é escasso. Opiniões contrárias à utilização de IA marcham na mesma velocidade que são reveladas novas descobertas sobre a possível inutilidade que humanos poderão ter em um futuro já não tão distante.

Mas, ainda assim, falar de Inteligência Artificial significa um enigma para a maioria - e com total razão. Isso, porque o mistério que essas duas palavras carregam tem um toque de desconfiança por nós, já que os embates de recomendações de máquinas e algoritmos orientando a tomada de decisões precisará de mais do que uma razão do sistema: deve ser uma razão que os humanos possam entender.  

Recentemente, foi anunciado pela DARPA (Defense Advanced Research Projects Agency) um investimento de US$ 2 bilhões para a próxima geração de tecnologia de IA com explicabilidade e raciocínio de senso comum. Se a IA vai ser a responsável por aumentar a tomada de decisão humana, a explicabilidade é a chave, é a forma por meio da qual o processo de IA chegará a uma recomendação. De que outra forma um médico, um cientista ou um advogado pode avaliar as recomendações de uma máquina e substituí-las quando for necessário?

O problema nasce justamente daí. O potencial de uma IA poderá resultar em melhores conclusões e decisões, vendo coisas que as pessoas jamais conseguiriam ver, e, muitas vezes, tais recomendações (contrárias ao julgamento comum) podem ser explicadas em acontecimentos passados. Mas, na maiorias das vezes, quanto mais eficaz a IA, mais difícil será explicar suas decisões de uma forma que os humanos possam entender. A verdade é que muitos especialistas em IA postulam uma troca inerente entre precisão e explicação.

O dilema enfrentado por usuários e provedores de IA é saber qual seria a troca mais admissível entre a exatidão e a explicação. Sob a perspectiva comercial, isso dependerá de vários motivos ou incentivos: setor para setor, grau de autonomia do agente envolvido, do risco intrínseco do resultado da decisão certa ou errada. Podemos utilizar um aplicativo de movimentos de esportes capaz de captar os erros das nossas jogadas e que indique as correções mais próximas dos movimentos "perfeitos" nas próximas tentativas que venhamos a executar, mas talvez a comunidade médica se recuse a aceitar em utilizar novas soluções e dispositivos que vão contra o conhecimento adotado.  

Entre os advogados, por exemplo, não podemos apenas apontar a explicabilidade como fator de decisão e recomendação para os nossos clientes.

A licença poética pode funcionar perfeitamente para a situação. A IA ainda não tem personalidade - suficiente - para se auto punir ou se subordinar ao seu regime próprio de jurisdição em sua sociedade (seja ela qual for). E, para ajudar, respiramos em um mundo que está cada vez mais complexo, mutável, dilacerando valores e costumes sociais - e não é culpa do temido mercúrio retrógrado, mas, sim, de quem habita esse planeta. Portanto, há uma desconexão proposital entre fabricante e máquina que, além de ser esperada, é intencional - é o que faz a IA funcionar sem se apegar a conceitos acorrentados a julgamentos viciados e contaminados.

Há também a própria teoria da Navalha de “Occam” ou a receita do ingrediente de obviedade que o “Óbvio Adams” escreveria em sua proposta de solução.

Quando se trata de AI, ainda, não há um manual único que venha a decifrar e interpretar até onde vai a explicabilidade, a responsabilidade e a sua proteção quando pensamos nos fabricantes e usuários dessa tecnologia. Como dito, o perfil de risco do projeto exigirá o mais alto nível de precisão, independentemente da explicabilidade. Em outros, se exigirá uma dose certa de precisão na explicabilidade, como também haverá, às vezes, muito pouca troca entre eficácia e explicabilidade no caso em si.

No mais, uma IA nos Estados Unidos é muito diferente de uma IA nas Filipinas. Os efeitos de estruturas legais, regulamentares e costumes jurídicos ainda não estão presentes na opinião e vida da IA. Em regimes de responsabilidade direta, fabricantes irão desejar a máxima precisão, pois poderão ser responsabilizados independentemente da falha. Diferente de regimes baseados em falhas, em que a explicabilidade poderá ajudar os mesmos fabricantes em se afastarem da presunção de culpa.

Como consumidores, veremos a explicabilidade descobrindo falhas, mas também responsável por causá-las; capaz de aumentar nossas chances de vitória em um jogo, mas também de suicidar a nossa partida em um único movimento errado - nunca veremos a lógica muitas vezes.  

Algumas premissas podem esclarecer essa nova era para empresas, consumidores, advogados, reguladores e tomadores de decisões no geral. Primeiro, o que significa a explicabilidade: é a capacidade do ser humano de entender a justificativa da máquina para uma recomendação ou é a capacidade do ser humano de entender qualquer justificativa da recomendação da máquina, através de como a máquina chegou até sua conclusão? Ainda, é possível quantificar a troca entre explicabilidade e precisão para um determinado modelo assumindo variáveis diversas. Terceiro, podemos considerar um significado diferente de explicabilidade pelas várias maneiras de "explicar" à IA o que dela se quer.

Diante disso, prever a consequência do impacto social, econômico ou cultural da IA ​​ou de qualquer tecnologia disruptiva é uma tarefa impossível de se acertar, inclusive num mundo de rupturas contínuas. A Lei terá que ser capaz de lidar com a IA, seus pensamentos e julgamentos - e nós seremos provas vivas das novas oportunidades e demandas que surgirão, bem como dos gargalos que distanciará cada vez mais economias, empresas e trabalhadores em cada país.