Talvez para desenvolver tais softwares jurídicos, três parceiros especiais devam ser criados: em primeiro lugar – uma empresa de TI, em segundo lugar – um escritório de advocacia, em terceiro lugar – empresas como a Wolters Kluwer, que podem fornecer conhecimento especializado e conteúdo jurídico. Enfrentamos um dilema: a inteligência artificial deve apoiar as decisões humanas ou decidir? É óbvio que tal programa só pode sugerir soluções com base nos dados inseridos nele.
Se houver situações incomuns, você terá que confiar nas decisões humanas. Mas o que acontece se o sistema sugere uma solução, por exemplo a um juiz, e alguém pede uma justificação? Aqui tocamos na questão da transparência na operação da inteligência artificial. O desafio para seus criadores é a necessidade potencial de explicar a seus usuários quais algoritmos o software usa para sugerir soluções específicas. Recentemente, um computador ganhou um jogo chinês de ir contra jogadores mestres, e ninguém, nem mesmo os próprios desenvolvedores do programa, conseguia entender como era o “pensamento” da máquina nesse jogo.
Curiosamente, no caso do jogo go, o computador AlphaGo fez um movimento intuitivo, inicialmente ridicularizado pelos jogadores. Mais tarde, descobriu-se que esse movimento lhe deu a vitória. A intuição da máquina revelou-se mais eficiente que a humana.