Nossas soluções transformam os negócios e a sociedade por meio da tecnologia.
Nos filmes futurísticos, era muito comum enxergar a Inteligência Artificial como algo distante, uma realidade em que os robôs fariam parte da sociedade diariamente. Por mais que essa visão não seja a mais precisa, a realidade se aproximou bastante desse cenário, com o melhor da tecnologia fazendo parte do dia a dia de qualquer empresa ou pessoa.
Mas colocar a Inteligência Artificial em prática não é uma tarefa tão simples. É preciso ter o cuidado necessário para equilibrar todos os seus benefícios com os riscos envolvidos em muitas das suas atividades. A partir do balanceamento, qualquer empresa consegue ter os melhores resultados sem se expor de forma perigosa.
O que acha, então, de se aprofundar no assunto? Entenda sobre um elemento fundamental para implementação da Inteligência Artificial: os algoritmos. Como eles funcionam? Quais são os exemplos de sucesso? Quais são as situações em que eles não funcionaram?
Continue a leitura para tirar todas as suas dúvidas sobre o assunto. Confira!
Em primeiro lugar, precisamos entender que o que hoje chamamos de “algoritmo” é nada mais que um apelido dado à forma digital e automática que o ser humano encontrou de reproduzir suas próprias ações.
Quando buscamos atingir um objetivo, precisamos, antes, traçar uma estratégia para alcançá-lo. Uma vez definida essa estratégia, cada passo dado depende do anterior e, este, por sua vez, tem tanta importância quanto os demais.
A título de exemplo, vamos considerar o trabalho de um recepcionista de um prédio residencial. O trabalho dele é certificar que as pessoas que vão entrar são quem elas declaram ser e estão autorizadas pelos moradores desse prédio a transitarem por ali. Para cumprir sua função como recepcionista, serão necessárias algumas etapas antes do resultado de autorizar ou não essa entrada, vejamos:
Como é possível perceber, a conclusão sobre autorizar ou não a entrada de uma nova visita foi obtida após a finalização de etapas predefinidas — e é exatamente assim o funcionamento de um algoritmo.
Assim, de forma simplista, a criação de um algoritmo pode ser entendida como a capacidade de traduzir para a linguagem computacional um roteiro. Hoje, essa tradução pode ser explorada por meio das técnicas de Machine Learning, que já aprendemos até aqui.
As redes sociais (como Facebook, Instagram e LinkedIn) são os exemplos mais palpáveis que temos hoje do uso dos algoritmos para potencializar resultados. Imagine um banco de dados que sabe quanto tempo passamos conectados, quais conteúdos acessamos com frequência, quais são os hábitos de consumo, quem são as pessoas com as quais mais temos afinidade, quais são as músicas que mais escutamos e assim por diante
Assim, como falamos diversas vezes, os dados são o combustível da IA e os algoritmos, o roteiro base dessa inteligência. Nosso comportamento e ações também podem ser transformados em algoritmos.
Nesse sentido, fica mais fácil entender o porquê de as aplicações de redes sociais dominarem tanto a nossa rotina: elas foram desenvolvidas para nos agradar e utilizarão os dados que permitimos que elas tenham sobre nós para atingir esse objetivo — quanto mais sabem sobre nós, mais fácil fica nos agradar.
Existem diversos fatores extremamente positivos que foram trazidos com a onda das inovações tecnológicas da IA. Entretanto, precisamos nos lembrar de um ponto importante: a IA não tem, ainda, a capacidade de pensar como o ser humano. Portanto, não pode entender contextos de modo a traçar parâmetros éticos ou não-éticos antes de apresentar um resultado.
Essas máquinas não têm consciência de si mesmas. Operacionalmente, também, elas são limitadas pelos dados históricos com os quais aprendem e estão restritas a funcionar dentro de parâmetros previamente definidos.
Nos Estados Unidos, existe um aplicativo denominado “COMPAS” (sigla em inglês para Correctional Offender Management Profiling for Alternative Sanctions) que foi desenvolvido com o intuito de facilitar e otimizar o trabalho dos juízes em relação às decisões sobre se os réus que aguardam julgamento são perigosos ou não para serem libertados sob fiança.
Um estudo feito pela organização americana “ProPublica”, focada no jornalismo investigativo, constatou, por meio de dados estatísticos, que os resultados oferecidos pela aplicação têm vieses discriminatórios.
Vejamos, a título de exemplo, um dos casos que ganhou repercussão: os réus Vernon Prater e Brisha Borden foram submetidos à análise do aplicativo. O primeiro réu tinha em seu histórico de antecedentes criminais a ocorrência de dois assaltos à mão armada e uma tentativa de assalto à mão armada.
A segunda ré, por sua vez, tinha apenas quatro delitos juvenis e baixo risco em seu histórico de antecedentes criminais. Assim, racionalmente falando, seria óbvio esperar que Vernon apresentasse uma nota maior que Brisha na aplicação. Entretanto, Vernon apresentou uma avaliação de risco 3, enquanto Brisha recebeu 8.
Aprofundando os estudos, outro padrão foi encontrado pela Organização: o aplicativo tem a tendência de conferir notas maiores a infratores de minorias étnicas. Em entrevista para a BBC News, a pesquisadora Julia Angwin afirma: “Quando analisamos um acusado negro e outro branco com a mesma idade, sexo e ficha criminal — e levando em conta que depois de serem avaliados os dois cometeram quatro, dois ou nenhum crime —, o negro tem 45% mais chances do que o branco de receber uma pontuação alta”.
Assim, embora a associação racial possa não ser direta e o fato de que o algoritmo, em si, pode não ter sido criado para um viés racial, quando consideramos que os algoritmos são desenvolvidos para entender nossos padrões de pensamentos por meio dos dados que recebem sobre nossas ações, torna-se evidente que o software automaticamente reproduzirá os vieses éticos do meio analisado.
Já sabe como os algoritmos funcionam na prática? O que acha de se aprofundar ainda mais no assunto e entender como evitar conflitos entre o direito à privacidade e o uso de inteligência artificial? Baixe o nosso e-book gratuito para tirar todas as suas dúvidas sobre o assunto!
Por Nathalia Criscito, Analista de Segurança da Informação da Tivit.
