Estivemos em Londres na última semana de janeiro deste ano, em conjunto com a Microsoft e uma comitiva de clientes para participar de um grande evento mundial de educação. Quando estávamos lá, graças a uma boa dose de ousadia de uma cliente nossa, conseguimos um convite de Geoff Mulgan, CEO da Nesta Foundation, para participarmos de um evento de apresentação das "10 Previsões para 2017" elaboradas por esta fundação que trata especificamente de assuntos de novas ideias e inovação capazes de alterar o mundo.
Neste evento fascinante ganhamos um livro com o conteúdo completo do que foi destacado no evento. Dentre estas 10 previsões, me chamou a atenção especificamente esta, que traduzo a seguir, e que aborda um tema de que a K2M tem se envolvido fortemente que é o Machine Learning. A tecnologia de Machine Learning está disponível dentro dos serviços do Microsoft Azure e é, na nossa visão, uma das tecnologias com maior potencial de transformação digital dos negócios.
Estamos certos de que a possibilidade de agregar aprendizagem de máquina sobre as fundações de dados que a K2M vem, há mais de 15 anos, construindo com seus clientes, assim como com dados disponíveis na nuvem, especialmente serviços da web como por exemplo as mídias sociais, têm a capacidade de engajar clientes, transformar produtos, dar poder aos colaboradores e otimizar as operações. Fique abaixo com a tradução do trecho do livro "10 Predictions for 2017".
"A próxima grande controvérsia tecnológica será a respeito de algoritmos e machine learning (aprendizagem de máquina), diz Olivier Usher da Nesta Foundation
Os algoritmos compartilham muitas características com inovações tecnológicas anteriores atoladas em controvérsias. Assim como a introdução de cultivos agrícolas modificados geneticamente, vacinas e energia nuclear em décadas anteriores, o uso de algoritmos de tomada de decisão traz uma série de implicações sociais, combinadas com falta de transparência, de responsabilidade e de escolha.
Em 2017, a inquietação pública sobre as decisões que os algoritmos tomam, a maneira com que eles nos afetam, e a falta de debate sobre sua adoção, irão se tornar comuns.
O que são algoritmos?
Um algoritmo é uma sequência de regras que define como tomar uma decisão sobre algo. O conceito existe desde os primórdios da ciência (e o termo existe há muito tempo também, vide em Wikipedia) mas somente na última metade do século passado é que os algoritmos se tornaram tão importantes: programas de computador são nada mais do que algoritmos complexos, regras que indicam aos componentes eletrônicos do computador como tomar decisões. O Aprendizado de Máquina (Machine Learning) é a mais recente invenção. Programada para reconhecer padrões em dados e orientada a promover resultados desejáveis, os algoritmos de aprendizagem de máquina têm a capacidade de se reescrever, uma forma de inteligência artificial. Ao invés de o computador simplesmente executar as regras escritas por um programador humano, o computador descobre a melhor maneira de atingir um resultado ao qual ele foi designado a priorizar.
Qual é o problema?
Em um curto espaço de tempo, e por incrível que pareça com muito pouca publicidade, os algoritmos já substituíram muitas decisões humanas em grande parte de nossa vida. Algumas das decisões são boas, algumas más, mas como estas decisões são tomadas, isto é muito pouco transparente. O público em geral não faz ideia de como softwares proprietários funcionam, e para os algoritmos de aprendizagem de máquina, é questionável até mesmo se seus próprios programadores entendem completamente como as decisões são tomadas, dado que o software ensina a si mesmo. Em um caso extremo de aprendizagem de máquina equivocado, um algoritmo criado para classificar fotos de cachorros dentro de um conjunto de fotos de lobos, na verdade se treinou a reconhecer fotos com fundos nevados.
Os algoritmos de aprendizagem de máquina, cada vez mais, tomam decisões que afetam nossas vidas, em assuntos muito mais importantes do que diferenciar um lobo de um fox terrier. Da próxima vez que você se candidatar a um emprego, existe uma grande chance de que pelo menos parte da avaliação seja feita por um computador. Se você for infeliz o bastante para ser preso nos Estados Unidos, provavelmente um algoritmo irá recomendar ao juiz se você pode ou não ser liberado sob fiança. Se seu crédito é aprovado para um financiamento imobiliário, ou se você tem desconto no prêmio do seu seguro, são decisões que não serão tomadas por humanos. Os protótipos de veículos autônomos se baseiam em algoritmos para tomar decisões que podem significar a vida ou morte de seus passageiros, assim como de outros motoristas, passageiros e pedestres.
Enquanto por um lado remover influências humanas pode tornar a tomada de decisão mais justa, por outro lado não necessariamente será sempre este o caso. Um algoritmo de aprendizagem de máquina que foi treinado para identificar possíveis contratados, baseado em quão similares eles são a funcionários bem-sucedidos em uma empresa pode ser uma excelente maneira de eliminar preconceitos inconscientes em seus recrutadores, ou pode simplesmente replicar os padrões de sua força de trabalho com o brilho extra da neutralidade tecnológica.
Similarmente, existem reclamações confiáveis* (apesar de contestáveis**) de que um algoritmo utilizado para decidir quem vai preso nos Estados Unidos é mais severo com criminosos negros e injustamente leniente com ameaças públicas que são brancos.
Algoritmos de carros autônomos também são potencialmente problemáticos. Existem razões para se preocupar de que tendências tenham sido embutidas em seu software. E mesmo se o software for escrupulosamente justo, um fabricante (a Mercedes Benz) já afirmou que a segurança dos ocupantes vem em primeiro lugar: ou seja, mesmo que você seja um cliente deles, não será protegido se você planejar andar a pé ao longo de ruas onde seus carros passam.
Um tema preocupante que eclodiu em 2016, entretanto sem ser censurado por algoritmos, é o problema das notícias falsas e mídias sociais. A curadoria de notícias através de algoritmos, nossas próprias bolhas de filtragem, combinadas com falta de transparência sobre quem produz o conteúdo e quem checa os fatos, deixa muitos de nós se perguntando se devemos acreditar em alguém afinal de contas. Nas atuais circunstâncias, é quase que surpreendente que Donald Trump tenha sido capaz de culpar o algoritmo do Google News por prejudicá-lo (enquanto se beneficiava de um dilúvio de histórias de notícias falsas a seu respeito).
O Extraordinário
Neste ano (2017), o fato extraordinário a respeito de decisões baseadas em algoritmos começará a se tornar sério. O fato gerador poderá ser de várias naturezas. Poderá ser um político forçado a renunciar devido a notícias falsas impulsionadas por um algoritmo de clipagem de notícias. Poderá ser um assassinato cometido por um bandido violento e libertado sob fiança graças ao software do tribunal. Poderá ser um empregador processado por discriminação no sistema de recrutamento ou um pedestre morto por um carro autônomo que protegeu seus passageiros. Mas serão os algoritmos de tomada de decisão que estarão na linha de fogo quando a controvérsia emergir.
Especialistas em tecnologia serão forçados a confrontar as críticas e endereçar algumas das preocupações mais óbvias a respeito da falta de transparência e preconceitos. Assim como controvérsias tecnológicas do passado, a promessa de que algoritmos podem tornar o mundo melhor pode estar em risco se a resposta não for rápida e digna de confiança.
O entusiasmo ao redor de notícias falsas já induziu ao Facebook e ao Google a responder com esforços para encontrar soluções tecnológicas para esta nova controvérsia tecnológica. Da mesma forma, organizações como a Trust Project estão buscando produzir tecnologia que classifique de forma independente a confiabilidade da mídia que consumimos.
Se escolheremos confiar nestes ajustes tecnológicos, continua a ser uma incógnita. Senão, podemos esperar que as empresas irão dar publicidade ao lançamento de serviços "livres de algoritmos", indo desde crédito de financiamento imobiliário aprovado por gerentes de banco "reais", até o renascimento de web sites com pessoas curando o conteúdo (você poderá até mesmo chamá-los de "editores"). Assim como os consumidores estão dispostos a pagar mais por alimentos sem pesticidas ou transgênicos, as pessoas irão pagar um prêmio por decisões feitas por humanos se não confiarem nas máquinas."
