Há cerca de um ano, nesta mesma coluna, falei do caso de Robert Julian-Borchak Williams. Um cidadão afro-americano que foi detido, preso e acusado injustamente por um algoritmo de inteligência artificial (IA).
Foi em janeiro de 2020. A polícia intercetou Williams à porta de casa, algemou-o à frente da mulher e dos filhos, levou-o para a esquadra e forçou-o a passar a noite na cadeia.
Só no dia seguinte, durante o interrogatório, é que os detetives perceberam o enorme erro que tinham cometido: um algoritmo confundiu Williams com um ladrão que tinha sido apanhado nas câmaras de vigilância durante um assalto a uma loja.
Esta é uma história real e foi contada em grande pormenor pelo The New York Times. É considerada um dos primeiros casos documentados dos sérios riscos da utilização de métodos de IA pelas forças de segurança.
O caso passou-se nos EUA, mas podia ter sido na União Europeia (UE). Por isso, foi com agrado que recebi a notícia da proposta de regulamentação da IA apresentada esta semana pela Comissão Europeia.
Estamos perante um pacote legislativo pioneiro a nível mundial, que pode servir de referência para muitos outros países. Nele, Bruxelas propõe uma escala de risco para a IA, exigindo medidas mitigadoras consoante o escalão a que pertença cada sistema.
A grande surpresa é o escalão do chamado “risco inaceitável”, que “abrange um conjunto muito limitado de utilizações particularmente nocivas da IA que transgridem os valores da UE, pois violam direitos fundamentais”. A IA que se enquadrar neste escalão é automaticamente proibida e estão previstas multas pesadas.
Assim, se a lei chegar ao terreno tal como está, passa a ser ilegal usar IA para “classificação social pelos governos, exploração de vulnerabilidades das crianças, utilização de técnicas subliminares” e, no geral, “sistemas de identificação biométrica à distância em tempo real utilizados para fins policiais em espaços acessíveis ao público”.
Em princípio, o pacote legislativo proposto por Bruxelas impediria as autoridades europeias de usarem um sistema semelhante ao que tramou Williams naquela quinta-feira de janeiro, em que foi humilhado e acusado por um crime que não cometeu.
Dito isto, é preciso mais tempo para aferir se todas as medidas propostas pela Comissão fazem sentido. Espero que o debate público em torno do documento encontre formas de melhorar esta lei, e que ela possa entrar em vigor tão cedo quanto possível. Mas não é preciso ser-se especialista em assuntos europeus para estimar que ainda vão passar alguns anos até isso acontecer.
A IA é uma das áreas mais promissoras da tecnologia e é fundamental que os cidadãos tenham mais consciência disso. São sistemas capazes de agir automaticamente, sem supervisão direta de um humano, e são adaptáveis, o que significa que, geralmente, evoluem com a experiência. Já hoje, tomam decisões capazes de mudar as nossas vidas. Todos os dias, 24 horas por dia, sete dias por semana.
A IA não vai só extinguir muitos empregos. Há estimativas de que possa criar mais postos de trabalho do que aqueles que vai destruir. A grande dúvida é saber se os cidadãos vão estar preparados e capacitados para esses novos trabalhos, que serão altamente qualificados, como é evidente.
Felizmente, qualquer pessoa, querendo, pode aprender já hoje as bases do funcionamento da IA. Isto é possível graças a um curso gratuito que foi criado pela Universidade de Helsínquia e pelo Governo da Finlândia.
Chama-se “Elementos de Inteligência Artificial”, não exige conhecimentos avançados de informática nem de programação e foi trazido recentemente para Portugal, em língua portuguesa, pela Nova SBE.
A melhor parte? No final, recebe um certificado a provar que aprendeu bem a matéria. É uma forma boa (e gratuita!) de começar a blindar já o seu currículo, à prova de futuro.