A reflexão é a mesma que deu origem a minha tese de Doutorado. Sem acesso aos dados, qualquer coisa intuitiva vira empírica, num estranho fenômeno em que se extrai ciência de, dados não observáveis, não reprodutíveis e não compartilháveis.

O desafio da transparência dentro de Machine Learning e da IA parecem nos levar a um estranho desafio de relativizar os outputs desses modelos, partindo dos pressuposto que são verificáveis.
São tão sutis e pacientes que ratificam preconceitos, acentuam problemas como soluções, e invertem a lógica de verificação do verdadeiro. O Bard da Google andou dizendo que as eleições no Brasil eram inseguras, da mesma google que alertou que regulamentar a ação de impulsionamento das big techs sobre o PL 2630 seria o fim da nossa democracia. Baseado em dados, certamente não, ou certamente produzidos para aquele fim, afinal, dado é dimensão do real, e quando não científico, você olha do jeito que quer. Tem até gente dizendo que o universo tem no maximo 6 mil anos.. rsrsrs…

Dados ocultos ou produzidos para esse fim são espelho dos resultados racistas de tecnologicas de reconhecimento facial e das práticas misógenas de acesso democrático à rede.

O fato é que sem dados, sem lógica, sem acesso. A advertência “garbage in, garbage out” da lógica de análise de dados aqui não se aplica.

Recicla-se conceitos, preconceitos, racismo, misogenias, terraplanismo em novas leituras baseados no inacessível, que parece ser uma nova categoria de dados: “Dados que eu tenho, que eu acho e que eu atesto.

Os dados em que esse modelos da ML se baseiam são como a fórmula secreta da Coca-cola, não se sabe o que está se bebendo, mas é tão gostoso e refrescante… em 20 anos, diabetes, obesidade e pressão alta são possibilidades desse ingrediente secreto, mas não importa saber o que contém o extrato vegetal da cola.

Assim mesmo, a IA que há algum tempo vem salvando e matando pessoas, é relativizada mais por sua capacidade do que pelos seus resultados, porque ao fim e ao cabo, são saborosos e refrescantes.

Então vamos lutar para fornecer bancos de dados e algoritmos abertos de verificação dos problemas sociais advindos dos dados. Por uma ética sem dados ocultos e que contemple a diversidade social na sua produção moral. É o que nos resta, por enquanto!

FOTO: Reprodução/Internet