A moderação de conteúdos automatizada empregada pelas plataformas digitais tem gerado efeitos colaterais ou externalidades negativas já amplamente documentadas.
Os impactos do emprego de algoritmos na moderação de conteúdos são severos: passam por questões de racismo, discriminação, aumento da polarização, do discurso extremo, do discurso de ódio, “washing” racial, entre outros.
Nesse sentido, o desenvolvimento de algoritmos e da Inteligência Artificial precisa respeitar princípios e valores já consolidados na sociedade. Valores éticos por exemplo são fundamentais para que possa se consolidar o que se denomina atualmente como “human rights by design” ou seja, que o desenho de tecnologias já considere o respeito aos direitos humanos e outros valores sociais que mitiguem ou minimizem os efeitos negativos do seu emprego.
Neste quesito, por exemplo, foi proposto que se repense o design de plataformas para diferenciar conteúdos orgânicos e patrocinados. É importante que a regulação se atente para mecanismos de desenvolvimento de IA permita, facilite ou favoreça mecanismos de controle social. Além disso, com o intuito de aprimorar a relação com a diferença, o algoritmo deve incentivar a exposição à diversidade de conteúdos, posições políticas, abordagens científicas.
Esse tema foi abordado no relatório da Oficina realizada pelo GT Regulação de Plataformas (cgi.br).
Por derradeiro, a questão em voga deve ser tratada com certa prudência no sentido da proteção dos direitos fundamentais, uma vez que, a tecnologia sem dúvida é uma ferramente de evolução, entretanto, não deve prevalecer sua premissa acima dos nossos direitos fundamentais.
Esta preocupação é de extrema valia, haja vista os direitos fundamentais ser base principiológica da nossa Carta Magna (Constituição Federal), portanto, deve ser desprezada.
Além disso, é evidente que com o crescimento dos conteúdos automatizados nas plataformas digitais, aumentam a incidência de conteúdos ofensivos, sendo extremamente necessário a implementação de mecanismos de filtragem, e consequentemente mitigação de propagação dos mesmos.
Assim, o controle social, sob o contexto do relatório, está referenciado na compreensão da organização humana em grupos sociais, de uma forma ou outra, na relação de ordem ou de desordem, ou harmonia e conflitos gerados pelos algoritimos.
Em suma, entende-se que a evolução frenético da IA, deve ser pautada sob o viés da tecnologia em pró sociedade, com necessária regulação e controle das informações, evitando aumentar a incidência de desinformações, discriminações e discursos de ódio, que lamentavelmente vem crescendo alarmantemente.
Fonte: Relatório da Oficina GT (cgi.br)
Imagem <FONTE> Imagem de Gerd Altmann por Pixabay