Erick Pereira escreve artigo no Estadão: ‘Ética e inteligência artificial’

Artigo de Erick Pereira publicado no Blog de Fausto Macedo/Estadão

Vivemos uma época enigmática marcada por uma espécie de corrida do ouro em que o garimpo implica a coleta, o armazenamento e a manipulação de dados. Saúde, educação, transportes, justiça criminal, segurança, defesa nacional, meio ambiente e finanças são algumas das áreas em que os avanços extraordinários da inteligência artificial já são visíveis.

Somos, entretanto, humanos falíveis e responsáveis pelos riscos e benefícios inerentes às tecnologias que criamos. Como escreveu Stephen Hawking, “o sucesso em criar uma inteligência artificial pode ser o maior evento da história de nossa civilização, ou o pior. Nós simplesmente não sabemos. Portanto, não podemos saber se seremos infinitamente ajudados pela inteligência artificial, ou ignorados por ela e postos de lado, ou concebivelmente destruídos por ela”.

Algoritmos abrigam potenciais tanto benéficos quanto deletérios, de modo que ajudam a fazer diagnósticos, a prever resultados em demandas judicias, a otimizar o trabalho repetitivo ou a mitigar sofrimentos, mas também a aperfeiçoar arsenais militares e a matar.

Um assombroso garimpo de dados ocorre sem que saibamos ou que tenhamos dado nosso consentimento. A mesma coleta de big data pode ser usada para encontrar pessoas desaparecidas, mas também para rastrear cidadãos, classificar pessoas em sistemas de crédito social e até mesmo para atingir minorias de forma tendenciosa.

Em área sensível, o financiamento militar alimenta pesquisas que ajudam a desenvolver o GPS e a internet e também a fabricação de tecnologia de guerra, a exemplo de drones e satélites espiões.

Em suma, não é exatamente a tecnologia que dita o dilema moral, mas os propósitos envolvidos no uso da ferramenta.

Nesse cenário, ainda aquém das realidades aterrorizantes exibidas no seriado Black Mirror, crescentes dilemas éticos inundam nosso cotidiano, aumentando a preocupação com os valores humanos fundamentais. Tal preocupação é extremamente pertinente, pois as empresas de tecnologia têm ampliado cada vez mais os horizontes de inovação e definido as regras de um processo que abriga graves falhas com relação à responsabilidade, à justiça, à transparência, à segurança e à parcialidade dos sistemas.

É previsível que, atualmente, organismos internacionais, fóruns globais, universidades e pesquisadores independentes busquem consenso para a adoção de princípios, políticas e leis para o uso responsável da inteligência artificial e do aprendizado de máquina nas práticas das empresas, de modo a beneficiar a sociedade e salvaguardar a humanidade. Os algoritmos não devem apenas ser poderosos e úteis, mas transparentes à inspeção, cientificamente controlados e conforme os valores adotados pela sociedade.

Mas as complexidades envolvidas nos dilemas éticos e nos contextos políticos desbordam das boas intenções de uma maioria nitidamente preocupada com os rumos da humanidade. E um futuro com menos miséria, doenças, violência e guerras parece demasiadamente otimista.

O apoio a objetivos éticos, gerais -transparência, justiça, responsabilidade, promoção da inclusão e igualdade, fiscalização, previsibilidade, compartilhamento de tecnologia- é bem diferente da aplicação de tais conceitos a domínios singulares e situações políticas específicas. Muitas vezes, são tais aspectos que determinam os rumos do debate e das escolhas éticas, a exemplo do observado em contextos de grande polarização política.

Não é com singelos propósitos de desenvolvimento tecnológico das suas sociedades, que países como China, Rússia, Irã e Coréia do Norte implantam a inteligência artificial para fins de vigilância e segurança nacional, posicionando-se em direção à chamada “hiper-guerra”. Disputas e escolhas unilaterais ou autoritárias dos governos claramente apontam para vieses e abusos no emprego da inteligência artificial.

Tais matérias, aqui superficialmente abordadas, são de difícil resolução e envolvem não apenas questões éticas, mas legais e políticas de várias ordens. A democratização do debate em torno dos usos da inteligência artificial e tecnologias emergentes, e o suporte da opinião pública aos mecanismos organizacionais benéficos adotados pelas empresas são passos imprescindíveis à instauração futura de uma legislação abrangente.

Boas intenções não bastam, e trabalho árduo é um impositivo. Para a sobrevivência da humanidade, este campo minado de desafios e caracterizado pela alta complexidade não pode prescindir da ética para o seu desenvolvimento, de modo que até a possibilidade de criar máquinas que pensam deve merecer um olhar atento sobre o status moral das próprias máquinas.

*Erick Wilson Pereira, doutor em Direito Constitucional pela PUC-SP, é advogado empresarial