Provavelmente você ficou sabendo sobre o aplicativo Lensa, que bombou no Instagram: várias pessoas – talvez um grande percentual do seu networking – passou a usar a inteligência artificial para fazer fotos estilizadas e com uma pegada supermoderna.
O app em questão é o Lensa (que pode ser baixado tanto no Google Play quanto na Apple Store), desenvolvido pela empresa Prisma. E que deu o que falar, a despeito do valor a ser pago após o período de vencimento da sua versão trial, que pode variar de R$ 10,90 a R$ 22,90 por um pacote de 50 a 200 fotos (dados de nov/22).
Sem dúvidas, esta não será a primeira, nem a última vez em que veremos algo do tipo rolando na internet. Agora, tal fato revisita a necessidade de discutir sobre os limites no uso da inteligência artificial. Isso porque nem só de flores vive o mundo proposto por tal tecnologia. A inteligência artificial no RH, por exemplo, é promissora, mas também tem um lado pautado na exclusão de candidatos que não fazem parte da estrutura dominante.
A intenção deste texto é, portanto, refletir sobre o uso dessa inovação. E, a partir disso, elencar possíveis limites a serem aplicados. Continue a leitura.
3 casos polêmicos sobre o uso da inteligência artificial
Na sequência, confira algumas implicações que a inteligência artificial já gerou, no Brasil e no mundo:
1. Dismorfia corporal
Ainda sobre o Lensa, uma das questões é sobre como a distorção de imagens pode estimular a dismorfia corporal. O termo pode ser entendido como o incômodo que algumas pessoas podem sentir em relação às partes ou ao corpo inteiro. Mesmo quando se trata de uma impressão negativa infundada.
O problema também está no rol de patologias tratadas por psicólogos e psiquiatras no que diz respeito ao Transtorno Dismórfico Corporal (TDC). E pode ocorrer tanto em adultos quanto em adolescentes e crianças.
2. Racismo
Um outro caso a ser citado é o ocorrido no Twitter, em 2021. Na época, parte dos usuários desta rede social identificaram que a inteligência artificial privilegiava pessoas brancas nas fotos, ao invés das pretas. Ao cortar e apresentar a imagem em um post, por exemplo, uma pessoa branca ficava em evidência. Isso acontecia mesmo que houvesse pessoas de outras etnias na imagem. Como resposta, a rede social iniciou uma série de mudanças para impedir a ação do considerado “algoritmo racista”.
Nesse sentido, o pesquisador Tarcízio Silva, que faz doutorado em Ciências Humanas e Sociais na Universidade Federal do ABC (UFABC), desenvolveu uma linha do tempo para identificar o racismo algorítmico, e entender de que forma a tecnologia é usada para manter o racismo estrutural.
3. Seleção discriminatória
Outro caso que também levou luz à discussão em torno dos limites no uso da inteligência artificial foi uma reportagem publicada pelo The Intercept. Na ocasião, a jornalista Ianaira Neves apresentou como plataformas com base no método de People Analytics adotadas por departamentos de RH estariam negligenciando certos perfis nas seleções de emprego.
No contexto, identificou-se que idosos, mulheres, determinadas etnias e, inclusive, a formação acadêmica, poderiam ser motivo de reprovação nos processos, ainda que não especificados dessa forma. Em parte, os profissionais de RH entrevistados argumentaram que são os algoritmos das próprias ferramentas que tomam a iniciativa ao realizar a seleção, que pode ser não só discriminatória, como machista e classista.
Mas, tudo isso significa que essa tecnologia toma tais decisões de forma consciente e deliberada, sem a ação humana? Vejamos a seguir.
Inteligência artificial: vilã ou mocinha?
Há uma questão a ser considerada quando se pesquisa a respeito do aprendizado dos algoritmos por trás da inteligência artificial. Encontra-se que, assim como uma pessoa em fase de aprendizado, a tecnologia também precisa aprender. Logo, ao ser ensinada de forma dúbia ou equivocada, estaria reproduzindo o que é praticado por seu mentor humano.
Um exemplo a ser citado nesse sentido foi o robô Norman, criado por pesquisadores do Massachusetts Institute of Technology (MIT). Em 2018, a notícia deu o que falar ao mostrar que, a partir do que lhe era ensinado, a tecnologia aprendeu a se comportar como um psicopata, ao interpretar a sua maneira as imagens vistas no teste de Rorschach. Este consiste em um exame projetivo, feito com cartas que apresentam imagens espelhadas criadas a partir de manchas de tinta. O objetivo é que o paciente interprete os desenhos à sua maneira e, a partir de então, sua condição psicológica é avaliada. Como resultado do projeto envolvendo o Norman, os pesquisadores identificaram que os dados, quando mal intencionados, podem influenciar comportamentos de uma máquina.
Dessa forma, ainda que a tecnologia possa gerar uma série de benefícios para as organizações e sociedade, os limites precisam ser pensados. Especialmente por aqueles que lideram a lógica sobre o uso da inteligência artificial, geralmente as organizações, públicas ou privadas.
Limites possíveis para a inteligência artificial
Assim como já há dispositivos legais, como a Lei Geral de Proteção de Dados (LGPD), que prevê o direito dos usuários sobre seus dados, o mesmo já é discutido sobre a inteligência artificial.
É o caso da Carta Europeia de Ética sobre o Uso da Inteligência Artificial em Sistemas Judiciais e seu ambiente, criada pela Comissão Europeia para a Eficácia da Justiça (CEPEJ). Nela, questões como não discriminação, direitos fundamentais das pessoas e a qualidade sobre a segurança dos dados são avaliados. Dessa forma, dispositivos semelhantes também poderiam ser pensados em outras esferas. Se já não o são, para evitar implicações negativas no uso dessa tecnologia.
Afinal, quem se beneficia com a aplicação da inteligência artificial: a tecnologia, os usuários ou as empresas? Encerrando esta discussão com o Lensa, será que entrar na moda e ter um avatar diferente vale o risco diante de uma política que põe uma série de dúvidas sobre o direito à privacidade de seus usuários?
E você, o que pensa a respeito do assunto? Conhece algum outro dispositivo legal que possa servir para limitar o uso dessa tecnologia? Deixe o seu comentário!
