Inteligência artificial e o enigma ético - WHOW

Tecnologia

Inteligência artificial e o enigma ético

Um número crescente de empresas reconhece a necessidade de sistemas baseados em IA éticos e confiáveis, mas o progresso ainda é irregular

POR Adriana Fonseca | 07/01/2021 10h00 Imagem: Freepik Imagem: Freepik

Como as empresas podem construir sistemas de inteligência artificial eticamente robustos e ganhar a confiança do consumidor? Esse questionamento vem rondando o desenvolvimento com base em IA e indica um estado de preocupação na forma como os dados são utilizados para fins de processos automatizados no uso de inteligência artificial.

Embora existam projetos de leis complementares em discussão na Câmara e no Senado que abordam os princípios, direitos e deveres para estabelecer o uso de inteligência artificial no Brasil, ainda não há regulamentações específicas, o que reforça a questão da ética das empresas em sua utilização. 

Percepção dos consumidores

Nesse sentido, o Capgemini Research Institute, centro de estudos interno da multinacional de serviços de consultoria, transformação digital, tecnologia e engenharia Capgemini, ouviu consumidores em todo o mundo e descobriu que 70% dos clientes esperam que as organizações forneçam interações de IA que sejam transparentes e justas.

Outro dado relevante do levantamento é o que aponta um crescente descrédito dos consumidores com as empresas no sentido de uma total transparência no uso dos dados, que era de 76% em 2019 e agora diminuiu para 62%. Também é preocupante outra revelação do estudo: que apenas 53% das organizações têm um líder responsável pela ética dos sistemas de IA, como um diretor de ética.

O relatório observou ainda que, embora exista uma consciência nas organizações do ponto de vista ético, a implementação de IA a partir de preceitos éticos ainda não é consistente. Quase a mesma proporção de executivos em 2019 e 2020 disse que tomou medidas para construir “equidade” (65% em 2020 e 66% em 2019) e “auditabilidade” (45% em 2020 e 46% em 2019) nas dimensões de seus sistemas de IA;.

Segundo o levantamento, 65% dos executivos disseram estar cientes da questão do viés discriminatório com os sistemas de IA. Além disso, cerca de 60% das organizações atraíram investigação jurídica sobre o tema e 22% enfrentaram uma reação negativa dos clientes nos últimos dois a três anos devido a decisões tomadas por sistemas de IA.

Transparência em inteligência artificial

A transparência em relação ao uso da IA diminuiu. Embora 73% das organizações globalmente tenham informado os usuários sobre as maneiras pelas quais as decisões de IA podem afetá-los em 2019, hoje, esse número caiu para 59%.

Na pesquisa foram ouvidos 2,9 mil consumidores de seis países e 884 executivos de TI, desenvolvimento de IA, cientistas de dados, vendas, marketing e atendimento ao cliente em 10 países em abril e maio de 2020. Também foram feitas entrevistas com executivos de mercado, acadêmicos e especialistas no assunto na área de ética em IA, durante agosto e setembro. Os resultados são comparados com a pesquisa anterior de 2019, que ouviu 5 mil consumidores e 722 executivos.


+INTELIGÊNCIA ARTIFICIAL

6 grandes tendências em tecnologia para este ano
Exclusivo: presidentes da Microsoft e SAP no Brasil discutem ética dos dados e computação quântica

Conheça as cidades com as melhores condições para inovação no mundo
As tecnologias que devem deslanchar, segundo MIT e Accenture