Inteligência Artificial, Call Centers e Preconceito: quem é o errado da história?
Uma startup utiliza inteligência artificial para mudar o sotaque de trabalhadores de call centers, e porque não devemos nos curvar diante de preconceituosos
Não é comum no Brasil conversamos com pessoas de call center que tem um sotaque estrangeiro, já que por aqui o serviço costuma ser realizado por brasileiros nativos. Contudo, em países estrangeiros de primeiro mundo, o serviço é realizado em sua maioria por imigrantes locais, ou até mesmo que moram em outros países, já que a tecnologia atual permite este tipo de comunicação a distância sem interrupções.
É sabido que esse tipo de trabalho é extremamente desgastante, tanto no sentido físico, quanto no sentido emocional. Contudo, por ser algo que requer pouquíssimo conhecimento e estudos prévios, além de um curto treinamento, é um emprego que atrai muitas pessoas, principalmente em países como o Brasil, ainda emergentes, com altas taxas de desemprego, baixas taxas de formalidade de empregos e de escolarização.
De qualquer forma, toda e qualquer empresa requer profissionais desta área para resolverem os problemas simples de seus clientes, que podem ser solucionados com uma curta chamada de telefone. Porém, nos países de primeiro mundo onde boa parte da população local tem acesso a melhores empregos, o serviço acaba sendo terceirizado, tanto para os imigrantes de primeira geração, quanto principalmente para empresas de outros países, principalmente a Índia. Assim como roupas e eletrônicos costumam ser fabricados em países asiáticos, não é diferente com os serviços de call center.
Contudo, é muito comum nestes países de primeiro mundo onde os cidadãos locais não costumam conversar com demais pessoas nativas daquele local, que haja uma chuva de preconceito entre os clientes das empresas e os atendentes dos call centers. Os primeiros costumam nem mesmo querer conversar com o atendente a partir do momento em que descobrem, através do sotaque ou maneira de conversar, que trata-se de uma pessoa nativa de outro país, principalmente asiático.
Sabendo disso, surgiu a ideia de fundar a startup Sanas, que está construindo uma tecnologia de alteração de voz em tempo real que visa ajudar os trabalhadores de call center em todo o mundo a parecerem ocidentais.
Por mais nobres que os objetivos sejam ao utilizar tal tecnologia, não é difícil pensar nos problemas que isso pode trazer no breve futuro. Veja, se é possível alterar a forma como você pronuncia as palavras para que você soe como uma pessoa completamente diferente de quem você é, qual a dificuldade de imaginar uma tecnologia que permita que você viva como outra pessoa, inclusive como alguém que já existe? Estou longe de ser alguém que morre de medo ou tem aversão a inteligência artificial, muito pelo contrário, mas avanços como esses me fazem pensar.
Ainda, se o objetivo é mudar a forma com que os atendentes conversam para que os preconceituosos sejam recompensados, existe a sensação que mais uma vez o errado, mas mais poderoso, está sendo beneficiado.
A ideia aqui é discutir a moralidade do serviço prestado pela startup. Como explicado no primeiro parágrafo, trata-se de uma realidade muito distante da qual estamos acostumados, por isso fica difícil tentar entender os pontos positivos e negativos da ideia. Portanto, para facilitar a nossa discussão, vamos utilizar do texto original em inglês, traduzido de forma livre e exposto por aqui, onde o autor e os entrevistados têm vivência necessária para dialogar com propriedade sobre a inovação.
É uma ideia que lembra o filme de humor negro de 2018 Desculpe Te Incomodar, no qual Cassius, um negro contratado para ser operador de telemarketing, é aconselhado por um colega mais velho a "usar sua voz branca". O sotaque vai suavizar as interações com os clientes, “como ser parado pela polícia”, diz o trabalhador mais velho. No filme, Cassius adquire rapidamente uma “voz branca” e seus números de vendas disparam, deixando uma sensação desconfortável.
Em outro filme, “Infiltrado na Klan” (ótimo filme, assista), o personagem principal, um negro, consegue, alterando a forma que fala, seus sotaques e jeito de comunicar, infiltrar aos poucos na Ku Klux Klan, um movimento americano que defende correntes reacionárias e extremistas, tais como a supremacia branca, o nacionalismo branco, a anti-imigração entre outras.
Embora o primeiro filme seja obra de ficção, o segundo é baseado inteiramente em um fato histórico, a história de Ron Stallworth e Chuck[1] (pseudônimo utilizado para proteger a identidade real). Não obstante, não é segredo que a forma como nos comunicamos e até o tom de nossa voz diz muito sobre nós, e muitas pessoas utilizam de pré-conceitos para julgarem as demais, baseadas unicamente na forma com que elas conversam.
Por isso, a ideia da startup é transformar a voz dos atendentes de call center. O problema é quando vemos o real objetivo:
Conforme relatado no SFGate esta semana, Sanas espera que sua tecnologia possa fornecer um atalho. Usando dados sobre os sons de diferentes sotaques e como eles se correspondem, o mecanismo de IA da Sanas pode transformar o sotaque de um falante no que se passa por outro – e, no momento, o foco é fazer com que os não americanos soem como americanos brancos. (Sem grifo no original)
Observe que o racismo e preconceito não é do criador da empresa, mas sim da grande maioria das pessoas que conversam com os trabalhadores de call center. A ideia de Narayana, o fundador, nada mais é que vender seu produto para o maior número de clientes possível, e para isso, é necessário que a inteligência artificial transforme as mais diferentes vozes em americanos brancos.
Outro objetivo da startup é facilitar o treinamento de quem trabalha nesses locais, que precisa aprender a literalmente soar como pessoas diferentes, ou arriscar ficar desempregado.
Os sotaques são um obstáculo constante para milhões de trabalhadores de call center, especialmente em países como Filipinas e Índia, onde toda uma indústria de “neutralização de sotaque” tenta treinar os trabalhadores para que soem mais como os clientes ocidentais para os quais estão ligando – muitas vezes sem sucesso.
Sharath Keshava Narayana, cofundador da Sanas, me contou que sua motivação para o software remonta a 2003, quando começou a trabalhar em um call center em Bangalore, enfrentou discriminação por seu sotaque indiano e foi forçado a se chamar de “Nathan”. Narayana deixou o emprego depois de alguns meses e abriu seu próprio call center em Manila em 2015, mas o desconforto dessa experiência inicial “ficou comigo por muito tempo”, disse ele.
Observe que além do treinamento que obriga os trabalhadores a mudarem a forma com que aprenderam a falar, existe toda uma cultura dentro daqueles que trabalham com isso para que sejam diferentes, com o único objetivo de agradar alguém que está a milhares de quilômetros de distância. Tudo isso para receberem em troca uma chuva de preconceitos e principalmente um pagamento absurdamente inferior ao necessário para manter uma qualidade de vida digna.
Se esse cliente está chateado com a conta ser alta ou o cabo não funcionar ou o telefone não funcionar ou qualquer outra coisa, eles geralmente ficarão frustrados assim que ouvirem um sotaque. Eles vão dizer: “eu quero falar com alguém na América.” Os call centers não roteiam as chamadas de volta para a América, então agora o peso disso está sendo tratado pelo agente. Eles simplesmente não recebem o respeito que merecem desde o início. Então já começa como uma conversa muito difícil. Mas se pudermos eliminar o fato de que há esse viés, agora é uma conversa – e as pessoas saem da ligação se sentindo melhor.
Como dito anteriormente, a função da startup não é enviesar ainda mais o preconceito existente, mas sim, sumariamente, facilitar o trabalho dos próprios trabalhadores de call center, que além das inúmeras dificuldades que têm que enfrentar diariamente, ainda são vítimas de comentários preconceituosos e não podem ser si mesmos no ambiente de trabalho.
Embora ainda seja uma startup, o software já é utilizado por mais de 1000 pessoas nas Filipinas e Índia, e os funcionários podem ligá-lo e desligá-lo quando quiserem. O feedback tem sido positivo, já que, segundo Narayana, os agentes têm dito que se sentem mais confiantes durante as ligações quando usam a ferramenta.
Nas palavras do fundador, sobre as críticas que tem recebido:
Narayana disse que ouviu as críticas, mas argumentou que Sanas aborda o mundo como ele é. “Sim, isso está errado, e não deveríamos ter existido. Mas muitas coisas existem no mundo – como por que a maquiagem existe? Por que as pessoas não aceitam como são? É errado, do jeito que o mundo é? Absolutamente. Mas então deixamos os agentes sofrerem? Construí essa tecnologia para os agentes, porque não quero que ele ou ela passe pelo que passei.
E a seguir, a opinião do autor do texto do The Guardian sobre a fala de Narayana:
A comparação com a maquiagem é inquietante. Se a sociedade – ou digamos, um empregador – pressiona certas pessoas a usar maquiagem, é uma escolha real? E embora a Sanas enquadre sua tecnologia como opcional, não é difícil imaginar um futuro em que esse tipo de “maquiagem” algorítmica se torne mais amplamente disponível – e até obrigatório. E muitos dos problemas que Narayana descreve a partir de sua própria experiência de trabalhar em um call center – mau tratamento por parte dos empregadores, a sensação degradante de ter que usar um nome falso – não serão alterados pela tecnologia.
Quanto a moralidade do caso, não é difícil pensar como Wilfred Chan, autor do texto do The Guardian. A comparação com o uso da maquiagem não cabe, já que, embora aconteça, provavelmente mais que imaginamos, o uso da maquiagem não é feito para evitar ou driblar preconceitos. Não obstante, ainda que a tecnologia de Narayana seja atualmente opcional e tenha demonstrado efeitos positivos, não é difícil imaginar que num futuro próximo se torne obrigatório, e force as mais diversas culturas mundiais a se adaptarem ao que poucos, os mais poderosos, estão acostumados.
Sem dúvida trata-se de um problema grave, sem solução simples. As grandes empresas nunca dedicarão recursos financeiros suficientes para empregar pessoas com treinamentos dignos e estudos completos para trabalharem em call centers se puderem baratear ao máximo esse serviço. Ainda, à medida que mais países se desenvolvam e principalmente a tecnologia avance, a tendência é que esse tipo de atendimento fique ainda mais robotizado, seja ele feito por seres humanos ou não.
Por isso, acredito que a ideia do empresário não é ruim, e entendo perfeitamente a visão que ele tem de querer ajudar, primeiramente, os trabalhadores, que assim como ele viveu, sofrem diariamente de muito preconceito e distrato. Contudo, é preciso que soluções como essas não obstruam nossa visão do real problema: o preconceito. Para resolver isso, não basta soluções que facilitem a vida do propagador desse ódio. Ainda que os trabalhadores tenham sua vida facilitada ao não sofrem preconceito, na realidade são os criminosos que deixam de destilar ódio por não saberem se estão tratando com alguma pessoa de seu convívio social ou não.
Assim como em Infiltrado na Klan, o disfarce utilizado por Ron foi a ferramenta inicial utilizada para sabotar o movimento por dentro, destruindo a vida de preconceituosos e racistas.
Num mundo cada vez mais tomado por inteligências artificiais que se passam muito bem por seres humanos, é preciso ter cuidado com o poder que damos a estas ferramentas, e a tranquilidade que lidamos com robôs mudando nosso jeito de viver. Ainda, é fundamental que nunca, em qualquer hipótese, pessoas preconceituosas tenham qualquer forma de conforto garantidas a si.
Sendo assim, é preciso que busquemos soluções que mitiguem o problema na raiz, neste caso, como combater o preconceito de boa parte das pessoas que ligam para esses serviços. Evidentemente que é natural que surjam tecnologias como essa, que possuem um cerne íntegro e interessante, mas que acabam beneficiando os preconceituosos. Isso não é um problema em si, desde que não seja a única solução disponível. Ainda, é necessário que, por mais poderosos que sejam os que destilam preconceito, eles com certeza são minoria no mundo, e nós, a maioria, precisamos combater este tipo de comportamento. Como diz uma já conhecida frase, "não basta não ser racista, é preciso ser antirracista".
[1] https://veja.abril.com.br/coluna/e-tudo-historia/infiltrado-na-klan-a-historia-do-policial-negro-que-enganou-os-racistas/