Apple é acusada de discriminação em cartão de crédito

13 de novembro de 2019 - 12h01

Do AdAge*

A Apple e a Goldman Sachs, duas das mais reconhecidas companhias em tecnologia e finanças, respectivamente, estão envolvidas no crescente debate sobre a possibilidade de empresas de crédito estarem discriminando involuntariamente seus clientes ao usarem modelos complexos para determinar as condições de empréstimo.

No sábado, 9, a Bloomberg News afirmou que um regulador da bolsa de valores norte-americana abriu uma investigação sobre as práticas de cartão de crédito da Goldman Sachs, após o tweet viral de um empreendedor de tecnologia que alega que os algoritmos do Apple Card discriminavam sua esposa.

Agora, outro usuário importante do Apple Card — Steve Wozniak, cofundador da Apple — está pedindo que o governo se envolva no caso, citando confiança corporativa excessiva em uma tecnologia misteriosa.

“Esse tipo de injustiça me incomoda e vai contra o princípio da verdade. Nós não temos transparência sobre como essas companhias montam e operam as tecnologias”, disse Wozniak em entrevista no domingo, 10. “Nosso governo não é forte o suficiente em questões de regulamentação. Os consumidores só podem ser representados pelo governo porque as grandes corporações só representam a elas mesmas”.

Wozniak afirmou que consegue dez vezes mais crédito que sua mulher no Apple Card, apesar de dividirem a conta no banco e cartões de crédito. Ele afirmou que outras empresas de crédito os tratam igualmente. “Algoritmos obviamente têm falhas”, contou Wozniak. “Um grande número de pessoas diria, ‘Nós amamos tecnologia, mas não estamos mais no controle’, eu acho que esse é o caso”.

As empresas de crédito promoveram o modelo de algoritmos por acreditar que ele poderia nivelar a concorrência, eliminando o erro humano e focando apenas dos dados.

“Nossas decisões de crédito são baseadas na credibilidade do cliente e não em fatores como gênero, raça, idade, orientação sexual ou qualquer outra base proibida por lei”, afirmou o porta-voz da Goldman Sachs, Andrew Williams, depois de o Departamento de Serviços Financeiros de Nova York abrir uma investigação sobre as práticas do banco.

A investigação foi lançada em resposta a série de posts no Twitter de David Heinemeier Hansson, fundador e CTO da Basecamp, por dar a ele vinte vezes mais limite de crédito do que a sua esposa conseguiu. Os tweets, muitos contendo ofensas, imediatamente ganharam tração online e respostas de Wozniak.

Hansson não divulgou nenhuma informação sobre o casal, mas disse que eles apresentaram declarações fiscais conjuntas e que sua mulher tem uma nota de crédito melhor que a dele. Wozniak disse que ele e sua esposa também fizeram declarações conjuntas e compartilham contas de banco e cartão de crédito.

“O departamento conduzirá uma investigação para determinar se as leis de Nova York foram violadas e certificar que todos os consumidores estão sendo tratados igualmente, independentemente do sexo”, disse um porta-voz de Linda Lacewell, superintendente do Departamento de Serviços Financeiros do Estado de Nova York. “Qualquer algoritmo que intencionalmente ou não resulte em tratamento discriminatório de mulheres ou qualquer outra classe de pessoas viola as leis de Nova York”.

Essa é a segunda ação nas últimas semanas do órgão regulador, que abriu uma investigação contra o gigante da indústria de saúde UnitedHealth Group, depois de um estudo indicar que o algoritmo da companhia favorecia pacientes brancos em detrimento de pacientes negros.

“Novas tecnologias não podem deixar certos consumidores para trás ou fortalecer a discriminação”, Lacewell disse em comunicado no domingo, 10. Ela também solicitou reclamações de consumidores que se sentiram lesados no Twitter.

Credores tradicionais estão aumentando o uso de máquinas para definir quanto crédito os usuários vão receber, como parte da estratégia para reduzir custos e aumentar as aplicações de empréstimos. Enquanto isso, companhias de tecnologia estão entrando no território dos serviços financeiros, com empresas como Amazon, Apple, Facebook e Google ameaçando as lucrativas linhas de negócio dos bancos, oferecendo empréstimos e opções de pagamento.

Os algoritmos atraíram o escrutínio do Congresso. Em junho, o Comitê da Câmara dos Estados Unidos sobre Serviços Financeiros ouviu falar sobre alguns exemplos de tomada de decisão por algoritmos em que pesquisadores descobriram casos de preconceito direcionados a grupos específicos, mesmo quando não havia intenção de discriminar.

Alguns legisladores já estão exigindo uma resposta federal. A senadora Elizabeth Warren, democrata de Massachusetts e candidata a disputar com o presidente Donald Trump as eleições de 2020, disse aos reguladores federais que o governo “terá que tomar ações para assegurar que as leis antidiscriminação acompanhem a inovação”.

Para a Goldman, as crescentes ambições para a Main Street estão trazendo um maior escrutínio e um novo conjunto de desafios que não havia sido enfrentado anteriormente. O Apple Card é uma joint venture entre a Apple e a Goldman Sachs, que é responsável por todas as decisões de crédito no cartão. Ele foi lançado no início deste ano e é comercializado como “criado pela Apple, não por um banco”. Os executivos das duas empresas o consideraram como o lançamento de cartão mais bem-sucedido de todos os tempos.

Hansson disse que Goldman não está tratando seriamente o preconceito inadvertido”. Assim que isso se tornou um problema de relações públicas, eles imediatamente aumentaram seu limite de crédito sem solicitar documentação adicional”, contou sobre o caso em uma entrevista no sábado, 9.“Minha crença não é que exista uma pessoa nefasta querendo discriminar. Mas isso não importa. Como você sabe que não há um problema com algoritmo de machine learning, quando ninguém pode explicar como a decisão foi tomada?”.

*Tradução: Taís Farias

**Crédito da foto no topo: Markus Spiske/Unsplash