Cybertech vs. Humanidade?​

Se Tristan Harris – ex-especialista em ética do design em um dos maiores gigantes da internet, agora ativista da digitalização e cofundador da organização sem fins lucrativos "Center for Humane Technology" – entra na videochamada pelo smartphone, a sua postura transmite uma calma quase libertadora."Quem me dera que todos pudessem aproveitar esta vista incrível! As montanhas do Arizona, o céu, as nuvens – aqui posso realmente respirar fundo."A digitalização pode ser algo extraordinário. Esta proporciona flexibilidade, abre novas possibilidades para a vida e o trabalho. Mas – e é exatamente sobre esse grande "mas" que Tristan Harris se debruça – se não tivermos cuidado.

O Futuro Já Chegou​

Há décadas que a ficção científica explora o medo de que a inteligência artificial (IA) possa, num futuro distante, controlar a sociedade. "Sempre aprendemos que uma força adversária precisa ser mais forte do que nós para nos dominar", explica Harris. "Se quero influenciar alguém, a minha força tem de superar a dele."Mas, desde os tempos em que fazia truques de magia por diversão – e, mais tarde, ao estudar no Persuasive Technology Lab da Universidade de Stanford –, Harris percebeu que controlar o comportamento humano exige muito menos esforço do que parece."Como se cria uma ilusão eficaz?", questiona. "Basta conhecer um único aspeto da psique humana que a própria pessoa desconhece. E pronto: o comportamento pode ser manipulado. Não é preciso superar forças, basta explorar fraquezas.“​

E, segundo Harris, é exatamente assim que funcionam a maioria das redes sociais, programas de e-mail e aplicações que fazem parte do dia a dia de bilhões de pessoas. "Não andamos apenas com smartphones no bolso. Carregamos máquinas projetadas para ativar o nosso sistema de recompensa neurológica – como se fossem caça-níqueis de um casino."​

A lacuna de informação está a crescer​

Se nós, os utilizadores, não tivermos a menor ideia de que o nosso cérebro reage de forma fiável à libertação de hormonas do bem-estar em resposta a recompensas variáveis, então, em comparação com o vasto conhecimento da indústria da cibertecnologia, estamos, naturalmente, em grande desvantagem. "Recompensas variáveis", explica Harris, "significa que puxo uma alavanca e, por vezes, recebo uma recompensa generosa – oh, emocionante! – mas outras vezes, não recebo nada." Este é apenas um exemplo de como as funções mais primitivas do nosso cérebro podem ser usadas contra nós. Verificamos a nossa caixa de entrada virtual a cada poucos minutos, deslizamos para cima ou para baixo para ver atualizações – sempre na esperança de obter uma "recompensa". Ainda podemos falar de um uso consciente da tecnologia de comunicação? Podemos realmente dizer que decidimos por nós próprios como passamos o nosso tempo? Não, afirmam Tristan Harris e muitos outros cientistas.“​

Plataformas de streaming de vídeo, aplicações de redes sociais, portais de notícias – todos estão numa competição feroz", descreve Harris o problema central, "pela nossa atenção." A tecnologia não evolui de forma aleatória, mas sim como resposta às inovações da concorrência, com novas inovações próprias. Um dos efeitos colaterais negativos desta espiral é a rápida propagação de fake news. "A raiva é um gerador de tempo de ecrã mais eficaz do que a satisfação", diz Harris. Se algo nos perturba, partilhamos com mais amigos, procuramos mais fontes de informação, consumimos cada vez mais conteúdos. O algoritmo deteta este comportamento – e alimenta-nos com ainda mais conteúdos perturbadores. Nem sempre têm de ser fake news, mas uma coisa é certa: não é a veracidade da informação que determina o que aparece nos nossos feeds e cronologias. "Afinal, um feed de notícias pessoal não é gerido por pessoas, mas por algoritmos", diz Harris. "E estes não se preocupam com o que é verdadeiro ou saudável para nós, mas sim com o que mantém a nossa atenção presa durante mais tempo."​

O que fazer agora

Um dilema complicado - há alguma solução? Harris diz: "Em primeiro lugar, todos nós precisamos de desenvolver uma melhor compreensão da vulnerabilidade das nossas mentes para podermos resistir mais eficazmente a comportamentos impulsivos pouco saudáveis". O especialista em ética do design apela assim a uma era digital de esclarecimento. "Em segundo lugar, precisamos de novos modelos de responsabilidade", continua Harris. "Os responsáveis pelas decisões nas salas de controlo das grandes empresas tecnológicas têm de estar conscientes das suas responsabilidades. E precisam de ser responsabilizados." Em terceiro lugar, Harris defende um "verdadeiro renascimento do design" - e com um sucesso crescente perante os diretores executivos no Valley. A proteção dos consumidores deve estar no centro das atenções. Mas também capacitar os utilizadores ou oferecer-lhes a oportunidade de utilizarem o seu tempo de forma mais sensata. Devem ser formulados objetivos comuns. O que é que os utilizadores esperam realmente alcançar na sua utilização diária das redes sociais? Espirais intermináveis de vídeos e discussões em fóruns? Ou antes uma ajuda ativa na organização do seu precioso tempo longe do ecrã?​

Responsabilidade e oportunidades

Seja positivo ou negativo: a inteligência artificial "otimiza" o nosso comportamento, conhece a nossa psique, adivinha e manipula os nossos desejos - há muito tempo que é indiscutivelmente superior a nós, Harris tem a certeza disso. Esta roda não pode voltar atrás. No entanto, trata-se agora de implementar valores mais saudáveis do que simplesmente ter como objetivo vender o maior volume possível de atenção aos clientes publicitários pela melhor oferta. O autor afirma: "Os advogados e os médicos também têm uma enorme vantagem em termos de conhecimentos na sua área. Mas a sua ética profissional obriga-os a agir no melhor interesse dos seus clientes". Harris acredita que esta mudança de paradigma também é inevitável no setor da tecnologia. Naturalmente, associada a um comportamento responsável e atento dos utilizadores. Harris tem também uma dica muito prática: "Não se proíba de utilizar as redes sociais. Em vez disso, permita-se passar conscientemente algum tempo offline várias vezes por dia! Tempo com coisas divertidas, excitantes e relaxantes". Isto também ativa o sistema de recompensa.​