Corpos virtuais, dilemas morais

Fazia menos de um minuto que a psicoterapeuta Nina Jane Patel estava no Horizon ­Venues, do Facebook, quando seu avatar foi assediado por um grupo de homens. Os atacantes começaram a “virtualmente estuprar em grupo” sua personagem, tirando fotos do game como lembrança. Patel congelou, chocada, antes de tentar desesperadamente libertar seu eu virtual – que ela estilizou para se parecer com seus cabelos loiros na vida real, sardas e traje de trabalho casual.

“Não finja que você não gostou”, as vozes humanas zombavam em seu fone de ouvido, enquanto ela fugia. “Vá se esfregar vendo a foto.”

O metaverso – termo vagamente definido para a próxima geração de tecnologias de realidade virtual imersiva – ainda está na infância. Mas, mesmo com gráficos grosseiros e jogabilidade às vezes falha, uma experiência desse tipo pode provocar uma reação de pânico profunda. “A fidelidade é tanta que parecia muito real”, disse Nina, cofundadora da empresa de metaverso infantil Kabuni.

Os relatos pintam um metaverso mais parecido com as salas de bate-papo sem lei que dominaram a internet primitiva do que com os jardins digitais moderados e podados por algoritmos que habitamos hoje. O programa Dispatches, do Channel 4 britânico, documentou metaversos repletos de discursos de ódio, assédio ­sexual, pedofilia e avatares simulando sexo em espaços acessíveis a crianças.

Passar de uma rede social para o metaverso significa passar da moderação do conteúdo para a do comportamento

Pesquisas anteriores à onda do metaverso descobriram que essas experiências não são incomuns. Um estudo de 2018 da agência de pesquisas de realidade virtual The Extended Mind concluiu que 36% dos homens e 49% das mulheres que usavam regularmente tecnologias de RV relataram ter sofrido assédio sexual.

O Facebook, que mudou seu nome para Meta para ressaltar seu investimento nesse campo, divulgou a decisão de incluir um recurso de “limite pessoal” em seus produtos de metaverso logo após a experiência de Nina ter sido noticiada. É uma função de distanciamento social virtual que os personagens podem acionar.

“Queremos que todos os usuários tenham uma boa experiência e encontrem facilmente as ferramentas que podem ajudar em situações como essas, para que possamos investigar e agir”, disse Bill Stillwell, gerente de produto de integridade de RV na Meta.

O argumento do metaverso diz que um dia vamos interagir com a internet principalmente por meio de um headset de realidade virtual, em que ambientes 3D renderizados de forma nítida e convincente borrarão os limites entre os mundos físico e virtual. Shows e desfiles de moda virtuais já atraíram multidões de participantes, e marcas e celebridades estão comprando “terrenos” no metaverso, gerando, inclusive, preocupações sobre uma bolha imobiliária.

As empresas tecnológicas trabalham para que um dia esses mundos pareçam tão reais quanto possíveis. O Facebook anunciou, em novembro passado, que estava desenvolvendo uma luva vibratória que imita a sensação de manusear objetos. A startup espanhola OWO criou uma jaqueta cheia de sensores para que os usuários sintam abraços e tiros no ­game. A empresa japonesa H2L está trabalhando na simulação de dor no metaverso, incluindo a sensação de um pássaro bicando seu braço.

Bilhões de dólares estão sendo despejados no espaço. Além da Meta, a ­Microsoft, que vende seus headsets de realidade mista HoloLens, está trabalhando em um software relacionado ao metaverso, enquanto a Apple desenvolve um headset de rea­lidade aumentada. Empresas de videogames, como Roblox e Epic Games, também querem agarrar uma fatia do futuro. O banco de investimentos do Citigroup prevê que a economia do metaverso chegue a 64 trilhões de reais em 2030.

Assédio virtual. No Horizon Venues, do Facebook, o avatar da psicoterapeuta Nina Jane Patel foi estuprado por um grupo de homens. “A fidelidade é tanta que parecia muito real”, afirmou ela – Imagem: Redes sociais e Craig Hibbert

A internet comum vive um tormento de assédio, discurso de ódio e conteúdo ilegal – e, como os primeiros relatos deixam claro, nada disso desaparecerá no metaverso. “As pessoas podem ser muito criativas na maneira como usam ou abusam da tecnologia”, diz Lucy Sparrow, doutoranda em computação e sistemas de informação na Universidade de Melbourne, na Austrália, que estudou moralidade em videogames multijogadores.

O metaverso pode ampliar alguns desses danos. David J. Chalmers é professor de Filosofia e Ciência Neural na Universidade de Nova York e autor de ­Reality+… Virtual Worlds and the Problems of ­Philosophy ­(Realidade+… Mundos Virtuais e os Problemas da ­Filosofia). Segundo ele, o “assédio corporal” dirigido a um avatar, por ser mais equivalente à realidade física, é, geralmente, mais traumático do que o assédio verbal nas plataformas tradicionais.

Com esse admirável mundo novo surgem questões éticas, jurídicas e filosóficas. Como o ambiente regulatório deve evoluir? As plataformas do metaverso podem contar com os protocolos de segurança de suas antecessoras ou serão necessárias abordagens totalmente novas? As punições virtuais serão suficientes para dissuadir os maus atores?

Passar de uma rede social como o ­Facebook para o metaverso significa passar da moderação do conteúdo para a moderação do comportamento. Fazer o último, “em qualquer escala significativa”, é praticamente impossível, admitiu o diretor de tecnologia do Facebook, Andrew Bosworth, em um memorando interno que vazou no ano passado.

O comunicado de Bosworth sugeria que os maus atores expulsos do metaverso poderiam ser bloqueados em todas as plataformas de propriedade do ­Facebook, mesmo que usassem vários avatares. Mas, para ser realmente eficaz, essa abordagem dependeria da exigência de identificação pessoal nas contas.

Transgressões digitais praticadas por avatares já começam a ser julgadas em tribunais da vida real

A companhia diz estar estudando como aplicar a moderação da Inteligência Artificial (IA) ao metaverso, mas ainda não definiu nada. A moderação de conteúdo automatizada é usada pelas redes sociais para ajudar a gerenciar grandes quantidades de usuários e conteúdo, mas sofre com falsos positivos – principalmente devido à incapacidade de entender o contexto –, além de não captar material que realmente viola os regulamentos.

Existem alguns exemplos de crimes no mundo digital que resultaram em punição no mundo real. Em 2012, a Suprema Corte holandesa decidiu um caso envolvendo o roubo de um amuleto e uma espada digitais no jogo online Runescape. Dois jogadores que roubaram outro com uma faca foram condenados a serviços comunitários no mundo real, com o juiz dizendo que, embora os objetos roubados não tivessem valor material, seu valor derivava do tempo e esforço gastos para obtê-los.

Julgar transgressões digitais em tribunais da vida real não parece exatamente equitativo, mas especialistas jurídicos acreditam que, se o metaverso se tornar tão importante quanto os CEOs de tecnologia esperam, poderemos, cada vez mais, ver estruturas legais do mundo real aplicadas a esses espaços.

O professor de direito biológico Pin ­Lean Lau, da Universidade Brunel, em Londres, diz que, embora alguns novos desafios legais possam surgir no metaverso, talvez não precisemos reinventar completamente a roda, sobretudo para questões sobre a personalidade jurídica do avatar ou a propriedade de bens virtuais.

Alguns esperam, entretanto, que o metaverso vá além do modelo de policiamento reativo que domina os espaços sociais online. Sparrow, por exemplo, desaprova a ênfase atual das empresas do metaverso na responsabilidade individual, em que a vítima deve desencadear uma reação de segurança diante de um ataque. Em vez disso, ela pergunta: “Como podemos ser proativos na criação de um ambiente comunitário que promova intercâmbios mais positivos?”

Ninguém quer viver num estado policial virtual, e há uma sensação crescente de que a fiscalização deve ser equilibrada com a promoção de comportamento pró-social. O órgão setorial XR Association, que inclui Google, Microsoft, Oculus, ­Vive e Sony Interactive Entertainment, apresentou sugestões como recompensar o altruísmo e a empatia e celebrar o comportamento coletivo positivo.

Game. Club Penguin foi pioneiro em criar uma rede de “agentes secretos” que vigiavam outros jogadores – Imagem: Redes sociais

Nina Patel defende que se olhe além dos mecanismos de fiscalização quando se pensa em como regulamentar o metaverso. Ela propõe examinar o comportamento nocivo de algumas pessoas em ambientes digitais e ter “curiosidade sobre o que as faz se comportarem dessa maneira”.

O modelo de governança de cima para baixo também pode ser abalado, caso as plataformas descentralizadas continuem a desempenhar um papel no ecossistema do metaverso. A plataforma de fórum online Reddit, por exemplo, depende parcialmente de moderadores da comunidade para policiar grupos de discussão. Um antigo jogo infantil, Club Penguin, de propriedade da Disney, foi pioneiro em uma rede gamificada de “agentes secretos” que mantinham um olhar atento sobre outros jogadores.

De toda forma, as soluções que as empresas de tecnologia criaram para lidar com os danos do metaverso ecoam estratégias inadequadas já empregadas na internet – e podem ser entendidas como uma armadilha para evitar novas regulações.

É, porém, fato que algumas das novas leis que estão sendo promulgadas para moderar as redes sociais podem muito bem ser aplicadas ao metaverso – mesmo havendo questões jurídicas não resolvidas sobre como governar corpos virtuais que ultrapassam o escopo da web atual. A natureza altamente especulativa desse espaço significa, no entanto, que essas perguntas estão longe de ser respondidas.

“Suspeito que, a curto prazo, as leis do metaverso virão, em grande parte, das leis dos países físicos”, diz ­Chalmers. Mas, a longo prazo, “é possível que os mundos virtuais se tornem mais como sociedades autônomas por direito próprio, com seus próprios princípios”. •

Tradução de Luiz Roberto M. Gonçalves.

PUBLICADO NA EDIÇÃO Nº 1210 DE CARTACAPITAL, EM 1° DE JUNHO DE 2022.

Este texto aparece na edição impressa de CartaCapital sob o título “Corpos virtuais, dilemas morais”