Segurança digital: quem realmente controla as regras do mercado na era da IA

Quem define as regras do mercado digital não é o governo, nem o mercado em si. São as plataformas. O poder digital exercido por um punhado de empresas de tecnologia já determina quais negócios aparecem para o consumidor, quais trabalhadores são contratados por aplicativos e quais informações circulam na esfera pública. Para a maioria das empresas brasileiras, essa dependência ainda não tem nome, mas já tem consequências.

Esse deslocamento de poder não aconteceu de uma hora para outra. Ele foi viabilizado pela combinação entre internet, dispositivos conectados, big data e algoritmos cada vez mais sofisticados, que ampliaram a capacidade das plataformas de capturar atenção, extrair dados comportamentais e definir as condições de acesso a mercados inteiros.

Uma mudança de algoritmo no Google pode reduzir o tráfego de um e-commerce em dias. Uma atualização de política no Instagram pode inviabilizar anos de construção de audiência. Quando uma empresa privada exerce função equivalente à de um regulador, surgem perguntas sobre legitimidade, recurso e accountability que o ambiente regulatório brasileiro ainda não responde.

É esse deslocamento que Eduardo Felipe Matias analisa em “A humanidade e o poder digital: impactos da IA sobre nosso futuro”, livro publicado pela Editora Senac São Paulo. Jurista com passagens pelas universidades de Berkeley e Stanford, atuação no ecossistema de startups e duas vezes premiado com o Jabuti, Matias reúne na obra 456 páginas de pesquisa sobre como plataformas e inteligência artificial reorganizam a economia, o trabalho e a democracia. Nos dois livros anteriores, havia investigado a globalização e a sustentabilidade. Agora, vira a atenção para o que chama de força definidora do século XXI: a inovação tecnológica.

Plataformas que legislam sem eleição

As grandes plataformas digitais deixaram de ser apenas canais de distribuição. Hoje definem regras, aplicam penalidades e controlam o acesso a mercados inteiros, muitas vezes de forma opaca e sem escrutínio público.

“As big techs passaram a exercer um poder normativo sem precedentes. Quando softwares, algoritmos e termos de uso definem regras, resolvem disputas e aplicam sanções, o que emerge é uma nova forma de soberania funcional, em que a praça pública digital e a própria liberdade de expressão passam a depender de uma governança privada que muitas vezes opera de forma opaca e sem escrutínio público”, escreve Matias.

Para quem empreende, a assimetria é concreta. As mesmas plataformas com as quais uma empresa compete também fornecem as ferramentas que ela usa para operar, criando uma relação de subordinação disfarçada de parceria.

IA generativa e decisões que ninguém explica

A inteligência artificial generativa aprofunda esse problema. Sistemas cada vez mais autônomos automatizam contratações, definem crédito, modulam preços e filtram conteúdo, muitas vezes sem que seja possível identificar por que uma decisão foi tomada.

Para empresas que dependem dessas ferramentas, a opacidade não é apenas um problema ético. É um risco operacional. Quando um sistema de IA rejeita um fornecedor ou bloqueia uma conta sem explicação auditável, a empresa afetada não tem para onde recorrer.

“A IA, especialmente a IA generativa, vem automatizando decisões e tarefas com efeitos sociais profundos. O problema é que muitos desses sistemas funcionam como caixas-pretas imprevisíveis, o que torna muito mais difícil definir limites, identificar vieses e responsabilizar agentes cada vez mais autônomos”, afirma o autor.

Há ainda outro risco menos visível: a IA não é neutra. Escolhas de valores podem ser embutidas no design desses sistemas de forma invisível ao público, o que torna urgente aumentar sua transparência, especialmente quando essas escolhas afetam decisões de negócios, contratações e acesso a crédito.

Algoritmos, trabalho e desigualdade entre empresas

O impacto sobre o mercado de trabalho também passa pelo poder digital. Plataformas de intermediação definem unilateralmente as condições de remuneração de milhões de trabalhadores. Ao mesmo tempo, pequenas e médias empresas competem com gigantes que têm acesso a volumes de dados incomparáveis e usam esses dados para otimizar preços, prever demanda e antecipar movimentos de mercado.

“A IA e a automação já estão produzindo efeitos visíveis em setores centrais da vida econômica e social. Elas podem afetar o mercado de trabalho, ameaçar empregos e aprofundar desigualdades, enquanto os ganhos de produtividade tendem a se concentrar nas mãos de poucas pessoas, empresas ou países”, aponta Matias.

A resposta, segundo o autor, passa por usar a IA de forma complementar às capacidades humanas e por criar políticas públicas de qualificação profissional e redistribuição de renda, algo que exige modelos de governança que o mercado, sozinho, não tem incentivo para desenvolver.

Governança digital

A discussão sobre regulação de plataformas e IA saiu do campo acadêmico. Na Europa, o AI Act já impõe obrigações concretas a empresas que desenvolvem ou utilizam sistemas de inteligência artificial. No Brasil, o debate regulatório avança, ainda que em ritmo mais lento do que a adoção tecnológica.

Matias é direto ao recusar a dicotomia entre inovação e regulação. “Regulação e inovação não estão em contradição. Ao contrário, a primeira pode contribuir para a segunda. O desafio é mitigar riscos, proteger usuários, estimular a concorrência e, ao mesmo tempo, preservar os benefícios que essas tecnologias podem oferecer à sociedade”, escreve.

Para quem empreende, ignorar esse movimento é um erro de planejamento. As regras que vão definir o que é permitido fazer com dados, algoritmos e automação nos próximos anos estão sendo escritas agora. O poder digital já não é uma questão do futuro: é uma variável do presente que todo empresário, gestor e empreendedor precisa incluir no cálculo de risco do seu negócio.