Penso, logo duvido. Duvido, logo resisto.

...e o fim da lógica do “ver para crer”

Compartilho uma interessante reflexão de Piero Franceschi sobre uma consequência cada vez mais relevante da Inteligência Artificial:

Estamos passando de uma época em que a tecnologia apenas selecionava aquilo que víamos para outra em que ela também é capaz de produzir imagens, vozes, vídeos e narrativas extremamente convincentes sobre fatos que jamais ocorreram.

O texto parte da conhecida ideia do “ver para crer” para propor uma mudança de comportamento: diante das novas tecnologias, ver ou ouvir algo já não será necessariamente suficiente para considerá-lo verdadeiro.

Para nós, a reflexão ultrapassa a curiosidade tecnológica.

Autenticidade de documentos, imagens, mensagens, áudios, vídeos e até instruções aparentemente transmitidas por clientes ou administradores passarão a exigir cuidados cada vez maiores.

Mas acrescentaria uma ressalva: a resposta não pode ser desconfiar de tudo.

O ceticismo absoluto pode ser tão prejudicial quanto a credulidade. A dúvida deve ser o ponto de partida para a verificação — e não um fim em si mesma.

Talvez a melhor síntese seja:

Antes: Ver para crer.

Agora: Ver, duvidar, verificar — E somente depois concluir.

A dúvida, nesse contexto, não significa negar a realidade. Significa exigir melhores evidências antes de aceitá-la.

A Realidade atráves de uma janela digital

Durante muito tempo acreditamos que a grande questão da tecnologia era o acesso à informação. Quem controlava a informação controlava o conhecimento. Quem tinha conhecimento tomava melhores decisões. Parecia simples.

Mas essa já não é mais a discussão. A questão agora não é apenas o acesso à realidade. É a própria realidade.

Vivemos boa parte da vida olhando o mundo através de uma janela digital. Notícias, vídeos, opiniões, tendências e pessoas chegam até nós por meio de telas. É através delas que entendemos o que acontece, formamos opiniões e decidimos o que merece atenção.

Essa janela nunca foi neutra.

O que chamamos de realidade já é, há algum tempo, uma construção mediada por algoritmos: uma curadoria invisível que influencia o que aparece, o que desaparece, o que ganha prioridade e o que sequer entra em nosso campo de visão.

A maioria acredita estar observando o mundo diretamente, quando, na verdade, observa uma versão editada dele.

É como observar o mundo de dentro de um aquário: tudo parece transparente, mas o vidro tem um dono.

Quando os mediadores passaram a criar

Durante anos, algoritmos funcionam principalmente como sistemas de recomendação. Escolhiam o que mostrar, organizavam conteúdos e hierarquizam informações. Eram mediadores da realidade.

Agora, porém, os mediadores ganharam um novo poder: o poder de criar.

A fronteira entre mediação e fabricação foi cruzada.

Não estamos mais falando apenas de máquinas que selecionam pedaços do mundo, mas de sistemas capazes de produzir representações extremamente convincentes de algo que nunca aconteceu:

• Imagens que nunca existiram;

• Pessoas que nunca nasceram;

• Vozes que jamais pronunciaram determinadas palavras;

• Vídeos de acontecimentos que nunca ocorreram.

A tecnologia deixou de apenas selecionar e editar aquilo que vemos. Agora também é capaz de produzir conteúdos sintéticos praticamente indistinguíveis, em determinadas situações, de registros autênticos.

Deepfakes, clonagem de voz, avatares digitais e conteúdos sintéticos representam mais do que avanços tecnológicos.

Eles modificam nossa relação com a verdade.

Durante muito tempo nos apoiamos em uma lógica simples:

“Ver para crer.”

Essa lógica, isoladamente, já não é suficiente.

Quando ver deixa de ser prova

Agora é preciso questionar justamente aquilo que vemos:

• Uma imagem pode ser falsa;

• Um vídeo pode ter sido manipulado;

• Uma voz pode ter sido clonada;

• Um documento pode ter sido artificialmente produzido.

E tudo isso pode ser apresentado com enorme capacidade de convencimento.

Talvez estejamos entrando em uma era na qual a verdade deixa de ser apenas algo observável e passa, cada vez mais, a ser algo investigável.

Não bastará olhar, será preciso verificar.

Não bastará consumir, será preciso questionar.

A dúvida como método

É aqui que a dúvida deixa de ser necessariamente um sinal de insegurança e passa a funcionar como instrumento de inteligência.

Em um ambiente no qual representações da realidade podem ser artificialmente produzidas, duvidar transforma-se em uma espécie de higiene mental e intelectual: a capacidade de interromper o fluxo de informações e perguntar:

“Mas será mesmo?”

Se as máquinas serão cada vez mais capazes de responder perguntas, produzir imagens, reproduzir vozes e construir narrativas, uma responsabilidade essencialmente humana será avaliar criticamente aquilo que recebemos.

Não pela negação sistemática de tudo.

Mas pela recusa em acreditar automaticamente em qualquer coisa.

O outro lado do problema

Há, entretanto, um cuidado igualmente importante.

Se a credulidade se torna perigosa em um mundo de conteúdos sintéticos, o ceticismo absoluto também pode ser.

Não podemos chegar ao extremo de considerar falsa qualquer fotografia, gravação, documento ou vídeo simplesmente porque poderia ter sido produzido por Inteligência Artificial.

A dúvida deve conduzir à investigação, não à negação automática.

Por isso, talvez a nova lógica não seja:

“Não acredito mais no que vejo.”

Mas:

“Aquilo que vejo é uma evidência. Se a decisão for relevante, verifico sua origem e autenticidade antes de concluir.”

Para Contadores e Advogados, uma questão muito concreta

Essa discussão pode parecer filosófica, mas possui consequências profissionais imediatas.

Imagine receber:

• Uma mensagem de voz aparentemente enviada por um cliente autorizando uma transferência;

• Um vídeo de um administrador solicitando determinada providência;

• Um documento digital aparentemente autêntico;

• Um e-mail acompanhado de documentos produzidos artificialmente;

• Instruções aparentemente transmitidas por um sócio ou diretor;

• Uma comunicação urgente solicitando alteração de dados bancários;

• Participar de uma reunião virtual na qual imagem e voz de determinada pessoa tenham sido artificialmente reproduzidas.

Nessas situações, simplesmente “ver” ou “ouvir” poderá não ser suficiente.

Será necessário adotar procedimentos de autenticação, confirmação por canal independente e verificação da origem da informação, especialmente antes da execução de atos com consequências financeiras, societárias, jurídicas ou tributárias relevantes.

Para escritórios de Contabilidade, esse cuidado tende a deixar de ser apenas uma recomendação de segurança e passar a integrar os próprios controles internos e procedimentos profissionais.

O desafio é também humano

Hoje já vemos seres humanos utilizando máquinas para influenciar outros seres humanos.

Sistemas aprendem padrões. Identificam o que captura atenção, o que engaja e o que convence.

E um sistema não precisa possuir intenção própria para produzir consequências indesejadas. Os resultados dependerão dos objetivos, incentivos, dados e controles envolvidos em sua utilização.

Por isso, o desafio dos próximos anos não será apenas tecnológico.

Será também humano.

Em um mundo no qual máquinas podem produzir certezas artificiais, pensamento crítico, capacidade de questionamento e verificação de evidências tornam-se competências ainda mais importantes.

Talvez possamos resumir assim:

Talvez possamos resumir assim:

A dúvida protege.

A verificação confirma.

O conhecimento permite decidir.

E a reflexão de Piero Franceschi permanece como uma excelente provocação para os nossos tempos:

“Penso, logo duvido. Duvido, logo resisto.”

Fonte: Humanos, por Piero Franceschi.