Vieses Artificiais

Somos tendenciosos de forma sistemática. Nossas decisões são irracionais. Muito se discute sobre como podemos classificar e explicar nossos vieses. Alguns deles são consequências de usos no processamento das informações que recebemos e que o cérebro opera para julgamentos ou decisões. São o que chamamos de tendências cognitivas. No convívio social, quando conhecemos alguém, normalmente fazemos perguntas importantes para favorecer e confirmar nossas suposições sobre a pessoa. A forma como construímos nossas questões são mais reveladoras que as respostas que ouvimos.

Desde 1972, quando Daniel Kahneman e Amos Tversky ficaram famosos, a economia comportamental ganhou espaço. Eles foram figuras chave na descoberta do enviesamento humano sistemático. A partir daí, diferentes vieses cognitivos foram identificados. No total, existem mais de 180 deles que interferem na forma como interagimos com os dados, pensamos e percebemos a realidade.

Exemplos não faltam. Procuramos informações de forma que estas confirmem nossas crenças (viés de confirmação), confiamos demais em referências do passado ou em uma parte das informações (viés de ancoragem), fazemos várias coisas porque muitas outras pessoas fazem (viés de adesão), lembramos que decisões antigas foram melhores do que elas realmente foram (viés de pré-escolha), exageramos no quanto outras pessoas concordam conosco (efeito do falso consenso), gastamos mais dinheiro quando a conta será dividida (efeito de denominação) entre tantas outras.

Com a crescente onda de desinformação, alguns desses vieses ficaram ainda mais expostos. Não foi à toa que Merriam-Webster, editora de dicionários mais antiga dos Estados Unidos, escolheu “gaslighting” como a palavra do ano. O dramaturgo britânico Patrick Hamilton mal sabia quantas vezes o título de sua obra “Gas Light” (luz a gás, em tradução literal) escrita em 1938, seria empregado atualmente. O termo “gaslighting” é definido como o ato ou prática de manipular psicologicamente alguém, em que informações são distorcidas ou falsificadas em benefício de quem influencia a outra pessoa.

Com a rápida evolução da inteligência artificial generativa (IAG) várias questões éticas no Processamento de Linguagem Natural (PNL) entraram em evidência. Os algoritmos são desprovidos de sentimentos e empatia, fazendo leituras e interpretações do mundo tal qual nós humanos. Criticamos e julgamos que eles estão errados, pois reforçam determinados comportamentos, mas esquecemos que eles são alimentados com os nossos dados. Não podemos culpar os sistemas, mas temos que trabalhar para reduzir esses vieses.

Imaginar decisões relacionadas a criação de um modelo que seja completamente livre desses preconceitos é algo muito complexo, pois grande parte são dados históricos. Quanto mais dados fornecermos, melhor para o aprendizado dessa máquina, para que ela possa entregar o resultado que queremos de obter. Só que no ato de inserir essas informações carregamos todos os nossos vieses.

As técnicas de processamento das máquinas evoluem para serem próximas ao modelo utilizado naturalmente pelo cérebro humano. Queremos que o produto final seja algo parecido com a nossa linguagem. Embora ainda haja muito o que avançar no PLN, já dispomos de muitas aplicações uteis. O Gartner, uma das principais empresas de pesquisa e consultoria do mundo, define que a IAG vai além da geração de dados sintéticos, pois mudará a forma como toda a sociedade irá se relacionar.

A aproximação das áreas de tecnologia e negócios aumenta a cada dia. Os profissionais de comunicação, criação e geradores de conteúdos precisam estar vigilantes e atentos a essa revolução, para que a tecnologia não seja percebida como uma perigosa ferramenta de manipulação. Enquanto os jornalistas investigativos humanos continuarão a perseguir histórias, a produção de artigos comuns será cada vez mais entregue a modelos generativos de IA. Em pouco tempo, a maior parte do conteúdo online que consumimos em nossas vidas diárias será redigida por esses novos modelos. Isto acontecendo, em breve seremos sugestionados por novas forças, os vieses artificiais.

Os artigos aqui apresentados não necessariamente refletem a opinião da Aberje e seu conteúdo é de exclusiva responsabilidade do autor.