Quando códigos passam a governar as decisões humanas
Nas últimas décadas, decisões que antes dependiam de julgamento humano passaram a ser mediadas por sistemas automatizados. Esse fenômeno vem sendo chamado de governança algorítmica: o uso de códigos, modelos computacionais e inteligências artificiais para organizar escolhas institucionais que afetam direitos, oportunidades, vigilância e acesso a serviços.
Antes de avançarmos para os riscos dessa transformação, vale experimentar um exemplo clássico usado há décadas pela psicologia para compreender como seres humanos tomam decisões morais.
O dilema a seguir mostra que nossas escolhas não são simples cálculos racionais, mas processos atravessados por valores, emoções e significados culturais.
Esse tipo de situação revela algo fundamental: decisões humanas envolvem empatia, responsabilidade moral e antecipação das consequências emocionais de cada escolha. Pessoas não avaliam apenas o que é mais eficiente, mas o que é justo, aceitável e compatível com seus valores.
É justamente essa complexidade que começa a ser substituída por sistemas automatizados na governança algorítmica contemporânea.
Na prática, algoritmos já participam de processos de policiamento, concessão de crédito, seleção de candidatos, monitoramento de comportamentos, distribuição de recursos públicos e avaliação de riscos sociais. O problema central não é a tecnologia em si, mas a transferência de poder decisório para sistemas opacos, frequentemente sem transparência, sem auditoria pública e sem responsabilização clara quando erros ocorrem.
É nesse contexto que o documentário Coded Bias se torna um exemplo concreto de como a governança algorítmica vem operando no mundo real, revelando vieses, assimetrias de poder e impactos diretos sobre direitos fundamentais.
📌 Esse conteúdo vai te ajudar a:
- compreender o que é governança algorítmica e como ela já influencia decisões públicas e privadas
- identificar por que algoritmos não são neutros e carregam valores de quem os desenvolve
- entender os riscos das chamadas caixas pretas decisórias sem transparência e auditoria
- perceber por que decisões automatizadas podem violar direitos fundamentais
- refletir sobre o papel das emoções, dos valores e da responsabilidade humana no processo decisório
Coded Bias e a transferência de decisões humanas para sistemas automatizados
A Netflix emplacou mais um gol com o documentário Coded Bias. Ao questionar os possíveis problemas que a utilização de inteligências artificiais pode trazer às nossas vidas, o documentário trata de assuntos como privacidade, direitos fundamentais, ganância corporativa, entre outros.
Como sempre, farei os meus comentários, mas não pretendo fazer um resumo do documentário. Afinal, fica a recomendação para que você o assista.
Vou trazer um assunto que foi pouco explorado na obra que é a relação das decisões humanas com as emoções. Quando o processo decisório humano é substituído por um algorítimo, fica faltando um dos principais elementos que organizam a nossa vida: as emoções. Veremos então como isso influencia e como as decisões de uma máquina podem ser muito ruins, justamente por faltarem as emoções.
![2026-governanca-algoritimica-coded-bias-[s]-lab](https://ibralc.com.br/en/wp-content/uploads/2022/04/2026-governanca-algoritimica-coded-bias-s-lab.webp)
Quem são os protagonistas do documentário Coded Bias?
- Joy Buolamwini – pesquisadora ganense-americana do MIT (Instituto de Tecnologia de Massachusetts), é a personagem principal da obra. É conhecida por iniciar o movimento de questionamento acerca da precisão dos sistemas de reconhecimento facial.
- Cathy O’Neil – é matemática, cientista de dados e autora. É a fundadora do blog mathbabe.org e escreveu livros sobre ciência de dados, incluindo o best-seller do New York Times Weapons of Math Destruction. Seu mais recente livro é The Shame Machine;
- Meredith Broussard – jornalista e autora do livro “Artificial Unintelligence: How Computers Misunderstand the World” (Desinteligência Artificial: como os computadores não entendem o mundo)
- Safiya Umoja Noble – professora da Universidade da Califórnia em Los Angeles e autora do livro best-seller “Algorithms of Oppression: How Search Engines Reinforce Racism” (Algoritmos de opressão: como os motores de busca reforçam o racismo). Participou da fundação do Center for Critical Internet Inquiry;
- Silkie Carlo – diretora do Big Brother Watch, iniciativa que monitora o uso experimental e não legalizado do reconhecimento facial pela polícia do Reino Unido.
Veja uma palestra em que Joy explica os problemas que encontrou, antes mesmo de participar do documentário da Netflix – Coded Bias:
Na descrição do vídeo é explicado que:
Joy Buolamwini, estudante de pós-graduação de MIT, trabalhava com um software de reconhecimento facial quando notou um problema: o software não reconhecia o seu rosto, porque as pessoas que tinham codificado o algoritmo não tinham pensado em identificar uma ampla variedade de tons de pele e de estruturas faciais. Agora ela está numa missão de lutar contra o preconceito nas formas de aprendizagem de máquina, um fenômeno a que ela chama “preconceito codificado”. É uma conversa de olhos abertos sobre a responsabilidade necessária em codificação… enquanto os algoritmos tomam conta de cada vez mais aspetos da nossa vida.
Os riscos centrais da governança algorítmica
O documentário e a análise crítica revelam que os problemas da automação decisória não são apenas técnicos. Eles dizem respeito à forma como o poder de decidir vem sendo progressivamente transferido para sistemas opacos.
Na prática, esse processo se manifesta em alguns pontos centrais:
- algoritmos proprietários controlados por empresas privadas
- ausência de auditoria pública e fiscalização independente
- caixas pretas decisórias cujos critérios ninguém conhece
- aprendizado automático que escapa até dos próprios criadores
- redução do papel humano à simples execução de protocolos
- eliminação de elementos centrais da decisão humana, como emoções, valores, empatia e contexto
Em conjunto, esses fatores formam o núcleo da governança algorítmica contemporânea:
decisões com enorme impacto social sem transparência, sem controle e sem responsabilização clara.
Por que decisões humanas e decisões automatizadas não são equivalentes
Decisões humanas não surgem de um único critério racional. Elas resultam de uma multiplicidade de processos biopsicológicos que operam simultaneamente:
- experiências de vida
- diferentes tipos de memória
- crenças e valores culturais
- expectativas sobre o futuro
- conhecimento técnico
- emoções
No estágio tecnológico atual, sistemas automatizados conseguem simular parcialmente alguns desses processos, como padrões de comportamento e correlações estatísticas.
Mas há dimensões que não podem ser reproduzidas de forma real — especialmente aquelas ligadas à experiência vivida e às emoções.
Uma máquina acumula dados.
Um ser humano vive acontecimentos.
E toda experiência humana vem acompanhada de carga emocional.
As memórias não são registros neutros do que ocorreu. Elas são construções de significado atravessadas por emoções e constantemente ressignificadas ao longo do tempo. Funcionam menos como um vídeo armazenado e mais como uma narrativa viva em permanente reconstrução.
É por isso que os valores humanos não são regras frias.
São critérios morais impregnados de emoção.
Junto com as emoções, eles explicam por que pessoas diferentes encontram soluções diferentes para o mesmo dilema.
A ideia de que emoções “atrapalham” o julgamento é um equívoco.
Elas estruturam a responsabilidade moral.
Emoção, empatia e cultura como núcleo da decisão humana
As emoções são tão centrais que os seres humanos desenvolveram um processo específico para lidar com o outro: a empatia.
Ser empático envolve:
- simular a situação do outro
- imaginar suas emoções
- antecipar consequências humanas das decisões
É por isso que nos emocionamos até com histórias fictícias.
O cérebro reage como se aquela experiência tivesse relevância real.
Esse exercício é um dos principais indicadores de maturidade emocional — e simplesmente não existe em sistemas automatizados.
É também por isso que decisões morais variam entre culturas.
Pesquisas em psicologia cultural mostram que:
- dilemas são interpretados dentro de contextos sociais específicos
- valores são construídos na experiência cotidiana
- significados éticos não são universais, mas vividos
O clássico dilema de Heinz ilustra isso com clareza. Quando analisado fora do padrão ocidental, produziu respostas completamente diferentes, não por falha cognitiva, mas por construção cultural de valores impregnados de emoção.
As decisões morais, portanto, não são cálculos frios.
Elas envolvem simultaneamente:
- contexto cultural
- significados pessoais
- valores aprendidos
- emoções associadas às consequências
- antecipação de sofrimento, culpa e responsabilidade
Por que valores sem emoção levam a decisões perigosas
A psicologia é clara: não existem decisões humanas sem emoção.
Quando se retira a dimensão emocional do julgamento, restam apenas critérios de eficiência, custo e otimização.
Nesse tipo de lógica, poderia parecer “racional”, por exemplo:
- eliminar pessoas consideradas improdutivas
- descartar grupos que geram custo social
- otimizar recursos à custa de vidas humanas
Do ponto de vista operacional, essas decisões poderiam soar eficientes.
Do ponto de vista humano, são moralmente inaceitáveis.
O que impede esse tipo de escolha nas sociedades humanas não é cálculo superior.
É o valor moral e emocional atribuído às pessoas.
São as emoções ligadas à dignidade, empatia, sofrimento e responsabilidade que estabelecem os limites éticos das decisões sociais.
O dilema central da governança algorítmica
Sistemas automatizados:
não vivem cultura
não sentem consequências morais
não operam empatia
não constroem valores
Eles apenas organizam critérios e otimizam resultados.
Quando passam a mediar decisões institucionais sensíveis, aproximam-se perigosamente de uma lógica puramente instrumental.
👉 Eficiência técnica não equivale a justiça social.
E como não existe neutralidade algorítmica, as concepções de mundo de programadores e cientistas de dados inevitavelmente se transferem para os códigos.
Em síntese
Decisão humana saudável envolve:
✔ emoções
✔ empatia
✔ valores morais
✔ contexto cultural
✔ responsabilidade social
Decisão automatizada tende a envolver:
⚠️ cálculo técnico
⚠️ padrões estatísticos
⚠️ critérios frios
⚠️ ausência de vivência ética
Conclusão
Os algoritmos são reais e trazem benefícios inegáveis.
Mas o ponto central permanece:
👉 às inteligências artificiais faltam dimensões essenciais da decisão humana — especialmente emoções, valores vividos e responsabilidade moral.
Quando sistemas sem essas dimensões passam a governar escolhas sociais, o problema deixa de ser tecnológico.
Ele se torna institucional, ético e político.
Para os que desejam aprofundar…
Clique nas abas
O problema não é a tecnologia, mas quem decide — e como decide — quando algoritmos entram em cena.
Explore as abas abaixo para compreender os mecanismos da governança algorítmica, seus impactos reais nas instituições e os limites de delegar escolhas humanas a sistemas automatizados.
Problemas nas IAs
Quais são os principais problemas ocultos nas “inteligências artificiais”?
Os principais problemas trazidos no documentário Coded Bias e também levantados por mim são:
- os algorítimos são proprietários, ou seja, quem o criou possui os direitos sobre ele;
- os códigos não são abertos e não estão disponíveis para auditoria;
- como são de arquitetura proprietária e “secretos”, tornam-se caixas pretas que ninguém sabe como os critérios de decisão estão sendo organizados;
- a aprendizagem de máquina é um processo que ocorre à revelia até mesmo de seus criadores;
- abre a porta para afastar o elemento humano do processo decisório. Depois da decisão automatizada, cabe aos humanos seguir um protocolo;
- um dos principais elementos do processo decisório humano não está presente nas decisões automatizadas: as emoções.
Diferença humano × máquina
Qual é a principal diferença entre as decisões humanas e as artificiais ou codificadas?
As decisões humanas ocorrem em meio a uma multiplicidade de processos e funções biopsicológicos. Vários tipos de memória, como a experiência de vida, crenças, valores, perspectivas futuras, conhecimento técnico e as emoções são alguns desses processos e funções.
No estágio tecnológico atual, uma máquina pode simular uma certa quantidade desses processos psicológicos humanos. No entanto, alguns são impossíveis de simular, como a experiência de vida e qualquer outro que envolva as emoções como fator essencial.
Alguém pode argumentar que a máquina tem a experiência própria com algum assunto. Isso é, até certo ponto correto, mas é uma experiência de máquina. Quando um ser humano experimenta a vida, existe sempre o elemento emocional. O que são os nossos valores senão elementos semióticos fortemente impregnados por emoções? (Branco, 2016, 2021). As memórias não são apenas gravações do que ocorreu, são elementos semióticos entrelaçados com as emoções experimentadas nos momentos.
Nossas memórias são também maleáveis. Não é como gravar em um vídeo. É mais como escrever em uma wikipedia, em que as memórias podem ser reconstruídas e ressignificadas com o passar do tempo na presença de novas experiências e emoções.
Os valores são, portanto, os principais critérios que os seres humanos utilizam para decidir. Juntamente com as emoções, são responsáveis pela multiplicidade de “soluções” que vemos nas decisões humanas. Alguns podem argumentar que as nossas emoções são exatamente o que mais atrapalha o processo decisório. Ledo engano, pois como abrir mão de um dos elementos mais importantes do nosso psiquismo?
As emoções são tão importantes para o nosso processo decisório que temos um “simulador” que chamamos de empatia. Ser empático é “simular” o lugar do outro, a situação do outro, as emoções do outro. É tão importante e central em nosso psiquismo que podemos nos emocionar vendo uma cena de um filme [que sabemos ser uma ficção]. Ficção ou não acaba sendo pouco importante diante dos nossos processos emocionais. O exercício da empatia é um dos principais indicadores de maturidade emocional.
É, portanto, um processo complexo que envolve funções mentais variadas, básicas e superiores, incluindo abstrações sobre a própria experiência passada, acesso à memória, novas emoções e tomada de decisões acerca do que fazer com o RESULTADO desse processo empático.
O peso das emoções
Qual é o peso das emoções em nossas decisões? Coded Bias?
Essa não é uma pergunta fácil de responder. Há tempos a ciência estuda o processo decisório humano por meio de dilemas morais. A moralidade vem sendo estudada predominantemente sob o ponto de vista cognitivo, mas a prática mostra que existe um componente emocional importante para a resolução dos dilemas morais. Isso serve para explicar, parcialmente, o ditado: faça o que eu digo, mas não faça o que eu faço….
Como as crenças e valores variam de cultura para cultura, assim as decisões sobre o mesmo fato variam.
Vou tentar sintetizar, por meio da explicação de um evento ocorrido há tempos e explicado em diversos estudos científicos recentes (e.g. Branco, 2022; Valsiner, 2021a; Wortmeyer, 2017). Sobre isso, Martins e Branco (2001) nos esclarecem:
Shweder e Much (1987), por exemplo, ilustram de forma convincente o quanto é necessário considerar a inserção do sujeito na cultura e seus processos de construção de significados pessoais no contexto em que vive. Os autores entrevistam um indiano ortodoxo acerca dos dilemas morais de Kolhberg, e analisam o discurso do sujeito buscando explorar os significados que este atribui, em particular, ao dilema de Heinz (roubar ou não roubar do farmacêutico, que não cede a nenhum de seus argumentos, o remédio que poderá salvar a vida da sua esposa). Consideram que as justificativas do indiano, quando analisadas à luz do contexto cultural, revelam que estas não podem ser classificadas de acordo com os critérios pré-estabelecidos por Kolhberg. Isto porque implicam em um sentido do que seja a vida e em questões éticas completamente distintas das observadas em culturas ocidentais. A ideia básica é a de que o indivíduo em desenvolvimento apoiado pelas sugestões morais presentes em sua cultura, reconstrói suas noções de certo e errado a partir de suas experiências cotidianas. Os autores ressaltam o inestimável valor da investigação dos processos de co-construção de significados morais no decorrer das experiências interativas do dia-a-dia do ser em desenvolvimento. A nosso ver, tais investigações apontam uma direção fundamental para a análise e compreensão dos processos de internalização/externalização que estão na origem das crenças e valores morais presentes na cultura pessoal dos indivíduos e na cultura coletiva dos diferentes grupos sociais. [grifos nossos]
Complementando a explicação acima, as decisões morais, sobretudo, incluem o peso das emoções. O exemplo do indiano que se recusou a justificar o roubo do medicamento, levou em consideração suas crenças religiosas e o cenário de uma vida eterna convivendo com a transgressão do roubo. Em suas críticas aos estágios fixos de desenvolvimento moral de Kohlberg, Shweder e Much (1987) e diversos outros pesquisadores mais recentes (e.g. Mazur et al., 2021; Silva Guimarães, 2022; Xu, Wu & Li, 2021) argumentaram que as avaliações e critérios de análise passariam pela subjetividade dos pesquisadores. Seguindo esse mesmo raciocínio, os códigos também passam pela subjetividade de seus criadores, incluindo suas preconcepções sobre a vida [Coded Bias].
Valores sem emoções?
Como tomar uma decisão baseada em valores e sem emoção?
Não há como tomar uma decisão humana sem emoções (Valsiner, 2021b). Um humano que toma decisões sem emoções é um psicopata. Valores sem emoção equivalem a qualquer outro critério. Um processo decisório desprovido de emoções pode apresentar o resultado de que é mais eficiente exterminar pessoa com deficiência severa, pois elas seriam um fardo para a coletividade e representariam um custo adicional a ser absorvido por todos.
Entretanto, é o valor que essas pessoas têm para o coletivo que nos impede de tomar esse tipo de decisão que não seria tão difícil para uma máquina. O processo decisório de uma máquina se aproxima do que ocorre nos piores picopatas.
Sem entrar no mérito da falta de transparência, no uso indevido e antiético das inteligências artificiais e algorítimos, o que podemos concluir é que faltam as emoções, entre outras coisas, para as tais inteligências artificiais.
Referências
Referências
Branco, A. U. (2022). The moral-ethical dimension of human psychology. Deep Loyalties: Values in Military Lives, 211.
Martins, L. C., & Branco, A. U. (2001). Desenvolvimento moral: considerações teóricas a partir de uma abordagem sociocultural construtivista. Psicologia: teoria e pesquisa, 17(2), 169-176.
Mazur, L. B., Richter, L., Manz, P., & Bartels, H. (2021). The importance of cultural psychological perspectives in pain research: Towards the palliation of Cartesian anxiety. Theory & Psychology, 09593543211059124.
Shweder, R. A., & Much, N. C. (1987). Determinations of meaning: Discourse and moral socialization.
Silva Guimarães, D. (2022). Theoretical-methodological implications for research from the ethical standpoint of Semiotic-Cultural Constructivism in Psychology. Integrative Psychological and Behavioral Science, 1-15.
Valsiner, J. (2021a). Masked Morality: Theatrical Reality of Living. In General Human Psychology (pp. 151-180). Springer, Cham.
Valsiner, J. (2021b). Constructing and Destroying One’s Life: Phenomenology of the Human Life Course. In General Human Psychology (pp. 3-24). Springer, Cham.
Xu, S., Wu, A., & Li, X. (2021). Jaan Valsiner, a Keen Perceiver and Creator of Cultural Ecology. In Culture as Process (pp. 327-335). Springer, Cham.
Wortmeyer, D. S. (2017). O desenvolvimento de valores morais na socialização militar: entre a liberdade subjetiva e o controle institucional. Tese de doutorado, Universidade de Brasília, Distrito Federal, Brasil. Disponível: https://repositorio.unb.br/handle/10482/24098
Um abraço e boa leitura
Sergio Senna
Boa tarde Dr. Senna. Sou da área de Ti e gostaria de saber se as emoções são mesmo tão importantes para as nossas decisões. Nas aulas que tive aprendi que as inteligências artificiais podem simular todo o processo decisório humano. Vi que o Sr. falou um poco sobre isso no artigo, mas queria entender melhor.
Grata
Boa tarde,
Sua pergunta é excelente — e muito comum entre profissionais da área de tecnologia.
De fato, sistemas de inteligência artificial conseguem simular partes importantes do processo decisório humano, como o reconhecimento de padrões, a previsão de comportamentos e a otimização de critérios. No entanto, o que a psicologia e as ciências humanas vêm demonstrando de forma consistente é que o processo decisório humano real não se resume a cálculo racional.
As decisões humanas envolvem simultaneamente experiências de vida, valores culturais, emoções, empatia e responsabilidade moral. Esses elementos não funcionam como dados armazenados, mas como significados vividos, constantemente reinterpretados ao longo do tempo. É justamente essa dimensão emocional que orienta limites éticos, sensibilidade social e julgamento contextual.
Quando algoritmos tomam decisões, eles operam sobre critérios codificados e padrões estatísticos. Mesmo modelos muito sofisticados não vivem experiências, não sentem consequências morais e não constroem valores da forma como os seres humanos constroem. Por isso, conseguem simular aspectos do julgamento, mas não reproduzir a complexidade humana que envolve emoção, empatia e responsabilidade.
Em áreas técnicas, costuma-se associar emoção a “ruído” no sistema decisório. Na prática social, porém, ela é o que impede que decisões eficientes do ponto de vista operacional se tornem injustas, desumanas ou eticamente inaceitáveis.
É justamente nesse ponto que surgem os principais desafios da governança algorítmica: quando sistemas passam a mediar escolhas institucionais sensíveis sem incorporar — e sem poder incorporar — essas dimensões humanas fundamentais.
Fico feliz pelo seu interesse no tema e sigo à disposição para aprofundarmos a conversa.
Atenciosamente,
Sergio Senna