Autonomia: na era da IA

Autonomia humana
na era da IA

Você pergunta a um assistente qual de duas propostas enviar a um cliente. Ele recomenda a segunda em quatro parágrafos impecáveis, e você a envia. Uma semana depois, você não saberia dizer que parte do raciocínio conferiu.

A cena abre o capítulo sobre tecnologia de Modern Hermet. O livro esclarece que é uma cena composta, não uma reportagem. Costumamos atribuir isso à preguiça. O capítulo vê uma assimetria: um sistema construído para soar seguro diante de uma tendência humana bem documentada de aceitar uma indicação confiante. Aí começa a pergunta pela autonomia: como encarregar um modelo do trabalho e continuar sendo quem responde por ele.

O que a IA pode ficar e o que é seu

O capítulo divide o trabalho em três camadas e só deixa passar as duas primeiras.

• Execução. “Delegue sem remorso.” Reescrever, organizar, primeiros rascunhos, resumos de documentos longos, o andaime do código, dez variantes que você vai jogar fora.
• Discernimento. “Delegue a entrada, nunca a saída.” Peça ao modelo argumentos contra a sua tese, outros enquadramentos, o que você não está vendo. Qual enquadramento é verdadeiro fica do seu lado, “porque o modelo não responde pelas consequências. Você responde.”
• Intenção. “Aqui termina a delegação.” O que você quer, o que vale a pena, se o projeto deveria sequer existir.

O capítulo separa a atenção do discernimento em uma frase: “a captura da atenção é incômoda, a captura do discernimento é outra categoria” (tradução nossa). O teste dele é uma pergunta que você pode verificar: a intenção de quem esta ferramenta está executando agora? Dentro de todo sistema há critérios de alguém, na métrica de sucesso, na configuração padrão, no que fica a um clique e no que fica a sete. O capítulo também aponta a pesquisa sobre o viés de automação, Parasuraman e Riley (1997) e Skitka e colaboradores (1999): quem usa indicações automatizadas deixa passar o que o sistema não sinalizou e executa o que ele sinalizou por erro. Nas palavras do capítulo, a confiança em uma ferramenta cresce mais rápido que a sua precisão.

O capítulo sobre a autonomia diz onde empurrar. A autonomia “não é força de vontade”: é encontrar o lugar onde uma entrada pequena produz uma mudança desproporcional. Com a IA, esse lugar costuma ser tedioso: “pergunte o que você faz à mão toda semana que tenha um critério claro de correção”. Uma ferramenta que só lhe dá mais coisa para revisar não tirou o trabalho, só o mudou de lugar.

Quatro movimentos para esta semana

Cada um leva alguns minutos. A ordem é nossa, tirada do livro e de os Sete Movimentos. Cada movimento diz por que deveria ajudar e onde essa ajuda termina.

1. Escreva três frases antes de perguntar. Antes de abrir o modelo, escreva o que você veio buscar e o que pensa agora. A regra do livro: não entregue de graça o primeiro contato com um problema. Você tem uma posição, então a resposta vira material e não revelação. Escrever por que você veio também lhe dá algo contra o que conferir a resposta. Nenhum estudo citado aqui testa este exercício.
2. Separe o seu estado dos fatos. Para o que estiver rondando sua cabeça, três linhas antes de entregar à IA: meu estado, os fatos, o que eu acrescento a eles. Separar o sentimento dos fatos reduz o quanto o sentimento conduz a leitura dos fatos. Essa mesma separação faz parte da terapia cognitiva, cuja eficácia como tratamento está bem documentada (Hofmann et al. 2012), e em laboratório dar nome a um sentimento amortece de forma mensurável a resposta que ele provoca (Lieberman et al. 2007). Três linhas não são terapia: esses estudos tornam o mecanismo plausível, não demonstram que este exercício funciona. As cinco perguntas antes de consultar a IA fazem o mesmo, com um exemplo resolvido.
3. Anote o que a IA não faz por você. É o dia dois do estatuto de IA de sete dias do livro. Dois dos exemplos dele: ela não escreve mensagens para pessoas que importam para você e não toma decisões cujas consequências você vai carregar. Acrescente um limite concreto o bastante para ser verificado, como o do livro: “os últimos vinte por cento de qualquer coisa que leve o meu nome eu faço à mão”, que ele oferece como regra de trabalho e não como o ideal. Um limite escrito de antemão poupa você de decidir de novo vinte vezes por dia, cada vez em pior estado.
4. Termine cada dia com uma palavra e revise a semana. Autor ou material: qual você foi hoje? No dia sete, faça a pergunta de saída do estatuto: a ferramenta reforçou a sua autonomia nesta semana ou ficou com ela? Corrija uma linha do estatuto. Hábitos levam de semanas a meses para se firmar (Lally et al. 2010), então julgue a prática nessa escala e não por um dia bom ou ruim.

De onde vem isto

A pergunta é mais antiga que qualquer máquina: quanto de uma vida a pessoa dirige por si mesma? Uma das respostas mais antigas e diretas do Ocidente vem dos Hermetica, textos gregos escritos no Egito romano por volta dos anos 100 a 300 d.C. Uma inquietação mais concreta, o que uma ferramenta faz com quem a usa, é ainda mais antiga. Ela aparece no mito de Theuth do Fedro de Platão, escrito por volta de 370-355 a.C.: um rei diz ao inventor da escrita que ela dará a quem aprende aparência de sabedoria, não sabedoria verdadeira (275a). Fonte, leitura, prática e provas são coisas diferentes, e por isso aqui ficam separadas.

• Fonte. No tratado IV, Deus envia uma cratera de nous, a mente; quem decide mergulhar nela adquire mente, e os demais apenas continuam vivos. O Asclepius, que só se conserva completo em latim, chama o ser humano de grande milagre, uma criatura que une o divino e o material. O mesmo texto descreve homens que atraem poder para estátuas para que o objeto comece a agir. Em 1486, Pico della Mirandola citou a frase do grande milagre no começo do seu Discurso, logo depois de Abdala, o Sarraceno; o discurso nunca chegou a ser pronunciado.
• Nossa leitura. No seu contexto, a passagem das estátuas trata de ritual. Modern Hermet a lê, por conta própria, como uma imagem antiga de um artefato com uma intenção embutida, e acrescenta: “Isso é precisamente o software.” Essa leitura é nossa, não do texto. Chamamos o hermetismo de escola mais antiga da pergunta pela autonomia por causa da escolha do tratado IV entre tomar a mente ou deixá-la, não por causa das estátuas. Não é uma escola de tecnologia.
• Prática. Os textos não distribuem nenhum programa. O Poimandres conta uma visão e não dá passos. Os quatro movimentos e o estatuto de IA são arranjo nosso.
• Provas. Os estudos citados acima testaram mecanismos, um deles como tratamento clínico, não estes movimentos. Eles sustentam a psicologia comum, não o quadro hermético.

O que isto não resolve

Não resolve se os movimentos vão funcionar para você. Eles não foram testados como conjunto. O livro nomeia dois limites do seu próprio estatuto: ele não funciona contra ferramentas que um empregador exige, que são assunto de uma conversa ou de uma decisão sobre o emprego, e não substitui a competência. Nenhuma regra escrita protege você de aceitar uma resposta errada em um campo que você não conhece o bastante para detectar o erro.

Também não resolve o que vai acontecer com o trabalho em geral. A aposta do capítulo, de que a inteligência fica mais barata enquanto o gosto, a intenção e o discernimento ficam mais caros, é, nas palavras do próprio capítulo, “uma previsão, não uma descoberta”.

Por onde continuar

Todo o argumento está no capítulo aberto, Technology, gratuito e completo. O resto está no livro: Modern Hermet, doze capítulos com uma prática cada um. O método em versão curta são os Sete Movimentos; para metas, como manifestar, tecnicamente; para agir quando ninguém sabe o desfecho, as ferramentas de Taleb para a era da IA. Quatro perguntas que as pessoas trazem até aqui têm páginas próprias: o que é o senso de agência, a dicotomia do controle, se a IA inventa coisas e a ansiedade com a IA no trabalho. E a carta, As Above: uma fonte, uma correção, um mapa e uma pergunta de cada vez. Receba a carta.

Perguntas diretas

O que é autonomia humana?

A sua capacidade de definir o rumo do seu trabalho e da sua vida e de agir de acordo. Modern Hermet dá uma definição de trabalho mais estreita: a autonomia não é força de vontade, mas reconhecer o lugar onde uma entrada pequena produz uma mudança desproporcional de estado, e estar disposto a fornecer essa entrada.

Como mantenho o meu discernimento quando uso IA?

Delegue a entrada do seu discernimento, nunca a saída: peça ao modelo contra-argumentos e outros enquadramentos, e decida você. Escreva três frases suas antes de perguntar e, ao fim do dia, anote se você foi o autor ou o material.

O que eu não deveria entregar à IA?

A intenção: o que você quer, o que vale a pena fazer, se um projeto deveria existir. E as mensagens em que a sua presença é o sentido, como uma mensagem de pêsames, um pedido de desculpas ou a avaliação de um funcionário. Geradas, elas deixam de ser o que deveriam ser.

Isto é um argumento contra a IA?

Não. O capítulo do livro sobre tecnologia diz que o hermet moderno “não é antitecnológico. É anticaptura”. O conselho final dele é usar muito e escolher com rigor: dar à máquina tudo o que é execução e nada do que é escolha.

Fontes e leituras

• Modern Hermet (The Hermeticum, 2026), capítulo 8, Technology (aberto na íntegra), e capítulo 11, Agency. As citações desta página vêm desses dois capítulos.
• Parasuraman e Riley (1997) e Skitka e colaboradores (1999) sobre o viés de automação, tal como citados no capítulo 8.
• Hofmann, S. G. et al. (2012). The efficacy of cognitive behavioral therapy: a review of meta-analyses. Cognitive Therapy and Research 36(5), 427-440. doi:10.1007/s10608-012-9476-1
• Lieberman, M. D. et al. (2007). Putting feelings into words. Psychological Science 18(5), 421-428. doi:10.1111/j.1467-9280.2007.01916.x
• Lally, P. et al. (2010). How are habits formed: modelling habit formation in the real world. European Journal of Social Psychology 40(6), 998-1009. doi:10.1002/ejsp.674
• Brian P. Copenhaver, Hermetica: The Greek Corpus Hermeticum and the Latin Asclepius (Cambridge University Press, 1992): tratado IV, Poimandres e Asclepius.
• Os quatro movimentos são um arranjo próprio. Não são um tratamento e não fazem nenhuma afirmação terapêutica.