Tecnologia

Sinal de abertura

Imagine uma cena; é uma composição, não um relato. Você pergunta a um assistente qual de duas propostas enviar a um cliente. Ele responde em quatro parágrafos arrumados, recomenda a segunda, e você a envia. O raciocínio parecia bom. Uma semana depois, você não saberia dizer que parte dele conferiu, nem se o último e-mail do cliente, aquele que muda o quadro, chegou a estar diante dele.

Costumamos chamar isso de preguiça. É uma explicação confortável, e incompleta. Do outro lado há um sistema construído para soar seguro, e deste lado uma tendência humana bem documentada de aceitar uma sugestão confiante. Não é só uma disputa de força de vontade. É uma assimetria.

Dois campos se formaram em resposta a essa assimetria, e ambos já perderam. Os entusiastas: tudo o que é novo é bom, e qualquer pergunta sobre custo soa como medo do futuro. Os catastrofistas: desligue, corte, celular de flip, o detox como virtude. Os primeiros entregam a sua autonomia correndo, os segundos fugindo. O resultado é o mesmo: não é você quem decide.

Este capítulo fica num terceiro lugar, menos vistoso. O hermetista moderno não é antitecnológico. É anticaptura. Ele não pergunta se uma ferramenta é boa ou má, porque essa pergunta não tem resposta. Pergunta algo que dá para verificar: de quem é a intenção que esta ferramenta está executando agora?

A pergunta ficou urgente quando as ferramentas começaram a falar em frases completas: a captura da atenção é incômoda, a captura do discernimento é outra categoria.

Fonte

Com honestidade: os textos herméticos não falam de tecnologia, porque não tinham nenhuma no nosso sentido. Têm, porém, uma figura que acerta o tema com uma precisão inquietante. No Asclepius, homens que não conseguem criar uma alma criam uma morada para ela: fazem estátuas e atraem para dentro delas um poder, de modo que o objeto começa a agir. Durante séculos isso foi lido como descrição de magia. O texto sobrevive sobretudo numa versão latina da Antiguidade tardia, e fragmentos coptas de Nag Hammadi confirmam a sua circulação anterior. Ao lado dele está o chamado Lamento, uma profecia de um Egito que os seus deuses abandonam: o templo fica, o espírito sai dele.

A base contemporânea é diferente, mas converge. O design persuasivo é uma disciplina documentada: B.J. Fogg dirigiu um laboratório de captologia em Stanford a partir dos anos noventa, e a mecânica da recompensa variável é conhecida desde Skinner. Do lado da decisão existe o viés de automação (automation bias): Parasuraman e Riley (1997) e Skitka e colegas (1999) mostraram que pessoas que usam sugestões automatizadas deixam passar o que o sistema não sinalizou e executam o que ele sinalizou errado, mesmo com dados contraditórios à mão. Essa pesquisa não diz o que não usar. Diz que a confiança numa ferramenta cresce mais depressa do que a precisão da ferramenta.

Nossa leitura

A captura tem uma definição operacional: é o momento em que uma ferramenta deixa de executar a sua intenção e passa a executar a de outra pessoa (com as suas mãos, o seu tempo e a sua atenção), enquanto a impressão completa de que ainda é você quem decide continua intacta.

No seu contexto, a passagem sobre as estátuas trata de ritual. Nós a lemos, por nossa conta, como uma imagem antiga de um artefato com uma intenção embutida: uma coisa em que alguém pôs uma vontade, e que continua a executar essa vontade sozinha muito depois de o seu criador ter saído de perto. Isso é exatamente software. Os critérios de alguém estão dentro de todo sistema: selados numa métrica de sucesso, numa configuração padrão, no que fica a um clique de distância e no que fica a sete. Daí o teste de correspondência mais rápido que conhecemos: o que está no modelo de negócio lá em cima aparece na sua noite aqui embaixo. Se quiser saber para que serve uma ferramenta, veja pelo que os seus criadores são pagos.

Com a IA é igual, só que a aposta é mais alta. A IA não é um oráculo, uma autoridade nem uma fonte de identidade. É um amplificador. Amplifica o que recebe na entrada: uma intenção clara, ela transforma em alavanca; a inquietação e a indecisão, numa amplificação muito eloquente da confusão.

Por isso a pergunta desta década não é “o que a IA consegue fazer”, mas: o que vale a pena fazer com ela, e o que deve continuar humano? Não se trata de moderação: você pode passar dez horas numa ferramenta como autor e vinte minutos nela como material. Nem de desconfiança: um modelo às vezes é um parceiro de pensamento melhor do que a maioria das conversas do dia. Trata-se apenas de direção.

A vantagem não é de quem gera mais. É de quem sabe o que vale a pena gerar.

Alguém que tentou isto

John Dee tinha uma das maiores bibliotecas da Inglaterra, aconselhava uma rainha sobre navegação e calendários e era uma das mentes mais bem equipadas do seu século. Também não conseguia ver nem ouvir os anjos que queria consultar. Então contratou alguém que dizia conseguir.

A partir de 1582, Edward Kelley sentava-se diante do cristal e relatava. Dee anotava o que Kelley dizia, durante anos, em enorme detalhe. Não era tolo: testava, interrogava, mantinha registros. Mas todo o canal passava por um único homem cujos interesses não eram os de Dee, e Dee não tinha nenhum meio independente de verificar uma só palavra.

Terminou com Kelley transmitindo uma instrução de que os dois homens deviam partilhar as esposas. Dee obedeceu. A parceria se desfez pouco depois.

Esta é a pergunta do capítulo na sua forma mais aguda. O que você está disposto a receber por um canal que não pode auditar?

John Dee →

Tradução operacional

O trabalho concreto começa quando é preciso decidir o que pode ser delegado. Três camadas, e uma regra dura: só as duas primeiras são transitáveis.

Execução. Delegue sem remorso. Reescrever, ordenar, primeiros rascunhos, resumos de duzentas páginas, buscas nas suas próprias notas, o esqueleto de um código, dez variantes para jogar fora. Entregar esse trabalho a uma máquina não é preguiça; é a recuperação do essencial.

Discernimento. Delegue a entrada, nunca a saída. Peça argumentos contra a sua própria tese, três enquadramentos de um problema, o que você não está vendo. Isso de fato deixa você mais esperto. Mas a avaliação de qual enquadramento é verdadeiro fica do seu lado, porque o modelo não responde pelas consequências. Você responde. Delegar o discernimento a algo que não arca com consequências é um erro de categoria, não uma questão de preferência.

Intenção. Aqui a delegação termina. O que eu quero. O que vale a pena. Se este projeto deveria sequer existir. Nenhum modelo vai responder a isso por você, não porque seja fraco demais, mas porque a substância da resposta é que você chegou a ela sozinho.

Dessa divisão decorre uma aposta sobre o mercado que vem aí. É uma previsão, não uma constatação. No mundo depois da IA, a inteligência em si fica barata. Texto, análise, código e imagens competentes podem ser gerados por qualquer um. O que fica caro é o que não se pode gerar:

• gosto: saber o que é bom;
• intenção: saber para quê;
• discernimento: saber quando;
• energia: a capacidade de levar uma coisa até o fim;
• confiança: o fato de alguém apostar o próprio risco em você;
• a capacidade de escolher: a coragem de recusar noventa boas opções pela única certa.

Na semana de trabalho, isso significa uma mudança: menos produzir, mais decidir e concluir. A mudança é desagradável, porque produzir dá a sensação imediata de que algo está acontecendo, enquanto decidir, visto de fora, parece ficar olhando para a parede.

Duas regras, pequenas mas salvadoras. Não entregue o primeiro contato com um problema: antes de perguntar ao modelo, escreva três frases suas sobre o que você pensa, para ter uma posição diante da qual a resposta será material, e não revelação. E uma regra no horizonte de anos: se durante um ano você não escrever sozinho nenhum parágrafo difícil, provavelmente vai perder menos a capacidade de escrever do que a de reconhecer quando um parágrafo é bom. Delegar a execução é de graça. Delegar a prática tem um preço adiado.

A leitura do corpo é mais difícil aqui, porque uma conversa com um modelo não devolve sinal nenhum. Não há cansaço no interlocutor, nem silêncio constrangedor, nem um olhar que diga que você está exagerando: tudo tem de vir de você. Restam duas leituras. Dez minutos depois da sessão: a cabeça está mais clara e você tem vontade de fazer algo, ou está irritado e embotado? E numa sessão mais longa, levante-se uma vez, saia da sala e volte: se, ao voltar, não lembrar o que estava fazendo ali, anote isso como sinal de que a sessão estava conduzindo você.

Prática

A carta da IA: um experimento de sete dias

Não é um regulamento nem uma declaração de pureza. É uma decisão escrita de antemão, para que você não precise tomá-la de novo vinte vezes por dia, sempre num estado pior do que agora.

Dia 1: para que eu realmente a uso. Usos específicos, não categorias. Não “para escrever”, mas “para o primeiro rascunho de propostas, que eu reescrevo de qualquer jeito”. Normalmente saem de cinco a oito itens, e isso já pode ser uma descoberta, porque a maioria das pessoas usa a IA para três coisas e acha que a usa para trinta.

Dia 2: o que a IA não faz por mim. O coração da carta. Para considerar:

• ela não escreve mensagens para pessoas de quem gosto;
• ela não toma decisões cujas consequências eu vou carregar;
• ela não julga se algo é bom; no máximo diz por que poderia não ser;
• ela não preenche o silêncio em que eu ia pensar.

A sua lista será diferente. O que importa é que esteja escrita: um limite não declarado não funciona.

Dia 3: o limiar da delegação. Uma frase, concreta o bastante para ser verificada: “os últimos vinte por cento de qualquer coisa com o meu nome eu faço à mão”. Esse é o meu próprio limiar, uma regra de trabalho e não um ótimo; o seu pode ser outro.

Dias 4 a 7: o teste em movimento. A carta vale. Em cada sessão, três frases suas antes da pergunta ao modelo. No fim do dia, uma palavra: autor ou material, o que você foi.

Dia 7: a cláusula de saída. Uma pergunta: esta ferramenta fortaleceu a minha autonomia esta semana, ou se apoderou dela? Se a resposta não estiver clara, tome isso como motivo para olhar mais de perto, não como prova de um lado ou de outro: anote um momento concreto que aponte para cada lado. Corrija um item da carta e guarde-a para revisar daqui a um trimestre.

A carta não promete proteção contra a distração e não tem nada a ver com o número de horas que você passa diante de uma tela; ela faz uma coisa: mantém a autoria com você.

Limites e a pergunta

A pergunta deste capítulo é: quem recebe isto sabe quem esteve presente? O ponto é a diferença entre ajuda na execução e enganar alguém sobre quem lhe dedicou o seu tempo. Uma mensagem de condolências, uma carta a um amigo, um retorno a um funcionário, um pedido de desculpas: aqui o valor está na própria presença; gerados, deixam de ser o que deveriam ser, mesmo que fiquem mais bem escritos. A mesma pergunta resolve duas questões menores. Custo: hoje o texto é produzido num segundo e lido na velocidade de sempre; quatro páginas que lhe custaram um minuto são uma transferência do seu trabalho para a atenção de outra pessoa, então encurte na proporção de quão barato o texto saiu para você. E poder: automatizar decisões sobre pessoas (recrutamento, avaliação, ordem de atendimento) leva os critérios de alguém para a vida de outra pessoa, e exige que uma pessoa de fato responda pelo resultado.

O limite do outro lado: recusar uma ferramenta pode ser pose, e não princípio. A pose se reconhece porque é anunciada (“eu não uso isso”, dito onde ninguém perguntou); porque não custa nada, já que diz respeito a coisas que você não teria feito de qualquer modo; porque o seu preço é pago por um colega que passa três horas em algo que a ferramenta teria feito em dez minutos; e porque vira identidade: quem se construiu sobre a rejeição da IA precisa continuar a rejeitá-la mesmo quando ela seria boa, ou perde não uma ferramenta, mas uma figura.

E duas limitações da carta: ela não funciona contra a obrigação externa (ferramentas exigidas por um empregador são assunto para uma conversa ou para uma decisão sobre o emprego, não para uma regra privada) e não substitui a competência: nenhuma declaração protege você de aceitar uma resposta errada num campo que você não conhece bem o bastante para perceber o erro.

Fórmula de encerramento

Não haverá volta a um mundo sem essas ferramentas, e não faz sentido fingir que essa volta está em discussão. O que resta, então: usar muito e escolher com rigor. Dê à máquina tudo o que é execução, e não lhe dê nada que seja escolha. Mantenha a intenção do seu lado da mesa, mesmo quando, sobretudo quando, a ferramenta for boa o bastante para tentar você a parar.

Porque a estátua vai continuar funcionando, haja ou não alguém no templo. A sua tarefa não é quebrá-la. A sua tarefa é continuar lá dentro.