Technologie

Eröffnungssignal

Stell dir eine Szene vor; sie ist zusammengesetzt, kein Bericht. Du fragst einen Assistenten, welches von zwei Angeboten du einem Kunden schicken sollst. Er antwortet in vier aufgeräumten Absätzen, empfiehlt das zweite, und du schickst es ab. Die Begründung las sich gut. Eine Woche später könntest du nicht sagen, welchen Teil davon du geprüft hast und ob die letzte E-Mail des Kunden, die das Bild verändert, ihm überhaupt vorlag.

Meist nennen wir das Faulheit. Das ist eine bequeme Erklärung, und eine unvollständige. Auf der anderen Seite steht ein System, das gebaut ist, um sicher zu klingen, und auf dieser Seite eine gut belegte menschliche Neigung, einen selbstsicheren Vorschlag anzunehmen. Das ist nicht nur eine Frage der Willenskraft. Es ist eine Asymmetrie.

Als Antwort auf diese Asymmetrie haben sich zwei Lager gebildet, und beide haben schon verloren. Die Begeisterten: Alles Neue ist gut, und jede Frage nach den Kosten klingt nach Angst vor der Zukunft. Die Katastrophisten: abschalten, streichen, ein Klapphandy, der Detox als Tugend. Die einen geben ihre Handlungsfähigkeit im Laufen ab, die anderen auf der Flucht. Das Ergebnis ist dasselbe: Nicht du entscheidest.

Dieses Kapitel steht an einem dritten, weniger auffälligen Ort. Der moderne Hermetiker ist nicht technikfeindlich. Er ist gegen Vereinnahmung. Er fragt nicht, ob ein Werkzeug gut oder schlecht ist, denn auf diese Frage gibt es keine Antwort. Er fragt etwas, das sich prüfen lässt: Wessen Absicht führt dieses Werkzeug gerade aus?

Dringend wurde die Frage, als die Werkzeuge anfingen, in ganzen Sätzen zu sprechen: Die Vereinnahmung der Aufmerksamkeit ist unangenehm, die Vereinnahmung des Urteils ist eine andere Kategorie.

Quelle

Ehrlich gesagt: Die hermetischen Texte sprechen nicht von Technologie, weil sie keine in unserem Sinn hatten. Sie haben aber eine Figur, die das Thema mit beunruhigender Genauigkeit trifft. Im Asclepius erschaffen Menschen, die keine Seele erschaffen können, eine Wohnung für sie: Sie fertigen Statuen und ziehen eine Kraft in sie herab, sodass der Gegenstand zu wirken beginnt. Jahrhundertelang las man das als Beschreibung von Magie. Der Text ist vor allem in einer lateinischen Fassung aus der Spätantike erhalten, und koptische Fragmente aus Nag Hammadi bestätigen, dass er schon früher im Umlauf war. Neben ihm steht die sogenannte Klage, eine Prophezeiung über ein Ägypten, das seine Götter verlassen: Der Tempel bleibt, der Geist zieht aus ihm aus.

Die heutige Grundlage ist eine andere, führt aber in dieselbe Richtung. Persuasives Design ist eine belegte Disziplin: B.J. Fogg leitete ab den neunziger Jahren in Stanford ein Labor für Captology, und die Mechanik der variablen Belohnung kennt man seit Skinner. Auf der Seite der Entscheidung gibt es den Automatisierungsbias (automation bias): Parasuraman und Riley (1997) sowie Skitka und Kollegen (1999) haben gezeigt, dass Menschen, die automatisierte Vorschläge nutzen, übersehen, was das System nicht markiert hat, und ausführen, was es falsch markiert hat, selbst wenn widersprechende Daten vorliegen. Diese Forschung sagt nicht, was man nicht nutzen soll. Sie sagt, dass das Vertrauen in ein Werkzeug schneller wächst als seine Genauigkeit.

Unsere Lesart

Vereinnahmung lässt sich operativ bestimmen: Es ist der Moment, in dem ein Werkzeug aufhört, deine Absicht auszuführen, und anfängt, die eines anderen auszuführen (mit deinen Händen, deiner Zeit und deiner Aufmerksamkeit), während der volle Eindruck, dass du noch selbst entscheidest, unversehrt bleibt.

In ihrem eigenen Zusammenhang handelt die Stelle über die Statuen vom Ritual. Wir lesen sie, auf eigene Rechnung, als frühes Bild eines Artefakts mit eingebauter Absicht: ein Ding, in das jemand einen Willen gelegt hat und das diesen Willen von selbst weiter ausführt, lange nachdem sein Schöpfer sich entfernt hat. Genau das ist Software. In jedem System stecken die Kriterien von jemandem: versiegelt in einer Erfolgskennzahl, in einer Standardeinstellung, in dem, was einen Klick entfernt liegt, und in dem, was sieben entfernt liegt. Daraus folgt der schnellste Test der Entsprechung, den wir kennen: Was oben im Geschäftsmodell steht, zeigt sich unten in deinem Abend. Wenn du wissen willst, wozu ein Werkzeug dient, sieh nach, wofür seine Macher bezahlt werden.

Mit KI ist es genauso, nur steht mehr auf dem Spiel. KI ist weder ein Orakel noch eine Autorität noch eine Quelle von Identität. Sie ist ein Verstärker. Sie verstärkt, was sie am Eingang bekommt: Eine klare Absicht macht sie zum Hebel, Unruhe und Unentschlossenheit zu einer sehr beredten Verstärkung der Verwirrung.

Deshalb lautet die Frage dieses Jahrzehnts nicht „Was kann KI?“, sondern: Was lohnt es sich, mit ihr zu tun, und was soll menschlich bleiben? Es geht nicht um Maßhalten: Du kannst zehn Stunden in einem Werkzeug als sein Autor verbringen und zwanzig Minuten darin als sein Material. Es geht auch nicht um Misstrauen: Ein Modell ist manchmal ein besserer Denkpartner als die meisten Gespräche des Tages. Es geht allein um die Richtung.

Der Vorteil gehört nicht dem, der am meisten erzeugt. Er gehört dem, der weiß, was es wert ist, erzeugt zu werden.

Jemand, der es versucht hat

John Dee besaß eine der größten Bibliotheken Englands, beriet eine Königin in Fragen der Navigation und des Kalenders und war einer der am besten gerüsteten Köpfe seines Jahrhunderts. Die Engel, die er befragen wollte, konnte er trotzdem weder sehen noch hören. Also stellte er jemanden ein, der sagte, er könne es.

Ab 1582 saß Edward Kelley vor dem Kristall und berichtete. Dee schrieb auf, was Kelley sagte, jahrelang und in großer Ausführlichkeit. Er war kein Narr: Er prüfte, fragte nach, führte Protokoll. Doch der ganze Kanal lief durch einen einzigen Mann, dessen Interessen nicht die von Dee waren, und Dee hatte keinen unabhängigen Weg, auch nur ein Wort davon zu überprüfen.

Es endete damit, dass Kelley eine Anweisung übermittelte, die beiden Männer sollten ihre Ehefrauen teilen. Dee fügte sich. Die Partnerschaft zerbrach bald darauf.

Das ist die Frage des Kapitels in ihrer schärfsten Form. Was bist du bereit, über einen Kanal zu empfangen, den du nicht prüfen kannst?

John Dee →

Operative Übersetzung

Die konkrete Arbeit beginnt dort, wo du festlegen musst, was delegiert werden darf. Drei Schichten und eine harte Regel: Nur die ersten beiden sind durchlässig.

Ausführung. Delegiere ohne Reue. Umschreiben, Ordnen, erste Entwürfe, Zusammenfassungen von zweihundert Seiten, die Suche in deinen eigenen Notizen, das Gerüst eines Codes, zehn Varianten zum Wegwerfen. Diese Arbeit einer Maschine zu übergeben ist keine Faulheit; es ist die Rückgewinnung des Wesentlichen.

Urteil. Delegiere die Eingabe, nie die Ausgabe. Bitte um Argumente gegen deine eigene These, um drei Rahmungen eines Problems, um das, was du nicht siehst. Das macht dich tatsächlich klüger. Aber die Einschätzung, welche Rahmung zutrifft, bleibt auf deiner Seite, denn das Modell steht nicht für die Folgen ein. Du schon. Das Urteil an etwas zu delegieren, das keine Folgen trägt, ist ein Kategorienfehler, keine Frage der Vorliebe.

Absicht. Hier endet das Delegieren. Was ich will. Was es wert ist. Ob dieses Projekt überhaupt existieren sollte. Kein Modell wird das für dich beantworten, nicht weil es zu schwach wäre, sondern weil die Substanz der Antwort darin liegt, dass du selbst zu ihr gelangt bist.

Aus dieser Aufteilung folgt eine Wette auf den kommenden Markt. Sie ist eine Prognose, kein Befund. In der Welt nach der KI wird Intelligenz selbst billig. Brauchbare Texte, Analysen, Code und Bilder kann jeder erzeugen. Teuer wird, was sich nicht erzeugen lässt:

• Geschmack: wissen, was gut ist;
• Absicht: wissen, wofür;
• Urteil: wissen, wann;
• Energie: die Fähigkeit, eine Sache zu Ende zu bringen;
• Vertrauen: die Tatsache, dass jemand sein eigenes Risiko auf dich setzt;
• die Fähigkeit zu wählen: der Mut, neunzig gute Optionen für die eine richtige abzulehnen.

In der Arbeitswoche bedeutet das eine Verschiebung: weniger produzieren, mehr entscheiden und abschließen. Die Umstellung ist unangenehm, denn Produzieren gibt sofort das Gefühl, dass etwas passiert, während Entscheiden von außen so aussieht, als starre man die Wand an.

Zwei Regeln, klein, aber rettend. Gib den ersten Kontakt mit einem Problem nicht ab: Bevor du das Modell fragst, schreib drei eigene Sätze darüber, was du denkst, damit du eine Position hast, an der die Antwort zum Material wird und nicht zur Offenbarung. Und eine Regel mit einem Horizont von Jahren: Wenn du ein Jahr lang keinen schwierigen Absatz selbst schreibst, verlierst du wahrscheinlich weniger die Fähigkeit zu schreiben als die Fähigkeit zu erkennen, wann ein Absatz gut ist. Die Ausführung zu delegieren kostet nichts. Die Übung zu delegieren hat einen aufgeschobenen Preis.

Die Lesart des Körpers ist hier schwieriger, weil ein Gespräch mit einem Modell überhaupt kein Signal zurückgibt. Es gibt keine Müdigkeit beim Gegenüber, kein peinliches Schweigen, keinen Blick, der sagt, dass du übertreibst: Alles muss von dir kommen. Zwei Lesarten bleiben. Zehn Minuten nach der Sitzung: Ist dein Kopf klarer und hast du Lust, etwas zu tun, oder bist du gereizt und stumpf? Und in einer längeren Sitzung steh einmal auf, verlass den Raum und komm zurück: Wenn du bei der Rückkehr nicht mehr weißt, wozu du da warst, notiere das als Zeichen, dass die Sitzung dich geführt hat.

Praxis

Die KI-Charta: ein Experiment über sieben Tage

Das ist weder ein Regelwerk noch eine Reinheitserklärung. Es ist eine Entscheidung, die du im Voraus aufschreibst, damit du sie nicht zwanzigmal am Tag neu treffen musst, jedes Mal in schlechterer Verfassung als jetzt.

Tag 1: wofür ich sie wirklich nutze. Konkrete Anwendungen, keine Kategorien. Nicht „zum Schreiben“, sondern „für den ersten Entwurf von Angeboten, die ich ohnehin umschreibe“. Meist kommen fünf bis acht Punkte heraus, und schon das kann eine Entdeckung sein, denn die meisten Menschen nutzen KI für drei Dinge und glauben, sie nutzten sie für dreißig.

Tag 2: was KI nicht für mich tut. Das Herz der Charta. Zur Überlegung:

• sie schreibt keine Nachrichten an Menschen, die mir wichtig sind;
• sie trifft keine Entscheidungen, deren Folgen ich tragen werde;
• sie beurteilt nicht, ob etwas gut ist; höchstens sagt sie, warum es das nicht sein könnte;
• sie füllt nicht die Stille, in der ich nachdenken wollte.

Deine Liste wird anders aussehen. Wichtig ist, dass sie ausgesprochen ist: Eine unausgesprochene Grenze wirkt nicht.

Tag 3: die Schwelle des Delegierens. Ein Satz, konkret genug, um ihn zu überprüfen: „Die letzten zwanzig Prozent von allem, was meinen Namen trägt, mache ich von Hand.“ Das ist meine eigene Schwelle, eine Arbeitsregel und kein Optimum; deine kann eine andere sein.

Tage 4 bis 7: der Test in Bewegung. Die Charta gilt. In jeder Sitzung drei eigene Sätze vor der Frage an das Modell. Am Ende des Tages ein Wort: Autor oder Material, je nachdem, was du warst.

Tag 7: die Ausstiegsklausel. Eine Frage: Hat dieses Werkzeug meine Handlungsfähigkeit in dieser Woche gestärkt, oder hat es sie übernommen? Wenn die Antwort unklar ist, nimm das als Grund, genauer hinzusehen, nicht als Beweis für die eine oder andere Seite: Notiere einen konkreten Moment, der in jede Richtung weist. Korrigiere einen Punkt der Charta und leg sie beiseite, um sie in einem Quartal zu überprüfen.

Die Charta verspricht keinen Schutz vor Ablenkung und hat nichts mit der Zahl der Stunden zu tun, die du vor einem Bildschirm verbringst; sie tut eine Sache: Sie hält die Urheberschaft bei dir.

Grenzen und die Frage

Die Frage dieses Kapitels lautet: Weiß der Mensch, der das bekommt, wer anwesend war? Es geht um den Unterschied zwischen Hilfe bei der Ausführung und der Täuschung darüber, wer seine Zeit dafür hergegeben hat. Eine Beileidsnachricht, ein Brief an einen Freund, eine Rückmeldung an einen Mitarbeiter, eine Entschuldigung: Hier liegt der Wert in der Anwesenheit selbst; erzeugt, hören sie auf, das zu sein, was sie sein sollten, auch wenn sie sich besser lesen. Dieselbe Frage klärt zwei kleinere Punkte. Kosten: Text wird heute in einer Sekunde erzeugt und im alten Tempo gelesen; vier Seiten, die dich eine Minute gekostet haben, verlagern deine Arbeit auf die Aufmerksamkeit eines anderen, also kürze im Verhältnis dazu, wie billig der Text für dich war. Und Macht: Wer Entscheidungen über Menschen automatisiert (Einstellung, Beurteilung, Reihenfolge der Bearbeitung), trägt die Kriterien von jemandem in das Leben eines anderen, und das verlangt, dass ein Mensch tatsächlich für das Ergebnis einsteht.

Die Grenze auf der anderen Seite: Ein Werkzeug abzulehnen kann Pose sein statt Prinzip. Die Pose erkennt man daran, dass sie verkündet wird („Das nutze ich nicht“, eingestreut, wo niemand gefragt hat); daran, dass sie nichts kostet, weil sie Dinge betrifft, die du ohnehin nicht getan hättest; daran, dass ihren Preis ein Kollege zahlt, der drei Stunden an etwas sitzt, das das Werkzeug in zehn Minuten erledigt hätte; und daran, dass sie zur Identität wird: Wer sich auf der Ablehnung von KI aufgebaut hat, muss sie weiter ablehnen, auch wenn sie gut wäre, sonst verliert er nicht ein Werkzeug, sondern eine Figur.

Und zwei Grenzen der Charta: Sie wirkt nicht gegen äußeren Zwang (Werkzeuge, die ein Arbeitgeber verlangt, sind Sache eines Gesprächs oder einer Entscheidung über die Stelle, nicht einer privaten Regel), und sie ersetzt keine Kompetenz: Keine Erklärung schützt dich davor, eine falsche Antwort in einem Gebiet anzunehmen, das du nicht gut genug kennst, um den Fehler zu bemerken.

Schlussformel

Eine Rückkehr in eine Welt ohne diese Werkzeuge wird es nicht geben, und es hat keinen Sinn, so zu tun, als stünde sie zur Debatte. Was also bleibt: viel nutzen und streng auswählen. Gib der Maschine alles, was Ausführung ist, und nichts, was Wahl ist. Halte die Absicht auf deiner Seite des Tisches, auch dann, gerade dann, wenn das Werkzeug gut genug ist, um dich zum Aufhören zu verleiten.

Denn die Statue wird weiterarbeiten, ob noch jemand im Tempel ist oder nicht. Deine Aufgabe ist nicht, sie zu zerbrechen. Deine Aufgabe ist, drinnen zu bleiben.