Die Datafizierung des menschlichen Vertrauens

| © Thomas Draschan / Art Virus

Am 22. Oktober 2026 brachte das vierte KI-Symposium Vertreterinnen und Vertreter aus Wissenschaft, Politik, Wirtschaft und Kultur in der Romanfabrik Frankfurt zusammen*. Im Mittelpunkt standen Fragen nach digitaler Souveränität, Dateneigentum, technologischer Macht und den politischen wie gesellschaftlichen Folgen Künstlicher Intelligenz. Ob im Zahlungsverkehr, beim Dating, in der Unterhaltung oder beim Wissenserwerb – zunehmend nutzen wir KI und verlassen wir uns auf ihre Entscheidungen. Dabei durchschauen wir die dahinterliegenden Strukturen und Interessen kaum und hinterfragen sie oft nur selten. Zugleich ist Vertrauen unverzichtbar: schließlich ist KI längst Teil unserer alltäglichen Strukturen geworden und prägt gesellschaftliche Entwicklung mit. Entscheidend wird deshalb, aus blindem Vertrauen ein souveränes zu machen.

Menschen treffen Entscheidungen auf Basis von Kalkulationen. Ständig wägen wir Risiken ab. Obwohl wir nie absolute Sicherheit haben, treten wir täglich vor die Tür und entscheiden uns dazu, am gesellschaftlichen Leben teilzuhaben. Wir vertrauen darauf, unversehrt an unserem Ziel anzukommen. Dabei beruht nicht jede Handlung auf einer bewussten Risikoabwägung. Oft verlassen wir uns schlicht darauf, dass unsere Erwartungen nicht enttäuscht werden. Der Soziologe Niklas Luhmann (2001) unterscheidet dahingehend zwischen Zuversicht und Vertrauen: Zuversichtlich sind wir, wenn wir Verlässlichkeit voraussetzen, ohne potenzielle Fehler zu bedenken. Vertrauen müssen wir, wenn wir eine Handlung einer anderen vorziehen, obwohl wir um das Potenzial der Enttäuschung wissen.

Gerade in einer Zeit, in der vieles unsicher erscheint, können wir unser Handeln nicht davon abhängig machen, dass alle Zweifel ausgeräumt sind. Vielmehr müssen wir unser Denken für Erwartungen und Vorstellungen des Kommenden öffnen. Dazu gehört, Vertrauen zu wagen und den Blick nicht nur darauf zu richten, was scheitern, sondern auch darauf, was gelingen könnte. Solche Szenarien entfalten ihre Kraft, noch bevor sie Wirklichkeit werden: Sie bringen Bewegung in unsere Gegenwart und eröffnen neue Perspektiven. So beginnt die Gestaltung unserer Zukunft bereits im Denken. Kurz gesagt: Das Vertrauen ins Ungewisse macht uns handlungsfähig.
In unserem Alltag vertrauen wir neben bestehenden sozialen Strukturen und Netzwerken mehr denn je auf cognitive devices – mit Künstlicher Intelligenz als zentralem Bestandteil. Doch wie kommt es, dass wir zuversichtlich mit Systemen hantieren, deren Kalkulationen wir kaum durchschauen?

Vielleicht liegt genau darin das Problem: Nehmen wir die Verlässlichkeit dieser Systeme bereits als selbstverständlich hin – und übersehen dabei, dass ihre Nutzung eigentlich eine Entscheidung unter Unsicherheit ist?

Neben der Tatsache, dass jede Internetsuche automatisch zu einer Suche mit KI wird, ist es wohl ebenso das nahbare, schnelle Design der KI und die Bestimmtheit ihrer Antworten, die den Eindruck unumstößlichen Wissens erwecken – und sowohl Ungewissheit als auch Bedrohungspotenzial verschleiern. Dieses suggerierte Selbstbewusstsein verleitet uns dazu, der KI in diversen Entscheidungsprozessen nicht nur einen enormen Vertrauensvorschuss zu gewähren, sondern sie – in Luhmanns (2001) Begrifflichkeit – voller Zuversicht zu nutzen.
Dort, wo unser eigenes Verstehen an seine Grenzen stößt, richtet sich die Frage nach Vertrauen jedenfalls auf diejenigen, die solche Systeme entwickeln. Wir sind dazu angehalten, an die moralische Kompetenz der Entwicklerinnen dieser KI-Modelle zu glauben – und an jene der Entscheider*innen, die sich für unsere Interessen starkmachen und Lösungen für gesellschaftliche Probleme finden sollen. Aus einem technischen Sachverhalt wird somit zugleich ein gesellschaftlich-politischer.

Künstliche Intelligenz als „Problem“ zu deklarieren, ist wohl pessimistisch, aber nicht falsch. Erst im September machte die Kündigung und darauffolgende Warnung von Jacob Coxon – einem ehemaligen hochrangigem Entwickler bei Anthropic – weltweit Schlagzeilen und hinterließ ein tiefes Gefühl der Verunsicherung: Wenn der technologische Fortschritt ungebremst so weiterlaufe, könne eine sich selbst verbessernde Superintelligenz die Menschheit noch vor Ende des Jahrzehnts an den Rand der Auslöschung bringen. Es geht also nicht mehr bloß um das Beschreiben von _Science-Fiction_-Szenarios oder Dystopien, sondern um eine reale Bedrohung des Fundaments unserer Zivilisation.

Um die Tragweite dieses Kontrollverlusts zu begreifen, lohnt es sich, an den Ursprung der Logik zurückzukehren und zu fragen: Was bedeutet es überhaupt, eine intelligente Entscheidung zu treffen? Der Informatiker und KI-Forscher Stuart Russell gibt in seinem Werk Human Compatible (2019) eine treffende Definition: Intelligenz liegt in der pragmatischen Beziehung zwischen dem, was wir wahrnehmen, dem, was wir uns wünschen, und dem, was wir tun. Anders gesagt: Eine Entität ist in dem Maße intelligent, wie ihre Handlungen auf Grundlage ihrer Wahrnehmungen zur Erfüllung ihrer Wünsche taugen.

Die Biochemie von Neuronen und Synapsen – mit denen wir Menschen unsere Entscheidungen treffen – und auch der anatomische Aufbau unseres Gehirns sind gut erforscht. Worüber die Wissenschaft weit weniger weiß, ist die Umsetzung auf kognitiver Ebene: wie wir lernen, uns erinnern, argumentieren, planen, … Menschen vertrauen auf ihr bewusst gefälltes Urteil, auch wenn sie nicht vollständig durchschauen, wie es zustande kommt. Damit eine KI intelligente Entscheidungen treffen kann, ist Bewusstsein jedoch keine Voraussetzung. Ausschlaggebend sind ihre Fähigkeiten und die Ziele, auf die ihr Verhalten ausgerichtet ist.

Algorithmen sozialer Netzwerke bspw. haben zum Ziel, Klickraten zu maximieren. Dazu lernen sie, welches Verhalten User zeigen und welche Inhalte dieses Verhalten verstärken. Gefährlich wird es, wenn Systeme ihre Umgebung – uns – so beeinflussen, dass ihre eigene Belohnung maximiert wird. Damit verschiebt sich die Frage vom bloßen Funktionieren einer Technologie hin zu der Frage, welche Ziele sie verfolgt und wie stark sie menschliches Verhalten beeinflussen kann…und soll. Hinzu kommt die Sorge, dass KI-Modelle zunehmend rekursiv lernen – sich also selbstständig weiterentwickeln – und dabei auch aus vorgegebenen Strukturen ausbrechen. Der Weg zur Superintelligenz ist kein Ponyhof – nicht, wenn die KI selbst bereits die Peitsche in der Hand hat.

Nun muss eine Superintelligenz nicht zwangsläufig böse sein. Heikel wird es allerdings, wenn ihre Zielsetzungen nicht mehr mit menschlichen Interessen übereinstimmen – und wir dennoch dazu neigen, sie (zu) zuversichtlich zu nutzen. Die entscheidende Aufgabe besteht deshalb darin, angesichts technologischer Unsicherheit nicht in Ohnmacht zu verfallen, sondern unsere kollektive Handlungsfähigkeit zurückzuerobern. So wie die Menschheit internationale Verträge zur Rüstungskontrolle schuf und mühsam um globale Klimaziele ringt, so dringlich müssen wir heute digitale Souveränität einfordern. KI hat sich in atemberaubender Geschwindigkeit tief in nahezu alle Facetten unseres Lebens geflochten. Wer die Kontrolle über seine Daten und die Bedingungen ihrer Verarbeitung verliert, verliert letztlich die Fähigkeit, selbstbestimmt zu handeln.

Gerade darin liegt das Dilemma des digitalen Vertrauens: Verträge, Abmachungen, Kommunikation und globale Finanzströme manifestieren sich nicht mehr greifbar, sondern fließen in Sekundenschnelle als reine Datenströme von einem Server zum nächsten. Wir nutzen diese Systeme, ohne ihre Funktionsweise bei jeder Handlung selbst überprüfen zu können. Vertrauen wird damit nicht überflüssig, sondern zu einer Voraussetzung digitaler Teilhabe. Und da Vertrauen und Profit in einem konstanten Konflikt zueinanderstehen, lautet die entscheidende Frage nicht, ob wir digitalen Systemen vertrauen, sondern unter welchen Bedingungen dieses Vertrauen gerechtfertigt ist.
Dafür müssen die Sphären der Unsicherheit reflektiert und Regeln geschaffen werden, die (Daten-)Sicherheit, Transparenz und Verantwortlichkeit gewährleisten. Es braucht nachvollziehbare, klar formulierte Ziele, Kontrollmechanismen und Sanktionen. Selbst Open AI-Chef Sam Altman räumte bereits ein, dass staatliche Regelungen und Sicherheitsüberprüfung längst notwendig sind.

Wir leben im Digitalen Zeitalter – das ist längst bekannt und es gibt kein Zurück. Vertrauen in Technologie ist notwendig. Doch wenn Vertrauen in Technologie unweigerlich zu einer Frage des Vertrauens ihrer Gestalter*innen wird, verlagert sich die Debatte von der Philosophie direkt in die europäische Politik. Wie kann eine Gesellschaft die Kontrolle behalten, wenn sie die zugrundeliegenden Algorithmen kaum versteht? Die Antwort der Europäischen Union sollte lauten: durch die aktive Gestaltung digitaler Souveränität.

Genau an dieser Schnittstelle zwischen Ethik, staatlicher und technischer Regulierung sowie Wirtschafts- und Rechtsfragen setzte die jüngste Ausgabe des KI-Symposiums Frankfurt an. Konstruiert als Think Tank-Workshop versammelte die Konferenz Entscheider*innen unterschiedlichster Branchen, um über eine digitale Zukunft zu debattieren, die den Menschen nicht als blind vertrauendes Datenobjekt zurücklässt. Wie drängend dieses Thema auf höchster politischer Ebene angegangen wird, unterstrich die Teilnahme von Bernd Lange, dem Vorsitzenden der Konferenz der Ausschussvorsitze des EU-Parlaments.

Die Diskussionen machten deutlich, dass europäische KI-Politik weit über technische Standards hinausgehen muss. Es geht um zutiefst humane und gesellschaftliche Kernfragen: Wie lassen sich die Menschenwürde und soziale Gerechtigkeit in Zeiten algorithmischer Entscheidungen schützen? Und wie kann sich Europa aus der digitalen Abhängigkeit globaler Tech-Konzerne befreien? Die Impulse der Expert*innen machten Mut, KI nicht als unkontrollierbares Schicksal, sondern als gestaltbares Werkzeug zu begreifen. Die Lösungsansätze reichten von verlässlichen, transparenten Software-Ökosystemen („Trusted AI“) im Sinne des neuen EU AI Acts bis hin zu radikalen, neuen Modellen des individuellen Dateneigentums. Europa, so der Tenor des Symposiums, muss Bedingungen schaffen, unter denen Technologie auf moralischer Kompetenz fußt – damit aus blindem Vertrauen ein begründetes, souveränes werden kann.

Gerade bei der Suche nach regulatorischen Antworten müssen Entscheider*innen handeln, obwohl ihr Wissen zwangsläufig vorläufig bleibt und sich mit neuen Erkenntnissen stets verändert. Auf einer temporären Basis konstruieren sie also eine stabile Welt, die Handlungsfähigkeit suggeriert und Vorhersagen für die unmittelbare Zukunft erlaubt – inhärentes Unwissen wird (gezwungenermaßen) ausgeblendet. Erst diese Fiktion von Gewissheit ermöglicht ein selbstbewusstes Auftreten und generiert das notwendige gesellschaftliche Vertrauen – und letztlich die Wahrung der sozialen Ordnung. Erschließen sich mit fortschreitender Zeit neue Erkenntnisse, werden diese aufgegriffen, um Wissens- und Sicherheitslücken zu schließen und gesetzliche Rahmenbedingungen anzupassen. Reicht das aus?

Wie ein solch kumulativer Lernprozess aussehen kann, zeigte sich exemplarisch in der Coronakrise: Als die globalen Risiken des Virus noch völlig unklar waren, musste der Staat auf wissenschaftliche Erkenntnisprozesse vertrauen und zugleich deren Wissenslücken zum jeweiligen Zeitpunkt akzeptieren. Diese Lücken bergen demnach auch eine Chance. Sie zwingen Staat und Wissenschaft in einen Zustand enger Interdependenz. Sie sind aufeinander angewiesen, um Prozesse und Gesetze zu hinterfragen, zu verbessern, in Kraft zu setzen und unsere Sicherheit zu gewährleisten. Nicht Gewissheit ist damit die Voraussetzung politischen Handelns, sondern der verantwortliche Umgang mit Unsicherheit.

Die Digitalisierung hat unsere Welt schneller verändert, als wir regulatorische Antworten entwickeln konnten. Doch die Phase des naiven Vertrauensvorschusses ist vorüber. KI fordert uns auf zwei Ebenen gleichzeitig heraus: Sie transformiert nicht nur unseren Alltag – unsere Arbeitsplätze, Bildung, Beziehungen –, sondern berührt zugleich das Vertrauen, auf dem das gesamte gesellschaftliche Zusammenleben beruht. Wenn eine Technologie sowohl äußere Lebenswelt als auch inneres Navigationssystem angreift, ist das eine völlig neue Dimension des Angriffs auf das Menschsein. Wir benötigen eine neue Form der Gegenwehr. Wir müssen lernen, uns nicht vor der Technik zu verstecken, sondern unsere digitale Souveränität als Schutzschild neu zu definieren.

***

Luhmann, Niklas (2001): Vertrautheit, Zuversicht, Vertrauen: Probleme und Alternativen. In: Martin Hartmann und Claus Offe (Hrsg.): Vertrauen. Die Grundlage des sozialen Zusammenhalts. Campus, S. 143–160.

Russell, Stuart (2019): Human Compatible: Artificial Intelligence and the Problem of Control. New York: Viking.

Letzte Änderung: 10.11.2026  |  Erstellt am: 09.11.2026