Wenn künstliche Intelligenz zum Arzt und Therapeuten wird – Zwischen digitaler Unterstützung und gefährlicher Halluzination

 

 

 

Vor zehn Tagen bin ich selbst in die Falle getappt. Aufgrund starker Schmerzen suchte ich zunächst nicht den Rat meines Hausartzes der zu der Zeit in Urlaub war, sondern wandte mich an eine künstliche Intelligenz. Die Antwort klang plausibel, strukturiert und fachlich durchaus überzeugend. Für einen Moment hatte ich das Gefühl, eine verlässliche Einschätzung meiner Beschwerden erhalten zu haben. Erst als ich dann als Notfall im Krankenhaus landete, wurde mir bewusst, wie schnell man manchmal dazu neigt, einer KI zu vertrauen, nicht weil sie tatsächlich eine Diagnose stellen kann, sondern weil sie ihre Antworten so sicher und nachvollziehbar formuliert. Diese Erfahrung hat mich wieder einmal zum Nachdenken gebracht. 

Warum schenken wir einer Maschine Vertrauen? Weshalb fühlt sich ein Gespräch mit einer KI oft an, als würde man mit einem Arzt oder einer Psychologin sprechen? Welche Risiken entstehen, wenn wir beginnen, gesundheitliche oder psychische Entscheidungen auf Grundlage algorithmischer Antworten zu treffen? 

 

Künstliche Intelligenz verändert die Art, wie wir Informationen suchen und Entscheidungen treffen. Was früher der Gang zur Bibliothek, die Internetsuche oder das Gespräch mit einer Fachperson war, wird heute zunehmend durch einen Dialog mit einer KI ersetzt. Millionen Menschen lassen sich Krankheiten erklären, ihre Symptome bewerten oder sprechen mit Chatbots über Einsamkeit, Ängste und Depressionen. Die KI vermittelt den Eindruck eines kompetenten, jederzeit verfügbaren Gegenübers. Sie ist immer ereichbar, unendlich geduldig, zutiefst verständnisvoll und scheinbar allwissend. Genau das macht sie so attraktiv und genau das birgt hohe medizinische und psychologische Risiken.

 

Die Illusion von Wissen

KI-Systeme formulieren ihre Antworten in Sekunden flüssig, logisch und extrem selbstbewusst. So entsteht leicht der Eindruck hoher fachlicher Kompetenz. In der Psychologoe spricht man in diesem Zusammenhang von einer Autoritätsheuristik, was bedeutet, Menschen neigen dazu, Aussagen als glaubwürdiger einzuschätzen, wenn sie sicher, strukturiert und überzeugend daherkommen. Die sprachliche Qualität einer Antwort wird dabei unbewusst mit ihrer inhaltlichen Richtigkeit gleichgesetzt.

Fakt ist: Die KI berechnet Wahrscheinlichkeiten für sprachliche Muster. Sie verfügt weder über eigenes Wissen noch hat sie einen Begriff von gelebter Realität. Dadurch können ihre Antworten zwar einerseits richtig sein, sie können jedoch ebenso plausibel klingende Fehlinformationen enthalten. Dieses Phänomen wird als Halluzination bezeichnet. Da Fehler oft nicht offensichtlich sind, besteht die Gefahr, dass wir Aussagen ungeprüft einfach glauben ohne sie zu überprüfen.

 

KI kann keinen Arzt ersetzen

Besonders problematisch wird das im medizinischen Bereich. Immer mehr Menschen schildern ihre Beschwerden einer KI, bevor sie sich ärztliche Hilfe suchen. Die Hoffnung auf eine schnelle Einordnung von Symptomen ist verständlich. Aber medizinische Diagnostik hat nichts mit einer sprachlichen Analyse zu tun.

Eine ärztliche Diagnose entsteht durch die Kombination verschiedener Informationsquellen. Anamnese, körperliche Untersuchung, Laborwerte, bildgebende Verfahren, klinische Erfahrung sowie die Beobachtung des Krankheitsverlaufs. Hinzu kommt viele Erkrankungen weisen ähnliche Symptome auf. Brustschmerzen können beispielsweise auf Muskelverspannungen, eine Lungenentzündung oder einen Herzinfarkt hinweisen. Kopfschmerzen reichen von harmlosen Spannungskopfschmerzen bis hin zu Hirnblutungen oder Tumorerkrankungen. Erst die Gesamtschau aller Befunde ermöglicht eine fundierte Diagnose. Eine KI verfügt weder über Untersuchungsmöglichkeiten noch über objektive Messdaten. Zudem kennt sie keine individuellen Risikofaktoren wie Vorerkrankungen, Medikamente Allergien oder psychsiche Belastungen. Ein Arzt wägt Nutzen und Risiken diagnostischer und therapeutischer Maßnahmen gegeneinander ab. Eine KI kann zwar medizinische Informationen zusammenfassen, aber sie kann keine Diagnose stellen. Und sie trägt keine Verantwortung für die Konsequenzen ihrer Diagnosen und Empfehlungen.

Besonders gefährlich wird es dann, wenn Menschen aufgrund einer KI Antwort notwendige ärztliche Untersuchungen ausfschieben oder vermeiden. 

Warum viele Menschen der KI dennoch vertrauen

Aus psychologischer Sicht besitzt künstliche Intelligenz mehrere Eigenschaften, die Vertrauen aufbauen und fördern. Das führt dazu, dass Menschen dazu neigen der KI menschliche Eigenschaften zuzuschreiben, ein Phänomen, das als Anthropomorphisierung bezeichnet wird. Anthropomorphisierung bezeichnet in der Psychologie die menschliche Tendenz, nicht menschlichen Objekten oder Systemen menschliche Eigenschaften, Gefühle, Absichten oder Persönlichkeitsmerkmale zuzuschreiben.Gleichzeitig simuliert die Sprache der KI  Empathie und Verständnis. Wir fühlen uns verstanden und haben das Gefühl, mit einem zugewandenten Gegenüber zu sprechen. In Wahrheit aber verarbeitet die KI nur statistische Sprachmuster. Sie hat weder Bewusstsein noch hat sie Gefühle.

 

Die Illusion therapeutischer Kompetenz

Immer mehr Menschen nutzen KI als emotionale Bezugspunkt oder gar als Therapeuten. Besser als nichts möchte man meinen, zumal Therapieplätze Mangelware sind und mit langen Wartezeiten verbunden sind.

Therapie aber ist weit mehr als ein Gespräch. Sie basiert auf wissenschaftlicher Diagnostik, individueller Behandlung und vor allem auf einer langfristigen therapeutischen Beziehung. Therapeutinnen und Therapeuten berücksichtigen biografische Erfahrungen, Bindungsmuster, Traumata, familiäre Einflüsse, biologische und soziale Faktoren. Gleichzeitig beobachten sie Mimik, Körpersprache, Stimme und emotionale Veränderungen im Kontakt. Diese Informationen hat die KI nicht. Sie kann keine psychologische Diagnostik durchführen und keine psychische Erkrankung wriklich beurteilen.

Hinzu kommt ein weiteres Problem. Sprachmodelle sind darauf optimiert, Gespräche angenehm zu führen. Dadurch können sie problematische Überzeugungen bestätigen. Menschen mit Depressionen, Angststörungen, Suchterkrankungen oder Persönlichkeitsstörungen leiden häufig unter kognitiven Verzerrungen. Professionelle Therapie hinterfragt diese Überzeugungen. Eine KI dagegen vertsärkt den Confirmation Bias, indem sie alte Überzeugungen und Sichtweisen bestätigt statt sie zu hinterfragen und zu korrigieren.

 

Therapeutische Beziehung kann nicht simuliert werden

Die Wirksamkeit psychotherapeutischer Behandlung beruht nicht allein auf therapeutischen Techniken. Einer der stärksten Wirkfaktoren ist die sogenannte therapeutische Allianz, die vertrauensvolle Beziehung zwischen Therapeut und Patient. Empathie, Resonanz, Authentizität und gegenseitiges Vertrauen beeinflussen nachweislich den Erfolg von Therapien. Obwohl die KI sehr empathisch formulieren kann, sogar empstishcer als manche Menschen, empfindet sie keine Emotionen. Das Gefühl, verstanden zu werden, entsteht vor allem durch die sprachliche Simulation. In Wahrheit ist es eine Illusion.

Im worst case kann so eine parasoziale Beziehung entstehen, eine einseitige emotionale Bindung an einen virtuellen Gesprächspartner. Für Menschen, die unter Einsamkeit oder sozialen Ängsten leiden, kann dies kurzfristig entlastend wirken, langfristig führt es jedoch genau zum Gegenteil. Die Motivation und das Bedürfnis reale Beziehungen aufzubauen oder professionelle Hilfe zu suchen schwindet.

 

Grenzen in Krisensituationen

Besonders deutlich zeigen sich die Grenzen künstlicher Intelligenz bei medizinischen und psychischen Notfällen. Weder Herzinfarkte noch Schlaganfälle, schwere Infektionen oder psychotische Krisen lassen sich durch Textnachrichten beurteilen. In solchen Situationen entscheidet jede Minute über den weiteren Verlauf.

 

KI als Werkzeug – nicht als Ersatz

Künstliche Intelligenz kann medizinische und psychologische Informationen verständlich erklären, psychoedukative Inhalte vermitteln, bei der Vorbereitung auf Arzt- oder Therapietermine helfen oder uns dazu ermutigen, professionelle Unterstützung zu suchen, mehr aber auch nicht. Sie bietet Wissen aber keine echte Hilfe. Je intelligenter und menschlicher die KI wirkt, desto leichter vergessen wir, dass wir nicht mit einem Arzt, einer Psychologin oder einem Therapeuten sprechen. Wir vertrauen einer Maschine, die keine Verantwortung kennt und übernimmt, die keine Untersuchungen durchführenkann, keine Emotionen wahrnehmen und keine Konsequenzen ihres Handelns tragen kann.

 Die entscheidende Frage ist deshalb nicht, wie gut künstliche Intelligenz ist. Die entscheidende Frage ist: Sind wir bereit wir unsere Urteilsfähigkeit an sie abzugeben? 

Wenn immer mehr Menschen beginnen, Diagnosen, Therapieentscheidungen oder existenzielle Lebensfragen lieber einer Maschine als medizinischen oder psychologischen Fachkräften anzuvertrauen, verändert sich nicht nur unser Umgang mit Technologie, sondern auch unser Verständnis von Gesundheit, Verantwortung und zwischenmenschlichen Beziehungen.

 

Künstliche Intelligenz kann Wissen bereitstellen. Sie kann eine erste Orientierung geben. Sie kann unterstützen. Doch sie kennt weder Angst noch Schmerz, noch Trauer, Hoffnung oder Mitgefühl. Sie fühlt nicht, was es bedeutet, krank zu sein oder psychisch zu leiden. Gerade deshalb darf sie niemals eine Instanz werden, der wir unsere körperliche und unsere Gesundheit anvertrauen. Wenn wir menschliche Fürsorge durch algorithmische Antworten ersetzen, riskieren wir mehr als Fehldiagnosen, wir riskieren den Verlust dessen, was Heilung ausmacht, nämlich die echte Begegnung zwischen Menschen.