Die E-Mail des deutschen Innenministeriums lässt Hunderte Afghanen verzweifelt zurück: Statt von Deutschland aufgenommen zu werden, sollen sie für Geld in ihre Heimat zurückkehren. Für viele ist das keine Option. Von Peter Hornung.

Alles in Ordnung, es gibt nichts zu sehen, nur ein normaler Verwaltungsakt. So klingt es, wenn das Bundesinnenministerium über seine Pläne spricht, die früheren Vornamen und Geschlechtseinträge von Personen dauerhaft im Melderegister zu speichern. Doch damit verschleiert das Haus von Alexander Dobrindt, welche Zerstörungskraft in diesem Vorhaben steckt. Würde diese Verordnung am Freitag vom Bundesrat beschlossen, wäre das nicht die Umsetzung des Selbstbestimmungsgesetzes – es wäre seine Demontage. Als das Gesetz im vergangenen Jahr verabschiedet wurde, hatte es ein klares Ziel: Das Leben für Menschen, die trans, intergeschlechtlich oder nichtbinär sind, sich also weder ausschließlich als weiblich oder männlich verstehen, sollte einfacher und sicherer werden. Diskriminierung, Blicke, Anfeindungen sollten ihnen, wo möglich, erspart bleiben. Unfreiwillige Outings sollten der Vergangenheit angehören. Mit der Bankkarte an der Supermarktkasse. Mit dem Personalausweis am Flughafen. Das alte Ich, das für viele nie passte, sollte zur Vergangenheit werden. Das neue Ich, das richtige, sollte gelten. Die Pläne aus dem Innenministerium höhlen dieses Ziel aus und verkehren es ins Gegenteil. Die alten Daten würden dauerhaft in den Meldedaten gespeichert bleiben und mit jedem Umzug weitergereicht. Unzählige Behörden könnten sie mit wenigen Klicks abrufen. Betroffenen hängt das Ministerium so ein Schild um den Hals, sichtbar für jede Behörde. Und dieses Schild signalisiert: Diese Person entspricht nicht der Geschlechternorm. ### Mutlosigkeit mit Ansage Schon während der Beratungen zum Selbstbestimmungsgesetz zeigte sich die Ampelregierung mutlos. Der damalige Justizminister Marco Buschmann ist eingeknickt, ließ sich von einer radikalen Splittergruppe treiben, die in trans Menschen eine Bedrohung sieht. Dabei ist es genau umgekehrt. Trans Menschen werden bedroht. Sie sind einem ungleich höheren Risiko von Beleidigung, Angriffen und Gewalt ausgesetzt – besonders, wenn sie nicht weiß sind. Die Transfeindlichkeit hat dennoch Einzug ins Gesetz gehalten, mit allerlei Klauseln, die dieses gesellschaftliche Misstrauen und den politischen Gegenwind abbilden, geht es nun um den Besuch im Fitnessstudio oder den Wehrdienst. Das ist ärgerlich. Und trotzdem war es ein Meilenstein, dass dieses Gesetz endlich kam und für so viele ein selbstbestimmteres Leben mit der eigenen Identität ermöglichte. ### Wir sind ein spendenfinanziertes Medium #### Unterstütze auch Du unsere Arbeit mit einer Spende. Jetzt spenden ### Zwangsouting bei jedem Behördenkontakt Wenn das Bundesinnenministerium diese neue Freiheit jetzt mit einer Meldeverordnung wieder zunichtemacht, wären all die Hoffnungen verfrüht gewesen. Statt einer Befreiung würde das Selbstbestimmungsgesetz für Betroffene vor allem neue Probleme schaffen, Unsicherheit säen und sie neuen Gefahren aussetzen. Zum einen bliebe die Frage, ob die Person, mit der man es in Behördendeutschland gerade zu tun hat, den “Deadname”, den alten Geschlechtseintrag, kennt. Beim Bafög-Antrag, auf dem Arbeitsamt oder einfach, weil man ein geklautes Fahrrad anzeigen will. In all diesen Szenarien käme es immer wieder zu Zwangsoutings und damit auch zur Möglichkeit, immer wieder falsch angesprochen oder angefeindet zu werden. Auch 20, 30, 40 Jahre später noch. Zum anderen ist da die berechtigte Angst, dass die neu geschaffene technische Infrastruktur – automatisierter Abruf von früheren Geschlechtseinträgen für unzählige Behörden – nur allzu gerne von jenen genutzt werden wird, die trans Menschen in Zukunft oder heute schon als Feinde sehen. ### Trump macht es gerade vor Wer kann verhindern, dass unter so vielen Behördenmitarbeitenden nicht die eine oder andere sitzt, die Listen erstellen wollte von all den Personen, die das Selbstbestimmungsgesetz in Anspruch genommen haben. Oder dass eine künftige Regierung die Möglichkeiten, die hier geschaffen werden, nutzt, um Personen zu verfolgen. Welche beängstigenden Formen das annehmen kann, sieht man derzeit in den USA, wo Donald Trumps Regierung kaum eine Möglichkeit auslässt, um trans Menschen zu schikanieren. Dass das Bundesinnenministerium meint, dieser Sorge mit einem einzelnen Satz Rechnung tragen zu können, der nun formaljuristisch verbietet, was technisch mit wenigen Mausklicks möglich sein wird, zeugt nur von weiterer Gleichgültigkeit. Die geplante Verordnung verletzt den Kern dessen, wofür das Selbstbestimmungsgesetz steht: Schutz, Würde und ein Leben ohne ständige Angst vor Outings. Es zeugt von einer beispiellosen Ignoranz für die Lebensrealität von trans Menschen. Wer das Innenministerium auf diese Weise agieren lässt, verwandelt den Fortschritt in eine existenzielle Bedrohung.

Big-Tech-Hersteller bekannter KI-Produkte vermarkten Werkzeuge wie Gemini, DeepSeek, ChatGPT und Co. als Alltagstechnologie. Private Nutzer*innen sollen sie überall und für alle möglichen Zwecke einsetzen können, als Web-Suchmaschine, als Korrekturleserin, als Autorin oder Lern-Assistenz. Ein solches Marketing definiert Menschen als defizitäre Lebewesen, die sich stets optimieren müssen. Wir haben uns mit Maren Behrensen darüber unterhalten, wie die Werbestrategie der KI-Giganten versucht, unser Menschenbild zu prägen. Behrensen sagt: Wir müssen dem nicht auf den Leim gehen, sondern können als kritisch denkende Personen einen selbstbestimmten, kreativen Umgang mit der Technologie finden. Behrensen lehrt Philosophie an der niederländischen Universität Twente in Enschede und forscht zur technologischen Vermittlung sozialer Realitäten sowie zu Identitätskategorien, Antigenderismus und Populismus. Maren Behrensen lehrt Philosophie an der Universität Twente - Alle Rechte vorbehalten Privat ### KI für alle Zwecke **netzpolitik.org:** KI ist überall. Was für einen Nutzen verspricht uns die KI-Industrie? **Maren Behrensen:** Sie verspricht, dass KI uns im Alltag hilft, uns produktiver macht und wir effizienter arbeiten – oder sie uns sogar heilen kann. Ein Beispiel sind Therapie-Bots. Die werden auf teils skrupellose Weise vermarktet und geben vor, eine Therapie ersetzen zu können. Realistisch betrachtet sind die meisten dieser Bots nicht nur nutzlos, sondern teils brandgefährlich. KI soll auch unsere Arbeitswelt revolutionieren, wissenschaftliches Arbeiten unterstützen, menschliche Kommunikation optimieren. Dabei machen sich die Hersteller kaum die Mühe zu zeigen, wie genau sie diese Versprechen einlösen wollen. ### Unausweichliche KI **netzpolitik.org:** Was hat dieses Marketing für Folgen? **Maren Behrensen:** Diese Versprechen rufen eine gesellschaftliche Erwartungshaltung hervor. Das wiederum baut sozialen Druck auf, KI-Produkte zu nutzen und zu kaufen. Denn man will ja nichts versäumen. Dabei geht der Blick dafür verloren, welchen Zweck die Technologie eigentlich erfüllen soll. Diese Unausweichlichkeitslogik, nach der es alle irgendwie nutzen und sich damit auseinandersetzen müssen, erweitert die Nutzerbasis. Ein gutes Beispiel sind Universitäten: Dort heißt es, wir könnten gar nicht darum herumkommen, KI in die Lehre oder Forschung zu integrieren. Also werden Taskforces eingerichtet, Fortbildungen angekündigt, Lehrpläne angepasst – obwohl noch gar nicht klar ist, wo und wie genau KI einen echten Nutzen bringt. Das ist weniger eine sachliche Entscheidung als eine durch Marketing erzeugte Dynamik. **netzpolitik.org:** Es ist interessant, dass Unternehmer wie OpenAI-Chef Sam Altman es geschafft haben, dass alle über ihr Produkt sprechen, und davon ausgehen, dass Menschen es wie selbstverständlich nutzen. Wissen KI-Unternehmer, wofür Universitäten oder Privatpersonen ihr Produkt einsetzen sollten? ### KI für ganz spezifische Zwecke **Maren Behrensen:** Ich glaube, das wissen sie häufig nicht. Es gibt natürlich Bereiche, in denen KI einen klaren Nutzen hat – aber das sind meist sehr eng umrissene Felder. Ein Beispiel ist die Astrophysik: Dort gibt es gewaltige Datenmengen – zum Beispiel Millionen Aufnahmen von anderen Galaxien –, die von Menschen unmöglich alle gesichtet werden können. KI kann Muster darin erkennen und Vergleichsarbeit leisten, die Forschung in diesem Umfang überhaupt erst möglich macht. Ein anderes Beispiel ist die Proteinforschung in der Biologie. KI kann dort Simulationen durchführen, Vorschläge machen und so Prozesse beschleunigen, die sonst Jahre dauern würden. Das ersetzt nicht die Arbeit im Labor, aber es eröffnet neue Kapazitäten. Muster in großen Datenmengen zu erkennen, das ist ein Anwendungsbereich, in dem KIs dem Menschen klar überlegen sind und für den sie projektspezifisch trainiert werden. Diese Nutzung unterscheidet sich allerdings sehr deutlich davon, wie KI für Privatnutzer vermarktet wird, nämlich als Alltagstechnologie oder Allzwecklösung. ### Menschen mit Optimierungsbedarf **netzpolitik.org:** Welche Rolle spielt das Nützlichkeitsprinzip in der Vermarktung von KI? **Maren Behrensen:** Das Nützlichkeitsprinzip steht im Zentrum der meisten Vermarktungsstrategien. Ein Beispiel ist die Grammarly-Werbung. Sie verspricht: „Wir schreiben dir deine Hausarbeit“ oder „Wir machen deine E-Mails verständlich“. Die Unterstellung ist hier: Der Mensch an sich kann wenig und dann kommt die KI, die aus dem unfähigen Menschen ein optimiertes Wesen macht. In dieser Logik wird der Mensch wie eine kleine Maschine gesehen, die sich ständig selbst verbessern soll. Sein Wert bemisst sich daran, wie nützlich, effizient oder produktiv er ist. ### Alles netzpolitisch Relevante #### Drei Mal pro Woche als Newsletter in deiner Inbox. Jetzt abonnieren Das zeigt sich auch besonders bei Tools wie Kalender- oder Gesundheits-Apps, wo es heißt: „Mit KI bringst du endlich Ordnung in dein Leben.“ **netzpolitik.org:** Was genau ist daran problematisch? ### Die Mensch-Maschine **Maren Behrensen:** Das ist ein sehr reduziertes Menschenbild. Es blendet vieles aus, was menschliches Leben eigentlich ausmacht – Beziehungen, Kreativität, auch einfach das Recht, einmal nicht effizient zu sein. Das KI-Marketing versteht Menschen als Maschinen unter anderen Maschinen. **netzpolitik.org:** Menschen als Maschinen zu verstehen – gibt es dafür Vorläufer in der Philosophiegeschichte? **Maren Behrensen:** Es erinnert an René Descartes, ein französischer Philosoph der frühen Neuzeit, wobei er nicht den Menschen, sondern lediglich Tiere als Maschinen betrachtet hat. Daneben gibt es materialistische Philosophien. Sie brechen den Menschen auf seine Existenz als Körper herunter, der bestimmte Dinge braucht: Nahrungsmittel, Schlaf und so weiter. In der Regel versuchen sie, auch das Gefühlsleben des Menschen – oder das, was man vielleicht theologisch verbrämt Seelenleben nennen würde – auf rein materielle Fragen zu reduzieren. Dem etwas überspitzten Ausdruck Mensch-Maschine-Denken kommt aber wohl der Behaviorismus in der Psychologie am nächsten. Da gibt es auch unterschiedliche Denkschulen, aber der Grundgedanke ist: Menschliches Verhalten ist auf Input und Output ausgerichtet. Menschliches Verhalten wird durch äußere Reize bestimmt. Die Idee dahinter ist, dass man Menschen quasi programmieren kann, wenn man die richtigen Inputs kennt. Dieses Denken wurde unter anderem auf Kindererziehung angewendet. ### Nützlichkeitsprinzip auf die Spitze getrieben **netzpolitik.org:** Eine Facette des Nützlichkeitsprinzips im KI-Marketing sind Philosophien, denen bekannte KI-Player anhängen, ein Beispiel ist der Longtermismus. Er steht in der Tradition des Utilitarismus, einer Art Nützlichkeitsethik. Was besagt er? **Maren Behrensen:** Der Longtermismus argumentiert in etwa so: Menschliches Leben oder auch positive Erfahrungen, die Menschen im Laufe eines Lebens machen können, haben einen bestimmten intrinsischen Wert. Daher steigert sich dieser Wert umso mehr, je mehr Menschen es gibt. Hinzu kommt die Vorstellung, dass wir es durch eine technologisch vermittelte Zukunft schaffen, uns über die Galaxie auszubreiten. Damit würden irgendwann die natürlichen Grenzen dafür wegfallen, wie viele menschliche Leben zeitgleich existieren können. Im Moment müssen wir davon ausgehen, dass es eine solche Grenze auf der Erde gibt, dass also nicht beliebig viele Menschen auf der Erde leben können. Daneben müssen wir dafür sorgen, dass nicht irgendein katastrophales Ereignis uns alle gleichzeitig auslöscht. **netzpolitik.org:** Menschliches Leben in der Zukunft schützen zu wollen, klingt doch eigentlich ganz gut. **Maren Behrensen:** Mein größtes Problem mit der Argumentation des Longtermismus ist, dass es menschliche Bedürfnisse hier und jetzt vollkommen vernachlässigt, auf eine meines Erachtens völlig fahrlässige Weise. Longtermisten formulieren Zukunftsversprechen, von denen völlig unklar ist, ob sie jemals so eintreten. Moralische Katastrophen kann der Longtermismus nicht einordnen. Ein Genozid oder eine schwere Epidemie, die viele Menschen tötet, wäre im Longtermismus nicht weiter erwähnenswert, solange die Menschheit als solche weiter besteht. Er abstrahiert völlig von den Bedürfnissen und der Not der jetzt lebenden Menschen. **netzpolitik.org:** Wie kommen Menschen als Maschinenwesen ins Spiel? **Maren Behrensen:** Manche Longtermisten träumen davon, dass wir irgendwann gar nicht mehr als körperliche Wesen existieren, sondern einfach als virtuelle Wesen in einer Cloud. Wenn es so käme, dann würden damit viele Bedürfnisse wegfallen, die Menschen als körperliche Wesen haben. Schlaf oder Essen wären wahrscheinlich obsolet. **netzpolitik.org:** Ist das für uns als Nutzer*innen der Technologie ein Problem, dass viele KI-Hersteller uns als potenzielle Maschinenwesen verstehen? ### Wir sind ein spendenfinanziertes Medium #### Unterstütze auch Du unsere Arbeit mit einer Spende. Jetzt spenden **Maren Behrensen:** Zum einen zeigt sich in der longtermistischen Ideologie ein entwürdigender, oft rassistischer, sexistischer und ableistischer Blick auf Menschen. Wenn Menschen, die einer solchen Ideologie anhängen, uns nicht nur ihre Produkte verkaufen, sondern ihren Reichtum auch dazu nutzen, direkten politischen Einfluss auszuüben, wie das etwa Peter Thiel und Elon Musk in der USA tun – dann droht gleichzeitig ein faschistoider Umbau der politischen Verhältnisse. ### Die Angst des Philosophen **netzpolitik.org:** Wie wirkt sich das aus, wenn Nutzer*innen dem Marketing von der KI als Alleskönner auf den Leim gehen? **Maren Behrensen:** Es schürt falsche Erwartungen. Menschen missverstehen ChatGPT zum Beispiel als ein Programm, das direkt Informationen liefern kann. Das ist eine falsche Annahme. Wenn man das Missverständnis von KI als Suchmaschine ins Gesellschaftliche weiterdenkt, dann landet man bei dem, was man als die Angst des Philosophen beschreiben könnte: Menschen lassen ChatGPT für sich denken. Aber ChatGPT macht kritisches Denken nicht automatisch obsolet. Das Ganze erinnert an das Taschenrechner-Problem: Als der Taschenrechner in die Klassenzimmer kam, gab es auch diese Sorge, dass man den jungen Menschen Mathematik nicht mehr vermitteln kann. Doch einen Taschenrechner kann ich erst dann sinnvoll und effizient nutzen, wenn ich schon Ahnung von Mathe habe, und wenn ich weiß, welche Probleme ich mit ihm lösen soll. ChatGPT und andere KI-Tools kann ich auch dann gewinnbringender nutzen, wenn ich eine klare Vorstellung davon habe, was ich erfragen oder erreichen will. **netzpolitik.org:** Das heißt, die Sorge ist unbegründet? **Maren Behrensen:** Ich halte die Sorge für übertrieben. Sie sagt mehr über die Menschen aus, die KI als alternativlose Allzwecklösung anpreisen und gleichzeitig von einem radikalen Umbau der Gesellschaft fantasieren. Faschisten käme es sehr gelegen, wenn KI das kritische Denken ersetzen würde – aber das heißt nicht, dass jegliche Nutzung von KI einer Aufgabe des Denkens gleichkommt. ### Nutzer*innen widersetzen sich Marketing Umso interessanter ist es, dass viele Menschen KI-Systeme auf eine Weise nutzen, die sich dem Nützlichkeitsprinzip widersetzt. Ich denke hier insbesondere an eine Form der Nutzung, die KI als eine Art Dialogpartnerin begreift – als interaktives Tagebuch oder Hilfe beim Sortieren von Gedanken oder Routinen. Natürlich kann auch das gefährlich sein: wenn jemand sich durch den Umgang mit KI weiter in Wahnvorstellungen hineinsteigert. Aber wenn Menschen KIs als Dialogpartnerin behandeln, wählen sie eine andere Herangehensweise als die der reinen Selbstoptimierung durch den Umgang mit einem Werkzeug. Und das finde ich spannend: Was kann eigentlich menschliche Kreativität aus und mit diesem Ding machen? Das meine ich wertneutral, aber es zeigt meines Erachtens, dass Menschen einen kreativen Zugang zu KI haben, der über die Marketingnarrative „kann alles“, „weiß alles“, „ist eh unausweichlich“ oder „kann alles besser als du“ hinausgeht. ### Wenn nur noch der Chatbot zuhört **netzpolitik.org:** Was sind die Risiken, wenn Menschen KI-Tools unreflektiert nutzen? **Maren Behrensen:** Wenn sie beispielsweise ChatGPT als Gesprächspartner*innen und als echte Person wahrnehmen oder den Output des Programms unhinterfragt glauben, birgt das die Gefahr, Illusionen zu verstärken. Es zeigt aber auch: Es gibt viele Menschen, die sich sonst nicht gehört fühlen – und die dieses Zuhören nun in der Maschine finden. Das kann wie gesagt gefährlich sein: In den USA beginnt gerade ein Rechtsstreit gegen OpenAI, in dem es darum gehen wird, ob ChatGPT einen jungen Menschen in den Suizid getrieben hat. ### Chatbots imitieren Sprachhandeln **netzpolitik.org:** Wie kommt es zu dieser Dynamik? **Maren Behrensen:** Chatbots sind nicht auf Wahrheitssuche ausgelegt, sondern darauf, menschliches Sprachhandeln zu imitieren. Das hat oft wenig damit zu tun, Argumente oder Evidenz auszutauschen und kritisch zu hinterfragen. Vielmehr geht es darum, einen Konsens herzustellen, einen gemeinsamen Entschluss zu fassen oder gemeinsame Glaubenssätze zu formulieren. Je besser Chatbots darin werden, menschliches Sprachhandeln zu imitieren, desto größer wird auch die Gefahr, dass sie als Autorität wahrgenommen werden. Und Autoritäten können toxisch sein, sie können ihre Macht ausnutzen. Dabei unterstelle ich natürlich nicht, dass KI eine _Intelligenz_ wäre, die dies bewusst tut. Aber wie bei toxischen menschlichen Autoritäten gilt: Es liegt an uns, ob wir ihnen diese Macht über uns geben oder nicht. KI-Programme haben ja keinen Personenstatus, geschweige denn Bewusstsein. Sie fungieren häufig wie Echokammern, ähnlich Social Media, aber eben nicht nur.