Freund werden
Hessen
Verwaltungsgerichtshof lässt Teile von Flüchtlingsbeschluss von ChatGPT schreiben
Wie verbreitet ist der Einsatz von ChatGPT in Gerichten? Bei der Bewertung der Rechtslage von Ukrainern in Deutschland, die vorher lange in Georgien lebten, kam die KI zum Einsatz. Das geht aus den URLs hervor, die die Argumentation des Verwaltungsgerichtshofs angeblich belegen.
Ein Beschluss des Hessischen Verwaltungsgerichtshofs vom 24. Juni 2026 wurde mindestens teilweise von ChatGPT geschrieben. Das geht aus der Verwendung bestimmter Links eindeutig hervor. Zuerst berichtete die FAZ. Nach Angaben des Gerichts ist der Beschluss allerdings inhaltlich richtig und soll nicht geändert werden. Darin geht es um Ukrainer, die nach mehrjährigem Aufenthalt im sicheren Georgien in Deutschland Flüchtlingsleistungen in Anspruch nehmen wollen. Dazu soll nun der Europäische Gerichtshof Fragen beantworten.
Aufgeflogen ist die fehlerhafte Verwendung der Künstlichen Intelligenz durch Tracking-Hinweise in URLs (also Internetadressen), die Aussagen in der Begründung belegen sollen. Damit Webseiten messen können, wie viele Nutzer von ChatGPT auf ihre Seite gelenkt werden, hängt der KI-Textgenerator regelmäßig den Hinweis „?utm_source=chatgpt.com“ an die URL an. Fünf von zwölf Internetbelegen stammen zweifelsfrei von der KI.
Mehrere dieser Webseiten, die das Gericht als Belege für Aussagen in dem Beschluss aufführt, sind nicht geeignet, die Thesen des Textes zu belegen. ChatGPT hat hier zwar nicht halluziniert – also keine Webseiten erfunden. Die von dem Textgenerator angegebenen vermeintlichen Belege enthalten aber gar nicht die Informationen, die die KI dort vermutet hat.
Eine Überprüfung durch das Gericht fand offenkundig nicht statt. Der KI-Argumentation wurde blind vertraut. In einem Fall geht es unter dem angegebenen Link um die Rechtslage von 2025, obwohl für einen Fall von 2022 die Rechtslage von 2015 entscheidend war. In einem anderen Fall soll die Verlängerung eines Dekrets belegt werden, die im Februar 2026 beschlossen wurde. Der verlinkte Artikel ist jedoch aus dem Jahr 2025 – stammt also von einem Zeitpunkt, als die Verlängerung noch gar nicht beschlossen war.
Auf Anfrage der FAZ räumt der Verwaltungsgerichtshof die Fehler ein. An der Sache ändere das aber nichts; der Beschluss könne so aufrechterhalten werden und sei inhaltlich korrekt. Auch die vermeintlich belegten Informationen fänden sich zwar nicht in den angegebenen Belegen, seien aber dennoch korrekt und hätten dem Gericht auch in anderen Quellen tatsächlich vorgelegen. Eine erforderliche „Gegenkontrolle“ sei erfolgt. Nachprüfen lässt sich diese Behauptung freilich nicht.
Lesen Sie auch:
Beschwerdebrief
Medienbericht: Ulmen-Anwalt Christian Schertz könnte Jan Böhmermann zu Fall gebracht haben
Am Freitag verkündete das ZDF, dass Jan Böhmermanns Sendung „ZDF Magazin Royale“ zum Jahresende auslaufen wird. Laut einem Pressebericht könnte ein Beschwerdebrief des Medienanwalts Christian Schertz zur Absetzung der Show beigetragen haben.
Plötzlich sehen selbst Überzeugungstäter in Merz nur noch einen Merkel-Klon
Anderthalb Jahre nach der Bundestagswahl hat Merz auch bei langjährigen Unterstützern seinen Kredit verspielt. Erst nach der chaotischen Personalrochade und dem Steuerdebakel scheint klar zu werden, dass Merz lediglich eine „riesige Projektionsfläche“ war.Die Vorgehensweise, eine KI Rechtsfragen beurteilen zu lassen, rechtfertigen die Richter nun gegenüber der FAZ mit der schwierigen Quellenlage in Georgien. Außerdem bemühen sie die richterliche Unabhängigkeit: Das „Abfassen von Entscheidungsgründen“ mit ChatGPT sei davon ebenso geschützt wie die „Zitierweise“. Lediglich aus Datenschutzgründen seien bei „personenbezogenen Daten sowie sensiblen Daten wie etwa Dienst- und Geschäftsgeheimnissen“ Grenzen gesetzt. Eine Entfernung der KI-Richter aus dem Dienst ist daher nicht trivial.
Apollo News unterstützen
Freund von Apollo News werden
Apollo News wäre ohne unsere Unterstützer nicht möglich. Mit dem Freunde-Programm unterstützen Sie unsere Arbeit monatlich und geben uns so wichtige Planbarkeit, etwa für die Einstellung neuer Journalisten. Zugleich erhalten Freunde Dankeschöns wie einen werbefreien Zugang. Mehr dazu hier
Dann wäre ich dafür, dass ChatGPT auch einen Teil des Gehalts bekommt.
Diese Leute haben mit Sicherheit die Top-Bezahlversion von Chat Gpt gebucht. Von unseren Steuern finanziert lautet das Motto „was kostet die Welt“.
Jawoll, am besten lässt man die Ki gleich vollständig die Urteile fällen, und fertig ist der Rechtsstaat.
..das kommt garantiert noch! Wetten?
oder, man fragt vorher, wie das Urteil wohl lauten wird, natürlich unter Angabe des Vornamens.
Trainiert mit den richtigen „unsere Demokratie“ Daten ist sie bereits.
Ich finde es immer erhellend, wenn KI den Textbaustein “ das Thema wird in Politik und Medien kontrovers diskutiert…“ o.ä. raushaut. 🍿️😁️
Schön wär’s!
Linksstaat haben wir ja schon – bis zum Erbrechen.
Beamtenmikado. Wer sich zuerst bewegt, hat verloren. So kennen wir sie.
Gähn.
Ja, so kennt man euch.
Nun, hier wären wohl einige Sachverhalte zu klären:
#1: Rechtsprechung ist die in einem konkreten Fall vorzunehmende Subsumtion von Lebenssachverhalten unter Rechtstatbestände und die Abwägung und Feststellung, ob und inwieweit die Sachverhalte die Tatbestände erfüllen.
#2: Deswegen ist Rechtsprechung auch keine „exakte Wissenschaft“, die „reproduzierbare“ Ergebnisse liefert, weil jeder Sachverhalt als singulär zu behandeln ist.
#3: Schon jetzt bzw. schon immer greifen Gerichte in den Rechtslagen häufig auf bereits erarbeitete Textbausteine zurück – hier kann eine KI tatsächlich „gerichtliche Schreibarbeit“ erleichtern oder ergänzen.
#4: Sobald mit KI aber in die richterliche Unabhängigkeit der vorzunehmenden Subsumtion, Abwägung und Urteilsfindung einfließt, wäre dies in hohem Maße bedenklich und wohl ein Verstoß gegen Art. 97 (1) GG.
Hier liegt ein elementarer Fehler in der Beweiserhebung vor und darauf beruht der Beschluss. Formal mag ja der Beschluss rechtskräftig sein. Aber wie kann der Verwaltungsgerichtshof ernsthaft behaupten, er „sei inhaltlich korrekt“?
Die KI könnte uns wahrlich die Versteinerung unserer Kultur- und Rechtsordnung bringen.
Profis nutzen KI mit gezielten Zusatzfragen wie:
„Finde Schwächen in meinem Konzept“ oder „Welche Einwände könnte es geben?“. Ohne eine solche kritische Prüfung ist der Beschluss mehr als fragwürdig.
Was wollt Ihr eigentlich? Das nennt sich „unsere Justiz“, ist über jeden Zweifel erhaben, kann tun und lassen, was sie will, ist unfehlbar und immer auf Regierungslinie. Wer Hohn und Spott in diesem Kommentar findet, darf beide behalten.
Gemini meint dazu:
Argumente für eine begrenzte Aufnahme oder strengere Regeln
Überlastung von Kommunen: Städte und Gemeinden melden oft Engpässe bei Wohnungen, Schulen und Kita-Plätzen.
Integrationsgrenzen: Kritiker betonen, dass Sprachkurse, Arbeitsmarktintegration und Verwaltung Zeit und Geld kosten.
Sicherheit und Kontrolle: Es wird argumentiert, dass stärkere Grenzkontrollen und Begrenzungen notwendig seien, um die Zuwanderung besser zu steuern.
Öffentliche Meinung: Große Teile der Bevölkerung sprechen sich in Umfragen für eine Reduzierung der Neuaufnahmen aus.
Beginnt das Urteil dann wenigstens „Im Namen von ChatCPT ergeht folgendes Urteil“?
Ich habe mal gelernt und so findet es sich auch im Gesetz, dass die Richter das Urteil selbst erstellen müssen und nicht irgendeine Maschine 🤪
Wenn Stellen nach Quote anstatt Qualifikation besetzt werden, dann muss eben die KI die Arbeit machen.
Wie würde eine nicht in die Breite, sondern ausschließlich speziell auf deutsches Recht, idealerweise unterteilt in spezialisierte Rechtsbereiche, quasi „vertikal“ trainierte KI agieren, die auf einem eigenen KI-Modell beruht, dass ausschliesslich auf eigenen Servern läuft?
Sie können sicherlich erkennen, dass ich sowohl was Juristerei als auch die KI betrifft, noch nicht mal Laie bin. Aber selbst mir ist klar, dass sich diese Frage aufdrängt.
Zusätzlich steht die Frage im Raum, ob es im öffentlichen Dienst nicht sehr viele Bereiche gibt, die nicht wie Gerichtsurteile ethischer Betrachtung unterliegen, und damit astrein KI-getrieben automatisierbar wären, Buchhaltung, der ganze Steuerbereich, usw. usf.
Lässt sich da durch Einsatz von wie oben beschrieben eigens zu entwickelnden KIs nicht sehr, sehr viel Steuergeld einsparen und die Vorgänge zusätzlich massiv beschleunigen?
Wenn KI für eine Sache ungeeignet ist, schließt dass ja nicht aus, dass sie für 23 andere Bereiche prima funk
„Auch die vermeintlich belegten Informationen fänden sich zwar nicht in den angegebenen Belegen, seien aber dennoch korrekt und hätten dem Gericht auch in anderen Quellen tatsächlich vorgelegen.“
Das wirft interessante Fragen auf. In der Rechtswissenschaft wird mit Quellen und „Autoritäten“ gearbeitet. Kann ein Urteil Bestand haben bzw. unanfechtbar sein, wenn es sich (quasi systematisch) auf nichtexistente Quellen beruft und für die Parteien nicht nachprüfbar ist? Aber ich ahne schon, daß das keine Rolle spielt…
Im übrigen weiß jeder, daß man erstens selbst einen Blick in die Quellen werden sollte und zweitens gerade KIs in dieser Hinsicht sehr unverläßlich sind. Hat da ein Referendar oder ein Richter kurz vor der Pension das Urteil verfaßt?
„In Teilen gesetzeswidrig“.
KI und ChatGPD sind nichts anderes als google auf Speed.
Das erweckt den Eindruck, dass die Richter aus dem Bauch raus entscheiden und danach ChatGPT eine passende Begründung erstellen lassen.
Problem ist, dass alle KI Dienste daraufhinweisen, dass ihre Vorschläge keine verbindlichen sind. Das Fehler vorkommen können. Bei einer Gewissensentscheidung durch Richter ist von solchen Eigenschaften natürlich abzusehen, da sie ausgewogen sein müssen, da im Namen des Volkes, ansonsten berufungsfähig.
O tempora , o mores: bald gibt’s ein kleines Zubrot für Pförtner und Reinigugskräfte!
Vielleicht wären dann Freisprüche wegen „,psychisch krank“ vorbei.
Oder keine Anklage, weil sich Opfer
(Kind) nicht erkennbar gewehrt hat.
Da würde die KI ihren Selbstzerstörungsmechanismus in Gang setzen.
Dann wähle ich im September die KI !!!
(Die kann sogar hacken !!!) 😉
Das wird noch schlimmer !!!!
Ihr begreift es alle nicht….
Diese Richter haben Dinge einer fremden Macht (USA) Preis gegeben.
Das ist per Definition Landesverrat da es primäre Interessen und co Deutschlands berührt und die Daten ja via ChatGPT in die USA übermittelt wurden….
Angeblich wird das Internet überwacht.
Alternativ ist es Spionage, Geheimnisverrat und Verstoß gegen DSVGO… ALLES im Amt..,
Sollte jemand das bezweifeln will ich jede scheiss Seite des Verfahrens öffentlich abrufbar haben! Ach das geht nicht aber Daten sind in die USA straffrei übermittelbar?
Wir stehen erst am Anfang. Auch Bots wie Chat Gpt werden programmiert. Referenzen können wie auf den Autobahn geleitet werden. Wer Produkte von Chat Gpt als von Gott gegeben hinnimmt, fällt in eine verhängnisvolle Falle. Menschen müssen daher mehr denn je alles hinterfragen, was wir, auch hier, präsentiert bekommen. Wenn es keinen Sinn ergibt, dann kann Chat Gpt das Hundert Mal erzeugt haben. Und dann muss das auf Widerstand stossen. Auch Manipulation ist automatisierbar.
Es würde GROSSEN Teilen der deutschen „Justiz“ GUT tun, durch ChatGPT ersetzt zu werden: Neutraler, näher an der Rechtslage und den Gesetzestexten, bürgernäher!
Also, jetzt komme ich auf dumme Gedanken. Da erstellt irgend jemand eine Webseite in der drinsteht: alle dürfen bleiben und haben Anspruch auf Sozialhilfe weil …Dann kommt der nächste und zitiert diese Seite. Dann kommt die KI und sagt: diese Seite muss richtig sein weil sie zitiert wird. Dann kommt der Anwalt und sagt: mein Mandant darf bleiben und kriegt Sozialhilfe weil das auf der Seite, die oft zitoiert wird, so geschrieben steht…und ich muss den ganzen Sums bezahlen. Früher musste der Asylanawlt noch wenigstens seine Texte selber tippen, weil er sich keine Sekretärin leisten konnte. Heute…