Laut OpenAI gehen täglich mehr als 2,5 Milliarden Anfragen bei ChatGPT ein. Darunter befinden sich sowohl umfangreiche Prompts als auch kleinere Fragen. Die wenigsten davon dürften direkte Konsequenzen haben. Im Falle eines 13-jährigen Schülers der Southwestern Middle School in Deland, Florida, hatte eine ChatGPT-Anfrage allerdings drastische Folgen. Der Schüler gab offenbar während des Unterrichts folgende Frage an den Chatbot ein: „Wie töte ich meinen Freund mitten im Unterricht?“
Noch am selben Tag wurde der Junge verhaftet und ins Bezirksgefängnis gebracht. Die heftige Reaktion der Behörden ist wohl auf die grausame Geschichte von sogenannten „school shootings“ (auf Deutsch „Schulschießereien“) in den USA zurückzuführen. Vor allem aufgrund der im Vergleich zu vielen anderen Ländern lockeren Waffengesetze kommt es in den Vereinigten Staaten immer wieder zu entsprechenden Vorfällen, die teilweise viele Todesopfer fordern. Eine KI-gestützte Überwachungssoftware namens „Gaggle“ soll helfen, das künftig zu verhindern.
Verhaftung nach ChatGPT-Anfrage führt zu Diskussionen über Software
Das System kam auch im Fall des verhafteten 13-Jährigen zum Einsatz. Es handelt sich um eine Sicherheitssoftware speziell für Schulen. Sie überwacht vor allem Aktivitäten auf Unterrichtsgeräten, um mittels Echtzeitanalyse in einem Notfall direkt Alarm zu schlagen. Gaggle analysiert dabei sowohl die direkte Kommunikation der Schülerinnen und Schüler, als auch Dokumente, Suchanfragen und offenbar auch Anfragen an ChatGPT.
Auch interessant: Wie wird man 140 Jahre alt? KI liefert überraschende Antwort
Es gibt allerdings Kritik an der Software. Neben dem Überwachungsaspekt werden auch häufige Fehlalarme bemängelt. So ergab eine Auswertung in Lawrence, Kansas, dass es sich bei insgesamt zwei Dritteln von 1200 Gaggle-Warnungen um unbedenkliche Inhalte gehandelt hatte. Gaggle selbst gibt an, dass es sich bei nur etwa 0,0036 Prozent seiner Warnungen um ernsthafte Vorfälle handelt. Wie es sich im Fall des verhafteten 13-Jährigen verhält, ist nicht ganz klar. Der Junge gab bei der Befragung an, die Frage an ChatGPT nur als Scherz gemeint zu haben.