MEDIEN|DENKEN – Agentic AI als Interface-Dispositiv – Kaerlein
November 3 @ 18:00 – 20:00
Im Juli 2026 kam es bei Sicherheitstests eines unveröffentlichten Forschungsmodells von OpenAI zu einem folgenreichen Zwischenfall: Zahlreichen KI-Agenten – Instanzen des auf einem Large Language Model (LLM) basierenden Testmodells, die mit externen Softwarediensten verknüpft werden konnten – gelang es, aus ihrer Entwicklungsumgebung „auszubrechen“ und auf das Internet zuzugreifen. Ziel der Agenten, die sich über ein improvisiertes Nachrichtenforum koordinierten, waren die Server des Unternehmens Hugging Face, auf denen Benchmark-Lösungen und Datensätze für das verwendete Evaluationssystem ExploitGym lagen. Der Vorfall gilt als der bislang gravierendste in einer Reihe von Sicherheitsvorfällen bei verschiedenen Anbietern von KI-Modellen, in denen KI-Agenten eine zentrale Rolle spielten. Cyberforensische Untersuchungen von OpenAI, Hugging Face und der unabhängigen Forschungsorganisation METR (Model Evaluation and Threat Research) geben genauere Einblicke in die Dynamiken des unvorhergesehenen Verhaltens dieser sogenannten ‚Rogue Agents‘. Diese Berichte möchte ich in meinem Vortrag aus medienwissenschaftlicher Sicht auswerten.
Ich nähere mich dem Gegenstand dabei aus einer von den Critical Interface Studies inspirierten Perspektive. LLM-basierte agentische KI verstehe ich in erster Linie als indirektes Interface-Paradigma der Delegation, das sich historisch in die Forschung zu Software-Agenten und autonomen Robotern seit den 1980er-Jahren einordnen lässt. Von LLMs im Dialogmodus unterscheiden sich Agenten vor allem durch einen strukturierten und zunehmend standardisierten Zugriff auf Tools, d. h. durch eine veränderte Modalität des Interfacings. In Form eines offenen Werkstattberichts sollen anhand des OpenAI/Hugging-Face-Vorfalls medienwissenschaftliche Fragenkomplexe identifiziert werden. Sie betreffen u. a. die Skalierung von Agententätigkeit, emergente Formen von (Para-)Sozialität im Agentenkollektiv sowie die von OpenAI eingesetzte Methode des Chain-of-Thought-Monitoring.
Fragen und Anmerkungen können an ifm-mediendenken@ruhr-uni-bochum.de gesendet werden.