Jüngere Durchbrüche in der Entwicklung von Künstlichen Intelligenzen (KIs) wie etwa die Entwicklung von Chatbots wie ChatGPT oder Bild- und Videogeneratoren wie DALLE stellen die Gesellschaft vor zahlreiche Herausforderungen. Automatisierungen, die zunehmend auch Wissensarbeiter betreffen; Gefälschte Bilder und Videos, die vom menschlichen Betrachter immer schwieriger als solche erkannt werden können; Diskriminierung durch Bots, gegen die Betroffene wenig tun können; Eingriffe in das Urheberrecht und das Recht auf Privatsphäre, die einzelnen Unternehmen enorme Macht verleihen. Diese und weitere Herausforderungen wirken trotz ihrer Gegenwärtigkeit häufig abstrakt, weit entfernt oder schwer greifbar.
Ziel unseres Projekts ist deshalb, Auswirkungen begreifbar zu machen und einen facettenreichen Blick auf gegenwärtige und zukünftige Entwicklungen zu ermöglichen. Verständnis begreifen wir als Voraussetzung für eine Gesellschaft, die mündig, demokratisch und transparent mit Herausforderungen umgehen kann. Zur Erreichung unseres Projektziels greifen wir auf einen iterativen dreistufigen Prozess zurück:
Kl-Szenario
Zunächst entwickeln wir auf Basis gegenwärtiger Entwicklungen ein fiktives Szenario. Das Szenario fokussiert sich auf einen bestimmten Aspekt oder eine bestimmte Herausforderung und ermöglicht so, zukünftige Risiken und die sich daraus ergebenden Anforderungen an Reglementierung verständlich zu machen. Es dient als Grundlage für die folgenden beiden Schritte.
KI-Panel
Wir laden zu einem Panel ein, bei dem das Szenario vorgestellt und unter Experten aus Wissenschaft, Journalismus, Wirtschaft, Politik und anderen relevanten Bereichen diskutiert wird. Auch das Publikum, das aus Studierenden diverser Disziplin besteht, beteiligt sich an der Diskussion und kann praxisnahe sowie tagesaktuelle Erkenntnisse beisteuern. Aufgeworfene Fragen sowie entwickelte Gedankengänge sind die Basis für den letzten Schritt.
KI-Paper
Die im Panel aufgeworfenen Fragen sowie formulierten Gedanken entwickeln wir weiter, halten diese fest und vertiefen den im Szenario fokussierten Aspekt in einem Papier, das wir schließlich allgemein zugänglich veröffentlichen.
1. Fallstudie
Szenario:
Ein Startup in einem EU-Mitgliedstaat wendet sich an die Regierung seines Heimatlandes und bietet zwei neue KI-Tools an, die es entwickelt hat, um Desinformation im Internet zu bekämpfen. Das Startup argumentiert, dass weitverbreitete Desinformation nur wirksam bekämpft werden kann, wenn die Regierung die Nutzung dieser Tools vorschreibt. Die vorgeschlagenen Tools sind:
- Eine KI-gestützte Browsererweiterung, die den Inhalt einer Website analysiert, sobald sie aufgerufen wird, und eine Zuverlässigkeitsbewertung sowie themenspezifische Warnungen anzeigt, beispielsweise wenn sie Ähnlichkeiten mit gezielten Desinformationskampagnen erkennt. Das Startup schlägt vor, dass alle Browseranbieter verpflichtet werden sollten, diese Erweiterung zu verwenden.
- Eine KI-Anwendung, die den Inhalt von sozialen Medienplattformen scannt, ihn grob kategorisiert, insbesondere in Bezug auf politische Tendenzen, und in die Algorithmen der Plattform eingreift, sodass einem Nutzer im Laufe der Zeit Inhalte aus dem gesamten politischen Spektrum angezeigt werden.
Das Startup schlägt vor, dass alle großen sozialen Medienplattformen verpflichtet werden sollten, diese Anwendung zu verwenden.
Sollte die angesprochene Regierung die Nutzung eines oder beider Tools vorschreiben? Falls ja, sollte sie eine Option für Benutzer einschließen, sich abzumelden?
Panelgäste:
Natalia Wenzel Warkentin, Redakteurin bei der FAZ und Leiterin der zeitungsinternen „Taskforce Desinformation“
Prof. Dr. Svenja Behrendt, Professorin an der Uni Mannheim für Öffentliches Recht und Forscherin auf der Schnittstelle zwischen Digitalisierung und Verfassungsrecht
Dr. Nora Jansen, Informatikerin und Forscherin an der Uni Frankfurt zum Thema Regulierung von Desinformation
Über uns
Wir sind Leonie Steinmayer, Michael Saalfeld , Jason Adelhöfer, Marco Kaupp, Raymond Höptner, Fabian Schneider und Nadim Hammoud, Mitglieder im Studierendenforum im Tönissteiner Kreis e.V. und Projektverantwortliche für “AICubator”.
Bei Fragen, Anregungen oder Wünschen freuen wir uns über deine Nachricht an:
aicubator@toenissteiner-studierendenforum.de
Unser nächstes Panel wird im November 2024 in Berlin stattfinden.