Das Internet hat die gesellschaftliche Kommunikation tiefgreifend verändert – und damit auch neue rechtliche Herausforderungen geschaffen, etwa für die Rechtsdurchsetzung und Schutz vor rechtswidrigen Inhalten im digitalen Raum. Digitale Rechtsverletzungen wie Beleidigungen, Bedrohungen, Urheberrechtsverletzungen, Kinderpornografie, Üble Nachrede, Identitätsdiebstahl oder Deepfakes nehmen stetig zu. Die enorme Menge an täglich generierten digitalen Inhalten sowie komplexe juristische Abwägungserfordernisse in der Rechtspraxis erschweren eine verlässliche Identifikation strafrechtlich relevanter Inhalte.
Um diesen Herausforderungen zu begegnen, kooperieren SO DONE und die Bergische Universität Wuppertal (BUW) in dem gemeinsamen Forschungsprojekt iustitiAI. Gemeinsam forschen SO DONE und das Institute for Technologies and Management of Digital Transformation (TMDT) der BUW bis 2028 an der Entwicklung KI-unterstützter Werkzeuge zur verlässlichen und transparent nachvollziehbaren Erkennung strafbarer Inhalte im digitalen Raum sowie deren Abgrenzung von durch die Meinungsfreiheit geschützten oder anderweitig rechtlich zulässigen Äußerungen.
Im Zentrum des Forschungsprojekts stehen neben methodischer Grundlagenforschung die Entwicklung und Erprobung intelligenter Systeme, von denen in Zukunft verschiedene Stakeholder des Rechtsstaats profitieren könnten: Sowohl Strafverfolgungsbehörden als auch die Justiz können rechtliche Sachverhalte aufbereiten und im Kontext der bisherigen Referenzrechtsprechung einordnen, während Anwältinnen und Anwälte die entwickelten Werkzeuge einsetzen können, um eine erste rechtliche Einordnung zu erhalten und erste Entwürfe für Schriftsätze zu verfassen.
Weitere Anwendungsszenarien sind das Moderieren von illegalen Inhalten durch digitale Plattformbetreiber sowie im Community Management, wo Seitenbetreiber regelmäßig eine Vielzahl von Moderationsentscheidungen unter Einbezug rechtlicher Normen treffen müssen. Ein zentraler Fokus liegt dabei auf dem Schutz der Betroffenen bei gleichzeitiger Wahrung der Meinungsfreiheit durch nachvollziehbare und transparente Modelle, die dem Anwender ausführliche Entscheidungsheuristiken und referenzierte Rechtsquellen zur Verfügung stellen und sorgfältig zwischen konkurrierenden Rechtsgütern abwägen.
Der technische Schwerpunkt des Forschungsprojekts liegt in der in der Entwicklung moderner Natural Language Processing Modelle zur semantischen und kontextuellen Textanalyse. Hierbei werden Large Language Models (LLMs) eingesetzt, die durch die Integration von Wissensgraphen gezielt „gegrounded“ werden. Durch die Anreicherung dieser Modelle mit domänenspezifischem Wissen, wie beispielsweise juristischen Normen und Prüfschemata, relevanten Gerichtsurteilen sowie händisch annotierten Trainingsdaten wird eine präzise Identifikation sprachlicher Nuancen und kontextueller Einordnungen verschiedener digitaler Inhalte, wie beispielsweise Ironie, ermöglicht. Ein besonderes Augenmerk gilt der Entwicklung robuster und transparenter Klassifikationsalgorithmen, die durch KI-unterstützte Verfahren erstellte Ergebnisse nachvollziehbar und mit relevanter Referenzrechtsprechung annotiert aufbereiten.
Das Projekt iustitiAI wird im Rahmen des EFRE/JTF-Programms NRW 2021-2027 gefördert.