Cybercrime

Die Welt der Computerkriminalität

Inhalt

Software soll Hatespeech automatisch erkennnen

Vor Kurzem wurde bekannt, dass Wissenschaftler aus Hildesheim und Antwerpen ein Programm entwickelt haben, das deutschsprachige Hatespeech (also hetzerische Posts und Kommentare in sozialen Netzwerken) automatisch erkennt. Eingesetzt werden könnte das Programm etwa, um den Löschungspflichten der Betreiber der sozialen Netzwerke nach dem Netzwerkdurchsetzungsgesetz nachzukommen.

Aus juristischer Perspektive ist das jedoch höchst problematisch. Die Frage, ob ein Post oder Kommentar noch von der Meinungsfreiheit gedeckt ist oder nicht, kann nur durch eine komplexe juristische Abwägung beantwortet werden. Die Kriterien dieser Abwägung differieren auch je nach nationaler Grundrechtsordnung. Abgesehen davon also, dass die Programmierer für jede Rechtsordnung ein eigenes Programm schreiben müssten, erscheint sehr zweifelhaft, ob Algorithmen in der Lage sind, komplexe Wertungsfragen zu lösen. Ohnehin ist an den neuen Löschungspflichten des Netzwerkdurchsetzungsgesetzes problematisch, dass die Abwägungsaufgabe, die bislang von Gerichten mit ausgebildeten Juristinnen und Juristen vorbehalten war, nunmehr durch die Mitarbeiter der Betreiber der sozialen Netzwerke vorgenommen werden muss und dass auch noch innerhalb sehr kurzer Fristen – insbesondere, wenn man die Menge an zu bearbeitenden Beschwerden bedenkt. Der Einsatz einer Software hilft hier zwar bei der Bewältigung der großen Anfragenmenge, der Meinungsfreiheit tut er jedoch nicht gut.

CR