Suche

Anzeige

Moderne Technik mit vielen Fragezeichen: mit künstlicher Intelligenz gegen den Hass im Netz

Mit Algorithmen und maschinellem Lernen gegen Hass im Internet? © DESIGNECOLOGIST on Unsplash

In spätestens zehn Jahren könnten künstlichen Intelligenzen "Hate Speech" auch in ihren Nuancen erkennen und automatisch löschen, sagte Mark Zuckerberg in der Anhörung vor dem US-Kongress Mitte dieser Woche. Schon heute zeigt die Forschung, was die Technologie kann und über welche Punkte man künftig diskutieren muss.

Anzeige

„Eine neue Form der KI entdeckt 90 Prozent aller Onlinebeschimpfungen“, titelte das US-amerikanische Magazin Fortune am 30. Juli 2016. Gemeint war ein von Yahoo entwickelter Algorithmus, der auf Grundlage von eine Million Kommentaren des US-Portals trainiert wurde. Das Programm steche durch seine Genauigkeit die Konkurrenten aus. Die Forscher wollten damals über die reine Stichwortanalyse von Nutzerbeiträgen hinausgehen und speisten deshalb die Daten der Kommentarspalten von „Yahoo News“ und „Finanzen“ in den Algorithmus ein. Das Problem der Hasskommentare ist seitdem nicht gelöst worden. Jüngst erwähnte Mark Zuckerberg in seiner Anhörung vor dem US-Kongress, dass künstliche Intelligenzen in zehn Jahren „Hate Speech“ bei Facebook auch in sprachlichen Nuancen erkennen und automatisch löschen könnten.

Doch wie schlau ist die Technologie bereits heute?

Welche Probleme ergeben sich bei der Nutzung? Und wo liegen die Schwachpunkte? Die absatzwirtschaft hat mit Wissenschaftlern darüber gesprochen.

Zuckerbergs Aussage vor dem Kongress hat Sylvia Jaki und ihren Forscherkollegen, Sprachtechnologe Tom De Smedt, überrascht. „Wir haben beide gestutzt, denn gerade im englischsprachigen Raum sind die Forscher bereits sehr weit“, sagt die Medienlinguistin Sylvia Jaki von der Universität Hildesheim. Fünf bis zehn Jahre werde es sicher nicht mehr dauern, denn eigentlich seien moderne Maschinen schon heute in der Lage dazu. „Zuckerberg wirkte uninformiert, aber womöglich hat er auch eine andere Vision und möchte eine fast 100-prozentige Genauigkeit.“

Wo hört die Meinungsfreiheit auf?

Gemeinsam mit Wissenschaftlern der Universität Antwerpen hat Jaki den Hate Speech-Detektor für Twitter realisiert. Dieses automatisierte Programm spürt in Echtzeit hetzerische Wörter und Wortkombinationen in deutschsprachigen Tweets auf und bezieht auch Elemente wie Bilder und Emojis mit ein. Auf mittlerweile 84 Prozent Treffergenauigkeit komme der Algorithmus, sagt die dafür mitverantwortliche Medienlinguistin. Dass es die perfekt fahndende Maschine auf absehbare Zeit geben wird, glaubt Jaki nicht.

Es wird wohl immer eine menschliche Nachkorrektur nötig sein.

„Die Maschinen lesen auf den Zeilen, Menschen lesen zwischen den Zeilen“, sagt Aljoscha Burchardt im Gespräch. Er ist Forscher am Language Technology Lab vom Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI) und verweist auf die Mehrdeutigkeit der Sprache. Für die Erkennung simpler Sprachmerkmale seien maschinelles Lernen und Algorithmen nützlich. Da gleichen sie einem Filter im Spamordner. „Die Grenzen der Technologie sind jedoch bei Anspielungen, Ironie und beim kulturellen Kontext erreicht. Subtile Aussagen, bei denen sozusagen zwischen den Zeilen steht, was gemeint ist und das jeder Mensch versteht, sind für Algorithmen kaum zu erkennen.“ Deshalb stehle sich Zuckerberg mit seinem Verweis auf künstliche Intelligenzen aus der redaktionellen Verantwortung, so Burchardt. Er betont: „In dem Bereich der Identifizierung von Hassrede müssen menschliche Experten arbeiten.“

Die Kernfrage in der Diskussion

Wie gehen Gesellschaften mit künstlicher Intelligenz bei der Bekämpfung von Hasskommentaren um? „Zensur ist das Stichwort, das häufig genannt wird“, sagt die Wissenschaftlerin aus Hildesheim. „Das eine Lager ist von solchen Möglichkeiten begeistert und das andere sagt, dass diese gegen die Meinungsfreiheit verstoßen.“ Außerdem wird es maßgeblich sein, wie einzelne Organisationen und Behörden den Begriff „Hate Speech“ definieren. „Zuckerberg kam bei der Anhörung ins Straucheln und sprach von Aufruf zu Gewalt, mehr nicht“, sagt Jaki. Dass Facebook seine eigenen Standards inkonsequent umsetzt, zeigen zwei Fälle, bei denen die US-Firma Facebook insbesondere über die Verbreitung von Desinformation und Propaganda zu Morden aus Hass beigetragen hat. Dazu gehört der Fall der Rohingya in Burma und der Bürgerkrieg in Sri Lanka. Eine Buzzfeed-Recherche hat gezeigt, dass Facebook trotz zahlreicher Warnungen von Politikern und Forschern über Jahre kaum reagiert hat.

Screenshot: perspectiveapi.com

Hinzu kommt, dass es auf institutioneller Ebene keine einheitliche Auffassung gibt. „Die EU verfügt über keine rechtsgültige Definition, was unter Hassrede konkret zu verstehen ist.“ Üble Nachrede und andere strafrechtlich relevante Fälle gehören zweifelsfrei dazu, betont die Wissenschaftlerin. „Aber wann ist freie Meinungsäußerung keine mehr?“, fragt Jaki. Ihr Beispiel: Im Graubereich befinden sich Kommentare, in denen Migranten als Kriminelle dargestellt werden. Diese sind von der Meinungsfreiheit gedeckt. „Die Häufigkeit der Tweets macht daraus jedoch ‚Hate Speech‘, weil es durch die gezielte Herabsetzung zu politischer Propaganda wird.“

DFKI-Forscher Burchardt assistiert seiner Kollegin und erklärt den Mechanismus: „Es gibt zwei Wege, wie man Maschinen aufschlauen kann. Erstens per Algorithmus oder zweitens man lässt sie mit einem Datensatz lernen.“ Je größer und besser die Informationen darin, desto genauer wird die Maschine. Er schränkt jedoch ein:

Was der Mensch nicht gut kann, kann die Maschine erst recht nicht.

Heißt: Wenn sich Menschen nicht einigen können, welche Aussagen in den Grenzen der Meinungsfreiheit liegen und welche nicht, wird es schwierig, es einer Maschine beizubringen, die das Urteil dann übernimmt.

1 2

Digital

Innovationsanführer Deutschland: Auch die Start-up-Welt gewinnt an Bedeutung

Deutschland ist, was Innovationen angeht, Vorreiter. Kein anderes Land der Welt ist in diesem Bereich so gut wie Deutschland, so das Weltwirtschaftsforum. Die deutschen Unternehmer seien risikofreudig und kreativ. Auch die Start-up-Landschaft wird weiterhin gefördert. So schickt der vom Bundeswirtschaftsministerium unterstützte German Accelerator 14 vielversprechende Jungunternehmen ab Januar ins Sillicon Valley. mehr…

Anzeige

Absatzwirtschaft Newsletter

absatzwirtschaft Newsletter schon abonniert?

Newsticker

YouTube-Werbung auf dem TV: Werbetreibende sollten TV-Geräte nicht als Kanal, sondern als Medium zu verstehen

Bei der Bewegtbild-Nutzung geht der Trend hin zu sogenannten Snackable Videos, die sich…

Wenn der Algorithmus den neuen Kollegen findet: Wie wichtig wird Künstlicher Intelligenz im Bewerbungsprozess?

Künstliche Intelligenz könnte die Personalauswahl von Arbeitgebern in Zukunft prägen. 80 Prozent der…

Vor dem Brexit: Britische Unternehmen horten Importware, um Lieferkette zu sichern

Der Brexit, der im März ansteht, birgt Konsequenzen für britische und europäische Unternehmen.…

Anzeige

Das könnte Sie auch interessieren

Dein Kommentar

Deine E-Mailadresse wird nicht veröffentlicht.

*

Anzeige