Was ist Content Moderation?
Onlineplattformen unterliegen Richtlinien in Bezug auf akzeptable Inhalte. Dabei stellt die Moderation des veröffentlichten Contents eine große Herausforderung dar. Bislang wird diese Aufgabe hauptsächlich von Menschen übernommen. Diese durchsuchen die Onlineplattformen und sozialen Medien nach schädlichen Inhalten und sperren oder löschen diese dann. Teilweise werden die Moderatoren bereits von kleineren, vertikal-spezifischen maschinellen Lernmodellen unterstützt. Allerdings ist dieser Prozess sehr zeitaufwendig und schwierig, da es sich um viele Inhalte handelt, die täglich veröffentlicht werden und sich die Richtlinien auch immer wieder ändern. OpenAI hat nun in einem Blogbeitrag bekanntgegeben, dass das Sprachmodell GPT-4 zu einer deutlichen Entlastung der menschlichen Moderatoren beitragen soll.
Wie soll GPT-4 bei der Content Moderation helfen?
Laut OpenAI kann der Einsatz eines Systems zur Inhaltsmoderation, das GPT-4 verwendet, zu einer deutlich schnelleren Bearbeitung von Richtlinienänderungen und -verstößen führen. Große Sprachmodelle wie GPT-4 können die natürliche Sprache verstehen und unter Angabe der Richtlinien, die ihnen zur Verfügung gestellt werden, schädliche Inhalte finden und Moderationsentscheidungen treffen.
Dies soll die Bearbeitungszeit um Stunden verkürzen und die menschlichen Moderatoren bei ihrer täglichen Arbeit unterstützen. Diese sollen somit von Routineaufgaben entlastet werden und sich mehr auf komplexere Fälle konzentrieren.
Wie zuverlässig sind die Aussagen der KI?
Genau wie Menschen sind auch Sprachmodelle wie GPT-4 nicht absolut fehlerfrei bei der Content Moderation. Wie bei allen KI-Anwendungen müssen die Ergebnisse und Antworten überwacht und ausgewertet werden, und zwar von Menschen. Somit können diese nach und nach deutlich verbessert und angepasst werden. Durch die stetige Verbesserung der Sprachmodelle können diese immer genauere Aussagen und Entscheidungen treffen.
Fazit
Der Einsatz von komplexen Sprachmodellen wie GPT-4 zur Content Moderation kann die menschlichen Moderatoren zukünftig deutlich entlasten. Somit haben diese mehr Zeit sich auf die komplexeren Fälle zu konzentrieren, während sich die KI um Routinecontent kümmert.
