Konsumenten-Portal: Smarter Uploadfilter zur Verhinderung unangemessener Bildinhalte auf Immobilienfotos__
Basierend auf einem AI-Service mit Deep-Learning-Komponente können anstößige und unangemessene Inhalte auf Bildern analysiert und der Upload beim Verstoß gestoppt werden. Eine solch intelligente Technologie ermöglicht eine granulare Konfiguration der Uploadfilterkriterien und schützt sowohl Plattformbetreiber- als auch Plattformnutzer:innen.
Wie lassen sich mit Uploadfiltern anstößige Inhalte identifizieren__
In zahlreichen Debatten wurde bereits thematisiert, ob Internetplattformen verpflichtet sein sollten, sogenannte Uploadfilter einzusetzen. Für eine Betrachtung des Urheberrechts an Bildern sowie zur Prüfung von anstößigen Inhalten auf Bildern, ist eine solche Technologie unerlässlich und schützt gleichzeitig Plattformbetreiber- und Nutzer:innen.
Eine große Herausforderung besteht allerdings darin, anstößige Inhalte als solche tatsächlich zu identifizieren. Dabei ist die Begrifflichkeit anstößige Inhalte weitreichend, denn es kann sich um vielfältige Varianten von Verstößen handeln, wie z. B. pornografische, gewaltverherrlichende, nicht jugendfreie oder andere unangemessene Inhalte.
Ein Uploadfilter fungiert dabei als automatisierter Service – vor dem Veröffentlichen auf eine Plattform und während des Uploadprozesses werden die Bilder gescannt und nach gewissen Kriterien geprüft. Stellt das Programm fest, dass ein Inhalt nicht den zuvor definierten Regelungen entspricht, wird der Upload verwehrt.
Good to know: Smarter Uploadfilter
- AI-gestützter Uploadfilter
- Deep-Learning-Integration
- Granulare Konfiguration und Spezifikation der Filterkriterien für zuverlässige Ergebnisse
- Sicherheits-Feature für Nutzer:innen und Plattformbetreiber:innen
- Out-of-the-box-Service – schnelle Integration in bestehende Plattformservices
Praxisbeispiel Immobilienportal: Schutz vor ungewolltem Content dank smarter Bildanalyse im Uploadfilter__
Die KI-Spezialist:innen der Almato haben einen Uploadfilter als Schutz vor ungewolltem Content im Rahmen eines Branchenportals (Immobilienportal) integriert. Der Uploadfilter prüft mithilfe einer smarten Bildanalyse das hochgeladene Bildmaterial auf Unangemessenheit. Damit ist in diesem Beispiel Bildmaterial gemeint, welches explizite Nacktheit oder anzügliche Darstellungen enthält. Bei Verstößen gegen die Nutzungsbedingungen wird solches Bildmaterial zurückgewiesen.
„Die Lösung bietet viele Vorteile hinsichtlich Sicherheit und Convenience für Online-Plattformen, muss aber auch stetig überprüft und weiter optimiert werden.“
Imelda Bruns-Pratioto, Head of Design, Almato
Bei diesem Projekt setzte das Team für die technische Realisierung auf den Amazon AWS-Service Rekognition. Rekognition ist ein Service, über den ein mit Deep Learning ausgestatteter Bilderkennungsservice zugänglich ist. Dieser erkennt unter anderem unangemessene Bildinhalte.
Hierfür kann über das API zu einem Bild ein Moderationskennzeichen eingeholt werden. Diese Moderationskennzeichen enthalten Hinweise zu expliziten oder anstößigen Inhalten. Auf dieser Grundlage kann dann entschieden werden, ob der Content akzeptiert oder zurückgewiesen wird.
Da Amazon Rekognition für die Kennzeichnung von Kategorien mit expliziten und anzüglichen Inhalten eine hierarchische Taxonomie verwendet, können unsere Expert:innen den realisierten Uploadfilter recht granular konfigurieren. So könnte der Service beispielsweise explizite Nacktheit ablehnen, jedoch Fotos mit Personen in Badebekleidung zulassen.
Amazon bietet diesen Dienst »as is« an und garantiert nicht die Vollständigkeit der Erkennung anzüglicher Inhalte. Das Preismodell für die Nutzung von Amazon Rekognition ist nutzungsabhängig – zur beispielhaften Einordnung: bei einem Kontingent von einer Million verarbeiteten Bildern (pro Monat) fallen je 1.000 geprüfter Bilder derzeit Kosten ab 1,0 USD an.
Key Takeaways
- Vorbeugen des Missbrauchs von Online-Plattformen
- Schneller und sicherer Upload
- KI mit Deep Learning ausgestattetem Bilderkennungsservice
Uploadfilter als Out-of-the-Box-Service__
Mithilfe des KI-basierten Uploadfilters gelingt es anstößige Inhalte auf Online-Plattformen zu identifizieren und damit die öffentliche Sicherheit zu gewährleisten. Der Einsatz solcher smarten Features sorgt für einen möglichst sicheren Umgang und die Kunden können sich gänzlich auf den intuitiven und sicheren Immobilien-Inseratsprozess der Online-Plattform fokussieren.
Zudem wurde die Lösung als Out-of-the-box-Service aufgesetzt – die Technologie kann von Almato schnell und einfach auf ähnliche Anwendungen angepasst werden und ist beispielsweise in anderen Einsatzszenarien wie der Analyse von Videos oder von Fachpublikationen, um Plagiaten entgegenzuwirken, ebenfalls sehr hilfreich. So können alle Unternehmen mit einem bestehenden Plattformservice dieses Feature schnell und einfach integrieren und die Sicherheit der Plattform erhöhen.
_ _ _ _ _
Haben Sie in diesem Bereich ebenfalls Bedarf oder stehen vor einer ähnlichen Herausforderung?
Falls Sie nähere Informationen möchten – schreiben Sie uns gerne an.
