Konsumenten-Portal: Smarter Uploadfilter zur Verhinderung unangemessener Bildinhalte auf Immobilienfotos__

Basierend auf einem AI-Service mit Deep-Learning-Komponente können anstößige und unangemessene Inhalte auf Bildern analysiert und der Upload beim Verstoß gestoppt werden. Eine solch intelligente Technologie ermöglicht eine granulare Konfiguration der Uploadfilterkriterien und schützt sowohl Plattformbetreiber- als auch Plattformnutzer:innen.

Herausforderung

In zahlreichen Debatten wurde bereits thematisiert, ob Internetplattformen verpflichtet sein sollten, sogenannte Uploadfilter einzusetzen. Für eine Betrachtung des Urheberrechts an Bildern sowie zur Prüfung von anstößigen Inhalten auf Bildern, ist eine solche Technologie unerlässlich und schützt gleichzeitig Plattformbetreiber- und Nutzer:innen.

Eine große Herausforderung besteht allerdings darin, anstößige Inhalte als solche tatsächlich zu identifizieren. Dabei ist die Begrifflichkeit anstößige Inhalte weitreichend, denn es kann sich um vielfältige Varianten von Verstößen handeln, wie z. B. pornografische, gewaltverherrlichende, nicht jugendfreie oder andere unangemessene Inhalte. Ein Uploadfilter fungiert dabei als automatisierter Service – vor dem Veröffentlichen auf eine Plattform und während des Uploadprozesses werden die Bilder gescannt und nach gewissen Kriterien geprüft. Stellt das Programm fest, dass ein Inhalt nicht den zuvor definierten Regelungen entspricht, wird der Upload verwehrt.

Good to know: Smarter Uploadfilter

  • AI-gestützter Uploadfilter
  • Deep-Learning-Integration
  • Granulare Konfiguration und Spezifikation der Filterkriterien für zuverlässige Ergebnisse
  • Sicherheits-Feature für Nutzer:innen und Plattformbetreiber:innen
  • Out-of-the-box-Service – schnelle Integration in bestehende Plattformservices

Lösung

Für diesen Use Case haben die KI-Spezialist:innen einen Uploadfilter als Schutz vor ungewolltem Content im Rahmen eines Branchenportals (Immobilienportal) integriert. Der Uploadfilter prüft mithilfe einer smarten Bildanalyse das hochgeladene Bildmaterial auf Unangemessenheit. Damit ist in diesem Beispiel Bildmaterial gemeint, welches explizite Nacktheit oder anzügliche Darstellungen enthält. Bei Verstößen gegen die Nutzungsbedingungen wird solches Bildmaterial zurückgewiesen.

Die Lösung bietet viele Vorteile hinsichtlich Sicherheit und Convenience für Online-Plattformen, muss aber auch stetig überprüft und weiter optimiert werden.
Imelda Bruns-Pratioto, Head of Design, Almato

Bei diesem Projekt setzte das Team für die technische Realisierung auf den Amazon AWS-Service Rekognition. Rekognition ist ein Service, über den ein mit Deep Learning ausgestatteter Bilderkennungsservice zugänglich ist. Dieser erkennt unter anderem unangemessene Bildinhalte. Hierfür kann über das API zu einem Bild ein Moderationskennzeichen eingeholt werden. Diese Moderationskennzeichen enthalten Hinweise zu expliziten oder anstößigen Inhalten. Auf dieser Grundlage kann dann entschieden werden, ob der Content akzeptiert oder zurückgewiesen wird.

Uploadfilter eines Immobilienportals

Da Amazon Rekognition für die Kennzeichnung von Kategorien mit expliziten und anzüglichen Inhalten eine hierarchische Taxonomie verwendet, können unsere Expert:innen den realisierten Uploadfilter recht granular konfigurieren. So könnte der Service beispielsweise explizite Nacktheit ablehnen, jedoch Fotos mit Personen in Badebekleidung zulassen.

Amazon bietet diesen Dienst »as is« an und garantiert nicht die Vollständigkeit der Erkennung anzüglicher Inhalte. Das Preismodell für die Nutzung von Amazon Rekognition ist nutzungsabhängig – zur beispielhaften Einordnung: bei einem Kontingent von einer Million verarbeiteten Bildern (pro Monat) fallen je 1.000 geprüfter Bilder derzeit Kosten ab 1,0 USD an.

Key Takeaways

  • Vorbeugen des Missbrauchs von Online-Plattformen
  • Schneller und sicherer Upload
  • KI mit Deep Learning ausgestattetem Bilderkennungsservice

Erfolg

Mithilfe des KI-basierten Uploadfilters gelingt es anstößige Inhalte auf Online-Plattformen zu identifizieren und damit die öffentliche Sicherheit zu gewährleisten. Der Einsatz solcher smarten Features sorgt für einen möglichst sicheren Umgang und die Kunden können sich gänzlich auf den intuitiven und sicheren Immobilien-Inseratsprozess der Online-Plattform fokussieren.

Zudem wurde die Lösung als Out-of-the-box-Service aufgesetzt – die Technologie kann von Almato schnell und einfach auf ähnliche Anwendungen angepasst werden und ist beispielsweise in anderen Einsatzszenarien wie, der Analyse von Videos oder von Fachpublikationen, um Plagiaten entgegenzuwirken, ebenfalls sehr hilfreich. So können alle Unternehmen mit einem bestehenden Plattformservice dieses Feature schnell und einfach integrieren und die Sicherheit der Plattform erhöhen.

_ _ _ _ _

Wir sind interessiert an Ihrer Meinung zum Einsatz von smarten Uploadfiltern mittels KI. Haben Sie in diesem Bereich ebenfalls Bedarf oder stehen vor einer ähnlichen Herausforderung?

Falls Sie nähere Informationen möchten – schreiben Sie uns gerne an.

Weiterführende Themen__

CTA hellblau

Just add digital to your mailbox__

Erhalten Sie alle Neuigkeiten rund um Almato, Projekte und Neues zum Thema Digital Enterprise im Almato-Newsletter.

Telefon

Sie wollen Beratung zu digitalen Lösungen und Services?
Wir stehen Ihnen gerne zur Verfügung!

+49 711 62030-400
Newsletter