Navigation und Service

Springe direkt zu:

Se­xua­li­sier­te De­e­pfa­kes („Bi­ki­ni­fo­tos“) durch KI-Chat­bot Grok bei X - wie kön­nen sich Nut­ze­rin­nen und Nut­zer ge­gen rechts­wid­ri­ge In­hal­te weh­ren?

Der in die Online-Plattform X integrierte KI-Chatbot ermöglicht es, ohne große Vorkenntnisse manipulierte Bilder zu erstellen. In den letzten Wochen wurden unter anderem zahlreiche sexualisierte Deepfakes ohne Einverständnis der Betroffenen (teilweise sogar kinderpornografische Inhalte) verbreitet.

Nutzerinnen und Nutzer haben durch den Digital Services Act (DSA) mehrere Möglichkeiten, selbst etwas gegen solche rechtswidrigen Inhalte zu unternehmen:

  • Melden Sie mögliche illegale Inhalte direkt bei der Online-Plattform! Diese ist verpflichtet, ein leicht zugängliches und benutzerfreundliches Meldeverfahren bereitzustellen.
    Wichtig: Wenn Sie denken, dass ein Inhalt strafbar ist, erstatten Sie ebenfalls Anzeige bei der Polizei!
  • Die Plattformen müssen über die Meldungen zeitnah, sorgfältig, frei von Willkür und objektiv entscheiden.
  • Widersprechen Sie der Entscheidung der Online-Plattform, wenn Sie mit der Entscheidung nicht einverstanden sind. Die Plattformen sind verpflichtet, eine einfache Beschwerdemöglichkeit bereitzustellen.
  • Wenn Sie Unterstützung bei der Entfernung rechtswidriger Inhalte benötigen, wenden Sie sich an einen zertifizierten Trusted Flagger (z.B. HateAid oder die Meldestelle REspect!)
  • Nutzen Sie die Möglichkeit zur außergerichtlichen Streitbeilegung. Diese Stellen bieten eine einfache und kostengünstige Möglichkeit, Konflikte mit Online-Plattformen zu lösen. Plattformen sind laut DSA verpflichtet, an Streitbeilegungsverfahren teilzunehmen und mit den Stellen zu kooperieren. Eine Übersicht über zertifizierte Streitbeilegungsstellen finden Sie auf der Website der Europäischen Kommission.
  • Wenn eine Plattform gar keine Melde- oder Beschwerdemöglichkeit anbietet oder auf Ihre Meldung bzw. Beschwerde gar nicht reagiert, können Sie sich direkt beim DSC beschweren. Auch wenn Plattformen die außergerichtliche Streitbeilegung ablehnen, liegt möglicherweise ein Verstoß gegen den DSA vor. Nutzen Sie dazu das Beschwerdeformular auf der Website des DSC.
Wichtig: Der DSC kann Inhalte oder Konten nicht löschen oder sperren und er kann auch nicht die Anbieter dazu verpflichten. Wenden Sie sich hierfür an die Plattform. Die Entscheidung über einen gemeldeten Inhalt liegt im Rahmen des Melde- und Beschwerdeverfahrens bei der Plattform selbst. Die finale Entscheidung darüber, ob Inhalte rechtswidrig sind, liegt weiterhin bei den Gerichten.