Kantonspolizei warnt vor Deepfake-Gefahren – Prägnante Videos, schockierende Beispiele
Ein eigentlich harmloses Foto auf Social Media – doch in den falschen Händen wird es zur Waffe. Die rasanten Entwicklungen der Künstlichen Intelligenz (KI) ermöglichen es Cyberkriminellen, Bilder zu manipulieren und täuschend echte Deepfakes (echtwirkende, manipulierte Bilder oder Videos) zu erstellen.
Die Kantonspolizei St.Gallen hat die Dringlichkeit erkannt, auf diese neuen Gefahren aufmerksam zu machen. Für JEDE Person, welche Soziale Medien nutzt, ist es wichtig, die mögliche Tragweite des Teiles von Bildern und Videos im Internet zu verstehen. Ein bewusster Umgang sowie ein reflektiertes Verhalten in der digitalen Welt können dabei helfen, solche Gefahren zu minimieren. Nur wer die Risiken kennt, kann sich und andere wirksam schützen.
Klick, klick, klick. Kleider weg, Kontrolle weg – Achtung Täuschung!
Mit Deepfake-Technologien lassen sich Gesichter, Stimmen und Worte in Videos austauschen. Bilder können so verändert werden, dass Kleidung entfernt wird, Personen an andere Orte versetzt oder in kompromittierende Situationen gestellt werden. Selbst harmlose Fotos können mit wenigen Klicks in einen völlig neuen, oft schädigenden Kontext gesetzt werden.
Das Ergebnis: Man verliert die Kontrolle über die eigene Identität und das eigene Bild. Manipuliertes Material kann dazu genutzt werden, Ruf und Karriere zu zerstören, soziale Beziehungen zu belasten oder Menschen unter Druck zu setzen und zu erpressen. Plötzlich wird einem zugeschrieben, Dinge gesagt oder getan zu haben, die man selbst nie in Betracht gezogen hätte. Wer Material ins Netz stellt, gibt nicht nur ein Stück Privatsphäre preis, sondern riskiert, dass Fremde die Kontrolle darüber übernehmen, wie man in der Öffentlichkeit wahrgenommen wird.
Realität trifft Prävention: Mit Videos gegen die Gefahren von Deepfakes
Herkömmliche Präventionsmassnahmen wie Flyer reichen heutzutage nicht mehr aus, um solch abstrakte Themen verständlich, einprägsam und nachhaltig zu vermitteln. Aus diesem Grund haben die Abteilungen Jugenddienst, Kommunikation sowie IT-Forensik & Cybercrime der Kantonspolizei St.Gallen gemeinsam zwei Videos produziert, um durch realitätsnahe Beispiele mögliche Konsequenzen zu visualisieren und das Bewusstsein für die Risiken von Deepfakes zu schärfen. Der Jugenddienst, welcher eng mit Schulen, Eltern und Behörden zusammenarbeitet, brachte dabei seine Erfahrung aus der Präventionsarbeit ein, während die Abteilung Kommunikation ihre Expertise in der medialen Aufbereitung und Verbreitung nutzte. Die technische Umsetzung der Deepfakes übernahm die spezialisierte Abteilung IT-Forensik & Cybercrime, welche damit die perfiden Möglichkeiten solcher Manipulationen demonstriert.
Schockierende Beispiele für realistische Szenarien
Das erste produzierte Video zeigt einen Vater, wie er ein unschuldiges Foto seiner Tochter beim Spielen macht und auf Instagram teilt. Wenig später wird dieses Bild von einem Cyberkriminellen bearbeitet, sodass ein gefälschtes Nacktfoto des Kindes entsteht. Im zweiten Video teilt eine Jugendliche ein Selfie auf Social Media. Das Bild wird ebenfalls von einem Cyberkriminellen zum Nacktfoto manipuliert, um die Jugendliche anschliessend zu erpressen: Entweder zahlt sie Geld oder das gefälschte Nacktfoto wird an alle ihre Kontakte gesendet. Diese Beispiele sind keine Fiktion, sondern realistische Szenarien, die durch den Einsatz von KI in der Bild- oder Videobearbeitung erschreckend einfach geworden sind und schon längst Einzug in der digitalen Welt gefunden haben: Der weitverbreitete Gebrauch von Apps wie Snapchat, WhatsApp und Instagram liefert die Grundlage dazu, dass Kinder, Jugendliche und Erwachsene oft Fotos und Videos von sich teilen und veröffentlichen – und sich dadurch unbewusst in eine verletzliche Position bringen.
Deepfake ist kein Hexenwerk
Deepfake ist keine Kunst, die nur von Cyberkriminellen oder Expertinnen und Experten der Kantonspolizei St.Gallen beherrscht werden kann. Die zugrundeliegende Technologie ist mittlerweile frei verfügbar und kann von nahezu jedem genutzt werden, der sich ein wenig mit dem Thema auseinandersetzt. Einmal online geteilt, ist ein Bild nicht mehr kontrollierbar. Es kann kopiert, verändert und in einem Kontext verwendet werden, der weit über das ursprüngliche Ziel hinausgeht.
Daher ist es nicht mehr wie noch vor ein paar Jahren, als lediglich geraten wurde, keine freizügigen Bilder zu posten. Heute ist Zurückhaltung bei jeglichem Foto- und Videomaterial geboten. Die Präventionsvideos der Kantonspolizei St.Gallen zeigen eindrücklich, wie ein harmloses Bild in den Händen der falschen Person zum persönlichen Albtraum werden kann.
Daher appellieren wir an alle: Überlegen Sie genau, welche Bilder Sie teilen. Was einmal im Netz ist, ist automatisch in den Händen unendlich vieler Unbekannter. Schützen Sie sich und Ihre Liebsten, indem Sie vorsichtig mit persönlichem Bild- und Videomaterial umgehen.
Quelle: Kantonspolizei St.Gallen
Bildquelle: Kantonspolizei St.Gallen