Gegen Betrug, Spam und Manipulation
Facebook sagt Fake-Accounts den Kampf an
Viele Betrüger und Fake-Accounts auf Facebook
Viele User nutzen Facebook, um ihren Status, ihre Fotos und Meinungen mit anderen zu teilen. Doch auf der sozialen Plattform gibt es auch viele Betrüger und gefälschte Konten, um Spam, Phishing-Links oder Viren zu verbreiten. Im Jahr 2019 löschte der Social-Media-Riese fast zwei Millionen Fake-Accounts - pro Quartal. Jetzt will Facebook unschuldige Nutzer vor gefährlichen Konten intensiv schützen und setzt dafür ein ziemlich schlaues System ein.
Erkennen von echten und falschen Nutzern
Wie "Technology Review" berichtet, unterscheidet Facebook zwei Arten von Fake-Accounts:
- Vom Nutzer "falsch kategorisierte" Profile: Persönliche Konten der Unternehmen oder Haustiere, die als Facebook-"Seite" dargestellt werden sollten. Facebook stellt diese um.
- "Accounts mit Verstößen" sind problematischer: Dabei handelt es sich um persönliche Profile, die Spam oder Betrug sind und die Nutzungsbedingungen von Facebook verletzen. Die müssen schnell gelöscht werden.
Das neue System soll diese Fake-Accounts schon beim Anlegen erkennen, bevor sie großen Schaden anrichten können. Denn wenn ein solches Profil schon aktiv ist, gestaltet sich die Erkennung schwieriger. Deshalb nutzt die Plattform eine Kombination aus per Hand geschriebenen Regeln und Maschinenlernen. Dafür setzt Facebook das neue Maschinenlern-System - das sogenannte Deep Entity Classification (DEC) - ein. DEC unterscheidet echte von falschen Nutzern, indem es "tiefe Merkmale" analysiert - wie zum Beispiel das durchschnittliche Alter oder die Geschlechter-Verteilung bei den Freunden eines Nutzers. Jedes Konto wird mit mehr als 20.000 tiefen Merkmalen charakterisiert.
Arten von Fake-Accounts, die das System erkennt
- Facebook-Konten, hinter denen eine andere als die angegebene Person steht.
- Accounts, die unberechtigt in ein Computersystem eindringen und dort nach gespeicherte Daten suchen und sie manipulieren.
- Konten von Spammern und Betrügern, die versuchen, von anderen persönliche Daten zu bekommen.
Facebook konnte laut eigenen Aussagen den Anteil von Fake-Konten auf 5 Prozent der aktiven monatlichen Nutzer begrenzen. Der Social-Media-Riese räumt ausgerechnet in der Zeit der anstehenden US-Präsidentschaftswahlen auf seiner Plattform mit dem neuen System auf. Es sei reiner Zufall. Dennoch eine gute Hilfe, um Manipulationen durch Deep-Fakes zu verhindern.