WhatsApp rollt in einer begrenzten Beta ein neues Sicherheits-Feature aus: Scam Alert WhatsApp. Die Funktion soll helfen, betrügerische Nachrichten früh zu erkennen – direkt auf dem Smartphone und ohne dass der Chatinhalt automatisiert an WhatsApp oder Meta übermittelt wird.
Wichtig dabei: Die Warnung bleibt im Chat sichtbar, aber der Absender erhält keine Benachrichtigung. Zusätzlich können Nutzer weitere Schritte ausführen – vom Blockieren einzelner Kontakte bis zum Markieren einer Unterhaltung als vertrauenswürdig.
Wie Scam Alert WhatsApp Betrugsnachrichten erkennt
Scam Alert WhatsApp nutzt ein lokal laufendes Machine-Learning-Modell (on-device). Sobald die Option aktiviert ist, wird ein Modell auf das Gerät heruntergeladen. Anschließend bewertet die App eingehende Nachrichten nach Mustern, die zu bekannten Betrugsfällen passen.
Das Modell betrachtet dabei auch die Form und Struktur von Gesprächen sowie sprachliche Hinweise. Ziel ist, verdächtige Muster zu identifizieren, ohne dass die Klassifikation den Umweg über einen Server nimmt.
Zusammenarbeit mit Ende-zu-Ende-Verschlüsselung
WhatsApp positioniert Scam Alert WhatsApp ausdrücklich als Funktion, die neben Ende-zu-Ende-Verschlüsselung arbeiten soll. Die Einordnung erfolgt vollständig auf dem Gerät. Dadurch gibt es keine automatische Meldung an WhatsApp oder an die Muttergesellschaft Meta.
Wenn das Modell eine Nachricht als verdächtig einstuft, erscheint lediglich eine Warnung für den Empfänger innerhalb des Chats. Der Absender wird nicht informiert.
Was Nutzer nach einer Warnung tun können
Damit Scam Alert WhatsApp nicht nur warnt, sondern auch Handlungsspielraum bietet, lassen sich mehrere Reaktionen auswählen:
- Kontakt blockieren
- Nachricht melden
- Warnung ignorieren
- Gespräch als vertrauenswürdig markieren
Gerade die Option „vertrauenswürdig“ ist relevant, weil sie zukünftige Hinweise für diese Unterhaltung unterdrücken kann. Außerdem können Nutzer, die einen Chat als vertrauenswürdig einstufen, zusätzlich die letzten fünf empfangenen Nachrichten teilen. Damit soll die Genauigkeit des Modells weiter verbessert werden.
Modell-Updates mit Transparenz-Log und verifizierten Dateien
Damit nicht ein bestimmtes Modell „für eine bestimmte Person“ verteilt werden kann, beschreibt WhatsApp einen strengen Veröffentlichungsprozess. Jede Modellfreigabe muss vor der Verteilung über ein Third-Party-Transparency-Ledger laufen, das als append-only gekennzeichnet wird (also nur erweitert, nicht verändert).
Zu jeder Version gehört ein Manifest mit SHA-256-Hashes, die die Modellgewichte und zugehörige Dateien abdecken. Der Digest dieses Manifests wird mit Ed25519-Schlüsseln signiert – und zwar mit Schlüsseln, die bei Cloudflare liegen, nicht bei Meta.
Auf dem Gerät laufen anschließend mehrere Prüfungen: Die Signatur wird verifiziert, die Daten werden gegen das Ledger abgeglichen und die heruntergeladenen Dateien müssen exakt den veröffentlichten Hashes entsprechen. Erst dann darf das Modell ausgeführt werden.
Geheimhaltung bei der Datenerhebung: „confidential federated analytics“
Da der Chatinhalt nicht das Gerät verlässt, braucht WhatsApp trotzdem eine Möglichkeit, die Funktionsfähigkeit von Scam Alert WhatsApp zu bewerten. Dafür hat das Unternehmen eine Pipeline entwickelt, die es als confidential federated analytics beschreibt.
Dabei werden nur zwei Datenkategorien erhoben:
- wie oft Warnungen ausgelöst werden
- welche Aktion Nutzer danach ausführen (z. B. blockieren oder den Chat als vertrauenswürdig markieren)
WhatsApp stellt außerdem ein Bedrohungsmodell vor. Darin geht es unter anderem um externe Angreifer, kompromittierte „Infrastructure Insiders“ sowie Risiko aus der Lieferkette (Supply Chain). Die Schutzmaßnahmen sollen laut WhatsApp sicherstellen, dass ein gezieltes Targeting auf die Daten einzelner Nutzer nur möglich wäre, wenn das gesamte System kompromittiert würde.
Transparenz für Nutzer: Aktivitätslog in der App
Für Nachvollziehbarkeit bietet WhatsApp innerhalb der App eine Einsicht in die Scam-Alert-Aktivität. Nutzer sollen dabei einen Transparenz-Log einsehen können, erreichbar über:
Account > Request Info > Scam Alert Activity
Dort wird angezeigt, welche Nachrichten gescannt wurden, wie das Ergebnis ausfiel und welche Modellversion die Entscheidung getroffen hat.
Beta-Status und Weiterentwicklung
Scam Alert WhatsApp wird von WhatsApp als frühe technische Vorschau eingeordnet, also nicht als finaler Produktstand. Während der Beta soll sich die Funktion weiterentwickeln – gestützt durch Rückmeldungen von Forschern und Nutzern.
Außerdem kündigt WhatsApp an, das Bug-Bounty-Programm auszubauen, sodass es auch Bereiche rund um Scam Alert abdeckt.
Einordnung: Was die Funktion für den Alltag bedeutet
Für Nutzer ist vor allem relevant, dass Warnungen nicht nur „irgendwo“ auftauchen, sondern direkt im Chat. Gleichzeitig bleibt die Benachrichtigung asymmetrisch: Der Absender sieht nichts von der Warnung. Das kann verhindern, dass Betrüger schnell reagieren oder ihre Vorgehensweise anpassen, sobald Empfänger eine Erkennung vermuten.
Dass WhatsApp die Klassifikation vollständig auf dem Gerät erledigt, adressiert zudem eine häufige Sorge bei KI-gestützten Sicherheitsfunktionen: Inhalte sollen nicht zwangsläufig den Weg in fremde Systeme nehmen.
FAQ zu Scam Alert WhatsApp
Ist Scam Alert WhatsApp für alle verfügbar?
Nein. WhatsApp beschreibt eine begrenzte Beta-Rollout als Startpunkt. Ob und wann alle Nutzer Zugriff erhalten, wird im Rahmen der weiteren Entwicklung entschieden.
Erhält der Absender eine Benachrichtigung?
Nein. Wenn eine Nachricht als verdächtig markiert wird, bleibt die Warnung nur für den Empfänger im Chat sichtbar.
Werden Nachrichten an WhatsApp oder Meta gesendet?
Nach Angaben von WhatsApp verlassen keine Nachrichteninhalte das Gerät für die Klassifikation. Für die Funktionsbewertung werden ausschließlich aggregierte Zählwerte zu Warnungen und Nutzeraktionen im Rahmen der beschriebenen Analytik-Pipeline erhoben.
Kann ich die Warnungen für einzelne Chats unterdrücken?
Ja. Nutzer können eine Unterhaltung als vertrauenswürdig markieren, wodurch zukünftige Hinweise für diesen Chat unterdrückt werden.
Fazit
Scam Alert WhatsApp ist ein spannender Schritt hin zu stärkerer Betrugsprävention, ohne dabei die Ende-zu-Ende-Verschlüsselung auszuhebeln. Durch die lokale Klassifikation, die klare Nutzerkontrolle nach einer Warnung und die beschriebenen Verifikations- und Transparenzmechanismen setzt WhatsApp auf ein Sicherheitskonzept, das auf dem Gerät beginnt und nur begrenzt Daten erhebt. In der Beta wird sich zeigen, wie gut das Modell im Alltag performt und welche Anpassungen WhatsApp anhand des Feedbacks vornimmt.
Quelle: https://www.securityweek.com/whatsapp-unveils-new-scam-alert-feature/
