Anthropic testet derzeit eine neue Funktion, die den KI-Assistenten Claude direkt im Chrome-Browser einsetzt. Damit kann Claude Webseiten sehen, Buttons klicken, Formulare ausfüllen und so alltägliche Aufgaben wie Terminplanung, E-Mail-Entwürfe oder Routinetests von Websites übernehmen.

Der Schritt gilt als logisch, schließlich spielt sich ein Großteil der Arbeit im Browser ab. Gleichzeitig entstehen aber neue Sicherheitsrisiken, die sogenannten Prompt-Injection-Angriffe, bei denen versteckte Anweisungen in Webseiten oder E-Mails die KI zu schädlichen Aktionen verleiten können – etwa Daten löschen oder ungewollte Transaktionen durchführen. In internen Tests lag die Erfolgsquote solcher Angriffe ohne Schutzmaßnahmen bei fast 24 %.

Um diese Gefahren zu reduzieren, setzt Anthropic auf mehrere Ebenen:

• Rechteverwaltung: Nutzer entscheiden, auf welche Seiten Claude zugreifen darf.
• Bestätigungen: Kritische Aktionen wie Käufe oder Datenfreigaben erfordern explizites Okay.
• Sperren & Filter: Zugriff auf sensible Kategorien wie Finanz- oder Erwachsenen-Inhalte ist blockiert.
• Angriffserkennung: Neue Klassifikatoren sollen verdächtige Muster erkennen, selbst wenn sie gut versteckt sind.

Mit diesen Maßnahmen konnte die Erfolgsquote von Angriffen im Test auf rund 11 % gesenkt werden und in speziellen Browser-Szenarien sogar auf 0 %.

Aktuell läuft ein kontrolliertes Pilotprogramm mit 1.000 Nutzer des teuren Max-Plans. Wer teilnehmen möchte, kann sich auf die Warteliste setzen lassen. Ziel ist es, in realistischen Nutzungssituationen Feedback zu sammeln und die Sicherheitsmechanismen weiter zu verbessern, bevor ein breiterer Rollout erfolgt.