Anthropic hat die Kontextlänge von Claude Sonnet 4 nun auf bis zu 1 Million Tokens erhöht, eine Verfünffachung gegenüber dem bisherigen Limit. Damit lassen sich komplette Codebasen mit über 75.000 Zeilen oder Dutzende wissenschaftliche Arbeiten in einer einzigen Anfrage verarbeiten. Die Funktion ist aktuell als Public Beta in der Anthropic API und in Amazon Bedrock verfügbar, Google Clouds Vertex AI folgt in Kürze.

Durch das große Kontextfenster sind nun auch Codeanalysen im Großformat möglich, es können also durchaus komplette Projekte oder die gesamte Dokumentation in Claude geladen werden um das Systemdesign ganzheitlich verbessern zu können.

Auch Dokumentenverarbeitung von umfanreichen Verträgen oder Forschungsarbeiten sind jetzt durch das erweiterte Kontextfenster möglich. Dieses neue Limit können sich zudem auch KI-Agenten zunutze machen um so aufwendigere Aufgaben erledigen zu können.

Wenig überraschend hat Anthropic allerdings das Preismodell für solche umfangreichen Anfragen angepasst, bis 200.000 Tokens kostet der Input 3 $/MTok, der Output 15 $/MTok. Darüber steigen die Preise auf 6 $/MTok bzw. 22,50 $/MTok. Mit Prompt-Caching und Batch-Verarbeitung lassen sich Kosten allerdings um bis zu 50 % senken.