NERDMANClaude Mythos: Anthropic bläst sich mal wieder auf
Gary Marcus zerlegt den neuesten Anthropic-Hype in drei Teile — und übrig bleibt wenig.
Was Anthropic behauptet
Anthropic hat mit "Claude Mythos" angeblich ein KI-Modell vorgestellt, das so mächtig ist, dass Tom Friedman in der New York Times schon Angst hatte, Kinder könnten damit das Stromnetz sprengen. Die Schlagzeilen überschlugen sich. Die AI-Safety-Gemeinde hyperventilierte planmäßig.
Was wirklich getestet wurde
Hier wird es peinlich für Anthropic:
- Sandboxing deaktiviert:** Das System wurde OHNE die Sicherheitsbeschränkungen getestet, die in der echten Welt aktiv wären. Das ist wie ein Crashtest ohne Airbags — und dann behaupten, das Auto sei gefährlich.
- Vereinfachte Bedingungen:** Der Test war ein Proof of Concept, keine reale Bedrohung. Die Aufgaben waren leichter als in der Praxis.
- Open-Weight kann das auch:** Frei verfügbare Modelle können bereits einen Großteil dessen, was Mythos angeblich so besonders macht. Nur in vereinfachter Form — aber der Abstand ist kleiner als Anthropic suggeriert.
Das Anthropic-Playbook
📅 Timeline
- 2023:** Anthropic warnt vor "existenziellen Risiken" durch KI
- 2024:** Claude 3 Opus als "verantwortungsvolles" Modell vermarktet
- 2025:** Responsible Scaling Policy groß inszeniert
- 2026:** Mythos-Announcement — maximaler Alarm, minimale Substanz
Das Muster ist immer gleich: Erst die eigene KI als potenziell gefährlich framen, dann sich selbst als einzige Firma positionieren, die verantwortungsvoll genug ist, damit umzugehen. Marketing-Genie, wissenschaftlich dünn.
💡 Was das bedeutet
Gary Marcus hat Recht: Anthropic nutzt Sicherheitspanik als Geschäftsmodell. Wer seine eigenen Modelle als gefährlich verkauft, argumentiert gleichzeitig für Regulierung, die Open-Weight-Konkurrenten vom Markt drängt. Das ist kein Safety-Research — das ist Lobbying mit Laborkittel.
✅ Pro
- Marcus liefert konkrete technische Kritik statt Bauchgefühl
- Entlarvt die Lücke zwischen PR und tatsächlichem Test-Setup
❌ Con
- Die Zusammenfassung ist kurz — Details zum Mythos-Modell selbst fehlen
- Marcus ist bekannter AI-Skeptiker, also auch nicht neutral
