Heretic knackt KI-Schutzwälle in Minuten

Ein Open-Source-Tool namens Heretic entfernt vollautomatisch die Sicherheits-Guardrails aus Modellen wie Llama oder Gemma. Was Forscher monatelang einbauen, killt das Tool im Akkord.

Was Heretic konkret macht

Heretic lädt sich ein Open-Weight-Modell, scannt die Schutzschichten und schreibt sie raus. Kein Jailbreak-Prompt, kein Trickbetrug. Das Modell selbst wird umgebaut.

Danach beantwortet die KI Fragen, die sie eigentlich verweigern müsste. Komplett, ohne Murren, ohne Warnung.

💡 Was das bedeutet

Wer im Unternehmen auf Open-Source-LLMs setzt — aus Souveränitäts- oder Datenschutzgründen — hat jetzt ein Compliance-Problem. Die Annahme, ein freigegebenes Modell sei "sicher konfiguriert", trägt nicht mehr. Sobald die Gewichte das Haus verlassen, sind die Guardrails Verhandlungssache.

⚖️ Open Weight vs. Closed API