Diffusion-Modelle für Text sind das neue heiße Eisen. Aber sie können gefährlichen Müll produzieren. Jetzt gibt es einen neuen Ansatz, sie sicher zu machen.
Google DeepMind hat ein neues Open-Model gedroppt: DiffusionGemma, ein 26B-MoE-Modell, das Text per Diffusion generiert — nicht autoregressiv. Apache 2.0. Frei für alle.
Google DeepMind hat DiffusionGemma vorgestellt — ein Sprachmodell, das nicht mehr Wort für Wort generiert, sondern Text wie ein Bild "entrauscht". Ergebnis: vierfache ...