Damit LLMs nicht bei jeder Anfrage alle Parameter verschiedener Wissensbereiche durchlaufen, setzt die Mixture-of-Experts-Architektur auf Spezialistenmodelle.