Es wird viel darüber gesprochen, wie JSON/XML-Formatierungen/Aufforderungen für LLMs Ihre Ausgabe von ChatGPT, Claude, Grok usw. um das 10-fache steigern werden. Aber das ist zu 0 % wahr. Das Modell hat das gleiche Kontextfenster, egal ob Sie nach Krieg und Frieden oder {"story": "Krieg und Frieden"} fragen. Die Leute denken, JSON/XML täuscht das Modell, weil sie längere Ausgaben in strukturierten Formaten sehen, aber das ist Korrelation, nicht Kausalität.... Sie stellen einfach bessere Fragen mit klareren Erwartungen. Was tatsächlich funktioniert, um die Ausgabe um das 10-fache zu steigern, ist "langweilige" Ratschläge, aber hier sind sie trotzdem: Komplexe Anfragen in Teile zu zerlegen, "weiter"-Aufforderungen zu verwenden und spezifisch zu sein, was Sie wollen, anstatt zu hoffen, dass XML/JSON-Tags irgendwie die grundlegende Architektur von Transformermodellen umgehen.