Neue Trainingsmethode für eine ausgewogene Kombination aus Genauigkeit und Kosten
Die Forschung zur „Chain-of-Thought“- (CoT) Argumentation hat in der neuesten Generation von großen Sprachmodellen (LLMs) an Bedeutung gewonnen. Ein Problem dabei sind die hohen Inferenzkosten, die durch die Erzeugung übermäßiger…