Verteilte Künstliche Intelligenz in Aktion
Forscher der University of Illinois Urbana-Champaign haben s3, ein Open-Source-Framework, entwickelt, das die Erstellung von Retrieval-Augmented Generation (RAG)-Systemen effizienter macht. s3 zielt darauf ab, die Qualität der Retrieval-Komponente zu verbessern,…
AlphaEvolve, entwickelt von Google DeepMind, ist ein neues System, das Code autonom verbessert und bei Google bereits signifikante Effizienzgewinne erzielt hat. Das System hat nicht nur einen 56 Jahre alten…
Große Sprachmodelle (LLMs) zeigen zunehmend Fähigkeiten zur komplexen Problemlösung durch „Inference-Time Scaling“, Techniken, die mehr Rechenressourcen während der Inferenz bereitstellen. Eine Studie von Microsoft Research zeigt jedoch, dass die Wirksamkeit…
Eine aktuelle Studie von Google und der UC Berkeley beleuchtet einen innovativen Ansatz zur Verbesserung der Denkfähigkeiten großer Sprachmodelle (LLMs) durch eine Technik namens Sampling-basierte Suche. Diese Methode konzentriert sich…
Die Forschung zur „Chain-of-Thought“- (CoT) Argumentation hat in der neuesten Generation von großen Sprachmodellen (LLMs) an Bedeutung gewonnen. Ein Problem dabei sind die hohen Inferenzkosten, die durch die Erzeugung übermäßiger…
Unternehmen setzen zunehmend auf große Sprachmodelle (LLMs), um fortgeschrittene Dienstleistungen anzubieten, haben jedoch Schwierigkeiten, die hohen Rechenkosten für den Betrieb dieser Modelle zu bewältigen. Ein neuer Ansatz namens “Chain-of-Experts” (CoE)…
Das Qwen-Team von Alibaba hat kürzlich das neue KI-Modell QwQ-32B vorgestellt, ein 32-Milliarden-Parameter-Modell, das mithilfe von Reinforcement Learning (RL) entwickelt wurde, um die Leistung bei komplexen Problemlösungsaufgaben zu verbessern. Das…
KI-Agenten können viele Aufgaben automatisieren, die Unternehmen durchführen möchten. Ein Nachteil ist jedoch, dass sie oft vergesslich sind. Ohne Langzeitgedächtnis müssen Agenten Aufgaben entweder in einer Sitzung abschließen oder ständig…
Von Ralf Keuper Für das Training großer KI-Modelle sind in der Regel enorme Datenmengen nötig. Das führt wiederum zu hohen Kosten und Ineffizienzen. Letzteres wurde deutlich, als es einem chinesischen…
Ein Team von Forschern bei Zoom Communications hat eine Technik entwickelt, die die Kosten und den Rechenaufwand für KI-Systeme zur Lösung komplexer Probleme erheblich senken könnte. Die Methode, genannt “Chain…