Verteilte Künstliche Intelligenz in Aktion
Mit dem Aufkommen großer Sprachmodelle (LLMs) konnten Unternehmen neue Projekte entwerfen, doch diese Modelle waren oft teuer und unhandlich. Kleinere Modelle und distillierte Varianten wie Google’s Gemma, Microsoft’s Phi oder…
Cloud-Kosten erreichen ein bisher ungekanntes Niveau, insbesondere durch ineffiziente Nutzung. Unternehmen verschwenden jährlich Milliarden durch unnötige Ausgaben. Kubernetes-Automatisierungslösungen wie Cast AI helfen, diese Kosten zu senken, indem sie Cloud-Infrastrukturen in…
Forscher der University of Illinois Urbana-Champaign haben s3, ein Open-Source-Framework, entwickelt, das die Erstellung von Retrieval-Augmented Generation (RAG)-Systemen effizienter macht. s3 zielt darauf ab, die Qualität der Retrieval-Komponente zu verbessern,…
AlphaEvolve, entwickelt von Google DeepMind, ist ein neues System, das Code autonom verbessert und bei Google bereits signifikante Effizienzgewinne erzielt hat. Das System hat nicht nur einen 56 Jahre alten…
Große Sprachmodelle (LLMs) zeigen zunehmend Fähigkeiten zur komplexen Problemlösung durch „Inference-Time Scaling“, Techniken, die mehr Rechenressourcen während der Inferenz bereitstellen. Eine Studie von Microsoft Research zeigt jedoch, dass die Wirksamkeit…
Eine aktuelle Studie von Google und der UC Berkeley beleuchtet einen innovativen Ansatz zur Verbesserung der Denkfähigkeiten großer Sprachmodelle (LLMs) durch eine Technik namens Sampling-basierte Suche. Diese Methode konzentriert sich…
Die Forschung zur „Chain-of-Thought“- (CoT) Argumentation hat in der neuesten Generation von großen Sprachmodellen (LLMs) an Bedeutung gewonnen. Ein Problem dabei sind die hohen Inferenzkosten, die durch die Erzeugung übermäßiger…
Unternehmen setzen zunehmend auf große Sprachmodelle (LLMs), um fortgeschrittene Dienstleistungen anzubieten, haben jedoch Schwierigkeiten, die hohen Rechenkosten für den Betrieb dieser Modelle zu bewältigen. Ein neuer Ansatz namens “Chain-of-Experts” (CoE)…
Das Qwen-Team von Alibaba hat kürzlich das neue KI-Modell QwQ-32B vorgestellt, ein 32-Milliarden-Parameter-Modell, das mithilfe von Reinforcement Learning (RL) entwickelt wurde, um die Leistung bei komplexen Problemlösungsaufgaben zu verbessern. Das…
KI-Agenten können viele Aufgaben automatisieren, die Unternehmen durchführen möchten. Ein Nachteil ist jedoch, dass sie oft vergesslich sind. Ohne Langzeitgedächtnis müssen Agenten Aufgaben entweder in einer Sitzung abschließen oder ständig…