Verteilte Künstliche Intelligenz in Aktion
Eine aktuelle Studie von Google und der UC Berkeley beleuchtet einen innovativen Ansatz zur Verbesserung der Denkfähigkeiten großer Sprachmodelle (LLMs) durch eine Technik namens Sampling-basierte Suche. Diese Methode konzentriert sich…
Die Forschung zur „Chain-of-Thought“- (CoT) Argumentation hat in der neuesten Generation von großen Sprachmodellen (LLMs) an Bedeutung gewonnen. Ein Problem dabei sind die hohen Inferenzkosten, die durch die Erzeugung übermäßiger…
Unternehmen setzen zunehmend auf große Sprachmodelle (LLMs), um fortgeschrittene Dienstleistungen anzubieten, haben jedoch Schwierigkeiten, die hohen Rechenkosten für den Betrieb dieser Modelle zu bewältigen. Ein neuer Ansatz namens “Chain-of-Experts” (CoE)…
Das Qwen-Team von Alibaba hat kürzlich das neue KI-Modell QwQ-32B vorgestellt, ein 32-Milliarden-Parameter-Modell, das mithilfe von Reinforcement Learning (RL) entwickelt wurde, um die Leistung bei komplexen Problemlösungsaufgaben zu verbessern. Das…
KI-Agenten können viele Aufgaben automatisieren, die Unternehmen durchführen möchten. Ein Nachteil ist jedoch, dass sie oft vergesslich sind. Ohne Langzeitgedächtnis müssen Agenten Aufgaben entweder in einer Sitzung abschließen oder ständig…
Von Ralf Keuper Für das Training großer KI-Modelle sind in der Regel enorme Datenmengen nötig. Das führt wiederum zu hohen Kosten und Ineffizienzen. Letzteres wurde deutlich, als es einem chinesischen…
Ein Team von Forschern bei Zoom Communications hat eine Technik entwickelt, die die Kosten und den Rechenaufwand für KI-Systeme zur Lösung komplexer Probleme erheblich senken könnte. Die Methode, genannt “Chain…
Wissenschaftler der Stanford University haben OctoTools, eine neue agentenbasierte Open-Source-Plattform, entwickelt, um große Sprachmodelle (LLMs) für komplexe Denkaufgaben zu optimieren. Die Plattform zerlegt Aufgaben in Untereinheiten und ergänzt die Modelle…
Große Sprachmodelle wie GPT‑4 sind für die lokale Bereitstellung zu umfangreich. Ein Grund dafür ist, dass ein großer Teil der Modellgröße allgemeine Informationen über die Welt in den parametrierbaren Speicher…
Eine aktuelle Studie des Shanghai AI Laboratory zeigt, dass sehr kleine Sprachmodelle (SLMs) in bestimmten Denkaufgaben größere Sprachmodelle (LLMs) übertreffen können. Mit geeigneten Werkzeugen und Testzeit-Skalierungstechniken (TTS) kann ein SLM…