Microsoft integriert DeepSeek R1 in Copilot+ PC: Was bedeutet das für die Nutzer?
15:07, 31.01.2025
Die künstliche Intelligenz DeepSeek hat sich schnell im mobilen Bereich etabliert und macht nun den Sprung in die Windows-Welt. Microsoft unterstützt diesen Prozess aktiv, indem es das Modell DeepSeek R1 in seine Cloud-Plattform Azure AI Foundry integriert. Doch jetzt geht das Unternehmen noch einen Schritt weiter und kündigt an, dass destillierte Versionen dieses Modells auf Copilot+ PCs verfügbar sein werden.
Was sind destillierte DeepSeek R1-Modelle?
Ein destilliertes Modell ist eine vereinfachte Version eines großen neuronalen Netzwerks, das wesentliche Fähigkeiten beibehält, aber schneller und effizienter arbeitet. Die vollständige Version von DeepSeek R1 umfasst 671 Milliarden Parameter, während die destillierten Modelle zwischen 1,5 und 14 Milliarden Parameter haben werden. Dadurch können sie direkt auf Verbrauchergeräten ausgeführt werden, ohne dass teure spezialisierte Hardware erforderlich ist.
Das erste verfügbare Modell wird DeepSeek-R1-Distill-Qwen-1.5B sein (mit 1,5 Milliarden Parametern), während leistungsstärkere Versionen mit 7B und 14B bald folgen werden. Sie werden über das Microsoft AI Toolkit verfügbar sein und zunächst auf Geräten mit Snapdragon X-Chips und Intel Core Ultra 200V-Prozessoren laufen, später auch auf AMD Ryzen AI 9.
Wie optimiert Microsoft die Modelle für Copilot+ PC?
Um die bestmögliche Leistung auf PCs zu gewährleisten, hat Microsoft diese Modelle für neuronale Prozessoren (NPU) angepasst. Die wichtigsten Berechnungen, wie beispielsweise der Transformer-Block, werden auf der NPU ausgeführt, während speicherintensive Aufgaben an den Hauptprozessor delegiert werden.
Dank dieser Optimierung konnte Microsoft eine Reaktionszeit von 130 Millisekunden für das erste Token und eine Verarbeitungsgeschwindigkeit von 16 Tokens pro Sekunde (bei kurzen Eingaben von bis zu 64 Tokens) erreichen. Das bedeutet, dass Nutzer KI-generierte Antworten nahezu in Echtzeit erhalten – selbst ohne Cloud-Verbindung.
Microsoft erweitert sein KI-Ökosystem
Obwohl Microsoft eng mit OpenAI zusammenarbeitet, zeigt seine Strategie eine klare Tendenz zur Diversifizierung. In der Azure Playground-Plattform sind bereits Modelle von GPT (OpenAI), Llama (Meta) und Mistral vertreten – und jetzt auch DeepSeek R1. Dies deutet darauf hin, dass Microsoft eine offene KI-Umgebung schaffen möchte, in der Nutzer selbst entscheiden können, welches Modell sie verwenden.
DeepSeek R1 auf Copilot+ PCs ist ein weiterer Schritt in Richtung leistungsfähiger KI-Tools für den Alltag. Nun bleibt abzuwarten, wie gut sich diese Technologie in der Praxis bewährt. Die Antwort darauf wird nicht lange auf sich warten lassen.