Posts mit dem Label KI-Chat werden angezeigt. Alle Posts anzeigen
Posts mit dem Label KI-Chat werden angezeigt. Alle Posts anzeigen

Mittwoch, 11. November 2026

Ich brauche einen KI Beschleuniger

Seit Jahren habe ich den kleinen Mini PC und jetzt nutze ich den als Entwicklungsserver für Lokales Repositories und zusätzlich zum Aufnehmen von Sprache mit anschließenden Transkribieren. Ein Lokales KI Modell läuft auch auf dem System, allerdings so klein dass nur 2GB vom Arbeitsspeicher verwendet wird. Davon abgesehen ist die Geschwindigkeit ohne KI Beschleuniger sehr langsam. 

 

Sicherlich steht die Frage warum Lokal, wenn Online alles viel Besser Funktioniert. In meiner Werkstatt habe ich kaum Empfang zum Internet. Das wird Problematisch, wenn ich nur eine Notiz in OneNote eingeben will. Das gleiche gilt auch für die Suche und Abruf von Daten die ich zuvor immer Online abgerufen haben. Mit einem Tool OneDocumentation, werden nicht nur meine Gesprochenen Inhalte in Text gespeichert, sondern auch mit einem Link zu einer Webseite Lokal weggespeichert wird. Der KI-Chat prüft zuerst die Lokalen Information und bevor Informationen aus dem Internet gesucht werden.

 

Aber eigentlich sollte der Mini PC nur ein Repository und Deployment Server werden, jedoch sind die Funktionen Hilfreich für die Werkstatt.

Ich brauche einen KI Beschleuniger

Seit Jahren habe ich den kleinen Mini PC und jetzt nutze ich den als Entwicklungsserver für Lokales Repositories und zusätzlich zum Aufnehme...