Psolutions plant und richtet lokale KI-Systeme ein, damit vertrauliche Dokumente, Verträge, Kundendaten und interne Informationen auf eigener Hardware oder in einer kontrollierten Kundenumgebung verarbeitet werden können.
Zielgruppe
Für wen eignet sich lokale KI?
- Anwaltskanzleien
- Treuhänder
- HR
- Arztpraxen
- Verwaltungen
- Unternehmen mit vertraulichen Verträgen, Akten oder Kundendaten
Funktionen
Was kann lokal laufen?
- lokale Sprachmodelle
- Dokumenten-Chat
- interne Wissenssuche
- Zusammenfassungen
- Textentwürfe
- Reports
- RAG-Systeme auf eigenen Dokumenten
- lokale Benutzeroberfläche
Hardware
KI auf eigener Hardware
Je nach Anforderung kann lokale KI auf vorhandener Hardware, einer Workstation oder spezieller KI-Hardware laufen. Für grössere lokale Modelle kommen Systeme wie NVIDIA DGX Spark oder vergleichbare AI-Workstations infrage. Die passende Hardware wird je nach Datenmenge, Modellgrösse, Geschwindigkeit und Budget ausgewählt.
DGX Spark ist dabei ein Beispiel, keine Pflichtlösung. Oft ist zuerst zu klären, ob ein kleineres lokales Sprachmodell, eine vorhandene Workstation, eine dedizierte AI Workstation oder ein anderes On-Premise-KI-Setup sinnvoll ist.
Grenzen
Was lokale KI nicht automatisch löst
- lokale Modelle sind nicht immer so stark wie die besten Cloud-Modelle
- Einrichtung und Wartung sind anspruchsvoller
- Hardwarekosten kommen hinzu
- Updates, Backups, Sicherheit und Zugriff müssen geregelt werden
- rechtliche Bewertung bleibt beim Kunden oder dessen Fachberatung
Lokale KI kann ein Baustein für datenschutzbewusste KI-Nutzung sein. Ob ein konkretes Setup DSG-konform ist, muss im Einzelfall geprüft werden.
Ablauf
So läuft ein Private AI Setup ab
- Bedarf klären
- Datenarten und Risiken einordnen
- Hardware prüfen oder empfehlen
- Modell auswählen
- System lokal installieren
- Test mit Beispieldokumenten
- Übergabe und Anleitung