Ein KI-Server für Treuhand ist ein Rechner in Ihrem Büro oder Serverschrank, mit einer oder zwei Grafikkarten, auf dem ein Sprachmodell wie Llama, Qwen oder Mistral läuft. Ihre Mitarbeitenden stellen ihm Fragen und geben ihm Dokumente zu lesen. Nichts geht an einen Cloud-Anbieter: Die Unterlagen Ihrer Mandanten bleiben in Ihrem Netzwerk.
Wir bauen diese Server in Givisiez im Kanton Freiburg und liefern in die ganze Schweiz. Hier lesen Sie, wofür ein Treuhandbüro so einen Server einsetzt, welches Modell passt und was Sie selbst einplanen müssen.
Wofür ein KI-Server im Treuhandbüro taugt
Ein Sprachmodell führt keine Buchhaltung und ersetzt Ihre Software nicht. Es liest, fasst zusammen und schreibt Entwürfe. Typische Aufgaben, die uns Kunden nennen:
- Einen Mietvertrag oder Kaufvertrag von 40 Seiten vor dem Kundentermin zusammenfassen.
- Einen ersten Entwurf für die Antwort auf ein Schreiben der ESTV zur MWST-Abrechnung erstellen, aus dem Schreiben und Ihren Notizen.
- Eine Erinnerung für fehlende Belege formulieren, im Ton Ihres Büros.
- Einem Kunden in einfachen Worten erklären, warum seine Veranlagung anders ausgefallen ist.
- In Vorlagen und internen Notizen die Antwort auf eine Frage finden, die eine Kollegin schon letztes Jahr geklärt hat.
- Den Brief eines Westschweizer Kunden übersetzen, bevor Sie antworten.
Jeder Entwurf muss von einer Fachperson gelesen werden. Ein Modell kann sich bei einer Zahl oder einem Gesetzesartikel irren, und es klingt dabei sehr sicher.
Warum ein lokaler KI-Server für Treuhand
Bilanzen, Lohnabrechnungen, Steuererklärungen, Bankauszüge: Ein Treuhandbüro arbeitet den ganzen Tag mit Personendaten seiner Mandanten. Bei einem KI-Dienst im Internet laufen diese Daten über die Server eines Anbieters, oft im Ausland. Das neue Datenschutzgesetz (DSG), seit dem 1. September 2023 in Kraft, regelt die Bekanntgabe ins Ausland und die Auftragsbearbeitung. Macht Ihr Büro auch Revisionen, gilt zudem Art. 321 StGB für Revisoren, die nach Obligationenrecht zur Verschwiegenheit verpflichtet sind.
Mit einem Server in Ihren Räumen verlässt das, was Sie ihm zu lesen geben, Ihr Netzwerk nicht. Das vereinfacht Ihre Dokumentation, erledigt aber nicht alles: Zugriffsrechte, Backups und die Information Ihrer Kunden bleiben Ihre Aufgabe. Lassen Sie Ihre Organisation von Ihrer Datenschutzberatung prüfen.
Dazu kommen die Kosten. Sie zahlen den Server einmal. Kein Abo pro Kopf, keine Rechnung, die in der Abschlusssaison steigt.
Welches Modell, welcher Server für 3 bis 15 Personen
Die Grösse eines Modells wird in Milliarden Parametern angegeben (8B, 32B, 70B). Je grösser, desto besser schreibt es, und desto mehr Speicher braucht es auf der Grafikkarte (VRAM). Richtwerte, gerechnet wie in unserem Planer:
- Ein 8B-Modell braucht etwa 11 GB. Das reicht zum Umformulieren, Übersetzen und Sortieren der Post.
- Ein 32B-Modell braucht etwa 31 GB. Es fasst auf Deutsch und Französisch sauber zusammen und schreibt brauchbare Entwürfe.
- Ein 70B-Modell in 4 Bit braucht etwa 58 GB, mit genügend Kontext für einige Nutzer.
Das sind Schätzungen. Der Bedarf steigt mit der Länge der Dokumente und der Zahl der Personen, die gleichzeitig arbeiten. Der Planer auf der Seite KI-Server rechnet mit Ihren Zahlen.
Für die meisten Treuhandbüros reicht der Deneb. Er steht als Tower unter dem Pult oder kommt mit 4 HE ins Rack, mit ASUS ProArt X870E-Creator, Ryzen 9000, bis zu zwei Grafikkarten und 10 GbE. Mit einer RTX PRO 5000 mit 48 GB läuft ein 32B-Modell mit Reserve. Haben Sie einen Serverschrank und soll Ihr Informatiker den Server aus der Ferne verwalten, nehmen Sie den Cygnus: IPMI, ECC-Speicher und 10 Hot-Swap-Schächte für die Festplatten.
Was Sie erhalten
Der Server wird in Givisiez von Hand montiert und vor dem Versand unter Last getestet. Ubuntu, die NVIDIA-Treiber und CUDA sind installiert. Die KI-Software, zum Beispiel Ollama oder vLLM mit einer Oberfläche wie Open WebUI, richtet Ihr Informatiker oder ein IT-Partner aus Ihrer Region ein. Das sind freie Programme, und er kennt Ihr Netzwerk, Ihre Benutzerkonten und Ihre Backups.
Sie erhalten 2 Jahre Garantie. Bei einem Hardwareproblem kommt der Server in unsere Werkstatt zurück. Wartungsverträge, Verkabelung und Telefonie bieten wir nicht an.
Die Komponentenpreise ändern sich täglich. Die aktuellen Preise stehen auf der Seite KI-Server, und der Konfigurator zeigt den Preis genau der Konfiguration, die Sie zusammenstellen.
Sie führen eine Anwaltskanzlei oder ein Notariat? Lesen Sie KI-Server für Anwaltskanzleien. Zur Frage, wo Ihre Daten liegen: eine ChatGPT-Alternative in der Schweiz.
Häufige Fragen
Kann der Server unsere PDF- und Word-Dateien lesen?
Ja, wenn die installierte Software das unterstützt. Eine Oberfläche wie Open WebUI nimmt PDF, Word-Dateien und Text an. Gescannte PDF brauchen zuerst eine Texterkennung (OCR). Eine Excel-Tabelle kann das Modell lesen, aber es ersetzt keine Formel: Prüfen Sie Berechnungen nach.
Braucht es einen Informatiker?
Für die Installation der KI-Software und die Einbindung ins Netzwerk ja. Danach arbeiten Ihre Mitarbeitenden im Browser, wie mit einer internen Webseite.
Lässt sich der Server mit unserer Buchhaltungssoftware verbinden?
Nicht ab Werk. Hat Ihre Software eine Schnittstelle (API) oder einen Export, kann Ihr Informatiker oder ein Entwickler die Verbindung bauen. Schreiben Sie uns Ihren Fall, wir sagen Ihnen, was das für die Hardware bedeutet.
Wie viele Personen können gleichzeitig damit arbeiten?
Das hängt vom Modell und von der Länge der Dokumente ab. Jede aktive Person braucht zusätzlichen Arbeitsspeicher auf der Grafikkarte. Der Planer auf der Seite KI-Server rechnet den Bedarf nach Anzahl Personen aus.