Sie suchen eine ChatGPT-Alternative in der Schweiz, weil Sie keine Kundendokumente mehr in einen ausländischen Dienst kopieren wollen? Ein KI-Server in Ihren Räumen erledigt einen grossen Teil derselben Arbeit, mit offenen Modellen wie Llama, Qwen, Mistral oder gpt-oss. Fragen, Dokumente und Antworten bleiben in Ihrem Netzwerk.
Hier finden Sie, was das Datenschutzgesetz zur Bekanntgabe ins Ausland sagt, was ein lokales Modell gut kann und wo es schwächer ist, und was Sie für den Start brauchen.
Was das DSG zur Bekanntgabe ins Ausland sagt
Das revidierte Datenschutzgesetz (DSG) gilt seit dem 1. September 2023. Einige Punkte, die für Ihren Entscheid zählen:
- Personendaten dürfen ins Ausland bekanntgegeben werden, wenn das Zielland einen angemessenen Schutz bietet. Der Bundesrat führt diese Länder in Anhang 1 der Datenschutzverordnung (DSV). Die Staaten der EU und des EWR stehen darauf.
- Die USA stehen seit dem 15. September 2024 auf der Liste, aber nur für Unternehmen, die nach dem Swiss-U.S. Data Privacy Framework zertifiziert sind.
- In allen anderen Fällen braucht es Garantien, meist Standardvertragsklauseln, die der Eidgenössische Datenschutz- und Öffentlichkeitsbeauftragte (EDÖB) anerkennt.
- Wenn ein Anbieter Daten in Ihrem Auftrag bearbeitet, ist das Auftragsbearbeitung. Sie bleiben verantwortlich und müssen sicherstellen, dass er die Daten schützt.
- Wer als Privatperson diese Sorgfaltspflichten vorsätzlich verletzt, kann auf Antrag mit einer Busse bis 250 000 Franken bestraft werden (Art. 61 DSG).
Einen KI-Dienst im Internet zu nutzen, ist also nicht verboten. Sie müssen aber wissen, wohin die Daten gehen und unter welchem Vertrag, und das dokumentieren. Für Berufe mit Berufsgeheimnis, etwa Ärztinnen oder Anwälte, ist noch mehr Vorsicht nötig.
Ein lokaler Server als ChatGPT-Alternative in der Schweiz
Mit einem Server in Ihren Räumen geht für den Betrieb des Modells nichts an einen Anbieter. Für dieses Werkzeug gibt es keine Bekanntgabe ins Ausland zu begründen. Das vereinfacht vieles, macht Sie aber nicht automatisch regelkonform: Zugriffsrechte, Backups, Updates und die Information der betroffenen Personen bleiben Ihre Aufgabe. Lassen Sie Ihre Organisation von Ihrer Datenschutzberatung oder Ihrem Datenschutzberater prüfen.
Was ein lokales Modell gut kann, und wo es schwächer ist
Ein Modell mit 30 oder 70 Milliarden Parametern auf Ihrem Server kann nicht alles, was die neueste Version von ChatGPT kann. Bei langen Denkketten tut es sich schwerer, und es sucht nicht von sich aus im Internet. Die tägliche Arbeit mit Ihren Dokumenten erledigt es dagegen ordentlich:
- einen Bericht oder ein Dossier von 80 Seiten zusammenfassen;
- aus ein paar Notizen einen Briefentwurf schreiben;
- Fragen zu Ihren internen Abläufen beantworten;
- zwischen Deutsch, Französisch, Italienisch und Englisch übersetzen;
- mit einer Dokumentensuche eine Information in Ihrem Archiv finden.
Für viele Büros reicht dafür ein 32B-Modell (etwa 31 GB Grafikspeicher). Llama 70B oder Qwen 72B (etwa 58 GB bei mehreren Nutzern) formulieren feiner. gpt-oss-120b (etwa 73 GB) passt auf eine einzige 96-GB-Karte. Das sind Schätzungen: Der Planer auf der Seite KI-Server rechnet Ihren Fall durch, und die Seite Llama 70B lokal erklärt die Zahlen.
Abo oder Server: die Kostenfrage
Ein Abo zahlen Sie jeden Monat und pro Person. Einen Server zahlen Sie einmal, danach braucht er Strom. Je nach Anzahl Nutzer fällt die Rechnung anders aus. Auf der Seite KI-Server vergleicht das Werkzeug «Kaufen oder mieten» mit Ihren Zahlen. Die Komponentenpreise ändern sich täglich, deshalb stehen die aktuellen Preise dort und nicht hier.
Was wir liefern
Drei Basen, montiert in Givisiez. Der Deneb, als Tower oder mit 4 HE im Rack, bis zu zwei Grafikkarten, für ein kleines Team. Der Cygnus mit 4 HE, IPMI, ECC-Speicher und 10 Hot-Swap-Schächten. Der Pleiades mit 5 HE, Threadripper PRO und bis zu vier Grafikkarten. Die Teile wählen Sie im Konfigurator.
Jeder Server wird vor der Lieferung unter Last getestet, mit Ubuntu, NVIDIA-Treibern und CUDA. Die Software, zum Beispiel Ollama mit Open WebUI als Oberfläche im Browser, richtet danach Ihr Informatiker oder ein IT-Partner aus der Region ein. 2 Jahre Garantie, bei einem Hardwareproblem zurück in die Werkstatt, Lieferung in der Schweiz. Ein Beispiel aus der Praxis finden Sie unter KI-Server für Arztpraxen.
Häufige Fragen
Verbietet das DSG die Nutzung von ChatGPT?
Nein. Es verbietet keinen ausländischen Dienst, es stellt Bedingungen: angemessener Schutz im Zielland oder Garantien, ein Vertrag mit dem Anbieter, Datensicherheit. Bei besonders schützenswerten Daten oder Daten unter Berufsgeheimnis fragen Sie vorher Ihre Datenschutzberatung.
Müssen sich meine Mitarbeitenden umstellen?
Kaum. Eine Oberfläche wie Open WebUI läuft im Browser, mit Eingabefeld und Verlauf der Unterhaltungen, ähnlich wie ChatGPT.
Braucht der Server Internet?
Für den Betrieb nicht, sobald das Modell heruntergeladen ist. Für Updates des Systems und der Modelle schon.