KI im eigenen Haus
Ein Rechner in Ihrem Büro, auf dem ein Sprachmodell läuft. Ihre Daten verlassen das Haus nicht.
Was mit lokaler KI gemeint ist
Ein kompakter Rechner im Büro oder Serverraum, etwa ein Mac mini mit 64 GB Arbeitsspeicher oder ein KI-Rechner mit 128 GB. Darauf läuft ein offenes Sprachmodell, das Ihre Beschäftigten im Browser nutzen, ähnlich wie ChatGPT.
Eine gemietete Grafikkarte in einem Rechenzentrum ist in diesem Sinn nicht lokal, denn dort liegen die Daten wieder bei einem Anbieter. Ich verkaufe beides, lokale KI und die EU-Plattform Langdock, und sage Ihnen auch, wenn die Cloud für Sie reicht.
Funktionen und Leistungen im Überblick
- Die Daten bleiben im Haus
- Keine Übermittlung in Drittländer und keine Kette aus Rechenzentrum, Plattform und Modellanbieter.
- Unabhängig von Anbietern
- Ein Modell auf dem eigenen Rechner bleibt, bis Sie es selbst austauschen. Preisänderungen oder Sperren eines Cloud-Anbieters betreffen es nicht.
- Planbare Kosten
- Nach der Anschaffung zahlen Sie einen monatlichen Betrag für die Betreuung, der nicht davon abhängt, wie viel gefragt wird.
- Läuft auch ohne Internet
- Der Rechner arbeitet weiter, wenn das Internet weg ist oder ein Cloud-Dienst ausfällt.
- Einrichtung und Betreuung
- Updates, Datensicherung und ein Plan für den Ausfall gehören dazu. Darum kümmere ich mich.
- Verträge, die passen
- Für die Wartung aus der Ferne gibt es einen Auftragsverarbeitungsvertrag nach Artikel 28 DSGVO, bei Kanzleien zusätzlich die Verschwiegenheitspflicht nach § 43e BRAO.
Ihr konkreter Nutzen
Berufsgeheimnisse bleiben geschützt
Wer als Kanzlei, Praxis oder Steuerberatung externe Dienstleister hinzuzieht, muss sie zur Verschwiegenheit verpflichten. Bei einem Rechner im Haus betrifft das im Wesentlichen nur noch den, der ihn betreut.
Ehrlich abgewogen
Lokale Modelle liegen in der Qualität hinter der Spitze, und bei wenigen Nutzern ist lokal teurer als die Cloud. Das gehört ins Gespräch, bevor Sie etwas kaufen.
Beides kombinieren
Für viele Betriebe läuft es auf beides hinaus: Akten und Kalkulationen bleiben auf dem Rechner im Haus, allgemeine Texte und Recherche dürfen in die EU-Cloud.
So gehen wir vor
Maßgeschneiderte KI-Strategie (kostenfrei)
Wir klären, welche Daten Sie verarbeiten und ob lokal, Cloud oder beides zu Ihnen passt.
Test mit Ihren Beispielen
Ob ein Modell Ihre Aufgaben schafft, zeigt erst ein Test mit Ihren eigenen Beispielen.
Einrichtung im Haus
Rechner, Sprachmodell und Oberfläche werden bei Ihnen eingerichtet.
Betreuung
Updates, Sicherung und ein fester Ansprechpartner, zum festen monatlichen Betrag.
Typische Anwendungsfälle
- Dokumente zusammenfassen
- Mails und Schreiben entwerfen
- In eigenen Unterlagen suchen
- Mandanten-, Patienten- oder Kalkulationsdaten verarbeiten, die nicht nach außen dürfen
Häufige Fragen
Ist Cloud-KI für Kanzleien verboten?
Nein. Der Deutsche Anwaltverein hält sie für zulässig, wenn der Anbieter nach § 43e BRAO sorgfältig ausgewählt und zur Verschwiegenheit verpflichtet ist. Die Bundesrechtsanwaltskammer ist strenger und rät, möglichst keine Mandatsgeheimnisse zu übermitteln.
Ist lokale KI so gut wie ChatGPT?
Nicht ganz. Modelle, die auf eine einzelne Grafikkarte passen, erreichen etwa den Stand, den die besten Modelle vor sechs bis zwölf Monaten hatten. Für Zusammenfassungen, Mailentwürfe und die Suche in eigenen Dokumenten reicht das. Websuche und Bildgenerierung gibt es lokal nicht in derselben Form.
Was kostet lokale KI?
In meiner Rechnung für zehn Nutzer über drei Jahre, mit Einrichtung und Betreuung, kommt eine lokale Lösung auf einem Mac mini auf rund 18.100 Euro netto, Langdock im Jahresabo auf rund 16.300 Euro. Günstiger als die Cloud wird lokal erst bei etwa 22 bis 25 Nutzern.
Ab wann lohnt sich lokale KI?
Eher, wenn Sie Berufsgeheimnisse verarbeiten, Kalkulationen nicht nach außen dürfen, um die 20 bis 25 Leute damit arbeiten oder Sie nicht von einem Anbieter abhängen wollen. Bei einem kleinen Team ohne besonders vertrauliche Daten passt eine EU-Cloud wie Langdock besser.
Das könnte Sie auch interessieren
Welcher Weg passt zu Ihren Daten?
Ich sage Ihnen auch, wenn die Cloud für Sie reicht.
Lieber persönlich? Maßgeschneiderte KI-Strategie (kostenfrei)Franzi, meine KI am Telefon
+49 30 754 239 63Rund um die Uhr erreichbar. Rufen Sie an und hören Sie selbst, wie sie arbeitet.