Das Modell bleibt im Haus
On-Premise auf Ihrer Hardware oder im eigenen Rechenzentrum in München: Eingabe, Modell und Ergebnis bleiben in Ihrem Zugriff, und niemand fragt außerhalb nach.
Der Inhalt der Eingaben und ihr Verbleib
Der Unterschied zwischen lokaler und entfernter Verarbeitung zeigt sich nicht am Ergebnis, sondern an der Frage, wer die Frage mitliest.
In der Eingabe stehen Vertragsentwürfe vor der Unterschrift, Personalvorgänge mit Namen, Schadenmeldungen mit Diagnosen. Wer ein Modell über eine Schnittstelle im Ausland anspricht, gibt all das aus der Hand. Selbst wenn der Anbieter zusichert, nichts davon zum Training zu verwenden, bleibt die Verarbeitung ein Vorgang, den jemand in Ihrem Haus verantworten muss.
Dazu kommt die Frage, was nach der Antwort mit der Eingabe geschieht: Bleibt sie im Verlauf stehen, wird sie zwischengespeichert? Bei einem Dienst, den Sie nur über eine Schnittstelle kennen, lässt sich das nicht prüfen. Läuft das Modell dagegen in Ihrem Zugriff, ist die Antwort eine Konfiguration, die jemand nachsehen kann.
Wo die Rechenlast liegt
Welcher Weg passt, entscheidet der Schutzbedarf der Daten. Ein Wechsel bleibt später möglich, ohne die Anwendung neu zu bauen.
Auf Ihrer Hardware
Das Modell läuft in Ihrem Serverraum, hinter Ihrer Firewall, unter Ihrer Rechteverwaltung. Diese Betriebsart wählen Häuser, deren Schutzbedarf eine Weitergabe ausschließt oder die eine vorhandene GPU-Ausstattung nutzen wollen. Sie verlangt Beschaffung, Wartungsfenster und jemanden, der die Maschine im Blick behält.
In unserem Rechenzentrum
Wir stellen die GPU-Kapazität in München und betreiben das Modell für Sie, samt Überwachung, Aktualisierung und Wiederanlauf. Ohne eigene Kapazität ist das der schnellere Weg, weil keine Beschaffung dazwischenliegt; wie diese Kapazität aussieht, steht unterKI-Hosting mit GPU.
Getrennt nach Datenklasse
Oft ist nur ein Teil der Bestände wirklich kritisch. Dann bleibt dieser Teil im eigenen Serverraum, während unkritische Last im Rechenzentrum läuft. Die Trennlinie ziehen wir entlang Ihres Schutzbedarfskonzepts und schreiben sie in die Anwendung.
Wir gehen Ihre Datenklassen durch und sagen Ihnen, welche Betriebsart daraus folgt.
Was am Ende auf Ihren Maschinen läuft
- Messung an Ihren eigenen Unterlagen
- Modellgröße, Antwortzeit und Trefferquote im Vergleich
- Kapazitätsempfehlung
- Eine Beschaffungsliste oder ein Platz auf unseren Maschinen in München
- Einrichtung mit offenen Gewichten
- Ein Modellstand, den Sie selbst vorhalten und einfrieren können
- Trennung nach Datenklasse
- Eine Zuordnung je Bestand, in der Anwendung erzwungen
- Betriebsanleitung
- Aktualisierung, Überwachung, Sicherung und Wiederanlauf, schriftlich
Offene Gewichte und die passende Größe
Wir setzen Modelle mit offenen Gewichten ein, die Sie selbst vorhalten können. Damit bleibt ein Wechsel eine technische Aufgabe und keine Vertragsfrage. Sie können einen Stand einfrieren, solange eine Prüfung läuft, und ihn zwei Jahre später erneut starten.
Vor der Beschaffung messen wir an Ihren eigenen Unterlagen, welche Modellgröße die Aufgabe löst und welche Antwortzeit dabei herauskommt. Häufig genügt ein kleineres Modell mit sauber aufbereitetem Kontext. Wo ein größeres nötig ist, sagen wir das mit der Hardwareanforderung, bevor jemand ein Budget freigibt.
Der laufende Betrieb ist danach gewöhnliche Serverarbeit, die Ihre eigene IT übernehmen kann, sobald die Betriebsanleitung vorliegt. Was aus dem lokalen Betrieb an Datenschutzpflichten folgt, steht unter DSGVO-konforme KI.
Pflichten, Kapazität und Reihenfolge
Was aus dem lokalen Betrieb an Pflichten folgt, wo die Rechenleistung herkommt und wie man die Reihenfolge der Vorhaben festlegt.
Reden wir über Ihren Schutzbedarf
Welche Daten sollen in das Modell, welche auf keinen Fall? Aus dieser Antwort ergibt sich die Betriebsart, nicht umgekehrt.
L&I IT-solutions · Werderstr. 4 · 69469 Weinheim