ComVISTEC

Fragen & Antworten

Antworten zu unseren KI-Anwendungen und zur Zusammenarbeit.

Nutzen wir lokale KI oder Cloud-Dienste?

Wir entwickeln für den Kunden und können sowohl Cloud-Dienste als auch lokale beziehungsweise On-Premises-KI in die Lösung integrieren. Wo ein lokales Modell läuft, hängt vom Projekt ab: möglich sind die Infrastruktur des Kunden, ein separater KI-Server oder ein angemieteter Server; meistens werden angemietete Server genutzt. Betrieb und Überwachung dieser Infrastruktur liegen beim Kunden. Der Kunde entscheidet gemeinsam mit seinen zuständigen Stellen, welcher KI-Dienst eingesetzt werden darf. Wir betreiben selbst keinen allgemeinen KI-Dienst und übernehmen keine spezialisierte Datenschutzberatung, arbeiten aber mit den Datenschutzbeauftragten im Unternehmen zusammen. Die Funktionen erarbeiten wir gemeinsam und dokumentieren sie beispielsweise in unserer KI-fähigen Pflichtenheft-App. Für Workflows nutzen wir unter anderem LangChain und LangGraph sowie LangSmith zur Kontrolle des Tokenverbrauchs.

Technische Umsetzung