Zum Inhalt springen

CompanyGPT Sovereign

CompanyGPT Sovereign ist CompanyGPT auf STACKIT, der souveränen Cloud aus Deutschland. Oberfläche und Bedienung sind dieselben wie in jeder anderen CompanyGPT-Umgebung: Chat, Agenten, Prompts, Skills und Addons funktionieren so, wie es in dieser Dokumentation beschrieben ist. Unterschiede gibt es beim Hosting, bei der Anmeldung, bei den angebotenen Modellen und bei einzelnen Addons. Diese Seite fasst sie zusammen.

  • Betrieb in Deutschland: CompanyGPT läuft in Rechenzentren von STACKIT in Deutschland und wird von innFactory betrieben.
  • Datenhaltung bei STACKIT: Chats, hochgeladene Dateien, Agenten und Wissenssammlungen werden in Datenbanken und Speichern dieser Umgebung abgelegt. Ausnahme sind Dokumente, die companyTRANSLATE übersetzt: Sie liegen dafür beim Übersetzungsdienst in der EU.
  • Zusätzliche Dienste nur nach Freigabe: Ob daneben Dienste europäischer Cloud-Anbieter genutzt werden – etwa für einzelne Modelle, für die Berechnung der Embeddings von companyRAG oder für Übersetzung und Transkription –, legt Ihr Unternehmen gemeinsam mit innFactory für Ihre Umgebung fest. Diese Dienste laufen in EU-Regionen der jeweiligen Anbieter.

Für die Anmeldung unterstützt CompanyGPT Sovereign drei Varianten:

IdentitätsanbieterBeschreibung
Keycloak, betrieben von innFactoryinnFactory stellt die Anmeldung über einen eigenen Keycloak bereit. Die Anbindung an Ihre bestehende Benutzerverwaltung – etwa per SAML oder OpenID Connect – richten wir bei der Einrichtung mit Ihnen ein.
Ihr eigener KeycloakCompanyGPT nutzt einen Keycloak, den Ihr Unternehmen betreibt – zum Beispiel mit Anbindung an Ihr Active Directory.
Microsoft Entra IDDie Anmeldung läuft wie bei CompanyGPT auf Microsoft Azure über Ihren Entra-Tenant. Ihre IT-Admins bereiten den Tenant über das Onboarding-Portal vor und wählen dort STACKIT als Hosting; der Schritt für die Azure-Subscription entfällt.

Wer sich anmelden darf und wer Administrator ist, steuern in der Regel Gruppen bei Ihrem Identitätsanbieter. Rollen, Rechte und Freigaben innerhalb von CompanyGPT verwalten Sie unabhängig vom Identitätsanbieter wie gewohnt in companyADMIN.

  • Open-Weight-Modelle aus Deutschland: In der Modellauswahl stehen Modelle aus STACKIT Model Serving zur Verfügung, zum Beispiel aus den Familien Qwen, gpt-oss, Gemma und Llama. Sie laufen in Rechenzentren in Deutschland.
  • Optional Modelle europäischer Hyperscaler: Sofern für Ihre Umgebung freigegeben, kommen Modelle hinzu, die über Microsoft Azure oder Google Cloud in EU-Regionen betrieben werden.

Welche Modelle Ihnen konkret angeboten werden, unterscheidet sich je nach Umgebung. Hinweise, welches Modell sich wofür eignet, finden Sie unter Modellauswahl.

Welche Addons in Ihrer Umgebung aktiv sind, legt Ihr Unternehmen fest. In CompanyGPT Sovereign gilt grundsätzlich:

Addon / FunktionIn CompanyGPT Sovereign
Websuche & WebFetchVerfügbar
companyFILESVerfügbar
companyRAGVerfügbar
Code InterpreterVerfügbar
companyADMINVerfügbar
Alle AppsVerfügbar
companyTRANSCRIBEJe nach Umgebung
companyTRANSLATEJe nach Umgebung
companyM365Nur mit Microsoft Entra ID als Identitätsanbieter
n8nJe nach Umgebung
companyLEARN, companyKNOWLEDGEDerzeit nicht verfügbar
Budgets und Kostenfunktionen des AI GatewaysDerzeit nicht verfügbar

companyTRANSCRIBE und companyTRANSLATE nutzen Sprach- und Übersetzungsdienste europäischer Cloud-Anbieter; ob sie aktiv sind, wird je Umgebung entschieden. Fragen zu Addons, die hier nicht aufgeführt sind, klären Sie bitte mit innFactory.