ChatGPT mit eigenen Unternehmensdaten nutzen

Welche Wege bietet OpenAI für eigene Daten?

„ChatGPT mit eigenen Daten“ kann bei OpenAI fünf verschiedene Dinge bedeuten. Sie unterscheiden sich darin, wo Ihre Dokumente liegen, wer sie sieht und wie lange sie gespeichert bleiben.

• Datei-Upload im Chat: Sie hängen ein Dokument an eine Unterhaltung und stellen Fragen dazu.
• Projekte: Chats, Dateien und Anweisungen zu einem Thema liegen zusammen und lassen sich mit Kolleginnen und Kollegen teilen.
• Eigene GPTs: angepasste Versionen von ChatGPT mit eigenen Anweisungen und Wissensdateien. OpenAI stellt sie ein.
• Apps (früher Konnektoren): ChatGPT greift auf verbundene Dienste wie SharePoint, Google Drive oder Slack zu.
• API: Ihre IT baut eine eigene Anwendung, die Ihre Dokumente durchsucht und OpenAI-Modelle für die Antworten nutzt.

Die ersten vier Wege gibt es in den ChatGPT-Tarifen Free, Go, Plus, Pro, Business, Enterprise und Edu, in unterschiedlichem Umfang. Für Unternehmensdaten zählen die Geschäftstarife, denn nur für sie gelten die Datenschutzzusagen von OpenAI für Geschäftskunden. Warum ein eigenes Nachtraining des Modells für Firmenwissen selten der richtige Weg ist, erklärt die Seite RAG oder Fine-Tuning.

Wann reicht der Datei-Upload im Chat?

Der Upload ist der schnellste Weg: Datei anhängen, Frage stellen. ChatGPT kann Dokumente zusammenfassen, zwei Fassungen vergleichen oder Tabellen auswerten. Laut OpenAI darf ein Dokument bis zu 512 MB groß sein, Text- und Dokumentdateien sind auf 2 Millionen Token begrenzt. Token sind die Textbausteine, in denen Sprachmodelle rechnen. Wie viele Dateien eine Person in einem bestimmten Zeitraum hochladen darf, begrenzt OpenAI je nach Tarif.

Gut geeignet ist der Upload für einzelne Dokumente und einmalige Fragen, etwa die Prüfung eines Angebots oder die Zusammenfassung eines Berichts.

Die Grenzen:

• Jede Person entscheidet selbst, was sie hochlädt. Einen gepflegten gemeinsamen Bestand gibt es nicht.
• Die Antworten beziehen sich auf die angehängten Dateien. Ändert sich ein Dokument, müssen Sie den neuen Stand erneut hochladen.
• Löschen ist zweistufig: Wer einen Chat löscht, löscht damit keine Datei, die separat in der Bibliothek (Library) oder in Space gespeichert wurde.

Legen Sie deshalb in einer Nutzungsrichtlinie fest, welche Dokumentarten hochgeladen werden dürfen, und erlauben Sie das nur in einem Geschäftstarif.

Was leisten Projekte für ein Team?

Projekte bündeln Chats, Dateien und Anweisungen zu einem Thema. ChatGPT nutzt diesen Kontext in jedem neuen Chat des Projekts. Sie können Projekte teilen und dabei Chat- oder Bearbeitungsrechte vergeben.

Laut OpenAI sind je Projekt bis zu 40 Dateien möglich (Business, Enterprise, Edu und Pro), bei Plus und Go 25 und im Tarif Free 5. Gleichzeitig hochladen lassen sich zehn Dateien. In privaten Projekten können Sie außerdem Dateien und Ordner aus Google Drive sowie Kanäle aus Slack als Quellen einbinden.

Gut geeignet sind Projekte für überschaubare Themen mit festem Personenkreis, etwa eine Ausschreibung, ein Kundenprojekt oder eine wiederkehrende Auswertung.

Die Grenzen:

• Alle Mitglieder eines Projekts können alle Dateien darin sehen und herunterladen. Rechte für einzelne Dokumente beschreibt OpenAI für Projekte nicht.
• Für einen ganzen Dokumentenbestand reicht die Dateizahl nicht.
• Im Tarif Business können Projekt-Chats mit Standardgedächtnis auch auf Unterhaltungen außerhalb des Projekts zurückgreifen. Geteilte Projekte nutzen automatisch ein Gedächtnis nur für das Projekt.
• Gelöschte Projekte samt Chats und Dateien entfernt OpenAI innerhalb von 30 Tagen, sofern keine rechtlichen oder Sicherheitsgründe entgegenstehen.

Was wird aus eigenen GPTs mit Wissensdateien?

Eigene GPTs sind angepasste Versionen von ChatGPT mit festen Anweisungen und bis zu 20 Wissensdateien, die sich im Workspace teilen lassen. Dieser Weg endet. Laut OpenAI-Hilfe-Center sollen eigene GPTs am 11. Dezember 2026 eingestellt werden. Für FedRAMP-Workspaces und Workspaces mit genehmigtem Aufschub gilt der 11. Februar 2027. In betroffenen Enterprise-Workspaces lassen sich schon seit dem 26. Oktober 2026 keine neuen GPTs mehr anlegen.

Als Ersatz nennt OpenAI zwei Wege:

• Plugins: Bei der Migration werden die Anweisungen eines GPT zu einem sogenannten Skill, verbundene Apps werden übernommen, und die Wissensdateien werden in die Referenzdateien des Plugins kopiert. Das gewählte Modell und eigene Aktionen, also Anbindungen an fremde Schnittstellen, werden nicht übertragen. Ein migriertes Plugin ist zunächst privat und muss neu geteilt werden.
• Projekte: für laufende Arbeit mit Anweisungen und Referenzdateien.

Für Sie heißt das: Starten Sie kein neues Vorhaben mehr auf Basis eines GPT. Erfassen Sie, wer welches GPT nutzt und welche Dateien darin liegen. Testen Sie nach der Migration mit bekannten Fragen, denn laut OpenAI kann ein migriertes Plugin anders antworten. Bisherige Unterhaltungen mit GPTs bleiben zugänglich.

Wie greift ChatGPT über Apps auf Firmensysteme zu?

Apps verbinden ChatGPT mit Diensten, die Sie schon nutzen. OpenAI nennt unter anderem SharePoint, Microsoft Teams, Outlook, OneNote, Google Drive, Slack, Box und Notion. ChatGPT kann dann eine Datei finden, ein Dokument zusammenfassen oder eine Nachricht nachschlagen, je nach App auch Inhalte anlegen oder ändern.

Der Vorteil: Die Dokumente bleiben in ihrem System, und es gelten die dort vergebenen Rechte. Laut OpenAI respektiert ChatGPT die bestehenden Berechtigungen, und jede Person muss sich vor der Nutzung bei der verbundenen Anwendung anmelden. Administratoren legen fest, welche Apps im Workspace erlaubt sind. In ChatGPT Business sind viele Apps standardmäßig aktiviert. Prüfen Sie diese Voreinstellung vor dem Start.

Gut geeignet sind Apps, wenn Ihr Wissen gepflegt in SharePoint, OneDrive oder Google Drive liegt und die Rechte dort sauber vergeben sind.

Die Grenzen:

• Ist eine Freigabe im Quellsystem zu weit gefasst, kann die KI diese Inhalte auch in Antworten verwenden.
• Daten, die mit einer App geteilt werden, unterliegen laut OpenAI den Nutzungsbedingungen und Datenschutzhinweisen des jeweiligen App-Anbieters.
• Mit aktiviertem Gedächtnis kann sich ChatGPT Informationen aus Apps merken, sofern die App das nicht unterbindet.
• Für App-Aktionen gibt es Freigabestufen von „immer fragen“ bis „alle Aktionen erlauben“. Lassen Sie schreibende Aktionen bestätigen.

Wann lohnt sich die API mit eigener RAG-Lösung?

Über die API baut Ihre IT eine eigene Anwendung. Das übliche Muster heißt RAG (Retrieval Augmented Generation): Die Anwendung sucht zu jeder Frage passende Abschnitte in Ihren Dokumenten und gibt nur diese an das Modell weiter. Wie das funktioniert, beschreibt der Leitfaden.

Bei der API haben Sie zwei Varianten:

• Dateisuche von OpenAI: Sie laden Dateien in einen Vektorspeicher (vector store) bei OpenAI, das Modell durchsucht ihn mit dem Werkzeug File Search. Laut Dokumentation bleiben Vektorspeicher gespeichert, bis Sie sie löschen. Gelöschte Objekte entfernt OpenAI 30 Tage danach, nicht gelöschte bleiben unbegrenzt gespeichert.
• Eigener Index: Dokumente und Suchindex bleiben bei Ihnen oder bei einem Dienstleister Ihrer Wahl. An OpenAI gehen dann nur Frage und Fundstellen. Berechnen Sie auch die Einbettungen, also die Zahlenvektoren für die semantische Suche, mit OpenAI, gehen zusätzlich alle Textabschnitte einmal an OpenAI.

Für beide Varianten gilt: API-Daten nutzt OpenAI seit dem 1. März 2023 nicht zum Training, außer Sie stimmen ausdrücklich zu. Ein- und Ausgaben können standardmäßig bis zu 30 Tage in Protokollen zur Missbrauchserkennung liegen. Ein Verzicht darauf (Zero Data Retention) setzt eine Freigabe durch OpenAI voraus. Speicherung und Verarbeitung in Europa sind für berechtigte Kunden über Projekte mit der Region Europa möglich. Auch das verlangt eine solche Freigabe und eine zusätzliche Vereinbarung.

Gut geeignet ist die API, wenn Sie Rechte, Aufbewahrung und Datenwege selbst steuern wollen und eine IT haben, die eine Anwendung entwickeln und betreiben kann. Die Grenze ist der Aufwand: Rechteprüfung, Aktualisierung des Index und Löschung setzen Sie selbst um.

Was müssen Sie für den Datenschutz klären?

Auftragsverarbeitung

Verarbeiten Sie personenbezogene Daten über ChatGPT, brauchen Sie einen Vertrag zur Auftragsverarbeitung. OpenAI bietet dafür einen Zusatz zur Datenverarbeitung (Data Processing Addendum, DPA) an, für ChatGPT Business, ChatGPT Enterprise und die API. OpenAI handelt darin als Auftragsverarbeiter. Vertragspartner für Kunden mit Sitz im Europäischen Wirtschaftsraum (EWR) oder in der Schweiz ist OpenAI Ireland Ltd. Gibt OpenAI Ireland Daten an Stellen außerhalb von EWR und Schweiz weiter, stützt sich das auf Standardvertragsklauseln oder einen Angemessenheitsbeschluss der EU-Kommission nach Art. 45 DSGVO.

Training

Inhalte aus ChatGPT Business, Enterprise und Edu sowie aus der API nutzt OpenAI nach eigener Aussage standardmäßig nicht zum Training, auch nicht Daten, die über Apps abgerufen werden. Bei den persönlichen Tarifen kann OpenAI Inhalte aus Projekten und Apps zum Training verwenden, wenn die Einstellung „Improve the model for everyone“ aktiv ist.

Aufbewahrung

In Business, Enterprise und Edu bestimmen Administratoren, wie lange Daten gespeichert bleiben. Gelöschte Unterhaltungen entfernt OpenAI innerhalb von 30 Tagen, sofern keine gesetzliche Pflicht zur längeren Aufbewahrung besteht. In Business können Administratoren die Unterhaltungen der Mitglieder einsehen, exportieren und löschen. Regeln Sie das in Ihrer Nutzungsrichtlinie.

Speicherung in Europa

Eine Datenresidenz in Europa (EWR und Schweiz) nennt OpenAI für neue Workspaces von ChatGPT Enterprise und Edu sowie für berechtigte API-Kunden. Für ChatGPT Business führt OpenAI diese Möglichkeit nicht auf. Für Enterprise und Edu ist sie laut OpenAI ohne Aufpreis enthalten. Zusätzlich lässt sich festlegen, dass die Modellberechnung auf Grafikprozessoren (GPU) in Europa läuft. Ausgenommen bleiben unter anderem Daten, die über Apps, MCP-Server oder die Websuche an Dritte gehen, sowie Verarbeitung ohne GPU, etwa das Auslesen von Text aus hochgeladenen PDF- und Word-Dateien.

Rechte

Unterscheiden Sie zwei Arten von Rechten. Zugriffsrechte: In Projekten sehen alle Mitglieder alle Dateien, bei Apps gelten die Rechte des Quellsystems. Betroffenenrechte: Verlangt eine Person Auskunft oder Löschung, sind Sie als Verantwortlicher zuständig. OpenAI verpflichtet sich im DPA, Sie über eingehende Anfragen zu informieren und Sie bei der Beantwortung zu unterstützen. Klären Sie intern, wie Sie Chats, Projektdateien und gespeicherte Dateien zu einer Person finden und löschen.

Welcher Weg passt zu Ihrem Vorhaben?

Testen Sie vor dem breiten Einsatz mit echten Fragen, ob Antworten und Quellen stimmen. Wie das geht, zeigt die Seite Falsche KI-Antworten vermeiden.

Häufige Fragen

Caan Grueneberg, CEO von Nexoria SystemsVerantwortlich für den Inhalt. Dieser Ratgeber ersetzt keine Rechtsberatung. Hinweise und Korrekturen an info@nexoria-systems.de. Mehr über den Autor