Zehn Aspekte, die Unternehmen beim Einsatz von ChatGPT und weiteren generativen KI-Anwendungen im Blick haben sollten
1. Datenschutz
Die Datenverarbeitung von ChatGPT ist bislang recht intransparent. Es ist nicht klar, auf welcher Rechtgrundlage personenbezogene Daten in die USA übermittelt werden. Ebenso wenig gibt es eine Rechtsgrundlage für die Verarbeitung und Speicherung personenbezogener Daten auf Servern in den USA. Aus diesem Grund sollte beim Einsatz generativer KI-Systeme stets geprüft werden, wo die Datenverarbeitung stattfindet. Auf die Eingabe und Nutzung von personenbezogenen und auch anderen sensiblen beziehungsweise vertraulichen Daten sollte bei der Anwendung generativer KI-Systeme generell verzichtet werden. Das Gleiche gilt für Daten Dritter, die in anderen Zusammenhängen bezogen und/oder verarbeitet wurden. Insgesamt ist Nutzenden zu empfehlen, sorgfältig abzuwägen, welche Informationen in die Systeme eingespeist werden, da sie genutzt werden können, um die KI zu trainieren und zu verbessern. Seit Kurzem können ChatGPT-Nutzende über eine Opting-out Funktion entscheiden, dass ihre Daten nicht mehr zum Trainieren der KI eingesetzt werden.
2. Datenqualität
Arbeitsergebnisse von KI-Tools hängen stark von der Qualität, der Quantität und Gewichtung der einzelnen Datensätze ab, mit denen sie trainiert werden. Generative KI kann möglicherweise ungenaue, irreführende oder nicht aktuelle Aussagen generieren. Bei vielen generativen KI-Systemen ist nicht transparent, welche Datenquellen genutzt werden und welcher Meinungsschwerpunkt dabei repräsentiert wird. Inhalte und Antworten können einem Bias unterliegen. Die Zuverlässigkeit und Objektivität des Outputs zum aktuellen Zeitpunkt sollten daher stets hinterfragt werden.
3. Geistiges Eigentum
Daten, mit denen die KI gefüttert wurde, können urheberrechtlich geschützt sein – zum Beispiel Textbausteine, Begriffe oder Bilder. Dadurch stellt der KI-generierte Output unter Umständen eine Urheberrechtsverletzung dar. Die Vervielfältigung kann strafbar sein. Insofern ist bei von KI generiertem Output Vorsicht geboten. Die Verwendung dieses Outputs für die Kommunikation nach außen ist dabei besonders riskant.
4. Transparenz
Unternehmen wird empfohlen, ihren Einsatz von generativen KI-Modellen transparent zu machen, einschließlich der Information, in welchen Abläufen sie zum Einsatz kommen. Dies kann dazu beitragen, Vertrauen bei Kunden, Mitarbeitenden und anderen Stakeholdern zu stärken.
5. Haftung und Risikomanagement
Unternehmen sollten mögliche rechtliche und finanzielle Risiken im Zusammenhang mit dem Einsatz von generativer KI berücksichtigen. Dazu gehört auch die Klärung der Haftungsfrage im Falle von Fehlern oder Schäden, die durch die Nutzung der KI verursacht werden.
6. Menschliche Überprüfung
Unternehmen sollten sicherstellen, dass KI-generierte Inhalte von einem Menschen überprüft werden– insbesondere in Situationen, in denen eine Fehlaussage schwerwiegende Folgen haben könnten.
7. Mitarbeitende schulen
Es ist wichtig, dass Mitarbeitende sensibilisiert werden, wie generative KI-Anwendungen funktionieren und wie sie diese in die Arbeit integriert werden können. Dabei sollten auch rechtliche Themen wie Datenschutz sowie ethische Aspekte diskutiert werden, damit Mitarbeitende die Anwendungen auf verantwortungsvolle Weise nutzen. Aufgrund der rasanten technologischen Entwicklungsgeschwindigkeit sollten Schulungen regelmäßig aktualisiert werden, um sicherzustellen, dass die Mitarbeitenden auf dem neuesten Stand sind.
8. Ethische Überlegungen
Unternehmen sollten die potenziellen Auswirkungen ihres Einsatzes von generativer KI auf verschiedene Stakeholder wie Kunden, Mitarbeitende und die Gesellschaft als Ganzes berücksichtigen. Es sollte sichergestellt werden, dass die Nutzung im Einklang mit den ethischen Prinzipien des Unternehmens steht.
9. Coding
Falls Unternehmen generative KI im Bereich Programmierung und Coding einsetzen, sollten sie sich zuvor mit der Syntax und den Befehlen des Tools vertraut machen und die Erklärungen gründlich lesen. Fehler im Code können sich auf die Performance, Funktionalität und Sicherheit der Anwendungen auswirken.
10. Plugins
Seit Anfang April ermöglicht das hinter ChatGPT stehende Unternehmen OpenAI über neue Plugins die direkte Einbindung von ChatGPT in Unternehmenssysteme. So können beispielsweise (Echtzeit-)Datensätze von Unternehmen über Schnittstellen gezielt durchsucht werden oder Aufgaben von der KI wahrgenommen werden, zum Beispiel die Buchung von Reisen. Zwar sind die Plugin-Features aktuell noch sehr begrenzt, KI-Experten rechnen jedoch damit, dass mittelfristig ein eigenes Ökosystem ähnlich dem Apple App-Store entstehen könnte. Auch bei der Nutzung von KI über solche Plugins sollten sich interessierte Unternehmen unbedingt intensiv mit Fragen zu Datenschutz, Urheberrecht und Datensicherheit auseinandersetzen.
Sie benötigen Unterstützung?
Es gibt auf Länder- und Bundesebene eine Vielzahl von neutralen Kompetenzzentren, Hilfestellungen und Förderprogramme, die Unternehmen beim Einsatz von künstlicher Intelligenz zur Seite stehen, unter anderem:
Das Bundesamt für Sicherheit in der Informationstechnik (BSI) informiert in einem Bericht über die Chancen und Risiken der KI-Sprachmodelle. Das entsprechende PDF "Große KI-Sprachmodelle: Chancen und Risiken für Industrie und Behörden" finden Sie auf der Website des BSI.
Das Büro für Technikfolgen-Abschätzung beim Deutschen Bundestag (TAB) hat Grundlagen, Anwendungspotenziale und mögliche Auswirkungen von ChatGPT und anderen Computermodellen zur Sprachverarbeitung analysiert. Der Bericht ist im PDF-Format abrufbar auf der Website des TAB.
Die DIHK-Bildungs-gGmbH hat Fakten zu datenschutz- und urheberrechtlichen Fragen bei ChatGPT zusammengestellt.
Im Rahmen der Initiative #GemeinsamDigital bieten die IHK-Organisation zudem kostenlose Weiterbildungsangebote zu Chancen und Funktionsweise von KI-Technologien an.
