Kann ich KI ohne Sicherheitsrisiko einsetzen?

Eine künstliche Intelligenz ist genau genommen nicht intelligent, sondern erzeugt sehr gute Ergebnisse auf Basis einer Mustererkennung, die mit großen Datenmengen angelernt wurde. Moderne, öffentlich verfügbare KIs lernen zudem von den bereit gestellten Informationen weiter. Daher sind alle Informationen, die an eine KI geschickt werden, danach quasi öffentlich. Sie sollten also keine vertraulichen Informationen an eine KI senden. Bei KIs, die außerhalb von Europa betrieben werden, kommt die (von anderen Cloud-Diensten bereits bekannte) Datenschutz-Problematik hinzu.

Eine KI besteht zudem aus Software – daher kann sie wie jede andere Software auch gehackt werden. Sicherlich sorgen die betreibenden Firmen für eine angemessene Sicherheit, aber ganz kann ein erfolgreicher Angriff nicht ausgeschlossen werden. Vertrauen Sie einer KI daher in ähnlicher Weise wie jedem anderen Cloud-Dienst; bei auffälligem Verhalten und ungewöhnlicher Kommunikation beenden Sie die Interaktion mit der KI.

Für KIs besteht allerdings noch ein weiteres Hacking-Risiko: dass die "Entscheidungen" der KI manipuliert werden. Das geschieht durch die gezielte Veränderung der Daten, mit denen die KI lernt (also beispielsweise auch Daten, die zu ihr geschickt werden). Dies kann man als Anwender so gut wie nicht erkennen. Verlassen Sie sich daher nicht auf die Ergebnisse einer KI, sie könnten manipuliert sein – oder einfach falsch.

KIs sind aber nicht nur ein Risiko: Man kann sie auch für die Cybersicherheit gut einsetzen – sie können etwa dabei unterstützen, maßgeschneiderte Sicherheitskonzepte zu erstellen, oder geeignete risikosenkende Maßnahmen für erhebliche Risiken zu identifizieren.