Generative KI-Modelle sind in der Lage, eine Vielzahl an Aufgaben durchzuführen, die traditionell Kreativität und menschliches Verständnis erfordern. Sie erlernen während des Trainings Muster aus vorhandenen Daten und können in der Folge neue Inhalte wie Texte, Bilder, Audios und Videos erzeugen, die ebenfalls diesen Mustern folgen. Aufgrund ihrer Vielseitigkeit und der zumeist hochqualitativen Ergebnisse stellen sie einerseits eine Chance für die Digitalisierung dar. Andererseits bringt die Verwendung von generativen KI-Modellen neuartige IT-Sicherheitsrisiken mit sich, deren Betrachtung für eine umfassende Analyse der Gefahrenlage in Bezug auf die IT-Sicherheit notwendig ist.
Als Reaktion auf dieses Gefahrenpotenzial sollten nutzende Unternehmen oder Behörden vor der Integration von generativer KI in die eigenen Arbeitsabläufe eine individuelle Risikoanalyse durchführen. Gleiches gilt für Entwickelnde und Betreibende, da viele Risiken im Kontext generativer KI bereits zum Zeitpunkt der Entwicklung berücksichtigt werden müssen oder nur durch das betreibende Unternehmen beeinflusst werden können. Darauf aufbauend können existierende Sicherheitsmaßnahmen angepasst und zusätzliche Maßnahmen ergriffen werden.
Quelle: Generative KI-Modelle. Chancen und Risiken für Industrie und Behörden