KI und ML – Sicherheit

Last reviewed 2024-10-11 UTC

Dieses Dokument im Architektur-Framework: KI- und ML-Perspektive bietet einen Überblick über Prinzipien und Empfehlungen, mit denen Sie dafür sorgen können, dass Ihre KI- und ML-Bereitstellungen die Sicherheits- und Compliance-Anforderungen Ihres Unternehmens erfüllen. Die Empfehlungen in diesem Dokument entsprechen der Sicherheitssäule des Architektur-Frameworks.

Die sichere Bereitstellung von KI- und ML-Arbeitslasten ist eine wichtige Anforderung, insbesondere in Unternehmensumgebungen. Um diese Anforderung zu erfüllen, müssen Sie einen ganzheitlichen Sicherheitsansatz verfolgen, der bei der ersten Konzeption Ihrer KI- und ML-Lösungen beginnt und sich auf Entwicklung, Bereitstellung und laufenden Betrieb erstreckt. Google Cloud bietet robuste Tools und Dienste, mit denen Sie Ihre KI- und ML-Arbeitslasten schützen können.

Klare Ziele und Anforderungen definieren

Es ist einfacher, die erforderlichen Sicherheits- und Compliance-Kontrollen frühzeitig in den Design- und Entwicklungsvorgang einzubinden, als sie nach der Entwicklung hinzuzufügen. Treffen Sie von Beginn an des Design- und Entwicklungszyklus Entscheidungen, die für Ihre spezifische Risikoumgebung und Ihre spezifischen Geschäftsprioritäten geeignet sind.

Beachten Sie die folgenden Empfehlungen:

  • Identifizieren Sie potenzielle Angriffsvektoren und berücksichtigen Sie von Anfang an die Aspekte Sicherheit und Compliance. Berücksichtigen Sie beim Entwerfen und Entwickeln Ihrer KI-Systeme die Angriffsfläche, potenzielle Risiken und Verpflichtungen, denen Sie möglicherweise gegenüberstehen.
  • Richten Sie Ihre Sicherheitsmaßnahmen für KI und ML auf Ihre Geschäftsziele aus und achten Sie darauf, dass Sicherheit ein wesentlicher Bestandteil Ihrer Gesamtstrategie ist. Informieren Sie sich über die Auswirkungen Ihrer Sicherheitsentscheidungen auf Ihre wichtigsten Geschäftsziele.

Daten schützen und Verlust oder Missbrauch verhindern

Daten sind ein wertvolles und sensibles Gut, das geschützt werden muss. Mit Datensicherheit können Sie das Vertrauen der Nutzer aufrechterhalten, Ihre Geschäftsziele unterstützen und die Compliance-Anforderungen erfüllen.

Beachten Sie die folgenden Empfehlungen:

  • Erfassen, speichern oder verwenden Sie keine Daten, die für Ihre Geschäftsziele nicht unbedingt erforderlich sind. Verwenden Sie nach Möglichkeit synthetische oder vollständig anonymisierte Daten.
  • Datenerhebung, -speicherung und -transformation im Blick behalten Protokolle für alle Datenzugriffs- und Manipulationsaktivitäten führen Anhand der Protokolle können Sie den Datenzugriff prüfen, unbefugte Zugriffsversuche erkennen und unerwünschten Zugriff verhindern.
  • Implementieren Sie unterschiedliche Zugriffsebenen (z. B. keinen Zugriff, Lesezugriff oder Schreibzugriff) basierend auf Nutzerrollen. Achten Sie darauf, dass Berechtigungen gemäß dem Prinzip der geringsten Berechtigung zugewiesen werden. Nutzer müssen nur die Mindestberechtigungen haben, die für die Ausführung ihrer Rollenaktivitäten erforderlich sind.
  • Implementieren Sie Maßnahmen wie Verschlüsselung, sichere Perimeter und Einschränkungen bei der Datenübertragung. Mit diesen Maßnahmen können Sie Daten-Exfiltration und Datenverluste verhindern.
  • Schützen Sie Ihre ML-Trainingssysteme vor Datenmanipulation.

KI-Pipelines sicher und manipulationssicher machen

Ihr KI- und ML-Code sowie die codedefinierten Pipelines sind wichtige Assets. Nicht gesicherter Code kann manipuliert werden, was zu Datenlecks, Verstößen gegen die Compliance und Unterbrechungen wichtiger Geschäftsaktivitäten führen kann. Wenn Sie Ihren KI- und ML-Code schützen, können Sie die Integrität und den Wert Ihrer Modelle und Modellergebnisse bewahren.

Beachten Sie die folgenden Empfehlungen:

  • Verwenden Sie bei der Modellentwicklung sichere Programmierpraktiken wie Abhängigkeitsverwaltung oder Eingabevalidierung und ‑bereinigung, um Sicherheitslücken zu vermeiden.
  • Schützen Sie Ihren Pipelinecode und Ihre Modellartefakte wie Dateien, Modellgewichte und Bereitstellungsspezifikationen vor unbefugtem Zugriff. Implementieren Sie für jedes Artefakt unterschiedliche Zugriffsebenen, die auf den Rollen und Anforderungen der Nutzer basieren.
  • Herkunft und Nachverfolgung Ihrer Assets und Pipelineausführungen erzwingen Diese Erzwingung hilft Ihnen, Compliance-Anforderungen zu erfüllen und Produktionssysteme zu schützen.

Bereitstellung auf sicheren Systemen mit sicheren Tools und Artefakten

Sorgen Sie dafür, dass Ihr Code und Ihre Modelle in einer sicheren Umgebung ausgeführt werden, die ein robustes Zugriffskontrollsystem mit Sicherheitsmaßnahmen für die in der Umgebung bereitgestellten Tools und Artefakte hat.

Beachten Sie die folgenden Empfehlungen:

  • Trainieren und implementieren Sie Ihre Modelle in einer sicheren Umgebung mit entsprechenden Zugriffssteuerungen und Schutzmaßnahmen gegen unbefugte Nutzung oder Manipulation.
  • Beachten Sie die standardmäßigen Lieferkettenebenen für Software-Artefakte (SLSA) für Ihre KI-spezifischen Artefakte wie Modelle und Softwarepakete.
  • Verwenden Sie vorzugsweise validierte vorkonfigurierte Container-Images, die speziell für KI-Arbeitslasten entwickelt wurden.

Eingaben schützen und überwachen

KI-Systeme benötigen Eingaben, um Vorhersagen zu treffen, Inhalte zu generieren oder Aktionen zu automatisieren. Einige Eingaben können Risiken darstellen oder als Angriffsvektoren verwendet werden, die erkannt und bereinigt werden müssen. Wenn Sie potenzielle schädliche Eingaben frühzeitig erkennen, können Sie Ihre KI-Systeme schützen und dafür sorgen, dass sie wie vorgesehen funktionieren.

Beachten Sie die folgenden Empfehlungen:

  • Implementieren Sie sichere Verfahren zur Entwicklung und Verwaltung von Prompts für Systeme mit generativer KI und achten Sie darauf, dass die Prompts auf schädliche Absichten geprüft werden.
  • Überwachen Sie die Eingaben in Prognose- oder generative Systeme, um Probleme wie überlastete Endpunkte oder Prompts zu vermeiden, die die Systeme nicht verarbeiten können.
  • Sorgen Sie dafür, dass nur die vorgesehenen Nutzer eines bereitgestellten Systems darauf zugreifen können.

Ergebnisse beobachten, bewerten und auf sie reagieren

KI-Systeme bieten einen Mehrwert, da sie Ergebnisse liefern, die die menschliche Entscheidungsfindung ergänzen, optimieren oder automatisieren. Um die Integrität und Vertrauenswürdigkeit Ihrer KI-Systeme und ‑Anwendungen zu wahren, müssen Sie dafür sorgen, dass die Ausgabedaten sicher sind und innerhalb der erwarteten Parameter liegen. Außerdem benötigen Sie einen Plan für die Reaktion auf Vorfälle.

Beachten Sie die folgenden Empfehlungen:

  • Überwachen Sie die Ausgabe Ihrer KI- und ML-Modelle in der Produktion und identifizieren Sie Leistungs-, Sicherheits- und Compliance-Probleme.
  • Bewerten Sie die Modellleistung, indem Sie robuste Messwerte und Sicherheitsmaßnahmen implementieren, z. B. die Identifizierung nicht relevanter generativer Antworten oder extremer Ausgaben in Prognosemodellen. Holen Sie Feedback zur Modellleistung von Nutzern ein.
  • Implementieren Sie zuverlässige Benachrichtigungs- und Verfahren zur Reaktion auf Vorfälle, um potenzielle Probleme zu beheben.

Beitragende

Autoren:

Weitere Beitragende: