Immer mehr Unternehmen setzen Künstliche Intelligenz (KI) in Form von Large Language Models (LLMs) ein, um Standardabläufe zu optimieren und zu beschleunigen. Dadurch vergrößert sich allerdings auch die Angriffsfläche und neue Angriffsvektoren entstehen. Aqua Security reagiert darauf nun mit der branchenweit ersten Lösung zur Absicherung von KI-Anwendungen, die auf LLMs basieren, und leistet damit Pionierarbeit.

Die neuen Funktionen verbessern die Code-Integrität, die Überwachung von LLM-Workloads in Echtzeit und speziell für LLMs erstellte spezifische Sicherheitsrichtlinien für generative KI. Sie fügen sich nahtlos in Aqua Securitys Cloud Native Application Protection Platform (CNAPP) ein und bieten eine einheitliche Lösung für ganzheitlichen Schutz über den gesamten Lebenszyklus von Cloud-Native-Anwendungen.

Mit dieser Lösung stattet Aqua Sicherheitsteams, DevOps-Praktiker und Compliance-Experten mit den Werkzeugen und dem Fachwissen aus, um sicher durch die komplizierte Landschaft der LLM-Sicherheit zu navigieren. Durch die Überbrückung der Kluft zwischen Sicherheitsanforderungen und Entwicklungsprozessen ermöglicht es Aqua Unternehmen, Innovationen voranzutreiben und gleichzeitig potenzielle Risiken zu minimieren.

Die neuen Funktionen in der Cloud Native Application Protection Platform im Detail:

  • Code-Integrität: Aqua Security setzt fortschrittliche Code-Scanning-Technologie ein, um die unsichere Nutzung von LLMs im Anwendungscode zu identifizieren und zu entschärfen, einschließlich unautorisiertem Datenzugriff, Fehlkonfigurationen und Schwachstellen, die spezifisch für LLM-gestützte Anwendungen sind. So kann Aqua beispielsweise den nicht autorisierten Zugriff auf LLM-Ausgaben erkennen, die möglicherweise versuchen, bösartigen Code auszuführen und Angriffe zu initiieren.

  • Überwachung in Echtzeit: Die Laufzeitschutzfunktionen von Aqua Security überwachen aktiv LLM-betriebene Anwendungs-Workloads und verhindern unautorisierte Aktionen, die LLMs versuchen könnten, wie z. B. die Ausführung von bösartigem Code aufgrund von Prompt-Injection-Angriffen.

  • Sicherheitsrichtlinien für generative KI: Aqua Security setzt spezifische Sicherheitsrichtlinien für generative KI ein, die als Leitplanken für Entwickler von LLM-gestützten Anwendungen dienen. Diese Richtlinien verhindern die unsichere Nutzung von LLMs und basieren auf Praktiken aus den OWASP Top 10 für LLMs und anderen anerkannten Industriestandards.

„Die weit verbreitete Einführung von LLM-gestützten Anwendungen ohne vollständigem Verständnis der Sicherheitsrisiken und -implikationen unterstreicht den dringenden Bedarf an Sicherheitstools, die es Unternehmen ermöglichen, diese Technologie vertrauensvoll zu nutzen, ohne die Innovation zu bremsen“, sagt Gilad Elyashar, Chief Product Officer, Aqua Security.

„Aqua Security bietet umfassenden Schutz für LLM-gestützte Anwendungen vom Code bis zur Cloud unter Verwendung der OWASP-Empfehlungen, verhindert und erkennt auf generative KI bezogene Angriffe und verfolgt Sicherheitslücken bis zu bestimmten Codezeilen zurück.“

Weitere Beiträge....