VNC und Intel bringen generative KI auf den eigenen Rechner. Die Kombination aus der neuen Prozessor-Generation von Intel, dem Tool Intel OpenVINO und der sicheren Plattform VNClagoon ermöglicht die vertrauliche Nutzung von Large Language Models (LLMs) auf dem lokalen PC oder Notebook – und macht damit unabhängig von den proprietären Plattformen der KI-Anbieter.
Eines der größten Probleme bei der Nutzung von GenAI ist die Sicherheit und Vertraulichkeit der eigenen Daten. Die Sprachmodelle werden in der Regel über proprietäre Cloud-Plattformen der jeweiligen Anbieter bereitgestellt. Da die Daten dort auch verarbeitet werden, haben die Provider exklusiven Zugriff darauf, etwa um ihre Modelle damit weiter zu trainieren.
Für sicherheitsrelevante Anwendungen, etwa im Umfeld kritischer Infrastrukturen (KRITIS), ist das ein No-Go. Aber auch datensensible Organisationen und Unternehmen brauchen andere Lösungen, um GenAI produktiv und sicher zugleich nutzen zu können – und dabei die Hoheit über ihre eigenen Daten zu behalten.
Vom Rechenzentrum auf den eigenen Rechner
Mit Hilfe von Toolkits wie Intel OpenVINO konnten LLMs bisher in das eigene Rechenzentrum geladen und dort performant genutzt werden – ein erster Schritt zu mehr Datensouveränität im Umgang mit GenAI. Für Desktop-PCs und Notebooks aber waren sie bislang zu groß und zu rechenintensiv.
Durch die Kombination von VNClagoon sowie OpenVINO und der leistungsfähigen neuen Lunar-Lake-Architektur von Intel ist es jetzt möglich, die LLMs lokal signifikant zu komprimieren und in einer sicheren Sandbox-Umgebung lokal auf Intel-Rechnern zu nutzen. Alle Daten, Dokumente und Modelle können also auch offline genutzt werden. KI-Prompts werden lokal ausgeführt und sind damit ebenfalls privat.
Sichere KI auch unterwegs
Damit eröffnen sich gleichzeitig auch ganz neue Optionen zur mobilen Nutzung von GenAI, etwa für die sichere Bearbeitung vertraulicher Daten vor Ort. Local AI wird so endlich praktikabel und ist damit auch die perfekte praktische Umsetzung von Confidential AI, das die Unabhängigkeit vor unbefugten Zugriffen durch Offline-Optionen ohne funktionale Einschränkungen gewährleistet.
Dadurch wird es unter anderem möglich, spezifische Daten und abgespeckte Modelle für bestimmte Einsatzgebiete, wie beispielsweise Hilfsorganisationen, Polizei oder Militär, in einer sicheren Umgebung lokal einzusetzen. Gleichzeitig wird damit auch die Einhaltung von Security- und Compliance-Vorgaben, wie beispielsweise dem EU AI Act, erleichtert.
„So unverzichtbar KI mittlerweile geworden ist, so gravierend sind bislang auch die berechtigten Sicherheitsbedenken im Umfeld kritischer Anwendungen“, erklärt Andrea Wörrlein, Geschäftsführerin von VNC in Berlin und Verwaltungsrätin der VNC AG in Zug. „Doch Local AI bringt jetzt den Durchbruch, denn es macht die KI-Nutzung unabhängig von proprietären, datenkritischen Plattformen. Damit sichert es die Datensouveränität der Nutzer. Confidential AI wird endlich Realität.“