Security in einer Welt mit KI: Wie schützen Sie Ihre Mitarbeiter bei der Benutzung von GenAI Apps und ihre KI Apps vor neuartigen Angriffen?

Cedric Feist erläuterte in seiner Session, wie Unternehmen ihre Mitarbeiter und KI-Anwendungen vor neuartigen Angriffen schützen können. Er stellte Lösungen wie AI Access Security und AI Security Posture Management vor, die Sichtbarkeit, Data Loss Prevention und Schutzmechanismen bieten. Zudem wurde auf die Herausforderungen durch Prompt Injection, unsichere Trainingsdaten und die Nutzung von KI durch Angreifer eingegangen.

In der Session von Cedric Feist wurde die Sicherheit bei der Nutzung von Generative AI (GenAI) Apps und der Schutz von KI-Anwendungen vor neuartigen Angriffen thematisiert. Feist betonte die Bedeutung des Schutzes sensibler Daten und Unternehmensressourcen, insbesondere angesichts der zunehmenden Integration von Large Language Models (LLMs) wie ChatGPT in Anwendungen. Er hob hervor, dass die Nutzung solcher Technologien zwar Effizienzgewinne und Vorteile wie verbesserte Kommunikation bietet, jedoch auch neue Bedrohungen mit sich bringt.

Ein zentraler Punkt war die Notwendigkeit, die Sichtbarkeit über genutzte Anwendungen und Datenflüsse zu erhöhen. Feist stellte AI Access Security vor, eine Lösung, die über 1.000 Generative AI Apps klassifiziert und deren Risiko bewertet. Diese Lösung ermöglicht es Unternehmen, den Zugriff auf bestimmte Anwendungen zu kontrollieren und Datenverluste zu verhindern. Er betonte, dass es wichtig sei, sowohl die Daten, die an KI-Modelle gesendet werden, als auch die zurückkommenden Ergebnisse zu analysieren, um potenzielle Bedrohungen zu erkennen und zu blockieren.

Ein weiteres Thema war die Sicherheit bei der Entwicklung eigener KI-Anwendungen. Feist erläuterte, wie AI Security Posture Management (AI SPM) Unternehmen dabei unterstützt, ihre Entwicklungsumgebungen und Daten zu schützen. Er wies auf die Risiken durch unsichere Trainingsdaten und Prompt Injection hin, die die Integrität von KI-Modellen gefährden können. Zudem betonte er die Bedeutung von Sicherheitslösungen, die in Cloud-Umgebungen integriert werden können, um eine umfassende Absicherung zu gewährleisten.

Feist ging auch auf die Nutzung von KI durch Angreifer ein. Er erklärte, dass KI-gestützte Angriffe die Zeit bis zur Entwicklung und Durchführung von Exploits erheblich verkürzen können. Um dem entgegenzuwirken, stellte er Precision AI vor, eine Lösung, die Machine Learning und Generative AI nutzt, um Angriffe zu erkennen und abzuwehren. Diese Technologie basiert auf umfangreichen Datenanalysen und ermöglicht es, auch unbekannte Bedrohungen zu identifizieren.

Abschließend betonte Feist, dass Unternehmen proaktiv handeln müssen, um ihre Mitarbeiter und Anwendungen zu schützen. Er lud die Teilnehmer ein, weitere Informationen an ihrem Stand zu erhalten und die vorgestellten Lösungen zu diskutieren.