Sicherheit und KI - Chancen, Bedrohungen, Lösungen

Das zweitägige Seminar vermittelt die für die Bewertung der Bedrohungen und Chancen durch den Einsatz von KIs (LLMs) erforderlichen rechtlichen und technischen Grundlagen. Es werden aktuelle Entwicklungen beim KI-Einsatz vorgestellt und Möglichkeiten aufgezeigt, KIs in der IT-Sicherheit und dem Informationssicherheitsmanagements einzusetzen.

Inhalte des KI-Seminars

  • Das Seminar erläutert die technische Funktionsweise von LLMs und zeigt deren Möglichkeiten und Grenzen auf
  • stellt Anforderungen an eine sinnvolle Nutzung von KIs vor, wie Methoden des "guten Promptens", Tokenkontrolle und andere Best Practices
  • vertieft die Methoden durch praktische Übungen mit unterschiedlichen KI-Lösungen
  • gibt eine Übersicht der durch KIs geänderten Bedrohungssituation: Wie ändern KIs die Sicherheitslage? Welche Risiken müssen wir neu bewerten? Wie ändern sich unsere Threat Models?
  • zeigt Einsatzmöglichkeiten für KIs in der Informationssicherheit und die damit verbundenen Chancen
  • gibt einen Ausblick auf die weitere Entwicklung von KIs und deren Einfluss auf die Informationssicherheit

In praktischen Übungen lernen Sie an unterschiedlichen KI-Systemen, welchen Aufwand (Token) Anfragen erzeugen, wie KI-Chatbots mit ihren jeweiligen KIs kommunizieren und welche Daten dabei übermittelt werden.

Nach dem Seminar können Sie die Einsatzmöglichkeiten und Gefahren eines KI-Einsatzes im Untenrnehmen einschätzen und kennen die Anforderungen an die internen Regelungen, denen der Einsatz unterliegen sollte.

Was das KI-Seminar von Secorvo auszeichnet

  • Das Seminar ist anbieterunabhängig: Es werden Grundprinzipien vermittelt, die für alle KI-Systeme (LLMs) gelten und bei deren Nutzung beachtet werden sollten.
  • Durch die ständige Weiterentwicklung der Seminarinhalte vermittelt das Seminar trotz der schnellen Entwicklungen gerade bei Large Language Models (LLMs) aktuelle Grundlagen, Einschätzungen und Empfehlungen.
  • Die Referenten sind praxiserfahrene Consultants und setzen seit mehreren Jahren LLMs in der Informationssicherheit ein. In das Seminar fließen daher unsere eigenen Erfahrungen mit der Nutzung von KIs im Rahmen unserer Beratungstätigkeit ein.
  • Durch praktische "Hands-on"-Übungen erleben Sie, welche Wirkung die vorgestellten Grundanforderungen an die Nutzung von KIs haben, lernen die Kosten von LLMs zu kontrollieren und unnötige Kosten zu vermeiden.
  • Das Seminar ist als Weiterbildung für die T.I.S.P.-Rezertifizierung anerkannt.

Zielgruppe

Wir empfehlen Ihnen das Seminar als KI-Weiterbildung für Informationssicherheits- und IT-Sicherheitsverantwortliche, CISOs, ISBs und CIOs, wenn Sie die Auswirkungen von KIs auf die Informationssicherheit bewerten und über den sinnvollen Einsatz von LLMs im Unternehmen entscheiden wollen oder müssen.

Teilnehmerbewertung

Das KI-Seminar wird 2027 erstmalig angeboten, daher liegen uns noch keine Teilnehmerbewertungen vor.

 

Anmeldung

Frequently Asked Questions (FAQ)

Was wird auf dem Seminar unter "KI" verstanden?

Für den Begriff der "Künstlichen Intelligenz" (KI) gibt es bisher keine einheitliche Definition. Historisch umfasst er so unterschiedliche Konzepte wie Expertensysteme, maschinelles Lernen und Chatbots. Auf diesem Seminar werden unter dem Begriff KI "Large Language Models" (LLMs) verstanden: KI-Systeme, die auf dem Prinzip künstlicher neuronaler Netze und Deep Learning basieren und mit hohem Rechenaufwand und Zufallselementen natürlichsprachliche Antworten auf der Grundlage von Wahrscheinlichkeiten von Wort-Fragmenten berechnen.

 

Welche Themen behandelt das Seminar?

Das Curriculum umfasst die folgenden Themen:

  • Grundlagen und Funktionsweise moderner KI-Systeme
  • Sprachmodelle (LLMs), Transformer und technische Konzepte
  • Erfolgreiches Prompting und Context Engineering
  • Ergebnisverifikation (Halluzinationen, Bias und überzeugende Fehlinformationen)
  • Rechtsfragen (Datenschutz, KI-Verordnung und ISO 42001)
  • Prompt Injections und Angriffe auf KI-Systeme
  • KI als Werkzeug für Cyberangriffe
  • KI als Werkzeug der Informationssicherheit
  • Schutzmaßnahmen für Unternehmen und KI-Anwender
  • Praktische Übungen und interaktive Fallbeispiele
Welche Angriffe auf KIs werden auf dem Seminar vorgestellt?

Wichtige Angriffe, die auf dem Seminar erläutert werden, sind Direct/Indirect Prompt Injection, Context Manipulation, Data Exfiltration und Data Poisoning. Auch Model DoS und Cross Site Scripting können bei LLMs auftreten.

 

Welche Gefährdungen durch KIs sind Thema des Seminars?

KIs werden bereits eingesetzt in der Schwachstellensuche, der Entwicklung von Exploits und der Konzeption komplexer Attacken. Aber auch als Hilfsmittel für die Ausgestaltung bekannter Angriffsmethoden, insbesondere beim Social Engineering, helfen KIs, die Angriffe zu perfektionieren.

 

Welche Länge und welches Format hat das Seminar?

Das Seminar ist zweitätig und findet in den Räumen von Secorvo statt. Da es zahlreiche praktische Übungen umfasst, die von den Referenten betreut werden, ist eine Durchführung als Online-Seminar in dieser fachlichen Tiefe nicht möglich.

 

Für wen ist die Teilnahme am Seminar zu empfehlen?

Das Seminar eignet sich für Sicherheitsverantwortliche, Administratoren, CISOs und IT-Sicherheitsbeauftragte, aber auch für Entscheider mit technischem Hintergrund, CIOs und KI-Verantwortliche. Es vermittelt die zur Erfüllung der Schulungspflicht nach Art. 4 der KI-Verordnung erforderlichen Kenntnisse, daher eignet es sich auch zur Vorbereitung auf die Durchführung interner KI-Schulungen.

Können wir ein ganzes Team schulen lassen?

Für geschlossene Teilnehmergruppen bietet Secorvo Zusatztermine an. Ab 12 Teilnehmern wird das Seminar exklusiv durchgeführt.

Ihre Referenten

Kai Jendrian Kai Jendrian
Security Consulting
Dr. Alexander Koch Dr. Alexander Koch
Security Consulting
Friederike Schellhas-Mende Friederike Schellhas-Mende
Privacy Consulting
Michael Schrempp Michael Schrempp
Security Consulting
Termine
Ort
  • Bahnhofplatz 8, 76137 Karlsruhe (Secorvo)
  • Klimatisierte Seminarräume direkt gegenüber dem Karlsruher Hauptbahnhof
Preise und CPE
  • 1.575 € bei Buchung bis 5 Wochen vor Beginn, sonst 1.650 € (zzgl. MwSt.)
  • Alle Preise inkl. Mittagessen und Getränke
Downloads
Seminar buchen

Anmeldung

Kontakt
Ihre Ansprechpartnerin
Vera Kuhlmann

Vera Kuhlmann
Seminarmanagement

Logo IT-Security made in Germany