Security News
Das Wichtigste auf vier Seiten
Secorvo Security News
Editorial: Halluzinierte Wirklichkeit
Alter Wein in neuen Schläuchen - danach klingt die aktuelle KI-Euphorie, zumindest in den Ohren derjenigen, die die zahlreichen KI-Wellen der vergangenen 40 Jahre miterlebt haben. Neu ist allerdings die beeindruckende Leistungsfähigkeit heutiger Sprachmodelle. Da vergisst man leicht, dass sie wenig anderes liefern als eine Prognose für das nächste Wort. Dass wir einer auf Wort-Wahrscheinlichkeiten basierenden Ausgabe einen Sinn beimessen, verrät vielleicht mehr über unser eigenes Denken als über die KI.
"Wissen" in unserem bisherigen Verständnis besitzt ein Sprachmodell allerdings nicht: Ein Wikipedia-Eintrag und oft auch eine Internet-Recherche sind in der Regel zuverlässiger als die Antwort eines Chatbots. Etwas zugespitzt ist ein KI-Chatbot ein Dilettant, der sich gut ausdrücken kann - ein Blender.
Was aber macht ein Blender, wenn er nicht mehr weiter weiß? Er "ergänzt" seine Ausführungen auf der Grundlage seines Halbwissens kreativ. Bei einem Chatbot nennt man das "Halluzinieren": Namen, Daten und Fakten niedrigerer Wahrscheinlichkeiten werden hinzugefügt. Das Ergebnis hat dann bestenfalls noch am Rande etwas mit der Wirklichkeit zu tun - ist aber hübsch formuliert.
Sprachmodelle werden derzeit vorwiegend wie ein "Orakel" zu allen möglichen Themen befragt. Die Ergebnisse werden meist separat verarbeitet - im Kopf, in Dokumenten, in Datenbanken. Genau hier liegt die eigentliche Gefahr: "Halluzinierte" oder auch nur "nicht ganz richtige" Ausgaben finden zunehmend Eingang in Überzeugungen und seriöse Dokumente: Presseartikel, Studien, Datenbanken.
Darunter finden sich auch Angaben über Personen. Art. 14 DSGVO verpflichtet Verarbeiter, Betroffene über die Verarbeitung personenbezogener Daten zu informieren, die nicht direkt bei diesen erhoben wurden - damit wird Datenschutz zum Chatbot-Korrekturfilter. Hilfreich. Solange er nicht missachtet wird.
Download Smartphone-Version
- Wir freuen uns über Ihr Feedback zur aktuellen Ausgabe.
Der Zeitbedarf für die Filterung und Bewertung von Nachrichten und Informationen wächst auch im Gebiet IT-Sicherheit ständig. Mit den seit Juli 2002 monatlich erscheinenden Secorvo Security News (vier Seiten, pdf) möchten wir Sie dabei unterstützen. Denn auch auf Secorvo prasseln täglich unzählige Informationen ein, die wir filtern, diskutieren, abwägen und bewerten müssen. Daraus entstand die Idee, Sie davon profitieren zu lassen.
Ihr Mehrwert
Die Secorvo Security News machen Sie auf wichtige aktuelle Ereignisse und Entwicklungen in der IT-Sicherheit aufmerksam, erleichtern Ihnen durch die Angabe der wesentlichen Quellen die Informationsrecherche und helfen Ihnen durch eine unabhängige Expertenmeinung bei der Bewertung dieser Nachrichten.
News Archiv
Die Secorvo Security News erscheinen seit Juli 2002. Über unser Archiv können Sie alle bisher erschienenen Ausgaben abrufen. Sie finden dort auch jeweils eine gesammelte Jahresausgabe.
Kostenloses Abo
Gerne informieren wir Sie - unentgeltlich - monatlich bei Erscheinen der neuen Ausgabe per E-Mail durch Zusendung des Inhaltsverzeichnisses. Dazu genügt eine E-Mail an security-news@secorvo.de.
Ansprechpartnerin
Susanne Cussler
Telefon +49 721 255171-0
redaktion-security-news@secorvo.de
ISSN 1613-4311
AbonnierenSSN-Archiv