KI versus Datenschutz - Freund oder Feind

Künstliche Intelligenz (KI) hält Einzug in Vertrieb und Marketing und eröffnet damit neue Möglichkeiten zur Kundenansprache und -gewinnung. KI-gestützte Systeme analysieren heute bereits Kundendaten, automatisieren Marketingprozesse und Kundenkommunikation, personalisieren Angebote, finden den besten Preis und den idealen Zeitpunkt für Kaufimpulse. Doch der Einsatz von KI birgt auch Risiken - insbesondere für den Datenschutz. 

In unserem triniBlog beleuchten wir diesmal die Herausforderungen des Einsatzes von KI im Vertrieb und Marketing aus datenschutzrechtlicher Perspektive:

• Welche datenschutzrechtlichen Risiken ergeben sich beim Einsatz von KI-basierten Systemen im Vertrieb und Marketing?
• Mit welchen Gegenstrategien und Werkzeugen können diese Risiken minimiert werden?
• Was bringt der neue EU AI Act für Unternehmen?

Der Blogartikel richtet sich damit an CEOs, CIOs, CISOs, Marketing- und VertriebsleiterInnen und alle, die sich für die Auswirkungen von KI auf den Datenschutz im Vertrieb und Marketing interessieren.

 Und los geht's!

 

 

 1  KI im Vertrieb und Marketing nutzen • warum ist Datenschutz relevant?

Gerade im digitalen Vertrieb und Marketing werden in hohem Maße personen-bezogene Daten verarbeitet, um personalisierte Kommunikation, Angebote und Empfehlungen automatisiert und KI-gestützt erstellen zu können. Datenschutz spielt daher bei der Verwendung von KI in Vertrieb und Marketing aus mehreren Gründen eine wichtige Rolle:

• Schutz personenbezogener Daten • KI-Systeme verarbeiten oft große Mengen personenbezogener Daten, wie z. B. Namen, Adressen, E-Mail-Adressen und Kaufverhalten. Diese Daten müssen nach den Vorgaben der Datenschutz-Grundverordnung (DSGVO) geschützt werden.
• Vermeidung von Diskriminierung • KI-Systeme können diskriminierende Entscheidungen treffen, wenn sie nicht sorgfältig entwickelt und eingesetzt werden. Beispielsweise könnten KI-Systeme bestimmte Bevölkerungsgruppen von bestimmten Angeboten oder Dienstleistungen ausschließen.
• Wahrung der Privatsphäre • KI-Systeme können die Privatsphäre der Nutzer beeinträchtigen, indem sie deren Verhalten und Gewohnheiten analysieren.
• Aufbau von Vertrauen • Unternehmen, die KI-Systeme einsetzen, müssen das Vertrauen der Nutzer gewinnen und sicherstellen, dass ihre Daten verantwortungsvoll verarbeitet werden.
• Vermeidung von Bußgeldern • Unternehmen, die gegen die DSGVO verstoßen, können mit hohen Bußgeldern belegt werden.

Sehen wir uns also die Risikoszenarien etwas genauer an.

 2  Risikoszenarien und Gegenstrategien beim Einsatz von KI 

Der Einsatz von Künstlicher Intelligenz (KI) in Bezug auf Datenschutz birgt mehrere Risikoszenarien. Hier sind fünf dieser Risiken sowie entsprechende Gegenstrategien und Tools, mit denen Sie den den Datenschutz verbessern können:

Risiko 1  • Datenmissbrauch und unautorisierte Zugriffe

Hackerangriffe, Datenpannen und Insiderangriffe gefährden die Sicherheit der Daten. Personenbezogene Daten können missbraucht werden für Spam und Betrug. Manipulation durch personalisierte Werbung und gezielte Desinformationen kann stattfinden. Unternehmen müssen daher technische und organisatorische Sicherheitsmaßnahmen treffen, Zugangskontrollen und Datenschutzschulungen für Mitarbeiter durchführen sowie Transparenz und Kontrollmöglichkeiten für Nutzer gewährleisten.

Gegenstrategien:

• Implementierung von strengen Zugriffskontrollen.
• Verschlüsselung der Daten in Ruhe und in Bewegung.
• Überwachung der Datenzugriffe.
• Implementierung von Korrekturmöglichkeiten für Daten.
• Schulung der Mitarbeiter bezüglich Datenschutzbestimmungen.

Werkzeuge:

• Datenschutz- und Verschlüsselungssoftware wie z.B. VeraCrypt
• Zugriffsüberwachungstools aus dem Bereich SIEM (Security Information and Event Management) wie z.B. Splunk

 

Risiko 2  • Diskriminierung und Voreingenommenheit

KI-Systeme lernen aus Datensätzen, die oft menschliche Vorurteile und Stereotypen widerspiegeln. Dies kann dazu führen, dass bestimmte Bevölkerungsgruppen von Angeboten und Dienstleistungen ausgeschlossen werden oder dass sie unfair behandelt werden.  KI-Algorithmen können aufgrund voreingestellter Daten oder unzureichender Diversität in den Trainingsdaten diskriminierende Entscheidungen treffen.  Beispielsweise könnten KI-Systeme Frauen bei der Kreditvergabe benachteiligen oder Menschen mit bestimmten ethnischen Merkmalen bei der Jobsuche diskriminieren.

Gegenstrategien:

• Sorgfältige Auswahl und Überprüfung der Trainingsdaten auf Fairness und Voreingenommenheit.
• Bias-Detection-Tools zur Identifizierung von Verzerrungen und Verbesserung der Algorithmen zur Verringerung von Voreingenommenheit nutzen.
• Mechanismen zur Kontrolle und Korrektur von Fehlern implementieren.
• Ethische Richtlinien für den Einsatz von KI im Vertrieb und Marketing entwickeln und sicherstellen, dass diese Richtlinien eingehalten werden.

Werkzeuge:

• Bias Detection Frameworks wie Fairness Indicators von TensorFlow Model Analytics 
• Diversitätsfördernde Algorithmen
• spezialisierte Audit-Tools

 

Risiko 3  • Fehlende Transparenz und Erklärbarkeit

KI-Modelle sind oft komplex und schwer zu verstehen. Oftmals ist es für Nutzer nicht nachvollziehbar, wie KI-Systeme Entscheidungen treffen und warum sie bestimmte Angebote oder Dienstleistungen empfehlen. Nutzer können ihre Daten und die Entscheidungen von KI-Systemen nicht kontrollieren, wenn sie nicht verstehen, wie diese funktionieren. Wenn die Funktionsweise von KI-Systemen nicht transparent ist, ist es schwierig festzustellen, ob sie diskriminieren oder voreingenommen sind.

Nutzer, die nicht verstehen, wie KI-Systeme funktionieren, neigen daher dazu, diesen weniger zu vertrauen. 

Gegenstrategien:

• Funktionsweise von KI-Systemen klar und verständlich erklären.
• Förderung der Transparenz bei KI-Entscheidungen und der Möglichkeit, diese zu hinterfragen.
• Verwendung von Modellinterpretationstechniken und Erstellung von verständlichen Dokumentationen.
• Entwickler von KI-Systemen für die Bedeutung von Transparenz und Erklärbarkeit sensibilisieren.

Werkzeuge:

• Modellinterpretationstools wie LIME (Local Interpretable Model-agnostic Explanations)
• oder SHAP (SHapley Additive exPlanations).

 

Risiko 4  • Datenschutzverletzung durch Dritte

Unternehmen, die KI-Lösungen von Drittanbietern für Marketing und Vertrieb nutzen, geben damit oft sensible Kundendaten an diese weiter. Externe Akteure könnten versuchen, auf diese Daten zuzugreifen oder sie zu stehlen, insbesondere wenn diese Daten über KI-Modelle verarbeitet und gespeichert werden. Diese können damit Identitätsdiebstahl begehen, Personen diskriminieren oder  persönliche Daten verkaufen.

Gegenstrategien:

• Vertrauenswürdige Drittanbieter auswählen, die angemessene Sicherheitsmaßnahmen zum Schutz von Daten gewährleisten.
• Verträge mit klaren Datenschutzbestimmungen abschließen.
• Kontrollmechanismen implementieren, um sicherzustellen, dass Dritte die Daten nur für den vereinbarten Zweck verwenden.
• Stärkung der Sicherheitsinfrastruktur und Verschlüsselung sowie regelmäßige Sicherheitsprüfungen und -audits.
• Einsatz von Firewall- und Intrusion-Detection-Systemen
• Schulung und Sensibilisierung der eigenen Mitarbeiter

Werkzeuge:

• Firewalls
• Intrusion Detection Systems (IDS)
• Sicherheitsüberwachungstools

 

Risiko 5  • Nichtkonforme Nutzung persönlicher Daten

Unternehmen müssen die gesetzlichen Vorgaben zum Datenschutz einhalten, insbesondere die Datenschutz-Grundverordnung (DSGVO). Die DSGVO regelt die Verarbeitung personenbezogener Daten und schützt die Rechte der betroffenen Personen insbesondere in Sinne von:

• Transparenz: Unternehmen müssen die Nutzer transparent darüber informieren, welche Daten von ihnen erhoben und wie diese Daten verarbeitet werden.
• Zweckbindung: Die Datenverarbeitung muss für einen bestimmten Zweck erfolgen und darf nur für diesen Zweck verwendet werden.
• Datenminimierung: Es sollten nur so viele Daten wie nötig erhoben und verarbeitet werden.

Unternehmen, die KI-Systeme einsetzen, dürfen Daten nur für den vereinbarten Zweck verwenden und müssen die Einwilligung der betroffenen Person erheben um deren Daten zu verarbeiten. Sie müssen Daten vor unbefugtem Zugriff schützen und betroffenen Personen Auskunft über die erhobenen Daten und die Möglichkeit zur Korrektur oder Löschung geben.

Gegenstrategien:

• Technische und organisatorische Maßnahmen zum Schutz der Daten treffen.
• Einwilligung zur Datennutzen von den betroffenen Personen einholen.
• Datenschutz-Folgenabschätzungen (DPIA) durchführen vor dem Einsatz von KI.
• Schulung der Mitarbeiter in Bezug auf Datenschutzprinzipien.
• Einen Datenschutzbeauftragten benennen, wenn dies erforderlich ist.

Tools:

• DSMS Datenschutz-Management-Systeme wie z.B. 4Conform 
• Compliance-Management-Software
• Datenschutz-Folgenabschätzungs-Tools
• Schulungsplattformen zur Datenschutz-Compliance

 

 3  Der EU AI Act und sein Beitrag zum Datenschutz

Der EU AI Act ist eine neue Verordnung, die die Entwicklung und Nutzung von Künstlicher Intelligenz (KI) in der Europäischen Union regelt. Ziel ist es, ein sicheres und ethisches Umfeld für die Entwicklung und Nutzung von KI zu schaffen und gleichzeitig die Grundrechte und Sicherheit der Menschen zu schützen.

Die Kernelemente des EU AI Act sind: 

• Verbot von KI-Anwendungen mit unannehmbarem Risiko:
  • Darunter fallen z.B. Social Scoring durch Behörden und Manipulation von Menschen durch subliminale Techniken.
• Strenge Auflagen für riskante KI-Anwendungen
  •  Dies betrifft z.B. Gesichtserkennungssysteme und KI-Systeme zur Bewertung der Kreditwürdigkeit. Diese Systeme müssen strengen Auflagen in Bezug auf Sicherheit, Transparenz und Fairness genügen.
• Förderung von unbedenklichen KI-Anwendungen
  •  KI-Anwendungen, die keine Risiken für die Grundrechte und Sicherheit der Menschen darstellen, sollen gefördert werden.
• Schaffung einer europäischen KI-Behörde
  •  Die EAI überwacht die Einhaltung der Verordnung und fördert die Entwicklung vertrauenswürdiger KI-Lösungen.

Der EU AI Act ist ein wichtiger Schritt zur Regulierung von KI in der EU. Die Verordnung soll ein Gleichgewicht zwischen Innovation und dem Schutz der Grundrechte und Sicherheit der Menschen herstellen. Der EU AI Act wird 2024 in Kraft treten und soll für riskante KI-Anwendungen ab 2025 zur Anwendung kommen.

 

 4  Fazit zu KI und Datenschutz in Vertrieb und Marketing

Zusammengefasst ist festzustellen, dass der Datenschutz bei der Verwendung von Künstlicher Intelligenz in Vertrieb und Marketing von großer Bedeutung ist. Unternehmen müssen geeignete Maßnahmen treffen, um Datenschutz zu gewährleisten und das Vertrauen der Nutzer zu gewinnen bzw. zu erhalten.

Der EU AI Act wird dabei weitreichende Auswirkungen auf die Entwicklung und Nutzung von KI in der EU haben. Unternehmen, die KI-Anwendungen entwickeln oder nutzen, müssen die Anforderungen der Verordnung erfüllen. Falls Sie sich unsicher sind, welche Auswirkungen der EU AI Act für Ihr KI-System hat, dann nutzen Sie dafür den  →  EU AI Act Compliance Checker. 

Darüber hinaus sollten Unternehmen Bewusstsein für das Thema bei ihren MitarbeiterInnen schärfen und klare Richtlinien für den Einsatz von KI in Vertrieb und Marketing entwickeln. Diese Richtlinien sollten sicherstellen, dass KI-Systeme von den MitarbeiterInnen verantwortungsvoll eingesetzt werden, Geschäftsgeheimnisse gewahrt bleiben und die Rechte und Freiheiten der Nutzer nicht beeinträchtigt werden.

Die Wirtschaftskammer Österreich stellt dazu einen KI Guideline Generator zur Verfügung, den Sie kostenlos für Ihr Unternehmen nutzen können.

 Zum KI Guideline Generator

 

 

 

   Weiterführende Links

• Zum →  Fokustalk Nachbericht der WKK "Künstliche Intelligenz schlägt natürliche Dummheit" 
• Zum →  Fokustalk Nachbericht des Software Internet Clusters 
• Zur → Wirtschaftkammer Kärnten Fokustalk Einladung 
• Zum → WKK/UBIT Arbeitskreis Digital Sales (Leitung Bernd Buchegger, trinitec)
• Zum → WKK/UBIT Arbeitskreis Datenschutz (Leitung Walter Wratschko, der DSGVO Scout)
• Zur → Homepage des EU AI Act
• Zur → Datenschutz Grundverordnung 
• Blogartikel → Das Date zwischen Datenschutz und der Künstlichen Intelligenz
• Blogartikel → Künstliche Intelligenz und Datenschutz
• Blogartikel → KI und Datenschutz in Unternehmen: Risiken minimieren, Potenziale nutzen

 

  Bildquellen

• Blogbanner: OpenAI Dall-E
• Fokustalk Bild: Wirtschaftskammer
• EU AI Act Logo: Future of Life Institute (FLI)

 

Rechtlicher Hinweis: Diese Zusammenfassung ist lediglich eine allgemeine Darstellung und ersetzt keine Rechtsberatung.