KI-Governance als strategische Aufgabe
In Unternehmen, Verwaltungen und Organisationen ist daher eine ganzheitliche KI-Governance nötig. Diese umfasst Fragen im IT-Bereich, benötigt darüber hinaus aber auch verbindliche Regelungen und Aufmerksamkeit von Führungskräften und Mitarbeitenden. Dazu gehören insbesondere Schulungskonzepte, klar definierte Rollen und Mechanismen für die Kontrolle aller KI-Aktivitäten und die Einhaltung von Compliance- und Sicherheitsstandards.
Bei jeglicher Verwendung von KI-Tools, -Agenten oder -Systemen gilt es für Organisationen eine Reihe von Aspekten zu beachten:
1. Dimension Datenschutz
In Sachen Datenschutz unterliegen KI-Anwendungen in der EU schon geraume Zeit klaren Regulierungen. In erster Linie ist hier die Datenschutzgrundverordnung (DSGVO) und in der deutschen Umsetzung das Bundesdatenschutzgesetz (BDSG) zu beachten. Danach dürfen personenbezogene Daten nur zweckgebunden und rechtlich legitimiert verarbeitet werden. Der Einsatz von KI-Diensten erfordert eine strenge Datenkontrolle – idealerweise innerhalb einer souveränen Infrastruktur.
Ein Risiko ist die unkontrollierte Verwendung externer Tools – das Phänomen der sogenannten Schatten-KI. Wenn Mitarbeitende zum Beispiel externe KI-Dienste nutzen, ohne dass die Unternehmens-IT informiert ist, können vertrauliche Unternehmensdaten unbeabsichtigt preisgegeben werden. Dies untergräbt Compliance und birgt erhebliche datenschutzrechtliche Risiken.
Mehr dazu im Blog-Artikel „Schatten-KI: Eine wachsende Herausforderung für Unternehmen“.
2. Dimension KI-Sicherheit
Auch für Sicherheitsanforderungen an KI-Anwendungen gibt es einen europäischen Rechtsrahmen. Der EU AI Act unterscheidet dabei nach Risiko. Für Systeme mit geringerem Risiko gibt es kaum Beschränkungen, Hochrisiko-KI, wie medizinische Software oder automatisierte Rekrutierungssysteme unterliegen strengen Vorschriften. KI-Systeme, die Menschen manipulieren oder diskriminieren, sind komplett verboten. Für die Umsetzung sind Qualitäts- und Kontrollmechanismen und klare Zuständigkeiten nötig.
Mehr dazu im Blog-Artikel „Der EU AI Act – Überblick und Bedeutung des EU-Gesetzes zur künstlichen Intelligenz“.
Aus Sicht von Unternehmen, Verwaltungen und anderen Organisationen müssen KI-Anwendungen zudem vor externen Angriffen geschützt werden. Dafür braucht es grundlegende IT-Sicherheitsanforderungen etwa zum Zugriffsschutz, zu Rechtekonzepten, zur Protokollierung und zur Ausfallsicherheit.
3. Dimension Transparenz
Seit Kurzem gelten in der EU weitere Regeln zu KI. Der gerade in Kraft getretene Artikel 50 des EU AI Acts regelt vor allem Transparenzpflichten für KI-generierte Inhalte. Grundsätzlich sollen KI-generierte oder -modifizierte Inhalte als solche gekennzeichnet werden. Dabei reichen die Wasserzeichen der KI-Anbieter in der Regel nicht. Bei Texten beschränken sich die Regeln auf veröffentlichte Inhalte – interne Memos, Angebote oder E-Mails sind nicht betroffen. Und auch öffentlichkeitsrelevante Texte sind ausgenommen, wenn ein Mensch die redaktionelle Verantwortung übernimmt. Bei der externen Kommunikation braucht es daher einen sauberen Freigabeprozess vom KI-Entwurf über die fachliche und stilistische Prüfung bis zur namentlichen Freigabe – dann müssen beispielsweise Pressemitteilungen und Blogbeiträge nicht gekennzeichnet werden. Für manche Fälle gilt zudem eine mehrmonatige Übergangsfrist.
4. Dimension – Digitale Souveränität
Digitale Souveränität bedeutet für Unternehmen, Verwaltungen und andere Organisationen, dass sie die Kontrolle über ihre Technologien und Daten haben. Dafür ist es entscheidend, wo Daten gespeichert, von wem diese verarbeitet und verwendet werden und wer die Kontrolle über die entsprechende Infrastruktur hat. Dabei spielen Cloud-Lösungen eine entscheidende Rolle. Das Training und die Bereitstellung von KI-Modellen laufen zunehmend in Cloud-Umgebungen. Diese müssen die Speicherung und Verarbeitung der Daten sicher und datenschutzkonform gewährleisten – so unabhängig wie möglich von politischen Entscheidungen der Herkunftsländer der Anbieter und von den Unternehmensentscheidungen der Anbieter.
Mehr dazu „Souveräne KI: Chancen, Herausforderungen und die GISA AI Family“.
Was zertifizierte KI-Beratende für Sie tun können
Zertifizierte KI-Beratende bringen umfassendes Know-how rund um KI ein – passgenau für spezifische Kundenbedürfnisse. Sie analysieren dafür bestehende Systeme und entwickeln passende Konzepte für KI-Lösungen und Strategien. Sie begleiten die Umsetzung und Integration in die Geschäftsprozesse und unterstützen Mitarbeitende bei deren Anwendung und Nutzung. Schließlich beraten sie die Organisationen in allen Governance-Fragen rund um KI.
KI-Beratung von GISA
Die Wahl des passenden Beratungspartners im Bereich KI ist entscheidend für den langfristigen Erfolg. GISA steht Ihnen als erfahrener Dienstleister mit zertifizierten KI-Beratenden zur Seite. Ergänzend dazu haben wir mit der GISA AI Family sichere Lösungen entwickelt, die individuelle Anforderungen erfüllen, sich leicht an Ihren Bedarf anpassen lassen und eine strikte Datenkontrolle erlauben.
Der erfolgreiche Einsatz von Künstlicher Intelligenz braucht jedoch mehr als gute Ideen und Tools. Entscheidend ist eine klare Vorstellung davon:
- Welchen Beitrag kann KI zur eigenen Strategie leisten?
- Wie gut ist die Organisation darauf vorbereitet?
- Welche Anwendungsfälle schaffen einen konkreten Mehrwert?
In unserem KI-Ideation Workshop bestimmen wir gemeinsam Ihren aktuellen KI-Reifegrad und betrachten die strategischen, organisatorischen, technologischen und regulatorischen Rahmenbedingungen für den Einsatz von KI. Darauf aufbauend identifizieren wir mit Ihnen geeignete KI-Anwendungsfälle und bewerten und priorisieren diese nach Nutzen, Umsetzbarkeit, Voraussetzungen und Risiken.
Das Ergebnis ist eine auf Ihre Organisation zugeschnittene KI-Roadmap, die strategische Handlungsfelder und konkrete nächste Schritte zusammenführt und so die Grundlage schafft, KI nachhaltig, sicher und wirksam einzusetzen.
