Künstliche Intelligenz
Wir begleiten Unternehmen bei der Einordnung nach der europäischen KI‑Verordnung, mit Schulungen und einer KI‑Richtlinie sowie bei der KI‑Transformation von Verwaltungsprozessen.
Worum es geht
Künstliche Intelligenz kommt in den meisten Unternehmen nicht über ein Projekt ins Haus, sondern über ein Update. Der Besprechungsassistent, der Protokolle schreibt. Die Zusammenfassung im Postfach. Der Vorschlagstext im Kundensystem. Die Auswertung in der Personalsoftware.
Niemand hat eine Beschaffung angestoßen, niemand hat eine Prüfung veranlasst – und trotzdem arbeitet im Betrieb ab diesem Tag ein System, das Entscheidungen vorbereitet und Daten verarbeitet.
Das ist der eigentliche Unterschied zu früheren Technikwellen. Es gibt keinen Einführungstermin, an dem man ansetzen könnte. Deshalb beginnt unsere Arbeit immer mit derselben Frage: Was ist eigentlich schon im Einsatz?
Unsere Angebote zur künstlichen Intelligenz
-
Europäische KI‑Verordnung
Bestandsaufnahme, Einordnung und Umsetzung nach der KI‑Verordnung: welche Systeme im Haus sind, in welche Kategorie sie fallen, in welcher Rolle Sie handeln und was in Ihrem Haus dafür eingerichtet sein muss.
Mehr erfahren: Europäische KI‑Verordnung -
Schulungen zur KI
Die Pflicht zur KI‑Kompetenz erfüllen und, wichtiger, die Beschäftigten in die Lage versetzen, solche Werkzeuge sinnvoll und ohne Schaden zu nutzen.
Mehr erfahren: Schulungen zur KI -
KI‑Richtlinie
Die verbindliche Festlegung, welche Werkzeuge erlaubt sind, was hineingegeben werden darf und wer Ergebnisse freigibt – abgestimmt mit IT, Datenschutz und Betriebsrat.
Mehr erfahren: KI‑Richtlinie -
KI‑Transformation
Wo KI in Verwaltungsprozessen tatsächlich Arbeit abnimmt und wo sie nur Arbeit verlagert. Wir setzen diese Werkzeuge selbst ein und wissen daher, wo der Nutzen aufhört.
Mehr erfahren: KI‑Transformation
Was generative KI im Betrieb verändert
Generative Systeme erzeugen auf eine Eingabe hin neuen Inhalt – Text, Bilder, Code, Auswertungen. Sie suchen keine Antwort heraus, sondern bilden sie. Daraus folgen vier Eigenschaften, die für den Betrieb zählen.
-
Die Ausgabe ist plausibel, nicht geprüft
Ein Ergebnis klingt richtig, unabhängig davon, ob es stimmt. Wer es übernimmt, trägt die Verantwortung dafür – das lässt sich nicht an das System abgeben.
-
Die Eingabe verlässt unter Umständen das Haus
Was in ein solches Werkzeug geschrieben wird, kann protokolliert, gespeichert oder zur Verbesserung des Dienstes verwendet werden. Betroffen sind nicht nur personenbezogene Daten, sondern auch Geschäftsgeheimnisse und Vertragsinhalte.
-
Das Ergebnis ist nicht reproduzierbar
Dieselbe Frage kann morgen anders beantwortet werden. Für Nachvollziehbarkeit und Nachweisführung ist das ein Bruch mit allem, was man von klassischer Software gewohnt war.
-
Das System ändert sich ohne Ihr Zutun
Modelle werden ausgetauscht und erweitert. Eine Prüfung vom letzten Jahr beschreibt nicht zwingend das System von heute.
Der nächste Schritt ist bereits sichtbar: Systeme, die nicht nur Vorschläge machen, sondern handeln – Vorgänge anlegen, Nachrichten versenden, Fälle einordnen. Damit verschiebt sich die Frage von der Qualität des Textes zur Frage, wer die Entscheidung getroffen hat.
Die KI‑Verordnung in Kürze
- Verboten einige Praktiken
- Hohes Risiko umfassende Anforderungen, etwa im Personalbereich
- Transparenzpflichten je nach Funktion, auch zusätzlich Hinweis auf das System, Markierung erzeugter Inhalte, Offenlegung von Deepfakes
- Der große Rest keine besonderen Pflichten aus der Risikoeinstufung
KI‑Kompetenz ist Pflicht, unabhängig vom Risiko Maßnahmen zur Förderung, für jedes Haus, das KI einsetzt (Art. 4 KI‑VO)
Die europäische KI-Verordnung ordnet Systeme nach ihrem Risiko. Einige Praktiken sind verboten. Für Anwendungen mit hohem Risiko – etwa im Personalbereich, bei der Auswahl von Bewerbern oder der Bewertung von Beschäftigten – gelten umfassende Anforderungen an Risikomanagement, Datenqualität, Dokumentation, menschliche Aufsicht und Protokollierung.
Für eine weitere Gruppe gelten Transparenzpflichten: Menschen müssen erfahren, dass sie mit einem KI‑System sprechen, künstlich erzeugte Inhalte müssen maschinenlesbar markiert sein, und täuschend echte Bilder, Ton- oder Videoaufnahmen sind als künstlich erzeugt offenzulegen. Der große Rest unterliegt keinen besonderen Pflichten aus der Risikoeinstufung.
Zwei Punkte werden dabei regelmäßig übersehen:
Die Rolle entscheidet über die Pflichten. Wer ein System nur einsetzt, ist Betreiber und hat deutlich weniger Pflichten als der Anbieter. Wer es aber selbst entwickelt oder entwickeln lässt und unter eigenem Namen anbietet oder in Betrieb nimmt, wird rechtlich zum Anbieter. Dasselbe gilt, wenn ein Hochrisiko-System wesentlich verändert oder ein System so eingesetzt wird, dass es erst dadurch in den Hochrisikobereich fällt – etwa ein allgemeines Sprachmodell zur Vorauswahl von Bewerbern (Art. 25 KI‑VO). Daran hängt dann alles, was die Verordnung von Anbietern verlangt. Diese Grenze überschreiten Unternehmen schneller, als ihnen bewusst ist.
KI‑Kompetenz ist Pflicht, unabhängig vom Risiko. Wer KI‑Systeme einsetzt, muss Maßnahmen ergreifen, die den Aufbau von KI‑Kompetenz bei den Personen fördern, die damit arbeiten (Art. 4 KI‑VO). Das gilt für jedes Haus, das KI einsetzt – auch für das kleine. Wie wir dabei unterstützen, steht unter Schulungen zur KI.
Weshalb hier drei Themen zusammenlaufen
Die Einführung eines KI‑Systems ist selten nur eine KI‑Frage.
- Datenschutz Rechtsgrundlage, Zweckbindung, Informationspflichten, Folgenabschätzung, automatisierte Entscheidungen (Art. 22 DSGVO)
- Informationssicherheit Eingaben, Zugriff, Protokollierung, Ausfall oder Fehlverhalten
- Mitbestimmung Überwachung von Verhalten oder Leistung, Sachverständiger (§ 80 Abs. 3 Satz 2 BetrVG)
Bei uns auf einem Tisch niemand wartet auf die Rückmeldung eines Dritten
-
Datenschutz
Rechtsgrundlage, Zweckbindung, Informationspflichten, gegebenenfalls eine Folgenabschätzung – und bei Entscheidungen, die Menschen betreffen, die Grenzen für automatisierte Einzelentscheidungen (Art. 22 DSGVO).
Mehr erfahren: Datenschutz -
Informationssicherheit
Wohin gehen die Eingaben, wer hat Zugriff, wie wird protokolliert, was passiert bei Ausfall oder Fehlverhalten des Systems.
-
Mitbestimmung
Technische Einrichtungen, die Verhalten oder Leistung von Beschäftigten überwachen können, sind mitbestimmungspflichtig (§ 87 Abs. 1 Nr. 6 BetrVG). Muss der Betriebsrat die Einführung oder Anwendung von KI beurteilen, gilt die Hinzuziehung eines Sachverständigen kraft Gesetzes als erforderlich (§ 80 Abs. 3 Satz 2 BetrVG).
Diese drei Themen werden in vielen Häusern von verschiedenen Beratern bearbeitet, die sich erst abstimmen müssen. Bei uns liegen sie auf einem Tisch. Deshalb wartet bei uns niemand auf die Rückmeldung eines Dritten – und das spart Zeit, ohne dass weniger geprüft wird.
Das erste Gespräch
Ob die KI‑Verordnung für Ihr Haus ein Thema ist und wie wir dabei helfen können, klären wir in einem ersten Gespräch. Es ist kostenfrei und unverbindlich.