Zum Inhalt springen
Zur Übersicht der 80 Fragen

Teil H · Fragen 65 bis 72

Datenschutz, Ethik und Arbeitsrecht

Inhalt

Antworten auf die Fragen 65 bis 72

Wichtiger Hinweis. Dieser Teil ist eine fachliche Einschätzung auf Grundlage einer Recherche und keine Rechtsberatung. Vor jedem Einsatz mit Angaben echter Personen ist die Prüfung durch eine auf Datenschutz und Arbeitsrecht spezialisierte Kanzlei und durch die Datenschutzbeauftragte oder den Datenschutzbeauftragten der jeweiligen Organisation nötig.

Wie belastbar die Aussagen sind. Die Recherche (Notiz 05, Stand 22. November 2026) stützte sich überwiegend auf Sucheinträge und Fachbeiträge. Drei Kennzeichen zeigen den Prüfstand:

KennzeichenBedeutung
Qam Wortlaut der Quelle geprüft
Fnach Fachbeiträgen, Pressemitteilungen oder Behördenseiten
Nnicht nachgeprüft: aus Fachwissen, vor Verwendung am Gesetzestext zu prüfen

Am Wortlaut geprüft sind die zitierten Stellen der europäischen KI Verordnung (Artikel 5, 6, 26, 50 und 113 sowie Anhang III). Die deutschen Gesetzestexte und die Seiten des europäischen Rechtsportals waren aus der Arbeitsumgebung nicht abrufbar.

Drei Nutzungsfälle werden unterschieden: (a) freiwillige Reflexion und Teamentwicklung, (b) interne Besetzung und Versetzung, (c) Auswahl von Bewerberinnen und Bewerbern. Der Prototyp ist ausschließlich für (a) entworfen.

Frage 65: Auf welcher rechtlichen Grundlage könnten Beschäftigtendaten für die verschiedenen Anwendungszwecke verarbeitet werden?

Antwort. Für die freiwillige Reflexion trägt praktisch nur eine informierte, jederzeit widerrufliche und ausdrückliche Einwilligung. Für Besetzungs- und Auswahlentscheidungen wäre eine Einwilligung schwach, und die Anforderungen steigen erheblich.

Grundlage.

  • Die allgemeine Vorschrift des deutschen Rechts zur Verarbeitung für Zwecke des Beschäftigungsverhältnisses (§ 26 Absatz 1 Satz 1 Bundesdatenschutzgesetz) ist nach einer Entscheidung des Europäischen Gerichtshofs von 2023 (C-34/21) und einer Entscheidung des Bundesarbeitsgerichts von 2025 (8 AZR 209/21) für private Arbeitgeber nicht mehr anzuwenden. Maßgeblich ist Artikel 6 der Datenschutz Grundverordnung unmittelbar. F
  • Eine Betriebsvereinbarung kann den Rahmen setzen, aber keine Verarbeitung erlauben, die datenschutzrechtlich nicht erforderlich ist (Europäischer Gerichtshof 2024, C-65/23). F
  • Wertebezogene Angaben liegen nah an besonders geschützten Angaben wie weltanschaulichen Überzeugungen (Artikel 9). N
  • Die Profile sind Profiling im Sinn der Verordnung (Artikel 4 Nummer 4). Eine Folgenabschätzung ist praktisch zwingend. F

Empfehlung.

NutzungsfallMögliche GrundlageBedingungen
(a) Reflexion und TeamentwicklungEinwilligung, vorsorglich als ausdrückliche EinwilligungNichtteilnahme bleibt folgenlos. Vorgesetzte sehen keine Einzeldaten. Der Nutzen liegt bei der Person. Jeder Zweck einzeln, jederzeit widerrufbar.
Simulation mit dem Profil einer Personeigene, zweckbezogene EinwilligungDie Simulation legt die Werte dieser Person der berechtigten Leitung faktisch offen. Sie ist als bewusste Offenlegung zu behandeln.
(b) Besetzung und VersetzungEinwilligung strukturell schwach. In Betracht kämen Vertragserfüllung oder berechtigtes Interesse mit strenger Prüfung der Erforderlichkeit.Betriebsvereinbarung, Folgenabschätzung, Prüfung des Verbots automatisierter Einzelentscheidungen, Auskunft über die Logik.
(c) Bewerbungsverfahrenvorvertragliche Maßnahmen, soweit für die Feststellung der Eignung erforderlichFragen mit Bezug zu Religion, Weltanschauung oder politischer Haltung wären regelmäßig unzulässig.

Zur Rollenverteilung: Im üblichen Modell ist die Kundenorganisation verantwortlich, der Betreiber der Plattform verarbeitet in ihrem Auftrag, Rechenzentrum und gegebenenfalls ein KI Dienst sind weitere Auftragsverarbeiter. Nutzt der Betreiber Daten für eigene Zwecke, etwa zur Normierung, wird er insoweit selbst verantwortlich. F

Alternativen. Ein Modell, in dem jede Person selbst Vertragspartnerin der Plattform ist und die Organisation nie Einzeldaten erhält. Es stärkt die Freiwilligkeit, verschiebt aber die Verantwortung zum Betreiber.

Risiken und Grenzen. Die Freiwilligkeit einer Einwilligung im Beschäftigungsverhältnis wird eng geprüft. Bleiben Personen ohne Freigabe bei Überlegungen zur Zusammensetzung außen vor, kann genau das als Nachteil gelten und die Freiwilligkeit in Frage stellen. Ein Beschäftigtendatengesetz ist bis November 2026 nicht verabschiedet. F

Stand. Rechtliche Einschätzung, in wesentlichen Punkten nach Fachbeiträgen. Nicht anwaltlich geprüft.

Im Prototyp. Es werden nur synthetische Daten verarbeitet. Die Datenschutz Grundverordnung gilt trotzdem für alles, was Besuchende frei eingeben, und für technische Protokolle des Servers.

Frage 66: Welche Folgen haben DSGVO, AGG, Betriebsverfassungsgesetz und AI Act für die Entwicklung?

Antwort. Sie bestimmen die Architektur: Zweckbindung je Freigabe, Trennung der Rollen, Mindestgruppengrößen, keine Auswahlfunktion, ein rein regelbasierter Rechenkern und Unterlagen, mit denen Organisationen ihre Beschäftigtenvertretung sachgerecht unterrichten können.

Grundlage und Folgen.

RegelwerkKernpunktFolge für die Entwicklung
Datenschutz GrundverordnungEinwilligung, Zweckbindung, Datensparsamkeit, Betroffenenrechte, Folgenabschätzung, Auftragsverarbeitung FFreigabe je Zweck, Auskunft, Berichtigung, Löschung und Export in der Oberfläche, Protokoll ohne Inhalte, Vorlage für die Folgenabschätzung
Allgemeines GleichbehandlungsgesetzMittelbare Benachteiligung durch scheinbar neutrale Kriterien (§ 3 Absatz 2), Beweiserleichterung (§ 22). Werte hängen mit Alter, Religion, Herkunft und Geschlecht zusammen. N für den WortlautKeine Auswahl- oder Aufstiegsfunktion. „Passung“ ist kein Kriterium. Sollte je ein Auswahlzweck entstehen: Anforderungsanalyse, Gültigkeitsbelege, laufende Prüfung auf Benachteiligung.
BetriebsverfassungsgesetzMitbestimmung bei technischen Einrichtungen, die zur Überwachung von Verhalten oder Leistung geeignet sind (§ 87 Absatz 1 Nummer 6). Nach ständiger Rechtsprechung genügt die objektive Eignung. Dazu Unterrichtung (§ 90), Sachverständige bei KI (§ 80 Absatz 3), bei personellen Maßnahmen Personalfragebogen, Beurteilungsgrundsätze, Auswahlrichtlinien (§§ 94, 95, 99). F, Wortlaut NDie Einführung ist in Betrieben mit Betriebsrat aller Voraussicht nach schon im freiwilligen Fall mitbestimmungspflichtig. Die Plattform liefert Funktionsbeschreibung, Datenflüsse, Berechtigungen und einen Entwurf für Regelungspunkte einer Betriebsvereinbarung.
KI Verordnung der EUAnhang III Nummer 4: KI Systeme für Auswahl von Personen, für Entscheidungen über Arbeitsbedingungen, Beförderung, Kündigung, für die Zuweisung von Aufgaben nach persönlichen Merkmalen und für die Bewertung von Leistung und Verhalten gelten als hochriskant. Q Die Pflichten dafür gelten ab dem 2. Dezember 2027. Q Ein solches System gilt immer als hochriskant, wenn es Profiling betreibt. Q Verboten ist seit Februar 2025 das Ableiten von Emotionen am Arbeitsplatz. Q Wer mit einem KI System interagiert, muss darüber informiert werden, seit dem 2. August 2026. Q Betreiber, die Arbeitgeber sind, informieren Beschäftigte und ihre Vertretung vor dem Einsatz eines hochriskanten Systems. QDer Rechenkern arbeitet nach fest programmierten Formeln und ist nach den Leitlinien voraussichtlich kein KI System. F Ein Sprachmodell als Assistent wäre eines und bräuchte den Hinweis. Entscheidungsnahe Funktionen bleiben frei von KI. Die Zweckbestimmung schließt Auswahl, Beförderung, Versetzung und Kündigung aus.

Empfehlung.

  1. Die Zweckbestimmung schriftlich festlegen und in Produktbeschreibung, Nutzungsbedingungen und Oberfläche gleich formulieren. Sie sollte neben Einstellung, Beförderung und Kündigung auch Versetzung und Teambesetzung als Einzelmaßnahme ausschließen, sonst klafft eine Lücke zwischen Versprechen und Funktion des Simulators.
  2. Die Einstufung des Rechenkerns nach der KI Verordnung schriftlich dokumentieren.
  3. Ein Unterlagenpaket für Betriebsräte bereitstellen.
  4. Vor jedem Schritt in Richtung (b) oder (c) die weitere Entwicklung des Rechts abwarten.

Alternativen. Verzicht auf die Simulation mit Profilen echter Personen. Der Simulator arbeitete dann nur mit frei eingestellten Profilen. Das entschärft Datenschutz und Arbeitsrecht deutlich und kostet einen Teil des Nutzens.

Risiken und Grenzen. Behörden können das Produkt als Ganzes betrachten. Ob die Trennung von Rechenkern und Assistent trägt, braucht anwaltliche Prüfung. Die Leitlinien zu hochriskanten Systemen sind noch nicht abgeschlossen.

Stand. KI Verordnung am Wortlaut geprüft. Übrige Punkte nach Fachbeiträgen oder nicht nachgeprüft. Nicht anwaltlich geprüft.

Rückfrage. Soll der Simulator in einer ersten echten Nutzung auf frei eingestellte Profile beschränkt bleiben, bis die rechtliche Prüfung vorliegt? Meine Empfehlung: ja.

Frage 67: Welche Daten dürfen Führungskräfte, Beschäftigte und Administratoren sehen?

Antwort. Persönliche Angaben sieht nur die Person selbst. Führungskräfte und Organisationsentwicklung sehen Teams nur zusammengefasst. Die technische Administration sieht keine fachlichen Daten.

Grundlage. Datensparsamkeit, Zweckbindung und die Bedingung der Freiwilligkeit: Eine Einwilligung ist nur dann frei, wenn Vorgesetzte keine Einzeldaten sehen.

Empfehlung. Die folgende Übersicht wird im Prototyp aus den Regeln erzeugt, die das System tatsächlich durchsetzt (Seite Verwaltung). Ein automatischer Test prüft sie.

MitgliedTeamleitungOrganisationsentwicklungTechnische Administration
Eigene Antworten, Konstrukte, eigenes Profiljajajaja
Antworten, Konstrukte, Profile andererneinneinneinnein
Zusammengefasstes Profil des eigenen Teamsjajajanein
Zusammengefasstes Profil anderer Teamsneinneinjanein
Zielprofil des eigenen Teams festlegenneinjajanein
Einzelwerte einer Person in einer Simulation, mit ihrer Freigabeneinjajanein
Einzelwerte einer Person ohne ihre Freigabeneinneinneinnein
Rollen, Fristen, Einstellungenneinneinneinja
Protokolleinträge anderer Personenneinneinneinja

Dazu drei Regeln:

  1. Überall gilt die Mindestgruppengröße.
  2. Wer geantwortet oder freigegeben hat, ist für niemanden sichtbar. Gezeigt werden nur Anzahlen.
  3. Das Protokoll hält fest, wer wann was zu welchem Zweck getan hat, nie den Inhalt.

Alternativen. Eine Rolle für begleitende Fachleute, die mit ausdrücklicher Freigabe einer Person deren Konstrukte sehen, etwa für ein Einzelgespräch. Sinnvoll, im Prototyp nicht enthalten.

Risiken und Grenzen. Wer den Server betreibt, hat technisch Zugriff auf die Datenbank. Dagegen helfen Verschlüsselung mit getrennter Schlüsselverwaltung, Protokollierung administrativer Zugriffe und vertragliche Beschränkungen. Der Prototyp setzt das nicht um, weil er keine echten Daten enthält.

Stand. Als Gestaltung umgesetzt und getestet. Rechtlich nicht geprüft.

Frage 68: Wie verhindern wir die Rückidentifizierung bei kleinen Teams?

Antwort. Mit einer Mindestgruppengröße, die auch gegen Vergleiche zweier Abfragen wirkt, mit Einzelwerten ohne Verknüpfung über Dimensionen und mit der Möglichkeit, Punkte ganz abzuschalten. Ganz ausschließen lässt sich die Zuordnung in Teams, in denen sich alle kennen, nicht.

Grundlage. Eine amtlich festgelegte Mindestgröße gibt es nicht. In der Praxis sind fünf üblich, strenger sieben oder zehn. Behörden haben sich uneinheitlich geäußert. F Zusammengefasste Teamprofile bleiben aus Sicht der Plattform personenbezogen. Schwellen müssen auch gegen die Differenz zweier Abfragen wirken.

Empfehlung. Sieben Maßnahmen, alle im Prototyp umgesetzt:

  1. Mindestgruppengröße in der Berechnung: Vorgabe 5, einstellbar von 5 bis 15, nie darunter.
  2. Keine Verknüpfung: Einzelwerte erscheinen nur als sortierte Liste je Dimension. Ein Profil einer Person über mehrere Dimensionen lässt sich daraus nicht zusammensetzen.
  3. Punkte abschaltbar: Das Team kann festlegen, dass nur Kennwerte den Server verlassen.
  4. Simulation nach verbleibenden Werten: Maßgeblich ist die Zahl der verbleibenden Mitglieder, nicht die Gesamtzahl.
  5. Kein Herausrechnen: Einzelne Mitglieder lassen sich nur herausnehmen, wenn die Mitglieder ohne Freigabe entweder keine oder selbst eine ausreichend große Gruppe sind.
  6. Simulation nur auf dem Server: Der Browser erhält nie mehr, als die Rolle sehen darf.
  7. Freigegebene Konstrukte erst ab drei verschiedenen Personen, ohne Namen und in durchmischter Reihenfolge.

Für den Einsatz mit echten Personen empfehle ich eine Vorgabe von sieben und die Festlegung zusammen mit Datenschutz und Betriebsrat. Bei Teams unter zehn Personen sollten Punkte in der Voreinstellung abgeschaltet sein.

Alternativen. Vergröberung der Anzeige, etwa nur „eher links, Mitte, eher rechts“. Gezieltes Rauschen auf den Kennwerten. Beides erschwert die Rückrechnung und kostet Nachvollziehbarkeit.

Risiken und Grenzen. Liegt das Mittel eines Teams am Ende der Skala, kennt man die Werte aller. Der kleinste und der größte Wert verraten je eine Position. Über die Zeit lassen sich Veränderungen von Anzahlen mit Ereignissen im Team verbinden. Der Prototyp zeigt Spannweite und Verteilung, weil das Konzept Unterschiede sichtbar machen will und die Mitglieder dem ausdrücklich zustimmen. Der Freigabetext nennt das Risiko.

Stand. Maßnahmen umgesetzt und getestet. Angemessenheit der Schwelle: nicht behördlich oder anwaltlich geprüft.

Rückfrage. Welche Mindestgruppengröße soll als Vorgabe gelten: 5 wie im Prototyp oder 7?

Frage 69: Welche Maßnahmen verhindern, dass freiwillige Ergebnisse später ohne neue Rechtsgrundlage für andere Personalzwecke verwendet werden?

Antwort. Eine Verbindung aus Technik, Vertrag und Betriebsvereinbarung. Keine der drei Ebenen genügt allein.

Grundlage. Daten, die unter der Zusage „nicht für Personalentscheidungen“ erhoben wurden, dürfen nicht nachträglich für andere Zwecke genutzt werden. Für einen neuen Zweck braucht es neue Information, eine neue Rechtsgrundlage und getrennte Datenbestände. F

Empfehlung.

Technisch (im Prototyp umgesetzt):

  1. Freigabe je Zweck. Eine Freigabe für das Teamprofil ist keine für die Simulation.
  2. Es gibt keine Ansicht, keine Schnittstelle und keinen Export, die Führungskräften Einzeldaten liefern.
  3. Es gibt keinen Gesamtwert und keine Rangfolge, die sich in eine Entscheidung übernehmen ließen.
  4. Jeder Abruf freigegebener Einzelwerte wird mit Zweck protokolliert.
  5. Ein Widerruf wirkt sofort und entfernt auch gespeicherte Szenarien.
  6. Jede Ergebnisansicht nennt, dass sie keine Empfehlung für oder gegen einen Menschen ist.

Technisch (für den Betrieb vorzusehen): 7. Trennung der Organisationen und der Zwecke in der Datenhaltung. 8. Keine Anbindung an Personalverwaltungssysteme.

Vertraglich: 9. Zweckbestimmung in den Nutzungsbedingungen: nicht für Einstellung, Beförderung, Versetzung, Teambesetzung als Einzelmaßnahme, Leistungsbeurteilung oder Kündigung. 10. Recht zur Sperrung bei zweckwidriger Nutzung.

In der Organisation: 11. Betriebsvereinbarung mit Zweckbindung, Verbot der Leistungs- und Verhaltenskontrolle und einem Verwertungsverbot. 12. Einbindung der oder des Datenschutzbeauftragten.

Alternativen. Ein Betrieb durch eine unabhängige Stelle, bei der die Organisation nie Zugriff auf die Datenbank hat.

Risiken und Grenzen. Wer ein Bild des Simulators abfotografiert und in ein Besetzungsgespräch mitnimmt, umgeht jede Technik. Hier wirkt nur die Vereinbarung im Betrieb.

Stand. Technische Maßnahmen umgesetzt und getestet. Vertragliche und betriebliche Maßnahmen: Empfehlung, nicht anwaltlich geprüft.

Frage 70: Wie gestalten wir Löschung, Widerruf, Datenportabilität und Aufbewahrungsfristen?

Antwort. Die Person erledigt alles selbst in ihrem Profil, mit sofortiger Wirkung. Dazu kommt ein Löschkonzept je Datenart für den Betrieb.

Grundlage. Rechte auf Löschung, Widerruf und Übertragbarkeit nach der Datenschutz Grundverordnung. Als Methodik für Löschkonzepte kommen eine einschlägige Norm (DIN 66398) und das Standard Datenschutzmodell der Aufsichtsbehörden in Betracht. N

Empfehlung.

VorgangIm Prototyp
Widerruf einer Freigabesofort wirksam. Die Person geht nicht mehr in das Teamprofil ein. Fällt das Team dadurch unter die Mindestgröße, wird nichts mehr gezeigt. Gespeicherte Szenarien mit ihren Angaben werden gelöscht.
Löschen der eigenen Datenlöscht alle Erhebungen, Konstrukte, Bewertungen und Zuordnungen, setzt die Freigaben zurück und entfernt gespeicherte Szenarien des eigenen Teams
Herunterladenalle eigenen Daten als Datei in einem offenen Format
AufbewahrungJede Demonstrationsumgebung wird 14 Tage nach der letzten Nutzung vollständig gelöscht, einstellbar von 1 bis 30 Tagen
Beendenlöscht die Umgebung sofort

Für den Betrieb mit echten Daten braucht es zusätzlich:

  1. Regeln je Datenart: Antworten, Konstrukte, berechnete Werte, gespeicherte Szenarien, Zielprofile, Protokolle, Sicherungen und, falls genutzt, Eingaben bei einem KI Dienst.
  2. Auslöser: Widerruf, Austritt aus dem Team, Ende des Beschäftigungsverhältnisses, Vertragsende der Organisation, Zeitablauf.
  3. Vorschlag für Fristen: Profile zwölf Monate nach der Erhebung zur Erneuerung vorlegen, 24 Monate nach der letzten Nutzung löschen. Protokolle zwölf Monate. Sicherungen 14 Tage. Diese Fristen sind ein Vorschlag und mit der jeweiligen Organisation festzulegen.
  4. Nachweis jeder Löschung im Protokoll, ohne Inhalt.

Alternativen. Anonymisierung statt Löschung für Forschungszwecke. Bei Freitexten und kleinen Teams kaum verlässlich möglich.

Risiken und Grenzen. Sicherungen enthalten gelöschte Daten bis zu ihrem Ablauf. Zielprofile enthalten Begründungen in freiem Text. Sie sind Festlegungen des Teams und bleiben auch nach dem Ausscheiden ihrer Verfasserin bestehen. Der Name der Verfasserin sollte dann entfernt werden. Das ist im Prototyp noch nicht umgesetzt.

Stand. Kernfunktionen umgesetzt und getestet. Fristen und Löschkonzept für den Betrieb: Vorschlag.

Frage 71: Welche technischen und organisatorischen Sicherheitsmaßnahmen benötigen wir?

Antwort. Die üblichen Maßnahmen für eine Webanwendung mit schutzwürdigen Daten, ergänzt um die Trennung von Verwaltung und Fachzugriff.

Grundlage. Sicherheit der Verarbeitung nach der Datenschutz Grundverordnung (Artikel 32). N für den Wortlaut.

Empfehlung.

BereichIm PrototypFür den Betrieb mit echten Daten zusätzlich
TransportVerschlüsselung über den vorgeschalteten Webserver, strenge Kopfzeilen, Inhaltsrichtlinie ohne fremde Quellenregelmäßige Prüfung der Konfiguration
Anmeldungsigniertes Sitzungscookie, nur über verschlüsselte Verbindung, nicht für Skripte lesbarAnmeldung über OpenID Connect mit dem Verzeichnis der Organisation, zweiter Faktor
Berechtigungeneine zentrale, reine und vollständig getestete Regelstelle. Seiten entscheiden nie selbst.regelmäßige Überprüfung der Rollenvergabe
EingabenPrüfung jeder Eingabe auf dem Server, Begrenzung der LängeSchutz vor massenhaften Anfragen auch am Webserver
Datenbanknur intern erreichbar, kein öffentlicher Anschluss, eigener DatenbanknutzerVerschlüsselung der Datenträger, getrennte Schlüssel für besonders schutzwürdige Felder, getrennte Datenbankrollen für Verwaltung und Anwendung
Protokollwer, wann, was, zu welchem Zweck, ohne InhaltAuswertung auffälliger Zugriffe, Protokoll administrativer Zugriffe auf Betriebsebene
Sicherungtägliche Sicherung mit Ablauf nach 14 Tagen, Wiederherstellung dokumentiertverschlüsselte Sicherungen an einem zweiten Ort, geübte Wiederherstellung
Drittenichts wird von fremden Adressen geladen, keine Statistik, keine SchriftdiensteVerträge zur Auftragsverarbeitung mit Rechenzentrum und weiteren Dienstleistern
Entwicklungautomatische Tests für Rechnung und Berechtigungen vor jeder Auslieferung, feste Versionen aller Bausteineunabhängige Sicherheitsprüfung, Verfahren für Sicherheitsmeldungen
Organisationkeine echten DatenFolgenabschätzung, Verzeichnis der Verarbeitung, Schulung, Benennung einer oder eines Datenschutzbeauftragten, Notfallplan

Alternativen. Betrieb im Rechenzentrum der Kundenorganisation statt beim Anbieter. Das gibt der Organisation die volle Kontrolle und dem Anbieter mehr Aufwand in der Betreuung.

Risiken und Grenzen. Ein einzelner Betreiber hat technisch Vollzugriff auf Server und Datenbank. Diese Stelle ist die größte verbleibende Schwäche und braucht für echte Daten eine eigene Lösung.

Stand. Maßnahmen des Prototyps umgesetzt. Die Liste für den Betrieb: fachliche Empfehlung, nicht geprüft.

Frage 72: Welche KI Funktionen sollten im Beschäftigungskontext vollständig ausgeschlossen werden?

Antwort. Alle Funktionen, die aus Äußerungen oder Verhalten auf Eigenschaften, Gefühle oder die Eignung einer Person schließen, die Menschen reihen oder die eine Entscheidung über Menschen vorbereiten.

Grundlage. Die KI Verordnung verbietet das Ableiten von Emotionen natürlicher Personen am Arbeitsplatz, außer aus medizinischen Gründen oder aus Gründen der Sicherheit (Artikel 5 Absatz 1 Buchstabe f). Q KI Systeme für Auswahl, Beförderung, Kündigung, Zuweisung von Aufgaben nach persönlichen Merkmalen und Bewertung von Leistung und Verhalten sind hochriskant (Anhang III Nummer 4). Q Fachlich gilt: Die automatische Zuordnung von Texten zu Werten ist unzuverlässig (siehe Frage 24).

Empfehlung. Ausgeschlossen, dauerhaft:

  1. Ableiten von Emotionen, Stimmungen oder Belastung aus Text, Sprache, Bild oder Tippverhalten.
  2. Ableiten von Persönlichkeit, Werten oder Eignung aus freien Texten, Lebensläufen oder Kommunikation.
  3. Reihung oder Bewertung von Personen durch ein Sprachmodell.
  4. Vorschläge eines Sprachmodells, wer in ein Team passt, wer befördert oder versetzt werden sollte.
  5. Vorhersagen über Leistung, Kündigungsneigung oder Verhalten einzelner Personen.
  6. Jede Berechnung oder Schätzung von Kennwerten durch ein Sprachmodell.
  7. Automatische Zuordnung von Konstrukten zu Dimensionen, die ungeprüft in ein Ergebnis eingeht.
  8. Auswertung von Arbeitskommunikation, etwa Nachrichten oder Besprechungen.
  9. Verdeckter Einsatz: Jede Unterstützung durch KI ist als solche gekennzeichnet.
  10. Zusammenfassungen eines Sprachmodells über einzelne Mitglieder für Führungskräfte.

Zulässig bleibt, mit eigener Freigabe der Person: Formulierungshilfe für die eigenen Konstrukte, Verständnisfragen und die Erklärung bereits berechneter Ergebnisse in Alltagssprache.

Alternativen. Vollständiger Verzicht auf KI, wie im Prototyp. Für ein Werkzeug, dessen Wert in Nachvollziehbarkeit liegt, ist das eine starke Position.

Risiken und Grenzen. Die Grenze zwischen „erklärt ein Ergebnis“ und „deutet eine Person“ ist schmal. Ein Assistent, der ein Teamprofil erläutert, darf keine Aussagen über einzelne Mitglieder machen und keine Empfehlungen geben.

Stand. Verbote und Einstufung: am Wortlaut der KI Verordnung geprüft. Die Liste: fachliche Empfehlung.

Im Prototyp. Es gibt keine Verbindung zu einem Sprachmodell. Ein Test stellt sicher, dass das Ergebnis der Simulation keine Felder für Gesamtwert, Rang oder Prozent enthält.