add legal requirements to personalauswahlalgorithmen

This commit is contained in:
Schallbert 2024-11-04 13:33:55 +01:00
parent 2d3ca5ff46
commit fe0e86b831

View File

@ -34,7 +34,8 @@
</span> </span>
</div> </div>
<!-- Der Vortrag --> <!-- DER VORTRAG -->
<!-- BEGRIFFSKLÄRUNG--> <!-- BEGRIFFSKLÄRUNG-->
<div class="slides"> <div class="slides">
<section> <section>
@ -77,8 +78,8 @@
</code></pre> </code></pre>
<p class=fragment><small>Findet jemand einen <a href="https://de.wikipedia.org/wiki/Fakult%C3%A4t_(Mathematik)#Numerische_Berechnung_und_N%C3%A4herung">Programmierfehler</a>? 😉</small></p> <p class=fragment><small>Findet jemand einen <a href="https://de.wikipedia.org/wiki/Fakult%C3%A4t_(Mathematik)#Numerische_Berechnung_und_N%C3%A4herung">Programmierfehler</a>? 😉</small></p>
</section> </section>
<section> <section><h3>Künstliche Intelligenz</h3>
<section><h3>Künstliche Intelligenz</h3> <section>
<small> <small>
<p class="fragment fade-in-then-out">| Stellen Sie sich vor, Personen werden auf Robotersein geprüft. |</p> <p class="fragment fade-in-then-out">| Stellen Sie sich vor, Personen werden auf Robotersein geprüft. |</p>
<p class="fragment fade-in-then-out">| Dafür wird ihnen ein Bild angezeigt. |</p> <p class="fragment fade-in-then-out">| Dafür wird ihnen ein Bild angezeigt. |</p>
@ -92,7 +93,7 @@
</small> </small>
<p class="fragment">Neural Network</p> <p class="fragment">Neural Network</p>
</section> </section>
<section><h3>Kontext (gesprochenes Wort)</h3> <section><h4>Kontext (gesprochenes Wort)</h4>
Nichts hinkt wie dieser Vergleich. Der Punkt ist, dass bei "neuronalen Netzen" ein mathematisches Modell zum Einsatz kommt, welches als Geflecht aus gewichteten Übertragungsfunktionen abgebildet wird. Nichts hinkt wie dieser Vergleich. Der Punkt ist, dass bei "neuronalen Netzen" ein mathematisches Modell zum Einsatz kommt, welches als Geflecht aus gewichteten Übertragungsfunktionen abgebildet wird.
Es ermittelt die wahrscheinlichste Lösung der eingegebenen Aufgabe. Es ermittelt die wahrscheinlichste Lösung der eingegebenen Aufgabe.
All dies basiert auf der Übertragungsfunktion samt Gewichtung, deren Parameter mittels "Training" festgelegt werden. <a href="https://www.ibm.com/de-de/topics/neural-networks">[2]</a> All dies basiert auf der Übertragungsfunktion samt Gewichtung, deren Parameter mittels "Training" festgelegt werden. <a href="https://www.ibm.com/de-de/topics/neural-networks">[2]</a>
@ -148,126 +149,91 @@
<p class="fragment">Geringere Verwaltungskosten 🤑</p> <p class="fragment">Geringere Verwaltungskosten 🤑</p>
<p class="fragment">Schärfere Anforderungsprofile für offene Stellen 🧐</p> <p class="fragment">Schärfere Anforderungsprofile für offene Stellen 🧐</p>
</section> </section>
<section><h3>Risiken für die Firma</h3> <section><h3>Was die Firma stattdessen bekommt</h3>
<small> <small>
<p class="fragment fade-in-then-out">| Szenario |</p>
<p class="fragment fade-in-then-out">| Ein Unternehmen möchte "KI" im Personalwesen einsetzen. |</p> <p class="fragment fade-in-then-out">| Ein Unternehmen möchte "KI" im Personalwesen einsetzen. |</p>
<p class="fragment fade-in-then-out">| Es kauft eine "KI-Lösung" ein. |</p> <p class="fragment fade-in-then-out">| Es abonniert eine "KI-Lösung" und lässt sie in ihr Software-Ökosystem einbinden. |</p>
<p class="fragment fade-in-then-out">| Weil es die Technologie dahinter weder beherrscht noch entwickeln möchte. |</p> <p class="fragment fade-in-then-out">| Weil es die Technologie dahinter weder beherrscht noch entwickeln möchte. |</p>
<p class="fragment fade-in-then-out">| Ab jetzt fließen Anschreiben, Lebensläufe, Zeugnisse |</p> <p class="fragment fade-in-then-out">| Ab jetzt fließen Anschreiben, Lebensläufe, Zeugnisse |</p>
<p class="fragment fade-in-then-out">| durch Softwarekomponenten von Drittanbietern. |</p> <p class="fragment fade-in-then-out">| durch Softwarekomponenten von Drittanbietern. |</p>
<p class="fragment fade-in-then-out">| Da auch das Erstellen von Ausschreibungen ausgelagert wird |</p> <p class="fragment fade-in-then-out">| Auch das Erstellen von Ausschreibungen wird ausgelagert. |</p>
</small> </small>
<p class="fragment fade-in"> verliert das Unternehmen mehrere seiner <span class="fragment highlight-red">Kernkompetenzen</span>.</p> <p class="fragment fade-in"> Dadurch verliert das Unternehmen mehrere seiner <span class="fragment highlight-red">Kernkompetenzen</span>.</p>
</section>
<section><h3>Vorteile für Drittanbieter</h3>
<p class="fragment">Abofalle! 😈</p>
<p class="fragment">Kostenlose Trainingsdaten 💎</a></p>
<p class="fragment">Persönliche Daten von BewerberInnen 🐙</p>
<p class="fragment">Einblicke in Betriebsinterna der Auftraggeber 🔍</p>
</section> </section>
<section> <!-- REGELUNGEN UND GESETZE -->
Szenario: <section><h2>Was tun die Gesetzgeber?</h2><h2>📖</h2></section>
Unternehmen kauft "KI"-Lösung ein, weil sie die Technologie dahinter weder behrerrscht noch entwickeln möchte. <section><h3>DSGVO / GDPR</h3></section>
Ab jetzt fließen Anschreiben, Lebensläufe und damit potentiell sensible personenbezogene Daten von Bewerbern durch Softwarekomponenten von Drittanbietern, bevor ihre Auswertung beim Zielunternehmen landet. <section><h3>Schutzziele:</h3>
Idealerweise lernt eine "KI" ja mit jeder Bewerbung hinzu - schließlich will sich der Drittanbieter keine wertvollen Trainingsdaten entgehen lassen. <section>
<ul>
Das Unternehmen lagert die Personalaquise (Kernkompetenz?) immer mehr an Dritte aus und macht sich dabei möglicherweise abhängig. <p class="fragment fade-in">Vertraulichkeit</p>
<p class="fragment fade-in">Verfügbarkeit</p>
<p class="fragment fade-in">Integrität</p>
Regelungen: </ul>
DSGVO </section>
EU AI Act <section><h4>Kontext (gesprochenes Wort)</h4>
"AI Ethics" <small>
"Responsible AI" <ul>
<p>Personenbezogene Daten = Daten, die einer natürlichen Person (auch mittelbar) zugeordnet sind</p>
Vorurteile und Bias <p>Vertraulichkeit = Schutz vor unbefugter Preisgabe der Information</p>
<a href="https://www.denkfabrik-bmas.de/fileadmin/Downloads/Publikationen/Kuenstliche-Intelligenz-in-der-Personalauswahl.pdf">[#nr]</a> <p>Verfügbarkeit = Schutz vor ungefugter Vorenthaltung der Information</p>
KI als Produkt seiner Zeit <p>Integrität = Schutz vor unbefugter Veränderung der Information</p>
</ul>
Welche Risiken bergen KI-Produkte im Personalwesen darüberhinaus? </small>
</section>
Blickwinkel einer betroffenen Person:
</section> </section>
<section data-auto-animate data-auto-animate-easing="cubic-bezier(0.770, 0.000, 0.175, 1.000)"> <section><h3>Ansprüche:</h3>
<div class="r-hstack justify-center"> <section>
<small> <ul>
<div data-id="box1" style="background: rgb(35, 109, 109); width: 150px; height: 100px; margin: 10px;">Mindset</div> <p class="fragment fade-in">Datenminimierung</p>
<div data-id="box2" style="background: rgb(78, 104, 219); width: 150px; height: 100px; margin: 10px;">Werte</div> <p class="fragment fade-in">Nichtverkettung</p>
<div data-id="box3" style="background: rgb(26, 39, 110); width: 150px; height: 100px; margin: 10px;">Prinzipien</div> <p class="fragment fade-in">Transparenz</p>
<div data-id="box4" style="background: rgb(65, 26, 102); width: 150px; height: 100px; margin: 10px;">Praktiken</div> <p class="fragment fade-in">Intervenierbarkeit</p>
<div data-id="box5" style="background: rgb(63, 63, 63); width: 150px; height: 100px; margin: 10px;">Werkzeuge</div> </ul>
</small> </section>
</div> <section><h4>Kontext (gesprochenes Wort)</h4>
<h3 style="margin-top: 20px;">Komposition</h3> <small>
</section> <ul>
<section data-auto-animate data-auto-animate-easing="cubic-bezier(0.770, 0.000, 0.175, 1.000)"> <p>Datenminimierung: Menge, Umfang, Speicherdauer, Zugänglichkeit</p>
<div class="r-stack"> <p>Nichtverkettung: Keine Zusammenführung, Zweckbindung</p>
<div data-id="box1" data-auto-animate-delay="0" style="background: rgb(35, 109, 109); width: 500px; height: 500px; border-radius: 250px;"><small>Mindset</small></div> <p>Transparenz: Welche Daten werden von wem, wo und für welchen Zweck gespeichert?</p>
<div data-id="box2" data-auto-animate-delay="0.3" style="background: rgb(78, 104, 219); width: 400px; height: 400px; border-radius: 200px;;"><small>Werte</small></div> <p>Intervenierbarkeit: Benachrichtigung, Auskunft, Berichtigung, Beschränkung, Löschung, Übertragung, Widerspruch, Eingriff</p>
<div data-id="box3" data-auto-animate-delay="0.6" style="background: rgb(26, 39, 110); width: 300px; height: 300px; border-radius: 200px;;"><small>Prinzipien</small></div> </ul>
<div data-id="box4" data-auto-animate-delay="0.9" style="background: rgb(65, 26, 102); width: 200px; height: 200px; border-radius: 200px;"><small>Praktiken</small></div> </small>
<div data-id="box5" data-auto-animate-delay="1.2" style="background: rgb(63, 63, 63); width: 100px; height: 100px; border-radius: 200px;"><small>Werkzeuge</small></div> </section>
</div>
<h3 style="margin-top: 20px;">Die agile Zwiebel</h3>
</section>
<section><h2>Für welches Problem ist agiles Arbeiten die Lösung?</h2>
</section> </section>
<section><h3>EU AI Act</h3></section>
<section>Inhalt folgt!</section>
<section><h3>Selbstverpflichtungen</h3></section>
<section>Inhalt folgt: "Responsible AI", "AI Ethics"</section>
<section><h2>Was zeichnet <a href="https://www.scrum.org/learning-series/what-is-scrum">Scrum</a> aus?</h2> <!-- SICHTWEISEN BETROFFENER PERSONEN -->
<p class="fragment">Scrum ist eines von vielen agilen Frameworks.</p> <section><h3>Blickwinkel betroffener Personen</h4>
<p class="fragment">Bei Scrum wird in kurzen Iterationen, genannt <span class="fragment highlight-blue">Sprints</span>, gearbeitet.</p>
<p class="fragment">Am Ende eines jeden Sprints soll ein weiterer Aspekt des <span class="fragment highlight-green">Endprodukts</span> fertiggestellt sein.</p>
</section>
<section><h3>Was zeichnet <a href="https://www.scrum.org/learning-series/what-is-scrum">Scrum</a> aus?</h3>
<p class="fragment">Am Ende eines Sprints wird die Arbeit im Team reflektiert.</p>
<p class="fragment">Regelmäßig wird Feedback der Auftraggeber eingeholt.</p>
<p class="fragment">Es ist nicht ungewöhnlich, dass sich Vorgaben als nicht erfüllbar erweisen.
<p class="fragment">Daher sind Ziele ausdrücklich <span class="fragment highlight-red">anpassbar</span>.</p>
</section>
<section><h2>Was sind die Rollen bei Scrum?</h2>
<p class="fragment">Analogon zum Orchester: <span class="fragment highlight-blue">Komponist</span>, <span class="fragment highlight-red">Musiker</span>, <span class="fragment highlight-green">Dirigent</span></p>
Innerhalb eines Scrum-Teams gibt es keine Hierarchien.
</section>
<section><h2>Was sind Voraussetzungen für die erfolgreiche Einführung von Scrum?</h2></section>
<section>
<h2></h2>
<ul> <ul>
<p class="fragment fade-in-then-semi-out">Man verfügt über ein passendes Problem</p> <small>
<p class="fragment fade-in-then-semi-out">Der erforderliche Kulturwandel wird begrüßt</p> <p class="fragment fade-in-then-semi-out">"Was wird denn <span class="fragment highlight-blue">für mich </span>besser?"</p>
<p class="fragment fade-in-then-semi-out">Zusätzliche Ressourcen für deren Begleitung werden freigegeben</p> <p class="fragment fade-in-then-semi-out">"Ich optimiere meine Bewerbung <span class="fragment highlight-green">mit AI-Tools</span> <span class="fragment highlight-red">auf AI-Tools</span>."</p>
<p class="fragment fade-in-then-semi-out">Schnittstellen zwischen "Wasserfall" und "Agil" wurden berücksichtigt</p> <p class="fragment fade-in-then-semi-out">"Der Bewerbungsprozess darf nicht so lange dauern."</p>
</ul> <p class="fragment fade-in-then-semi-out">"Ich möchte lieber mit echten Menschen sprechen."</p>
</section> <p class="fragment fade-in-then-semi-out">"Mir kommen da direkt Datenschutzbedenken."</p>
<section> <p class="fragment fade-in-then-semi-out">"Das Unternehmen muss auch zu mir passen."</p>
<h2>💡</h2> </small>
Man ist sich bewusst, dass
<ul>
<p class="fragment fade-in-then-semi-out">der Weg dorthin mehrere Jahre benötigt</p>
<p class="fragment fade-in-then-semi-out">ihn nicht jede Person im Unternehmen gehen wird</p>
<p class="fragment fade-in-then-semi-out">auf dem Weg ständige Begleitung, Weiterbildung, Unterstützung essenziell ist</p>
</ul> </ul>
</section> </section>
<section><h2>Was sind mögliche Abgründe bei falscher Ausführung?</h2></section>
<section> <!-- MEINE EIGENE MEINUNG ZUM THEMA-->
<h2>🕳️</h2>
<ul>
<p class="fragment fade-in-then-semi-out">Unpassendes Problem: Lösung nicht zufriedenstellend</p>
<p class="fragment fade-in-then-semi-out">Gestaltet der Auftraggeber nicht mit, wird das falsche Produkt entwickelt</p>
<p class="fragment fade-in-then-semi-out">Fehlendes Vertrauen in die Entwickler führt zu Trackingwahn</p>
<p class="fragment fade-in-then-semi-out">Ohne Begleitung des Scrum-Teams wird Agilität zur Fassade</p>
</ul>
</section>
<section><h2>Was sind Nachteile von Scrum?</h2></section>
<section>
<h2>📉</h2>
<ul>
<p class="fragment fade-in-then-semi-out">Scrum nimmt an, dass der Kulturwandel bereits vollzogen ist</p>
<p class="fragment fade-in-then-semi-out">Nicht-agile Personentypen bleiben auf der Strecke</p>
<p class="fragment fade-in-then-semi-out">Scrum kann "Arbeit auf Zuruf" nicht abbilden</p>
<p class="fragment fade-in-then-semi-out">Optimierungswahn und Selbstausbeutung</p>
<p class="fragment fade-in-then-semi-out">Der Blick geht nach innen</p>
</ul>
</section>
<section><h2>Mein Fazit</h2></section> <section><h2>Mein Fazit</h2></section>
<section> <section>
<p class="fragment fade-in-then-out">Scrum kann zu erheblich schneller verfügbaren und besser auf die Kundenwünsche zugeschnittenen Produkten führen.</p> <p class="fragment fade-in-then-out">Scrum kann zu erheblich schneller verfügbaren und besser auf die Kundenwünsche zugeschnittenen Produkten führen.</p>
@ -276,6 +242,20 @@
<p class="fragment fade-in-then-out">Scrum ist im Alltag mit Blick auf <a href="#/10">die Zwiebel</a> schwach.</p> <p class="fragment fade-in-then-out">Scrum ist im Alltag mit Blick auf <a href="#/10">die Zwiebel</a> schwach.</p>
<p class="fragment fade-in-then-out">Daher benötigt Scrum eine auf Dauer angelegte Anstrengung aller Beteiligten.</p> <p class="fragment fade-in-then-out">Daher benötigt Scrum eine auf Dauer angelegte Anstrengung aller Beteiligten.</p>
</section> </section>
<section>
<h3>Kreativbereich</h3>
Vorurteile und Bias
<a href="https://www.denkfabrik-bmas.de/fileadmin/Downloads/Publikationen/Kuenstliche-Intelligenz-in-der-Personalauswahl.pdf">[#nr]</a>
KI als Produkt seiner Zeit
Welche Risiken bergen KI-Produkte im Personalwesen darüberhinaus?
</section>
</div> </div>
</div> </div>