lectures/personalauswahlalgorithmen/index.html

337 lines
20 KiB
HTML
Raw Normal View History

<!doctype html>
<html lang="en">
<head>
<meta charset="utf-8">
<meta name="description" content="Ein Vortrag von L. Preußer">
<meta name="author" content="L. Preußer">
<meta name="apple-mobile-web-app-capable" content="yes">
<meta name="apple-mobile-web-app-status-bar-style" content="black-translucent">
<meta name="viewport" content="width=device-width, initial-scale=1.0, maximum-scale=1.0, user-scalable=no">
<title>Personalauswahlalgorithmen unter dem Brennglas</title>
<link rel="stylesheet" href="../_assets/dist/reset.css">
<link rel="stylesheet" href="../_assets/dist/reveal.css">
<link rel="stylesheet" href="../_assets/dist/theme/night.css">
<link rel="apple-touch-icon" sizes="180x180" href="../_assets/images/favicon/apple-touch-icon.png">
<link rel="icon" type="image/png" sizes="32x32" href="../_assets/images/favicon/favicon-32x32.png">
<link rel="icon" type="image/png" sizes="16x16" href="../_assets/images/favicon/favicon-16x16.png">
<link rel="manifest" href="../_assets/images/favicon/site.webmanifest">
<link rel="mask-icon" href="../_assets/images/favicon/safari-pinned-tab.svg" color="#5bbad5">
<!-- Theme used for syntax highlighted code -->
<link rel="stylesheet" href="../_assets/plugin/highlight/monokai.css">
</head>
<body>
<div class="reveal">
<div id="head"; style="padding-left:20px">
<img src="../_assets/images/favicon/favicon-32x32.png" alt="Image: Schallbert" itemprop="image" style="vertical-align: middle;"/>
<span style="vertical-align: middle; padding-left:10px; font-size:1.0rem; font-weight:bold">
<a href="https://lectures.schallbert.de">Zurück zur Übersicht</a>
</span>
</div>
<!-- DER VORTRAG -->
<!-- BEGRIFFSKLÄRUNG-->
<div class="slides">
<section>
<h2 class="r-fit-text">Personalauswahlalgorithmen</h2>
<h2 class="r-fit-text">unter dem Brennglas</h2>
<p>
<small>Autor: <a href="https://schallbert.de">L. Preußer</a>, erstellt: 28-Okt-2024</small>
</p>
<p>
<small>Erstmals vorgetragen im <a href="https://koeln-leverkusen.igmetall.de/info-kontakt/termine/engineering-forum-am-7-november-2024/" target="blank" rel="noopener noreferrer">Engineering Forum der IG Metall</a>.
</small>
</p>
</section>
<section><h3>Was ist Personalauswahl?</h3>
<p class="fragment">Finde die bestmögliche, passende Besetzung für eine Stelle.</p>
</section>
<section><h3>Bewertung und Abgleich</h3>
<p class="fragment fade-in-then-semi-out">Fähigkeiten</p>
<p class="fragment fade-in-then-semi-out">Fertigkeiten</p>
<p class="fragment fade-in-then-semi-out">Kenntnisse</p>
<p class="fragment fade-in-then-semi-out">Potential</p>
<p class="fragment fade-in-then-semi-out">Habitus / Werte / Kultur</p>
<p class="fragment fade-in-then-semi-out">Persönlichkeit</p>
</section>
<section><h3>Was ist ein Algorithmus?</h3>
<p class="fragment">Eine eindeutige <span class="fragment highlight-blue">Handlungsvorschrift</span> zur Lösung eines <span class="fragment highlight-red">Problems</span> [...] <a href="https://de.wikipedia.org/wiki/Algorithmus">[1]</a></p>
</section>
<section><h3>Problem</h3>
<p>Bilde die Fakultät einer beliebigen, positiven ganzen Zahl kleiner 256.</p>
</section>
<section><h3>Handlungsvorschrift</h3>
<pre><code>
uint64_t fakultaet(uint8_t wert) {
if (wert > 0) {
return wert*fakultaet(wert-1);
} else {
return 1;
}
}
</code></pre>
<p class=fragment><small>Findet jemand einen <a href="https://de.wikipedia.org/wiki/Fakult%C3%A4t_(Mathematik)#Numerische_Berechnung_und_N%C3%A4herung">Programmierfehler</a>? 😉</small></p>
</section>
<section><h3>Künstliche Intelligenz</h3>
<section>
<small>
<p class="fragment fade-in-then-out">| Stellen Sie sich vor, Personen werden auf Robotersein geprüft. |</p>
<p class="fragment fade-in-then-out">| Dafür wird ihnen ein Bild angezeigt. |</p>
<p class="fragment fade-in-then-out">| Sie sollen die Wahrscheinlichkeit angeben, darauf eine "Ampel" zu sehen. |</p>
<p class="fragment fade-in-then-out">| Person "A" tut dies anhand der Farbanteile im Bild. |</p>
<p class="fragment fade-in-then-out">| Person "B" bewertet die Formen im Bild. |</p>
<p class="fragment fade-in-then-out">| Person "C" analysiert Bildkontraste. |</p>
<p class="fragment fade-in-then-out">| Person "D" versucht, sich wiederholende Winkel zu erkennen. |</p>
<p class="fragment fade-in-then-out">| Person "E" zählt Kreise im Bild usw. |</p>
<p class="fragment fade-in-then-out">| Alle Aussagen werden gewichtet und man erhält einen Wahrheitswert. |</p>
</small>
<p class="fragment"><a href="https://distill.pub/2018/building-blocks/">Neural Network</a></p>
</section>
<section><h4>Kontext (gesprochenes Wort)</h4>
Nichts hinkt wie ein Vergleich. Der Punkt ist, dass bei "neuronalen Netzen" ein mathematisches Modell zum Einsatz kommt, welches als Geflecht aus gewichteten Übertragungsfunktionen abgebildet wird.
Es ermittelt die wahrscheinlichste Lösung der eingegebenen Aufgabe.
All dies basiert auf der Übertragungsfunktion samt Gewichtung, deren Parameter mittels "Training" festgelegt werden. <a href="https://www.ibm.com/de-de/topics/neural-networks">[2]</a>
</section>
</section>
<section ><h3>Training</h3>
<small>
<p class="fragment fade-in-then-out">| Stellen Sie sich das Wurzelgeflecht eines Baumes vor. |</p>
<p class="fragment fade-in-then-out">| Der Sommer ist besonders trocken. |</p>
<p class="fragment fade-in-then-out">| Der Baum ist auf der Suche nach Grundwasser. |</p>
<p class="fragment fade-in-then-out">| Mit Kräften muss hausgehaltet werden. |</p>
<p class="fragment fade-in-then-out">| Daher wird der Baum Wurzeln mit Kontakt zu Wasser stärker ausprägen. |</p>
<p class="fragment fade-in-then-out">| Wurzeln, die bei der Suche nicht erfolgreich waren, verkümmern. |</p>
</small>
<p class="fragment"><span class="fragment highlight-green">Reinforcement Learning</span></p>
</section>
<section ><h3>Probleme und Risiken</h3>
<section>
<p class="fragment">Halluzinationen <a href="https://www.theverge.com/2024/5/15/24154808/ai-chatgpt-google-gemini-microsoft-copilot-hallucination-wrong">[3]</a> </p>
<p class="fragment">Verzerrungen (Bias) <a href="https://www.denkfabrik-bmas.de/fileadmin/Downloads/Publikationen/Kuenstliche-Intelligenz-in-der-Personalauswahl.pdf">[4]</a></p>
<p class="fragment">Keine Nachvollziehbarkeit <a href="https://www.scientificamerican.com/article/why-we-need-to-see-inside-ais-black-box/">[5]</a> <a href="https://www.deutschlandfunknova.de/beitrag/ki-in-der-medizin-mensch-oder-maschine">[6]</a></p>
<p class="fragment">Veränderlichkeit</p>
<p class="fragment"><a href="#/18">Datenschutz</a></p>
</section>
<section><h4>Kontext (gesprochenes Wort)</h4>
<small>
<ul>
<p>Mit Halluzinationen sind ungenaue oder schlicht falsche Aussagen von "KI" gemeint, die aus den Eingabedaten nicht hervorgehen. (Ursache: "KI" als Wahrscheinlichkeitsmodell)</p>
<p>Besonders heikel sind Bias / Verzerrungen bzw. Vorurteile bei "KI" im Personalwesen: Sie führen oft zu Diskriminierung und erzeugen falsch negative oder falsch positive Ergebnisse.</p>
<p>Bei mehrschichtigen neuronalen Netzen ist kaum bzw. gar nicht mehr nachvollziehbar, wie das System zum Ergebnis gekommen ist. So kann ein Ergebnis auch "zufälligerweise korrekt" sein.</p>
<p>Veränderlichkeit: Der Softwarestand kann unter dem Radar von Kunden und Nutzerinnen modifiziert werden. "KI" agiert zudem nicht generell streng deterministisch, sodass eine Attribution schwierig oder sogar unmöglich wird. </p>
</ul>
</small>
</section>
</section>
<!-- SICHT DES UNTERNEHMENS -->
<section><h3>Beispiel für "Pre-AI-hiring"</h4>
<ul>
<small>
<p class="fragment fade-in-then-semi-out">Die Stelle wird <span class="fragment highlight-blue">ausgeschrieben</span>.</p>
<p class="fragment fade-in-then-semi-out">Ein <span class="fragment highlight-blue">Filter</span> wird auf die Flut von Bewerbungen angewandt.</p>
<p class="fragment fade-in-then-semi-out">Anschließend wird ein telefonisches <span class="fragment highlight-blue">Kurzinterview</span> geführt.</p>
<p class="fragment fade-in-then-semi-out">Es erfolgt ein <span class="fragment highlight-blue">Einstellungstest</span> für die verbleibenden Personen.</p>
<p class="fragment fade-in-then-semi-out">Nun wird eine <span class="fragment highlight-blue">Rangfolge</span> gebildet.</p>
<p class="fragment fade-in-then-semi-out">Die besten KandidatInnen werden mit <span class="fragment highlight-blue">strukturierten Interviews</span> bewertet.</p>
<p class="fragment fade-in-then-semi-out">Schließlich wird die Person mit der <span class="fragment highlight-blue">höchsten Punktzahl</span> eingestellt.</p>
</small>
</ul>
</section>
<section><h2>Und was hat</h2><h2>"Künstliche Intelligenz"</h2><h2>damit zu tun?</h2></section>
<section><h3>Annahmen 🏭</h3>
<p class="fragment">Am Begriff "KI" kommt keiner mehr vorbei. <a href="https://analytics-agentur.ch/2024/06/der-ki-hype-2024-in-zahlen/">[7]</a> <a href="https://blog.workday.com/de-de/ki-personalwesen.html">[8]</a></p>
<p class="fragment">Großen Investitionen stehen derzeit geringe Einnahmen gegenüber. <a href="https://www.forbes.com/sites/sherzododilov/2024/08/25/why-artificial-intelligence-hype-isnt-living-up-to-expectations/">[9]</a> <a href="https://www.nytimes.com/2024/09/27/technology/openai-chatgpt-investors-funding.html">[10]</a></p>
<p class="fragment">Wir haben Fachkräftemangel in Nischen. <a href="https://www.mckinsey.com/capabilities/people-and-organizational-performance/our-insights/attracting-and-retaining-the-right-talent">[11]</a></p>
<p class="fragment">Personalabteilungen werden auf Effizienz und Schlankheit getrimmt. <a href="https://www.visier.com/blog/hr-effectiveness/">[12]</a> <a href="https://www.15five.com/blog/how-to-measure-hr-effectiveness-with-12-key-metrics/">[13]</a></p>
</section>
<section><h3>Motivation aus Unternehmenssicht</h3>
<p class="fragment">"Wir wollen die Fachbereiche entlasten." <a href="https://publikationen.bibliothek.kit.edu/1000131777">[14]</a></p>
<p class="fragment">"Das Angebot von KI-Produkten ist groß." <a href="https://www.haufe.de/download/diese-ki-tools-unterstuetzen-bei-recruiting-aufgaben-617528.pdf">[15]</a></p>
<p class="fragment">"Personalauswahl ist teuer und zeitaufwändig." <a href="https://engineeringkiosk.dev/podcast/episode/133-die-wichtige-rolle-von-1on1s-in-zeiten-der-arbeiterlosigkeit/#t=325">[16]</a></p>
<p class="fragment">"Wir haben im Moment nicht das richtige Talent an Bord." <a href="https://www.bain.com/insights/lack-of-talent-isnt-your-problem-how-you-use-it-is/">[17]</a></p>
</section>
<section><h3>Schlussfolgerungen</h3>
<p class="fragment fade-in-then-out">Für allgemeine Fragen rund um die Bewerbung nehmen wir den Chatbot.</p>
<p class="fragment fade-in-then-out">Die Auswahl für Stellen machen wir regelbasiert.</p>
<p class="fragment fade-in-then-out">Mittels "KI"-Werkzeugen lassen wir Umgebungsparameter einfließen.</p>
<p class="fragment fade-in-then-out">Wir optimieren unsere Stellenausschreibungen durch LLMs.</p>
<p class="fragment fade-in-then-out">Die Entscheidung obliegt <span class="fragment highlight-red">natürlich</span> stets einem Menschen.</p>
</section>
<section><h3>Was die Firma eigentlich möchte</h3>
<p class="fragment">Besseres Personal! 🏅 </p>
<p class="fragment">Geringere Verwaltungskosten 💸</p>
<p class="fragment">Schärfere Anforderungsprofile für Stellen 🦄</p>
</section>
<section><h3>Was die Firma stattdessen bekommt</h3>
<small>
<p class="fragment fade-in-then-out">| Szenario |</p>
<p class="fragment fade-in-then-out">| Ein Unternehmen möchte "KI" im Personalwesen einsetzen. |</p>
<p class="fragment fade-in-then-out">| Es abonniert eine "KI-Lösung" und lässt sie in ihr Software-Ökosystem einbinden. |</p>
<p class="fragment fade-in-then-out">| Weil es die Technologie dahinter weder beherrscht noch entwickeln möchte. |</p>
<p class="fragment fade-in-then-out">| Ab jetzt fließen Anschreiben, Lebensläufe, Zeugnisse |</p>
<p class="fragment fade-in-then-out">| durch Softwarekomponenten von Drittanbietern. |</p>
<p class="fragment fade-in-then-out">| Auch das Erstellen von Ausschreibungen wird ausgelagert. |</p>
</small>
<p class="fragment fade-in">Dadurch verliert das Unternehmen mehrere seiner <span class="fragment highlight-red">Kernkompetenzen</span>.</p>
</section>
<section><h3>Vorteile für Drittanbieter</h3>
<p class="fragment">Abofalle! 😈</p>
<p class="fragment">Kostenlose Trainingsdaten 💎</a></p>
<p class="fragment">Persönliche Daten von BewerberInnen 🐙</p>
<p class="fragment">Einblicke in Betriebsinterna der Auftraggeber 🔍</p>
</section>
<!-- REGELUNGEN UND GESETZE -->
<section><h2>Was tun die Gesetzgeber?</h2><h2>📖</h2></section>
<section><h3>DSGVO / GDPR</h3></section>
<section><h3>Schutzziele:</h3>
<section>
<ul>
<p class="fragment fade-in">Vertraulichkeit 🔒</p>
<p class="fragment fade-in">Verfügbarkeit 🏪</p>
<p class="fragment fade-in">Integrität ✅</p>
</ul>
</section>
<section><h4>Kontext (gesprochenes Wort)</h4>
<small>
<ul>
<p>Personenbezogene Daten = Daten, die einer natürlichen Person (auch mittelbar) zugeordnet sind</p>
<p>Vertraulichkeit = Schutz vor unbefugter Preisgabe der Information</p>
<p>Verfügbarkeit = Schutz vor ungefugter Vorenthaltung der Information</p>
<p>Integrität = Schutz vor unbefugter Veränderung der Information</p>
</ul>
</small>
</section>
</section>
<section><h3>Ansprüche:</h3>
<section>
<ul>
<p class="fragment fade-in">Datenminimierung 📁</p>
<p class="fragment fade-in">Nichtverkettung ⛓️</p>
<p class="fragment fade-in">Transparenz 🕶️</p>
<p class="fragment fade-in">Intervenierbarkeit 🛑</p>
</ul>
</section>
<section><h4>Kontext (gesprochenes Wort)</h4>
<small>
<ul>
<p>Datenminimierung: Menge, Umfang, Speicherdauer, Zugänglichkeit</p>
<p>Nichtverkettung: Keine Zusammenführung, Zweckbindung</p>
<p>Transparenz: Welche Daten werden von wem, wo und für welchen Zweck gespeichert?</p>
<p>Intervenierbarkeit: Benachrichtigung, Auskunft, Berichtigung, Beschränkung, Löschung, Übertragung, Widerspruch, Eingriff</p>
</ul>
</small>
</section>
</section>
<section><h3>EU AI Act</h3></section>
<section><h3>Anforderungen:</h3>
<section>
<ul>
<p class="fragment fade-in">Informationspflicht</p>
<p class="fragment fade-in">Transparenz für Daten</p>
<p class="fragment fade-in">Dokumentation und Rückverfolgbarkeit</p>
<p class="fragment fade-in">Robustheit und Genauigkeit</p>
<p class="fragment fade-in">Menschliche Aufsicht</p>
<p class="fragment fade-in">Risikobewertung und -Minimierung</p>
</ul>
</section>
<section><h4>Kontext (gesprochenes Wort)</h4>
<small>
<ul>
<p>Wann immer "KI" im Spiel ist, müssen Beteiligte darüber informiert werden.</p>
<p>Trainings- und Nutzerdaten: Welche Daten werden gesammelt, wo und wie häufig verwendet?</p>
<p>Rückverfolgbarkeit der Interaktion, Dokumentation der Änderungen am Modell/Training</p>
<p>Regelmäßige Prüfung der Anwendung: Korrekte Ausgaben, Staging-Systeme, Testdatensätze</p>
<p>Aufsicht: Keine alleinigen Entscheidungen durch "KI", Prüfung durch Menschen</p>
<p>Kategorisierung von Systemen in kritisch (sensible Bereiche, personenbezogene Daten) und "Low Risk"</p>
</ul>
</small>
</section>
</section>
<section><h3>Selbstverpflichtungen</h3></section>
<section><h3>Responsible AI</h3>
<p class="fragment">Hier werden Schlagwörter verwendet, um den Einsatz von "KI" ethisch einzubetten:</p>
<small>
<ul>
<p class="fragment fade-in">Fairness</p>
<p class="fragment fade-in">Reliability & Safety</p>
<p class="fragment fade-in">Privacy & Security</p>
<p class="fragment fade-in">Inclusiveness</p>
<p class="fragment fade-in">Accountability</p>
<p class="fragment fade-in">Transparency</p>
</ul>
</small>
</section>
<!-- SICHTWEISEN BETROFFENER PERSONEN -->
<section><h3>Blickwinkel betroffener Personen</h4>
<ul>
<small>
<p class="fragment fade-in-then-semi-out">"Was wird denn <span class="fragment highlight-blue">für mich </span>besser?"</p>
<p class="fragment fade-in-then-semi-out">"Ich optimiere meine Bewerbung <span class="fragment highlight-green">mit AI-Tools</span> <span class="fragment highlight-red">für AI-Tools</span>."</p>
<p class="fragment fade-in-then-semi-out">"Der Bewerbungsprozess darf nicht so lange dauern."</p>
<p class="fragment fade-in-then-semi-out">"Ich möchte lieber mit echten Menschen sprechen."</p>
<p class="fragment fade-in-then-semi-out">"Mir kommen da direkt Datenschutzbedenken."</p>
<p class="fragment fade-in-then-semi-out">"Das Unternehmen muss auch zu mir passen."</p>
</small>
</ul>
</section>
<!-- MEINE EIGENE MEINUNG ZUM THEMA-->
<section><h2>Mein Fazit</h2></section>
<section>
<small>
<p class="fragment fade-in-then-out">Personalauswahlalgorithmen werden bereits in der Fläche eingesetzt.</p>
<p class="fragment fade-in-then-out">Derzeit jedoch zumeist mit "klassischer", regelbasierter Logik.</p>
<p class="fragment fade-in-then-out">"Künstliche Intelligenz" kann vor allem bei Freitexten und unscharfen Kriterien Vorteile erzielen.</p>
<p class="fragment fade-in-then-out">Dennoch gibt es noch immer große Probleme: "Halluzinationen", "Bias", Unbestimmbarkeit, Datenschutzverstöße...</p>
<p class="fragment fade-in-then-out">Wir sollten darauf bestehen, dass "KI"-Systeme schon jetzt den EU AI Act erfüllen.</p>
<p class="fragment fade-in-then-out">Außerdem müssen wir gute Regelungen auf Anwendungsebene entwickeln, <span class="fragment highlight-green">z.B. Betriebsvereinbarungen</span>.</p>
<p class="fragment fade-in-then-out">Die Essenz freiwilliger Selbstverpflichtungen sollte in Gesetze einfließen.</p>
</small>
<p class="fragment">🤝 Doch am Ende geht nichts über den persönlichen Kontakt zwischen Menschen.</p>
</section>
<section><h3>Weiterführende Literatur</h3>
<ul>
<p><a href="https://www.deutschlandfunknova.de/beitrag/ki-in-der-modernen-arbeitswelt-begleiter-nicht-vernichter">DLF Nova - "KI" in der Arbeitswelt</a></p>
<p><a href="https://www.nature.com/articles/s41598-022-15245-z">Nature - "KI" altert</a></p>
<p><a href="https://www.nytimes.com/interactive/2024/08/26/upshot/ai-synthetic-data.html">NY Times - "KI" wird bei Training mit eigenem Output zerstört</a></p>
</ul>
</section>
</div>
</div>
<script src="plugin/math/math.js"></script>
<script>
Reveal.initialize({ plugins: [RevealMath.KaTeX] });
</script>
<script src="../_assets/dist/reveal.js"></script>
<script src="../_assets/plugin/notes/notes.js"></script>
<script src="../_assets/plugin/markdown/markdown.js"></script>
<script src="../_assets/plugin/highlight/highlight.js"></script>
<script>
// More info about initialization & config:
// - https://revealjs.com/initialization/
// - https://revealjs.com/config/
Reveal.initialize({
hash: true,
// Learn about plugins: https://revealjs.com/plugins/
plugins: [ RevealMarkdown, RevealHighlight, RevealNotes ]
});
</script>
</body>
</html>