Algorithmic Bias: Verzerrungen durch Algorithmen verstehen und verhindern : Ein Leitfaden für Entscheider und Data Scientists

Sind Algorithmen Freund oder Feind? Der menschliche Verstand ist evolutionär darauf ausgelegt, Abkürzungen zu nehmen, um zu überleben. Wir ziehen voreilige Schlüsse, weil unser Gehirn uns in Sicherheit wiegen will. Die meisten unserer Voreingenommenheiten wirken sich zu unseren Gunsten aus, z. B. wenn wir ein Auto, das in unsere Richtung fährt, für gefährlich halten und sofort ausweichen oder wenn wir beschließen, einen Bissen Essen nicht zu essen, der verdorben zu sein scheint. Allerdings wirken sich inhärente Vorurteile negativ auf das Arbeitsumfeld und die Entscheidungsfindung in unseren Gemeinschaften aus. Zwar wird mit der Entwicklung von Algorithmen und maschinellem Lernen versucht, Voreingenommenheit zu beseitigen, doch werden sie schließlich von Menschen geschaffen und sind daher anfällig für das, was wir algorithmische Voreingenommenheit nennen. In Understand, Manage, and Prevent Algorithmic Bias (Algorithmische Voreingenommenheit verstehen, handhaben und verhindern) hilft Ihnen der Autor Tobias Baer zu verstehen, woher algorithmische Voreingenommenheit kommt, wie man sie als Geschäftsanwender oder Regulierungsbehörde handhaben kann und wie die Datenwissenschaft verhindern kann, dass Voreingenommenheit in statistische Algorithmen einfließt. Baer befasst sich fachkundig mit einigen der mehr als 100 Arten natürlicher Verzerrungen wie Confirmation Bias, Stability Bias, Pattern Recognition Bias und vielen anderen. Algorithmische Verzerrungen spiegeln diese menschlichen Tendenzen wider und haben ihren Ursprung in ihnen. Baer befasst sich mit so unterschiedlichen Themen wie der Erkennung von Anomalien, hybriden Modellstrukturen und selbstverbesserndem maschinellen Lernen. Während sich die meisten Schriften über algorithmische Voreingenommenheit auf die Gefahren konzentrieren, weist der Kern dieses positiven, unterhaltsamen Buches auf einen Weg hin, auf dem Voreingenommenheit in Schach gehalten und sogar beseitigt werden kann. Sie erhalten Managementtechniken, um unvoreingenommene Algorithmen zu entwickeln, die Fähigkeit, Voreingenommenheit schneller zu erkennen, und das Wissen, um unvoreingenommene Daten zu erstellen. Algorithmic Bias verstehen, verwalten und verhindern ist ein innovatives, zeitgemäßes und wichtiges Buch, das in Ihr Regal gehört. Egal, ob Sie eine erfahrene Führungskraft in der Wirtschaft, ein Datenwissenschaftler oder einfach nur ein Enthusiast sind, jetzt ist ein entscheidender Zeitpunkt, um sich über die Auswirkungen algorithmischer Verzerrungen auf die Gesellschaft zu informieren und eine aktive Rolle im Kampf gegen Verzerrungen zu übernehmen. Was Sie lernen werden Untersuchung der vielen Quellen algorithmischer Verzerrungen, einschließlich kognitiver Verzerrungen in der realen Welt, verzerrter Daten und statistischer Artefakte Verstehen Sie die Risiken algorithmischer Verzerrungen, wie sie erkannt werden können und welche Managementtechniken es gibt, um sie zu verhindern oder zu verwalten Erkennen, wie maschinelles Lernen sowohl neue Quellen für algorithmische Verzerrungen schafft als auch ein Teil der Lösung sein kann Kenntnis spezifischer statistischer Techniken, die ein Datenwissenschaftler anwenden kann, um algorithmische Verzerrungen zu erkennen und zu beseitigen Für wen dieses Buch gedacht ist Führungskräfte von Unternehmen, die Algorithmen im täglichen Betrieb einsetzen; Datenwissenschaftler (von Studenten bis hin zu erfahrenen Praktikern), die Algorithmen entwickeln; Compliance-Beamte, die über algorithmische Verzerrungen besorgt sind; Politiker, Journalisten und Philosophen, die über algorithmische Verzerrungen im Hinblick auf ihre Auswirkungen auf die Gesellschaft und mögliche regulatorische Maßnahmen nachdenken; und Verbraucher, die darüber besorgt sind, wie sie von algorithmischen Verzerrungen betroffen sein könnten Inhaltsverzeichnis Über den Autor Danksagungen Vorwort Für wen dieses Buch bestimmt ist Was dieses Buch nicht ist Wie dieses Buch aufgebaut ist I: Eine Einführung in Verzerrungen und Algorithmen Kapitel 1: Einführung Kapitel 2: Voreingenom­menheit in der menschlichen Entscheidungs­findung Handlungsorientierte Voreingenommenheit Stabilitätsverzerrungen Verzerrungen bei der Erkennung von Mustern Interessenbedingte Verzerrungen Soziale Vorurteile Spezifische Entscheidungen vs. das große Ganze Zusammenfassung Kapitel 3: Wie Algorithmen Vorurteile bekämpfen Ein einfaches Beispiel für einen Algorithmus Was ein Algorithmus Ihnen sagen kann Zusammenfassung Kapitel 4: Der Modellentwicklungsprozess Überblick über den Modellentwicklungsprozess Schritt 1: Modelldesign Schritt 2: Datenaufbereitung („data engineering“) Schritt 3: Zusammenbau des Modells Schritt 4: Modellvalidierung Schritt 5: Modellimplementierung Zusammenfassung Kapitel 5: Eine kurze Einführung in das Maschinelle Lernen Ziele des maschinellen Lernens Ein Blick unter die Haube des maschinellen Lernens Ein Vergleich des maschinellen Lernens mit anderen statistischen Modellierungstechniken Zusammenfassung II: Woher kommen algorithmischen Verzerrungen? Kapitel 6: Wie Vorurteile in der realen Welt von Algorithmen widergespiegelt werden Zusammenfassung Kapitel 7: Vorurteile von Datenwissenschaftlern Bestätigungsvoreingenommenheit („confirmation bias“) Bestätigungsfehler im Modelldesign Bestätigungsfehler bei Stichproben Ego-Depletion Selbstüberschätzung Zusammenfassung Kapitel 8: Wie Daten zu Verzerrungen führen können Überblick über die durch Daten verursachten Verzerrungen Durch subjektive Daten verursachte Verzerrungen Verzerrungen durch scheinbar quantitative Daten Durch traumatisierte Daten verursachte Verzerrungen Konzeptionelle Verzerrungen Verzerrungen durch unsachgemäße Datenverarbeitung Zusammenfassung Kapitel 9: Die Anfälligkeit von Algorithmen für Stabilitätsver­zerrungen Instabilität des Systems „Ich hab’s dir ja gesagt“ Reaktionsgeschwindigkeit Stabilitätsvorurteile bei der Definition von „gut“ Zusammenfassung Kapitel 10: Durch den Algorithmus selbst geschaffene Verzerrungen Algorithmischer Fehler Die Rolle von Stichprobengröße und Fallhäufigkeit Das Problem der baumbasierten Modelle Eine philosophische Perspektive Zusammenfassung Kapitel 11: Algorithmische Verzerrungen und soziale Medien Die Rolle der Algorithmen Die Rolle der Nutzer Auswirkungen Zusammenfassung III: Was können Nutzer gegen algorithmische Verzerrungen tun? Kapitel 12: Optionen für die Entscheidungsfindung Definition des Entscheidungsproblems Wie man den Nutzen von Algorithmen bewertet Zusammenfassung Kapitel 13: Bewertung des Risikos einer algorithmischen Verzerrung Einschätzung der Schadensschwere Bewertung der Neigung zur Voreingenommenheit Zusammenfassung Kapitel 14: Sichere Verwendung von Algorithmen Zusammenfassung Kapitel 15: Wie man algorithmische Verzerrungen erkennt Überwachungsalgorithmen: Die Grundlagen Wie man eine korrekte Verteilungsanalyse durchführt Wie man eine ordnungsgemäße Analyse manueller Korrekturen durchführt Bewertung der Trennschärfe Wie man die Kalibrierung eines Algorithmus bewertet Signifikanz und Normalbereiche Ursachensuche Überwachung von „Black Box“-Algorithmen Überwachung selbstverbessernder Algorithmen Zusammenfassung Kapitel 16: Management- Strategien zur Korrektur algorithmischer Verzerrungen Zusammenfassung Kapitel 17: Wie man unverzerrte Daten generiert Zusammenfassung IV: Was können Datenwissenschaftler gegen algorithmische Verzerrungen tun? Kapitel 18: Die Rolle des Datenwissenschaftlers bei der Überwindung algorithmischer Verzerrungen Schritt 1: Modelldesign Schritt 2: Datenaufbereitung („data engineering“) Schritt 3: Modellzusammenbau („model assembly“) Schritt 4: Modellvalidierung Schritt 5: Modellimplementierung Zusammenfassung Kapitel 19: Eine Röntgenuntersuchung Ihrer Daten Schritt 1: Analyse auf Stichprobenebene Schritt 2: Datenlecks („data leakage“) Messung der univariaten Vorhersagekraft einer Variable Beurteilung, ob Werte zufällig fehlen Schritt 3: Zwei Analysen, um die Struktur der Daten zu verstehen Schritt 4: Zwei Analysen zur Erkennung von Anomalien Manuelle Anomalie-Erkennung Anomalie-Erkennung mit maschinellem Lernen Schritt 5: Korrelationsanalyse mit geschützten Variablen Schritt 6: Visuelle Analyse Zusammenfassung Kapitel 20: Wann sollte maschinelles Lernen eingesetzt werden? Zusammenfassung Kapitel 21: Wie man maschinelles Lernen mit traditionellen Methoden verbindet Maschinelles Lernen auf Prädiktorebene Segmentierung Interaktionseffekte Die Technik der Zweitmeinung Zusammenfassung Kapitel 22: Wie man Vorein­genommenheit in selbstverbes­sernden Modellen vermeidet Modellmechanik Überlegungen zur Konstruktion einer Notbremse Modell-Überwachung Maschinelles Lernen in Echtzeit Zusammenfassung Kapitel 23: Wie man Debiasing institutionalisiert Datenfluss und -vorhaltung Standardisierung und Formulare (Vorlagen/Schablonen) Wesentlichkeitskonzept Kalibrierung Modell-Validierung Modell-Überwachung Kontinuierliche Erzeugung von unverzerrten Daten Zusammenfassung Sind Algorithmen Freund oder Feind?Der menschliche Verstand ist evolutionär darauf ausgelegt, Abkürzungen zu nehmen, um zu überleben. Wir ziehen voreilige Schlüsse, weil unser Gehirn uns in Sicherheit wiegen will. Die meisten unserer Voreingenommenheiten wirken sich zu unseren Gunsten aus, z. B. wenn wir ein Auto, das in unsere Richtung fährt, für gefährlich halten und sofort ausweichen oder wenn wir beschliessen, einen Bissen Essen nicht zu essen, der verdorben zu sein scheint. Allerdings wirken sich inhärente Vorurteile negativ auf das Arbeitsumfeld und die Entscheidungsfindung in unseren Gemeinschaften aus. Zwar wird mit der Entwicklung von Algorithmen und maschinellem Lernen versucht, Voreingenommenheit zu beseitigen, doch werden sie schliesslich von Menschen geschaffen und sind daher anfällig für das, was wir algorithmische Voreingenommenheit nennen.In Understand, Manage, and Prevent Algorithmic Bias (Algorithmische Voreingenommenheit verstehen, handhaben und verhindern) hilft Ihnen der Autor Tobias Baer zu verstehen, woher algorithmische Voreingenommenheit kommt, wie man sie als Geschäftsanwender oder Regulierungsbehörde handhaben kann und wie die Datenwissenschaft verhindern kann, dass Voreingenommenheit in statistische Algorithmen einfliesst. Baer befasst sich fachkundig mit einigen der mehr als 100 Arten natürlicher Verzerrungen wie Confirmation Bias, Stability Bias, Pattern Recognition Bias und vielen anderen. Algorithmische Verzerrungen spiegeln diese menschlichen Tendenzen wider und haben ihren Ursprung in ihnen. Baer befasst sich mit so unterschiedlichen Themen wie der Erkennung von Anomalien, hybriden Modellstrukturen und selbstverbesserndem maschinellen Lernen.Während sich die meisten Schriften über algorithmische Voreingenommenheit auf die Gefahren konzentrieren, weist der Kern dieses positiven, unterhaltsamen Buches auf einen Weg hin, auf dem Voreingenommenheit in Schach gehalten und sogar beseitigt werden kann. Sie erhalten Managementtechniken, um unvoreingenommene Algorithmen zu entwickeln, die Fähigkeit, Voreingenommenheit schneller zu erkennen, und das Wissen, um unvoreingenommene Daten zu erstellen. Algorithmic Bias verstehen, verwalten und verhindern ist ein innovatives, zeitgemässes und wichtiges Buch, das in Ihr Regal gehört. Egal, ob Sie eine erfahrene Führungskraft in der Wirtschaft, ein Datenwissenschaftler oder einfach nur ein Enthusiast sind, jetzt ist ein entscheidender Zeitpunkt, um sich über die Auswirkungen algorithmischer Verzerrungen auf die Gesellschaft zu informieren und eine aktive Rolle im Kampf gegen Verzerrungen zu übernehmen.Was Sie lernen werdenUntersuchung der vielen Quellen algorithmischer Verzerrungen, einschliesslich kognitiver Verzerrungen in der realen Welt, verzerrter Daten und statistischer ArtefakteVerstehen Sie die Risiken algorithmischer Verzerrungen, wie sie erkannt werden können und welche Managementtechniken es gibt, um sie zu verhindern oder zu verwaltenErkennen, wie maschinelles Lernen sowohl neue Quellen für algorithmische Verzerrungen schafft als auch ein Teil der Lösung sein kannKenntnis spezifischer statistischer Techniken, die ein Datenwissenschaftler anwenden kann, um algorithmische Verzerrungen zu erkennen und zu beseitigenFür wen dieses Buch gedacht istFührungskräfte von Unternehmen, die Algorithmen im täglichen Betrieb einsetzen; Datenwissenschaftler (von Studenten bis hin zu erfahrenen Praktikern), die Algorithmen entwickeln; Compliance-Beamte, die über algorithmische Verzerrungen besorgt sind; Politiker, Journalisten und Philosophen, die über algorithmische Verzerrungen im Hinblick auf ihre Auswirkungen auf die Gesellschaft und mögliche regulatorische Massnahmen nachdenken; und Verbraucher, die darüber besorgt sind, wie sie von algorithmischen Verzerrungen betroffen sein könnten