Compliancechannel
click to search
search type


 
  • Home
  • Your Story
    • Create Your Story
    • License Your Story
    • Pitch Your Story
    • Quizz Your Story
  • Best Practice
  • Knowledge
    • Explain Compliance
    • Studies & Whitepapers
    • Compliance Reader
  • 1 on 1
  • Spotlight On
    • PODCAST: Compliance Channel TALK
    • Events
    • Feature
    • Ethics & Compliance Panel
    • CSTV
  • Ethics & Compliance Leaders
  • Newsroom
    • Daily News
    • #Untited4Integrity
    • DICO inside
    • Corporate Culture Award Special
  • About Us
    • Mission
    • Partners
    • Testimonials
    • Contact Us
Menu
  • Home
  • Your Story
    • Create Your Story
    • License Your Story
    • Pitch Your Story
    • Quizz Your Story
  • Best Practice
  • Knowledge
    • Explain Compliance
    • Studies & Whitepapers
    • Compliance Reader
  • 1 on 1
  • Spotlight On
    • PODCAST: Compliance Channel TALK
    • Events
    • Feature
    • Ethics & Compliance Panel
    • CSTV
  • Ethics & Compliance Leaders
  • Newsroom
    • Daily News
    • #Untited4Integrity
    • DICO inside
    • Corporate Culture Award Special
  • About Us
    • Mission
    • Partners
    • Testimonials
    • Contact Us
Fairness und Künstliche Intelligenz: Warum Metriken nicht ausreichen

Fairness und Künstliche Intelligenz: Warum Metriken nicht ausreichen

09-02-2022

Klassisches Software-Testing lässt sich nicht ohne Weiteres auf KI übertragen. Model Governance und interne Audits sind nötig, um Fairness zu gewährleisten.

Der Einsatz von Künstlicher Intelligenz (KI) bringt Verantwortung mit sich. Transparenz, Erklärbarkeit, Fairness sind dabei wesentliche Prinzipien, die ebenso gewährleistet sein müssen wie die hohe Leistungsfähigkeit des KI-Systems. Um diese Anforderungen einzuhalten, liegt es nahe, sich an Bereichen mit einer Tradition überprüfbarer Prozesse zu orientieren. Zwar funktionieren diese Prozesse nicht fehlerlos, aber ohne sie lassen sich Sicherheitsstandards nicht verwirklichen. Am offensichtlichsten ist das in sicherheitskritischen und regulierten Branchen wie der Medizin, aber auch in der Luft- und Raumfahrt oder im Finanzwesen.

Ähnlich wie diese Bereiche Prozesse benötigen, um relevanten Anforderungen nachzukommen, benötigt ein Unternehmen, das KI-Systeme einsetzt, geregelte Abläufe, durch die es Zugriff auf Machine-Learning-Modelle (ML) kontrolliert, Richtlinien sowie gesetzliche Vorgaben umsetzt, die Interaktionen mit den Modellen und deren Ergebnissen verfolgt sowie festhält, auf welcher Grundlage ein Modell erzeugt wurde. Insgesamt werden diese Prozesse als Model Governance bezeichnet. Model-Governance-Prozesse sind von Beginn an in jede Phase des ML-Lebenszyklus zu implementieren (Design, Development und Operations). Zur konkreten technischen Integration von Model Governance in den ML-Lebenszyklus hat die Verfasserin sich andernorts ausführlicher geäußert.

Hier gelangen Sie zu dem vollständigen Artikel

     
  • Impressum
  • Disclaimer-Data Privacy
  • AGB
Menu
  • Impressum
  • Disclaimer-Data Privacy
  • AGB

© Compliancechannel 2023. ALL RIGHTS RESERVED.