Mit Captum will Facebook Entwicklern helfen, die Entscheidungen ihrer KIs nachzuvollziehen.

Künstliche Intelligenz soll nachvollziehbarer werden, da sind sich Forscher, Politiker und NGOs einig. Eine Technologie, die über Zugang zu Krediten, zur Gesundheitsversorgung oder über die persönliche Freiheit mitentscheidet, darf keine Blackbox sein.

Nachvollziehbarkeit kann helfen, Vorurteile aufzudecken und neue Erkenntnisse bringen, die uns sonst verborgen blieben: etwa wenn eine KI für die Krebsdiagnose einen unbekannten Zusammenhang zwischen einer Genmutation und Tumorstruktur erkennt.

Google, IBM und Microsoft bieten bereits Werkzeuge an, mit denen ein Blick in die Blackbox KI geworfen werden kann. Nun schließt sich Facebook mit einer eigenen Lösung an.