Number of cases campus Koblenz: 1 (warning level Gelb until 02.12.2020) Action plan

EnTrust (Teilprojekt 3: Erklärbarkeit)

(EnTrust)

Period: Jul 01, 2019 - Dec 01, 2020
Status: laufend

Das Ziel des Forschungsschwerpunktes EnTrust ist es, methodische Vorgehensweisen und formale Werkzeuge zu erforschen, die die ingenieurmäßigen Entwicklung korrekter - oder zumindest vertrauenswürdiger - datenintensiver Software unterstützen. Dieses Ziel wird in verschiedenen Teilprojekten verfolgt. 


Ein wesentlicher Aspekt, der zur Vertrauenswürdigkeit datenintensiver Systeme beitragen kann, ist ihre Erklärbarkeit, d.h. deren Fähigkeit, getroffene Entscheidungen zu erklären, aber auch, allgemeiner, die korrekte Ausführung solcher Systeme nachzuweisen oder zu beweisen. Obwohl in datenintensiven Systemen "korrektes Ausführen" oft nicht klar definiert ist, gibt es Aspekte der "Korrektheit", die nachgewiesen können, für 

(i) Daten,

(ii) Algorithmen, die Daten verarbeiten, und

(iii) Entscheidungen, die auf solche Algorithmen basieren.

 

Ziel des Teilprojektes 3 (Erklärbarkeit)ist es, Methoden zu entwickeln, um Erklärungen für die Korrektheit und Reprä- sentativität der Daten sowie Korrektheit und Fairness der Algorithmen, die diese Daten bearbeiten, be- reitzustellen, und um Entscheidungen, die auf datenintensiver Software basieren, zu erklären.


Project partner

Prof. Dr. Viorica Sofronie-Stokkermans
PD Dr. Matthias Thimm
JProf. Dr. Claudia Wagner