Das Institut für KI-Sicherheit erbringt Forschungs- und Entwicklungsleistung im Bereich KI-bezogener Methoden, Prozesse, Algorithmen und Ausführungsumgebungen. Schwerpunkt ist die Gewährleistung von Betriebs- und Angriffssicherheit KI-basierter Lösungen in ambitionierten Anwendungsklassen. „Safety and Security by Design” ist dabei ein zentraler Aspekt, über welchen auch die Anforderungen sicherheitskritischer Anwendungen erfüllt werden können, die zukünftig auf KI fußen bzw. KI-basierte Komponenten als Lösungsbausteine aufgreifen.
 

Die Arbeitsschwerpunkte des Instituts liegen in den folgenden Bereichen:

• Entwicklungsprozesse und -Methoden für sicherheitskritische KI-Anwendungen
• robuste und zuverlässig absicherbare KI-Methoden und -Algorithmen
• Betriebs- und Angriffssicherheit für KI-basierte Anwendungen
• Absicherung und Nutzung sensibler Datenbestände
• Ausführungsumgebungen für KI-Anwendungen
• innovative Rechenmethoden
   

Die Abteilung Sicherheitskritische Dateninfrastrukturen befasst sich mit Daten- und Informationsqualität sowie Grundlagen für den Aufbau sicherer, dezentraler Dateninfrastrukturen. Ein Schwerpunkt der Abteilung ist dabei ist die Entwicklung von Methoden und Technologien mit Fokus auf Datensouveränität, und semantischer Interoperabilität für kritische und sensible Anwendungsszenarien.

Datenräume, stellen eine zeitgemäße Form der dezentralen Datenorganisation dar. Für diese spielt eine zertifizierbare und modulare, somit auch dezentralisierbare, Datenqualitätsbewertung, eine entscheidende Rolle.
Ontologien bieten die Möglichkeit, die Semantik von Datenqualitätsmodellen abzubilden, und damit einen Grundstein für die Implementierung von Diensten zur nutzfallspezifischen Datenqualitätsbewertung in Datenräumen zu legen.

• Literaturstudie und Erarbeiten einer State-of-the-Art Übersicht für Ontologien von Datenqualitätsmodellen
• Konzeptionieren und Erstellen einer Ontologie zur Abbildung von Datenqualitätsmodellen nach bestehenden Standards und Normen (u.a. ISO/IEC 25012, 25024 und 5259, ISO 8000, W3C dqv, …)
• Erstellen von Anwenderschnittstellen wie API, GUI und Visualisierung der Ontologiebestandteile
• Erstellen eines Konzepts, wie die Ontologie in ein Datenqualitätstool für Datenräume verwendet bzw. eingebunden werden kann, mit dem Fokus auf Organisation, Zusammenführung, Anwendung und Auswertung von Datenqualitätsmaßen

• Abgeschlossenes Bachelorstudium der Informatik, Mathematik, Physik oder Ingenieurswissenschaften
• Gute Englischkenntnisse in Wort und Schrift
• Motivation und Interesse an Daten
• Strukturiertes und eigeninitiatives Arbeiten