Doktorandin / Doktorand (w/m/d) im Bereich IT-Sicherheit und „Explainable AI“ (XAI)

Doktorandin / Doktorand (w/m/d) im Bereich IT-Sicherheit und „Explainable AI“ (XAI)

Organisationseinheit

Institut für Informationssicherheit und Verlässlichkeit (KASTEL)

Ihre Aufgaben

Die Forschungsgruppe „Künstliche Intelligenz & IT-Sicherheit" betreibt Spitzenforschung an der Schnittstelle von künstlicher Intelligenz und IT-Sicherheit. Wir arbeiten an Themen wie der Angriffserkennung oder der Suche nach Schwachstellen in Software und Hardware. Ein weiteres zentrales und besonders wichtiges Thema unserer Forschung ist die Robustheit (im Sinne von Angriffssicherheit) von künstlicher Intelligenz.

In beiden Kernbereichen der Forschungsgruppe (Sicherheit von KI und KI für IT-Sicherheit) können Methoden der erklärbaren künstlichen Intelligenz (XAI) zur Angriffserkennung eingesetzt werden. Zum Beispiel:

• Erkennen und Vorbeugen von Angriffen auf Computersysteme
  • Analyse von Angriffen und Schadcode
  • Schwachstellensuche und Fuzz Testen (Fuzzing)
• Erkennung von Angriffen auf künstliche Intelligenz
  • Hintertüren in ML Modellen ("ML Backdoors")
  • Auslösen von Fehlverhalten ("Adversarial Examples")
  • Datendiebstahl ("Model Stealing" und "Membership Inference")

Gleichzeitig ist aber auch die Angriffssicherheit von XAI Methoden besonders relevant. Neben der Demonstration von neuartigen Angriffen, ist vor allem die Entwicklung von robusten XAI Methoden zukünftig essentiell. Zum Beispiel:

• Eingabe- bzw. Modellmanipulationen und „Data Poisoning“
• "Fairwashing" von XAI-Ausgaben
• Zertifizierbar/ Beweisbar robuste XAI-Methoden

Wir suchen Sie für eine Promotionsstelle, um Forschung auf Spitzenniveau zu betreiben. Promovierende werden in die "KIT Graduate School Cyber Security" aufgenommen.

Darüber hinaus verfügt die Arbeitsgruppe über enge Kontakte zu nationalen und internationalen Forschungsinstituten. Wir betreiben außerdem eine eigene dedizierte Server-/Recheninfrastruktur zur Unterstützung unserer Forschung und statten unsere Mitarbeiter·innen mit der besten Hardware aus.

Eintrittstermin

zum nächstmöglichen Zeitpunkt / as soon as possible

Ihre Qualifikation

• Sie verfügen über einen Hochschulabschluss in der Fachrichtung Informatik (Master) oder einem verwandten Gebiet.
• Darüber hinaus sollten Sie sehr gute Kenntnisse zu maschinellem Lernen und der IT-Sicherheit mitbringen.
• Vor allem bedarf es aber der Begeisterung für Forschung an lernenden Systemen und der Neugier für neuartige Methoden.

Entgelt

EG 13 TV-L, sofern die fachlichen und persönlichen Voraussetzungen erfüllt sind.

Das bieten wir Ihnen

Werden auch Sie Teil bei der einzigen deutschen Exzellenzuniversität mit nationaler Großforschung und arbeiten Sie unter hervorragenden Arbeitsbedingungen in einem internationalen Umfeld an der aktuellen Forschung und Lehre für unsere Zukunft. Starten Sie beruflich mit einer zielgerichteten Einarbeitung sowie breitgefächerten Weiterqualifizierungsangeboten. Profitieren Sie von flexiblen Arbeitszeitmodellen (Gleitzeit, Homeoffice), diversen Sport- und Freizeitangeboten sowie Kinder- und Ferienbetreuungsangeboten. Des Weiteren bieten wir einen Zuschuss zum Jobticket BW in Höhe von 25 €/Monat und ein vielseitiges Angebot in verschiedenen Mensen.

Vertragsdauer

18 Monate

Die volle Finanzierung über die gesamte Promotionszeit und über die initiale Befristung hinaus ist vorgesehen.

Bewerbungsfrist bis zum

15.09.2024

Fachliche Ansprechperson

Fachliche Auskünfte erteilt Ihnen gerne Herr TT.-Prof. Christian Wressnegger.

Bewerbung

Die Bewerbung soll aus einem Anschreiben, einem Lebenslauf und Zeugnissen bestehen. Achten Sie bitte darauf hervorzuheben, warum Sie zu unserer Arbeitsgruppe und der Forschung im Bereich IT-Sicherheit passen.

Bitte bewerben Sie sich online über den unten stehenden Button für die Ausschreibungsnummer 1342/2024.

Ausschreibungsnummer: 1342/2024

Kontakt

Bei allgemeinen Fragen zur Bewerbung:
Personalservice (PSE) - Personalbetreuung
Frau Kehrer
Telefon: 0721 608-45415,
Kaiserstr. 12, 76131 Karlsruhe