Sicherheit-Evaluator für KI-Bots (m/w/d) – Ethik & Filter, Remote

Über das Unternehmen

Als Weltmarktführer für Unternehmenssoftware unterstützt SAP Unternehmen jeder Größe und Branche dabei, profitabel zu wirtschaften, sich kontinuierlich anzupassen und nachhaltig zu wachsen. Mit innovativen Technologien wie maschinellem Lernen, IoT und fortschrittlichen Analysen helfen wir unseren Kunden, intelligenter und effizienter zu werden. Unsere Mission ist es, die Welt besser und das Leben einfacher zu machen. Bei SAP arbeiten Sie in einem globalen Team an der Spitze der Technologieentwicklung, wo Sie die Zukunft mitgestalten können.

Stellenbeschreibung

SAP sucht einen engagierten Sicherheit-Evaluator für KI-Bots (m/w/d), der sich unserer Mission anschließt, vertrauenswürdige und ethisch verantwortungsvolle KI-Lösungen zu entwickeln. In dieser vollständig Remote-Position sind Sie dafür verantwortlich, unsere KI-Bot-Systeme auf potenzielle Schwachstellen, Verzerrungen und unerwünschtes Verhalten zu überprüfen. Sie werden Filtermechanismen entwickeln und testen, um sicherzustellen, dass unsere Bots den höchsten Standards für Sicherheit, Datenschutz und ethische Richtlinien entsprechen. Dies ist eine kritische Rolle, um das Vertrauen unserer Kunden zu erhalten und sicherzustellen, dass unsere KI-Produkte positiv zur Gesellschaft beitragen. Sie arbeiten eng mit Entwicklungsteams, Produktmanagern und Ethikexperten zusammen, um robuste und verantwortungsvolle KI-Systeme zu gewährleisten.

Hauptverantwortlichkeiten

• Durchführung umfassender Sicherheitsbewertungen und ethischer Audits von KI-Bot-Systemen und deren zugrunde liegenden Algorithmen.
• Entwicklung, Implementierung und Test von Filtern und Schutzmaßnahmen zur Vermeidung von Verzerrungen, Diskriminierung und anderen unerwünschten Ergebnissen in KI-Interaktionen.
• Identifizierung und Meldung von potenziellen Sicherheitslücken, Schwachstellen und ethischen Risiken in KI-Modellen.
• Zusammenarbeit mit KI-Entwicklungsteams zur Integration von "Privacy by Design"- und "Ethics by Design"-Prinzipien.
• Erstellung detaillierter Berichte und Empfehlungen zur Verbesserung der KI-Sicherheit und ethischen Konformität.
• Bleiben Sie auf dem Laufenden über neue Bedrohungen, ethische Standards und Best Practices im Bereich der KI-Sicherheit und -Ethik.
• Beitrag zur Definition und Umsetzung von internen Richtlinien und Standards für verantwortungsvolle KI-Entwicklung.

Erforderliche Fähigkeiten

• Fundierte Kenntnisse in maschinellem Lernen und KI-Systemen, insbesondere im Bereich Natural Language Processing (NLP) oder Chatbots.
• Erfahrung in der Sicherheitsanalyse oder ethischen Bewertung von Softwaresystemen, vorzugsweise im KI-Bereich.
• Vertrautheit mit gängigen ethischen Frameworks und Richtlinien für KI.
• Starke analytische Fähigkeiten und die Fähigkeit, komplexe Probleme zu identifizieren und Lösungen vorzuschlagen.
• Ausgezeichnete Kommunikationsfähigkeiten in Deutsch und Englisch, sowohl schriftlich als auch mündlich.
• Erfahrung mit Programmiersprachen wie Python.

Bevorzugte Qualifikationen

• Master-Abschluss oder PhD in Informatik, Künstlicher Intelligenz, Ethik der Technologie oder einem verwandten Bereich.
• Erfahrung mit Tools und Methoden zur Erkennung von KI-Bias und Fairness-Audits.
• Kenntnisse in Cybersicherheit und Bedrohungsmodellierung.
• Erfahrung in der Arbeit in einem agilen Entwicklungsumfeld.
• Veröffentlichungen oder Beiträge zu Forschungsarbeiten im Bereich KI-Ethik oder -Sicherheit.

Vorteile & Zusatzleistungen

• Flexible Arbeitszeiten und die Möglichkeit, 100% remote zu arbeiten.
• Wettbewerbsfähiges Gehalt und umfassende Sozialleistungen.
• Zugang zu modernster Technologie und Lernressourcen.
• Möglichkeiten zur beruflichen Weiterentwicklung und Karrierewachstum in einem globalen Unternehmen.
• Ein unterstützendes und vielfältiges Arbeitsumfeld.
• Beitrag zur Gestaltung der Zukunft der KI mit ethischen und sicheren Lösungen.

Jetzt bewerben