Prof. Dr. Simon Burton versucht mit seiner Arbeit, KI sicherer zu machen. Die zentrale Frage, die ihn antreibt, ist: Wie können wir das technische Risiko, das mit komplexen, autonomen Systemen verbunden ist, auf nachweisbare Weise reduzieren?
1. August 2023
© iStock/urfinguss
Prof. Dr. Simon Burton ist als Scientific Director of Safety Assurance am Fraunhofer-Institut für Kognitive Systeme IKS tätig und leitet zudem eine internationale und interdisziplinäre Expertengruppe bei der ISO (International Standards Organisation). Dieses Team arbeitet an der Entwicklung einer der weltweit ersten Sicherheitsstandards für die Verwendung von KI in Straßenfahrzeugen. Der Schwerpunkt seiner Forschung liegt auf »Safe Intelligence«, bei denen sich Disziplinen wie funktionale Sicherheit, Systems-Engineering, Maschinelles Lernen (ML) und KI-Ethik überschneiden.
Simon, aufgewachsen in einer kleinen Stadt an der Ostküste Englands, hat einen soliden Hintergrund in der Informatik. Nach seinem Studium in England, das er 1996 abschloss, arbeitete er zunächst als Softwareentwickler in der Telekommunikationsbranche. Doch sein Interesse an der Forschung trieb ihn bald wieder zurück an die Universität. Dort konzentrierte er sich auf die Verifikation von sicherheitskritischer Software und leistete einen wertvollen Beitrag zum Technologietransfer zwischen Forschung und Industrie.
Nach dieser Zeit folgte eine 20-jährige Karriere in der Automobilindustrie. Zuletzt hatte er die Rolle des Direktors für Sichere Fahrzeugsysteme bei der Robert Bosch GmbH inne. In dieser Funktion arbeitete er unter anderem an der Strategieentwicklung für sichere automatisierte Fahrsysteme.
»Meine Stärke liegt darin, dass ich an vielen Themen und Disziplinen interessiert bin. Dadurch kann ich Verbindungen herstellen und die richtigen Leute zusammenbringen.«
Simon ist seit 2019 Gastprofessor an der University of York und kam im September 2020 zum Fraunhofer IKS, um sich verstärkt der Leitung von Forschungsaktivitäten zu widmen. Am Fraunhofer IKS beschäftigt er sich unter anderem mit der Frage, welche Schritte bei der Entwicklung einer ML-gesteuerten Funktion unternommen werden müssen, um die Sicherheit zu gewährleisten, und wie man nachweisen kann, dass diese Funktion trotz Restfehlern in den ML-Modellen sicher ist.
»Ich sehe mich nicht unbedingt als klassischer ML-Forscher. Ich interessiere mich mehr für die Engineering-Perspektive, also wie können wir die Technologien so integrieren, dass wir ihre Vorteile nutzen können und das System auch sicher ist? Das erfordert natürlich auch ein Verständnis der theoretischen Konzepte aus dem Bereich ML sowie der Sicherheitstechnik, um diese beiden Bereiche näher zusammenzubringen.« sagt er.
Trotz seiner langjährigen Tätigkeit in der Industrie hat er nie den Bezug zur Forschung verloren. Simon sieht sich selbst als wichtiges Bindeglied zwischen Industrie und Forschung.
Prof. Dr. Simon Burton: »Bei meiner Arbeit verliere ich mich nicht in abstrakte Details. Stattdessen versuche ich, wissenschaftliche Ansätze aus verschiedenen Disziplinen anzuwenden, um reale technische Probleme zu lösen.« (Foto: Fraunhofer IKS/M. Kroll)
Simon hat in München einen neuen Lebensmittelpunkt gefunden, den er sehr schätzt. »Ich finde München als Stadt wunderbar zum Leben. Besonders liebe ich die Nähe zu den Bergen. Am Wochenende kann ich draußen an der frischen Luft wandern gehen und abschalten.«
In seiner Freizeit spielt er gerne Gitarre und Bass und hört gerne Bands wie Metallica und Mastodon. Ein weiteres überraschendes Hobby von ihm ist das Skaten. »Auch wenn man es mir nicht ansieht, ich bin im Sommer liebend gerne auf einem Skateboard unterwegs.« Außerdem geht er gerne in einem der vielen Münchner Parks joggen. Im Winter fährt er außerdem oft Snowboard.
https://safe-intelligence.fraunhofer.de/artikel/automatisiertes-fahren-sicherheit?utm_source=website
https://safe-intelligence.fraunhofer.de/artikel/interview-simon-burton?utm_source=website
