Über uns

Wie entwickelt man vertrauenswürdige KI-Anwendungen? Und was bedeutet das überhaupt? Meise werden Fragen nach ethischen Dimensionen in der KI- und Machine Learning-Entwicklung ignoriert oder als etwas optionales betrachtet.

In diesem FFG-geförderten Projekt arbeitet Gradient Zero mit Prof. Mark Coeckelbergh und seinem Team von der Univerität Wien und dem Österreichischen Forschungsinstitut für Künstliche Intelligenz zusammen, um ethische Fragen in den Mittelpunkt der KI-Entwicklung zu stellen. Das Projekt hat zum Ziel unsere Plattform dq0.io in eine vollständige Entwicklungsplattform für Ethische KI zu entwickeln.

Dieses Projekt bietet die einmalige Gelegenheit Philosophen und technische Forscher zusammenzubringen, um konkrete "ethics-by-design" Prinzipien zu erarbeiten, welche auf die praktischen Aspekte aus den Erfordernissen der Beachtung ethischer Grundsätze und rechtlicher Bestimmungen sowie den Herausforderungen durch technische Implementierungen eingehen.

Beginnend mit philosophischen Betrachtungen zu Fragen der Privatsphäre, Transparenz und Fairness wird das Team Werkzeuge entwickeln, welche es ermöglichen diese Prinzipien direkt in den KI-Entwicklungsprozess zu integrieren - für wahrhaft erklärbare und verantwortungsvolle KI.
 

 
FFG Logo
Uni Wien Logo
ÖFAI Logo
Gradient Zero Logo
 

 

Fortschritt

I

Privacy-Enhancing Technologies

02 / 2021 - 03 / 2021

DQ0 in eine vollwertige Plattform zur Entwicklung vertraunswürdiger KI weiterzuentwickeln, beginnt mit dem Thema Datenschutz. Die Daten der DQ0 Nutzer und die Daten, welche für die Analysen mit der Plattform verwendet werden, müssen geschützt werden. Insbesondere KI-Methoden stellen den Datenschutz vor große Herausforderungen. Diese erste Phase des Projektes konzentriert sich daher darauf robuste Datenschutzmechanismen im Kern von DQ0 zu verankern.

Differential Privacy

04 / 2021 - 06 / 2021

Differential Privacy kann mathematisch fundiert einen hohen Grad an Datenschutz garantieren. Im Gegensatz zu herkömmlichen Anonymisierungsmethoden ermöglicht es Differential Privacy den Dateneigentümer*innen die Menge an Informationen, die über einen Datensatz veröffentliche werden dürfen zu kontrollieren. Differential Privacy ist als eine der Hauptbestandteile in DQ0 implementiert, für Machine Learning Entwicklung und SQL Analysen.

Privacy Checker

07 / 2021 - 08 / 2021

Differential Privacy kommt bei DQ0 sowohl für das Modell-Training als auch für SQL-Abfragen zum Einsatz. Zusätzlich entwickeln wir in dieser Projektphase eigene Angriffe und Überprüfungen, um den tatsächlichen Schutzgrad der Analyseresultate in DQ0 bewerten zu können. Das "Privacy Checker" Modul fungiert dabei als Datenschutz-Wächter für alle Analyse-Workflows, die mit DQ0 entwickelt werden. Nur solche Modelle und SQL Resultate, die tatsächlich Datenschutz gewährleisten, können so mit DQ0 von den Dateneigentümer*innen veröffentlicht werden.

 
II

Ethische KI

09 / 2021 - 11 / 2021

Beginn der Kooperation mit Prof. Mark Coeckelbergh, Dr. Rebecca Raper und dem Team der "Philosophy of Media and Technology" Forschungsgruppe der Universität Wien. Das Ziel ist es, gemeinsam, an der Schnittstelle von Philosophie, Psychologie und Informatik, Methoden zu entwickeln, um ethische Prinzipien in den KI-Entwicklungsprozess zu integrieren.

Philosophische Grundlagen

12 / 2021 - 03 / 2022

Das Thema KI-Ethik hat in den letzten Jahren einige Aufmerksamkeit erfahren. Nichtsdesdotrotz ist nach wie vor völlig unklar, was die vorgeschlagenen Prinzipien in der Praxis bedeuten sollen. Es gibt noch immer eine große Lücke zwischen den theoretischen, abstrakten Prinzipien und den spezifischen Technolgoien und der technologischen Praxis der KI-Entwicklung. Solange diese methodische Lücke nicht geschlossen wird, können die Grundlagen für Ethische KI nicht weiterentwickelt werden.

Applied AI Ethics

04 / 2022 - 12 / 2022

In dieser Phase werden wir die Grundlagen für ethische KI-Entwicklung erarbeiten und gleichzeitg ihre konkreten Umsetzungen in den KI-Entwicklungsprozess einführen. Denn nur wenn die Prinzipien Ethischer KI auf echte Probleme der KI-Entwicklung angewendet und direkt in den Prozess integriert werden (anstatt sie als nachträglichen Zusatz aufzufassen), kann wahrhaft vertrauenswürdige KI entwickelt werden.

 
III

Explainable AI

06 / 2022 - 10 / 2022

Vertraunswürdige KI zu entwickeln mit Hilfe von "ethics-by-design" Mechanism, die direkt in den Entwicklungsprozess integriert sind, verlangt auch, dass diese mysteriöse KI "Black Box" geknackt wird. Dies ist eine Aufgabe für die Disziplin "Explainable AI". Wir werden die neuesten Methoden und Techniken zu erklärbarer KI zusammen mit dem Österreichischen Forschungsinstitut für Künstliche Intelligenz erforschen und entwickeln. Basierend auf dem Privacy Checker Modul aus Phase 1 wird ein wichtiges Thema Daten Bias sein. Bias in und von Daten, Bias durch Modelle des maschinellen Lernens und Bias aufgrund ethischer Entscheidungen.

Rechenschaft & Fairness

11 / 2022 - 03 / 2023

Erklärbarkeit ist allerdings nicht das Ende der Geschichte. Es ist sogar vielmehr eine Voraussetzung für vertrauenswürdige KI. Daher zielt diese Projektphase darauf ab, Tools wie den Impact, Transparency und Fairness Checker zu entwickeln, um zu bestimmen, ob die zu entwickelnden KI-Modelle - oder vielmehr ihre Entwickler*innen - tatsächlich vertrauenswürdig und die KI-Modelle tatsächlich "gut" (in allen Bedeutungen des Wortes) sind.

Computing

04 / 2023 - 02 / 2024

In dieser letzten Phase ist es an der Zeit die Plattform in eine Entwicklungsumgebung zu verwandeln, welche große Projekte mit realen Anwendungen und riesigen Datenmengen schultern kann. Hierzu planen wir mit der Forschungsgruppe Scientific Computing der Univerität Wien zusammenzuarbeiten, um Strategien zu entwickeln, wie High-performance-computing und KI-optimierte Prozesse in die Plattform integriert werden können. In dieser finalen Phase werden außerdem die Ergebnisse der vorherigen Phase aufgenommen und ggf. verfeinert.

 
 

 

Unser Team

 
MC
Univ.-Prof. Mark Coeckelbergh

Mark Coeckelbergh ist Professor für Philosophie für Medien und Technologie und Prodekan der Fakultät für Philosophie und Bildung der Universität Wien. Davor war er Professor für Technologie und Soziale Verantwortung der Montfort Universität, UK, Präsident der internationalen Gesellschaft für Philosophie und Technologie (SPT) und Geschäftsführer des 3TU Centre for Ethics and Technology in den Niederlanden. Coeckelbergh ist Mitherausgeber des Journals AI & Society und Mitglied vieler Editorial Advisory Boards, u.a. bei "AI and Ethics", "Science and Engineering Ethics" und "Techne". Er ist außerdem ein aktiver Berater der Politik und Mitglied der "High-Level Expert Group on Artificial Intelligence" der Europäischen Kommission und des Österreichischen Rats der Robotik und Künstlichen Intelligenz. Er ist Autor von zahlreichen Veröffentlichungen und von 14 Büchern, u.a. “AI Ethics” (MIT Press 2020 – übersetzt in mehrere Srachen) und "Introduction to Philosophy of Technology" (Oxford University Press 2019) und aktiv in mehreren europäischen Forschungsprojekten im Bereich von Ethischer KI und Robotik.
RR
Dr. des. Rebecca Raper

Rebecca Raper ist Forscherin im Bereich Ethicsche KI an der Universität Wien, beteiligt an diesem FFG-geförderten Projekt mit Gradient Zero. Ihre Forschungsinteressen umfassen die Erarbeitung praktischer Ansätze, Ethik in KI-Systeme zu integrieren, Riskomanagement in Bezug auf KI und Kognitive Robotik im allgemeinen. Ihre laufende Dissertation beschäftigt sich mit Ansätzen des Reinforcement Learning, um Maschinen mit Moral auszustatten. Sie hat Abschlüsse in Philosophie und Psychologie.
Univ.-Prof. Mark Coeckelbergh

Mark Coeckelbergh ist Professor für Philosophie für Medien und Technologie und Prodekan der Fakultät für Philosophie und Bildung der Universität Wien. Davor war er Professor für Technologie und Soziale Verantwortung der Montfort Universität, UK, Präsident der internationalen Gesellschaft für Philosophie und Technologie (SPT) und Geschäftsführer des 3TU Centre for Ethics and Technology in den Niederlanden. Coeckelbergh ist Mitherausgeber des Journals AI & Society und Mitglied vieler Editorial Advisory Boards, u.a. bei "AI and Ethics", "Science and Engineering Ethics" und "Techne". Er ist außerdem ein aktiver Berater der Politik und Mitglied der "High-Level Expert Group on Artificial Intelligence" der Europäischen Kommission und des Österreichischen Rats der Robotik und Künstlichen Intelligenz. Er ist Autor von zahlreichen Veröffentlichungen und von 14 Büchern, u.a. “AI Ethics” (MIT Press 2020 – übersetzt in mehrere Srachen) und "Introduction to Philosophy of Technology" (Oxford University Press 2019) und aktiv in mehreren europäischen Forschungsprojekten im Bereich von Ethischer KI und Robotik.
Dr. des. Rebecca Raper

Rebecca Raper ist Forscherin im Bereich Ethicsche KI an der Universität Wien, beteiligt an diesem FFG-geförderten Projekt mit Gradient Zero. Ihre Forschungsinteressen umfassen die Erarbeitung praktischer Ansätze, Ethik in KI-Systeme zu integrieren, Riskomanagement in Bezug auf KI und Kognitive Robotik im allgemeinen. Ihre laufende Dissertation beschäftigt sich mit Ansätzen des Reinforcement Learning, um Maschinen mit Moral auszustatten. Sie hat Abschlüsse in Philosophie und Psychologie.
BK
Dr. Brigitte Krenn

Brigitte Krenn ist Leiterin der Gruppe Sprache und Interaktionstechnologien am ÖFAI. Davor hatte sie die wissenschaftliche Leitung der "Smart Agent Technologies" (jetzt "Smart Application Technologies") des "Research Studios Austria" inne und war Mitglied des "Seibersdorf Research", jetzt "AIT Austrian Institute of Technology". Zuvor war sie als wissenschaftliche Mitarbeiterin und Forscherin am Institut für Computerlinguistik der Universität des Saarlandes und am IAI (Institut der Gesellschaft zur Förderung der angewandten Informationswissenschaften der Universität des Saarlandes) tätig. Sie hat einen Doktortitel in Computerlinguistik von der Universität des Saarlandes Saarbrücken und ein Diplom in Germanisitk, Literatur, Psychologie, Philosophie und Pädagogik der Karl-Franzens-Universität Graz.

http://ofai.at/~brigitte.krenn/
JB
Dipl. Ing. Johann Petrak

Johann Petrak ist wissenschaftlicher Mitarbeiter am Österreichischen Forschungsinstitut für Künstliche Intelligenz sowie wissenschaftlicher Mitarbeiter an der University of Sheffield und Mitglied der Natural Language Processing Group des Fachbereichs Informatik. Er ist begeisterter Entwickler von Open Source Software.

http://johann-petrak.github.io/
Dr. Brigitte Krenn

Brigitte Krenn ist Leiterin der Gruppe Sprache und Interaktionstechnologien am ÖFAI. Davor hatte sie die wissenschaftliche Leitung der "Smart Agent Technologies" (jetzt "Smart Application Technologies") des "Research Studios Austria" inne und war Mitglied des "Seibersdorf Research", jetzt "AIT Austrian Institute of Technology". Zuvor war sie als wissenschaftliche Mitarbeiterin und Forscherin am Institut für Computerlinguistik der Universität des Saarlandes und am IAI (Institut der Gesellschaft zur Förderung der angewandten Informationswissenschaften der Universität des Saarlandes) tätig. Sie hat einen Doktortitel in Computerlinguistik von der Universität des Saarlandes Saarbrücken und ein Diplom in Germanisitk, Literatur, Psychologie, Philosophie und Pädagogik der Karl-Franzens-Universität Graz.

http://ofai.at/~brigitte.krenn/
Dipl. Ing. Johann Petrak

Johann Petrak ist wissenschaftlicher Mitarbeiter am Österreichischen Forschungsinstitut für Künstliche Intelligenz sowie wissenschaftlicher Mitarbeiter an der University of Sheffield und Mitglied der Natural Language Processing Group des Fachbereichs Informatik. Er ist begeisterter Entwickler von Open Source Software.

http://johann-petrak.github.io/
 
 
JB
Mag. Jona Boeddinghaus

Jona ist Gründer und Geschäftsführer von Gradient Zero. Jona hat einen Abschluss in Philosophie, Informatik und Kognitionswissenschaft. Er ist Experte für Softwareentwicklung. Nach mehreren Jahren in der Industrie gründete er sein eigenes Venture Craut Interactive, das er 2014 verkaufte. Vor Gradient Zero hatte Jona mehrere Führungspositionen in Unternehmen für maschinelles Lernen inne.
AS
Artur Susdorf, BSc

Artur ist Gründer und CTO von Gradient Zero. Er hat einen Abschluss in Informatik mit Schwerpunkt in Grafik- und Bildverarbeitungssystemen. Nach mehreren Jahren in der Industrie gründete er ein unabhängiges Spieleentwicklerstudio, das er 2012 verkaufte. Vor Gradient Zero war Artur als Freelancer für verschiedene Unternehmen in Deutschland und der Schweiz tätig.
Mag. Jona Boeddinghaus

Jona ist Gründer und Geschäftsführer von Gradient Zero. Jona hat einen Abschluss in Philosophie, Informatik und Kognitionswissenschaft. Er ist Experte für Softwareentwicklung. Nach mehreren Jahren in der Industrie gründete er sein eigenes Venture Craut Interactive, das er 2014 verkaufte. Vor Gradient Zero hatte Jona mehrere Führungspositionen in Unternehmen für maschinelles Lernen inne.
Artur Susdorf, BSc

Artur ist Gründer und CTO von Gradient Zero. Er hat einen Abschluss in Informatik mit Schwerpunkt in Grafik- und Bildverarbeitungssystemen. Nach mehreren Jahren in der Industrie gründete er ein unabhängiges Spieleentwicklerstudio, das er 2012 verkaufte. Vor Gradient Zero war Artur als Freelancer für verschiedene Unternehmen in Deutschland und der Schweiz tätig.
WG
Wolfgang Groß, MSc

Wolfgang ist Gründer und Head of Data Science von Gradient Zero. Er erwarb Abschlüsse in Informatik und Kognitionswissenschaft mit den Schwerpunkten Machine Learning und Neuronale Netze. Zuletzt entwickelte er hochmoderne Machine-Learning-Algorithmen mit Fokus auf multivariate Zeitreihenprognosen, die mit großem Erfolg im Finanzsektor angewendet wurden.
PC
Dr. Paolo Campigotto

Dr. Paolo Campigotto bringt über zehn Jahre Erfahrung als Data Scientist mit, von universitärer Forschung bis zu unternehmerischen Anwendungen mit einem Fokus auf datengetriebenen Entscheidungen. Er promovierte in Informations- und Kommunikationstechnologien an der Universität von Trento. Paolo übernimmt in diesem Projekt die inhaltliche Leitung und führt das Forscher-Team.
Wolfgang Groß, MSc

Wolfgang ist Gründer und Head of Data Science von Gradient Zero. Er erwarb Abschlüsse in Informatik und Kognitionswissenschaft mit den Schwerpunkten Machine Learning und Neuronale Netze. Zuletzt entwickelte er hochmoderne Machine-Learning-Algorithmen mit Fokus auf multivariate Zeitreihenprognosen, die mit großem Erfolg im Finanzsektor angewendet wurden.
Dr. Paolo Campigotto

Dr. Paolo Campigotto bringt über zehn Jahre Erfahrung als Data Scientist mit, von universitärer Forschung bis zu unternehmerischen Anwendungen mit einem Fokus auf datengetriebenen Entscheidungen. Er promovierte in Informations- und Kommunikationstechnologien an der Universität von Trento. Paolo übernimmt in diesem Projekt die inhaltliche Leitung und führt das Forscher-Team.
 
 
CL
Dr. Craig Lincoln

Dr. Craig Lincoln verfügt über einen Abschluss in Data Science an der Technischen Universität Wien und Doktor der Physikalischen Chemie. Er arbeitet bei Gradient Zero als Data Scientist und Machine Learning Experte. In diesem Projekt ist er für die Erforschung und Umsetzung von Methoden aus dem Bereich “Privacy Preserving Machine Learning” zuständig.
DV
Dominic Viehböck, MSc

Dominic Viehböck ist bei Gradient Zero als Software-Entwickler angestellt. Er hat einen Master of Science in Bioinformatik von der Fachhochschule Campus Wien. In diesem Projekt wird er die größten Teile der Software-Implementierungsaufgaben für die Plattform übernehmen.
Dr. Craig Lincoln

Dr. Craig Lincoln verfügt über einen Abschluss in Data Science an der Technischen Universität Wien und Doktor der Physikalischen Chemie. Er arbeitet bei Gradient Zero als Data Scientist und Machine Learning Experte. In diesem Projekt ist er für die Erforschung und Umsetzung von Methoden aus dem Bereich “Privacy Preserving Machine Learning” zuständig.
Dominic Viehböck, MSc

Dominic Viehböck ist bei Gradient Zero als Software-Entwickler angestellt. Er hat einen Master of Science in Bioinformatik von der Fachhochschule Campus Wien. In diesem Projekt wird er die größten Teile der Software-Implementierungsaufgaben für die Plattform übernehmen.
RM
Dr. Reinhard Munz

Dr. Reinhard Munz ist Experte für verteilte Systeme und private Datenanalysen. Er hat am Max-Planck Institut für Software Systeme an der Evaluierung von Datenschutzmethoden und neuen Konzepten zur Budgetierung von Differential Privacy Implementierungen geforscht. Er arbeitet bei Gradient Zero als Data Scientist und Fachmann für private Datenanalysen. In diesem Projekt verantwortet er die sicherheits- und performanzrelevanten Komponenten der Plattform.
RM
Onur Gülkokan, MSc

Onur Gülkokan hat einen Masterabschluss in Erneuerbare Energien der Muğla Sıtkı Koçman Universität und einen Masterabschluss in Medical Systems Engineering der Otto-von-Guericke-Universität. Er ist Spezialist für Softwareentwicklung und Experte für Data Engineering mit Fokus auf Healthcare-Anwendungen.
Dr. Reinhard Munz

Dr. Reinhard Munz ist Experte für verteilte Systeme und private Datenanalysen. Er hat am Max-Planck Institut für Software Systeme an der Evaluierung von Datenschutzmethoden und neuen Konzepten zur Budgetierung von Differential Privacy Implementierungen geforscht. Er arbeitet bei Gradient Zero als Data Scientist und Fachmann für private Datenanalysen. In diesem Projekt verantwortet er die sicherheits- und performanzrelevanten Komponenten der Plattform.
Onur Gülkokan, MSc

Onur Gülkokan hat einen Masterabschluss in Erneuerbare Energien der Muğla Sıtkı Koçman Universität und einen Masterabschluss in Medical Systems Engineering der Otto-von-Guericke-Universität. Er ist Spezialist für Softwareentwicklung und Experte für Data Engineering mit Fokus auf Healthcare-Anwendungen.