Über uns
In diesem FFG-geförderten Projekt arbeitet Gradient Zero mit Prof. Mark Coeckelbergh und seinem Team von der Univerität Wien und dem Österreichischen Forschungsinstitut für Künstliche Intelligenz zusammen, um ethische Fragen in den Mittelpunkt der KI-Entwicklung zu stellen. Das Projekt hat zum Ziel unsere Plattform dq0.io in eine vollständige Entwicklungsplattform für Ethische KI zu entwickeln.
Dieses Projekt bietet die einmalige Gelegenheit Philosophen und technische Forscher zusammenzubringen, um konkrete "ethics-by-design" Prinzipien zu erarbeiten, welche auf die praktischen Aspekte aus den Erfordernissen der Beachtung ethischer Grundsätze und rechtlicher Bestimmungen sowie den Herausforderungen durch technische Implementierungen eingehen.
Beginnend mit philosophischen Betrachtungen zu Fragen der Privatsphäre, Transparenz und Fairness wird das Team Werkzeuge entwickeln, welche es ermöglichen diese Prinzipien direkt in den KI-Entwicklungsprozess zu integrieren - für wahrhaft erklärbare und verantwortungsvolle KI.
Privacy-Enhancing Technologies
02 / 2021 - 03 / 2021
DQ0 in eine vollwertige Plattform zur Entwicklung vertraunswürdiger KI weiterzuentwickeln, beginnt mit dem Thema Datenschutz.
Die Daten der DQ0 Nutzer und die Daten, welche für die Analysen mit der Plattform verwendet werden, müssen geschützt werden.
Insbesondere KI-Methoden stellen den Datenschutz vor große Herausforderungen. Diese erste Phase des Projektes
konzentriert sich daher darauf robuste Datenschutzmechanismen im Kern von DQ0 zu verankern.
Differential Privacy
04 / 2021 - 06 / 2021
Differential Privacy kann mathematisch fundiert einen hohen Grad an Datenschutz garantieren.
Im Gegensatz zu herkömmlichen Anonymisierungsmethoden ermöglicht es Differential Privacy den Dateneigentümer*innen die Menge an Informationen, die über einen Datensatz veröffentliche werden dürfen zu kontrollieren.
Differential Privacy ist als eine der Hauptbestandteile in DQ0 implementiert, für Machine Learning Entwicklung und SQL Analysen.
Privacy Checker
07 / 2021 - 08 / 2021
Differential Privacy kommt bei DQ0 sowohl für das Modell-Training als auch für SQL-Abfragen zum Einsatz. Zusätzlich entwickeln wir in dieser Projektphase eigene Angriffe und Überprüfungen, um den tatsächlichen Schutzgrad der Analyseresultate in DQ0 bewerten zu können. Das "Privacy Checker" Modul fungiert dabei als Datenschutz-Wächter für alle Analyse-Workflows, die mit DQ0 entwickelt werden. Nur solche Modelle und SQL Resultate, die tatsächlich Datenschutz gewährleisten, können so mit DQ0 von den Dateneigentümer*innen veröffentlicht werden.
Ethische KI
09 / 2021 - 11 / 2021
Beginn der Kooperation mit Prof. Mark Coeckelbergh, Dr. Rebecca Raper und dem Team der "Philosophy of Media and Technology" Forschungsgruppe der Universität Wien.
Das Ziel ist es, gemeinsam, an der Schnittstelle von Philosophie, Psychologie und Informatik, Methoden zu entwickeln, um ethische Prinzipien in den KI-Entwicklungsprozess zu integrieren.
Philosophische Grundlagen
12 / 2021 - 03 / 2022
Das Thema KI-Ethik hat in den letzten Jahren einige Aufmerksamkeit erfahren.
Nichtsdesdotrotz ist nach wie vor völlig unklar, was die vorgeschlagenen Prinzipien in der Praxis bedeuten sollen.
Inspiriert vom Prinzip "Ethical by Design" (Mulvenna et al., 2017), nach welchem ethische Prinzipien in die Design-Phase des Entwicklungsprozesses einfließen sollen,
versucht EKIP praktische Ansätze zur Einbettung von Ethik für Software- und KI-Entwickler zu erforschen.
Applied AI Ethics
04 / 2022 - 12 / 2022
In dieser Phase werden wir die Grundlagen für ethische KI-Entwicklung erarbeiten und gleichzeitg ihre konkreten Umsetzungen in den KI-Entwicklungsprozess einführen. Denn nur wenn die Prinzipien Ethischer KI auf echte Probleme der KI-Entwicklung angewendet und direkt in den Prozess integriert werden (anstatt sie als nachträglichen Zusatz aufzufassen), kann wahrhaft vertrauenswürdige KI entwickelt werden.
Explainable AI
06 / 2022 - 10 / 2022
Vertraunswürdige KI zu entwickeln mit Hilfe von "ethics-by-design" Mechanism, die direkt in den Entwicklungsprozess integriert sind, verlangt auch, dass diese mysteriöse KI "Black Box" geknackt wird. Dies ist eine Aufgabe für die Disziplin "Explainable AI". Wir werden die neuesten Methoden und Techniken zu erklärbarer KI zusammen mit dem Österreichischen Forschungsinstitut für Künstliche Intelligenz erforschen und entwickeln. Basierend auf dem Privacy Checker Modul aus Phase 1 wird ein wichtiges Thema Daten Bias sein. Bias in und von Daten, Bias durch Modelle des maschinellen Lernens und Bias aufgrund ethischer Entscheidungen.
Rechenschaft & Fairness
11 / 2022 - 03 / 2023
Erklärbarkeit ist allerdings nicht das Ende der Geschichte. Es ist sogar vielmehr eine Voraussetzung für vertrauenswürdige KI. Daher zielt diese Projektphase darauf ab, Tools wie den Impact, Transparency und Fairness Checker zu entwickeln, um zu bestimmen, ob die zu entwickelnden KI-Modelle - oder vielmehr ihre Entwickler*innen - tatsächlich vertrauenswürdig und die KI-Modelle tatsächlich "gut" (in allen Bedeutungen des Wortes) sind.
Computing
04 / 2023 - 02 / 2024
In dieser letzten Phase ist es an der Zeit die Plattform in eine Entwicklungsumgebung zu verwandeln, welche große Projekte mit realen Anwendungen und riesigen Datenmengen schultern kann. Hierzu planen wir mit der Forschungsgruppe Scientific Computing der Univerität Wien zusammenzuarbeiten, um Strategien zu entwickeln, wie High-performance-computing und KI-optimierte Prozesse in die Plattform integriert werden können. In dieser finalen Phase werden außerdem die Ergebnisse der vorherigen Phase aufgenommen und ggf. verfeinert.
Mark Coeckelbergh ist Professor für Philosophie für Medien und Technologie und Prodekan der Fakultät für Philosophie und Bildung der Universität Wien. Davor war er Professor für Technologie und Soziale Verantwortung der Montfort Universität, UK, Präsident der internationalen Gesellschaft für Philosophie und Technologie (SPT) und Geschäftsführer des 3TU Centre for Ethics and Technology in den Niederlanden. Coeckelbergh ist Mitherausgeber des Journals AI & Society und Mitglied vieler Editorial Advisory Boards, u.a. bei "AI and Ethics", "Science and Engineering Ethics" und "Techne". Er ist außerdem ein aktiver Berater der Politik und Mitglied der "High-Level Expert Group on Artificial Intelligence" der Europäischen Kommission und des Österreichischen Rats der Robotik und Künstlichen Intelligenz. Er ist Autor von zahlreichen Veröffentlichungen und von 14 Büchern, u.a. “AI Ethics” (MIT Press 2020 – übersetzt in mehrere Srachen) und "Introduction to Philosophy of Technology" (Oxford University Press 2019) und aktiv in mehreren europäischen Forschungsprojekten im Bereich von Ethischer KI und Robotik.
Rebecca Raper ist Forscherin im Bereich Ethicsche KI an der Universität Wien, beteiligt an diesem FFG-geförderten Projekt mit Gradient Zero. Ihre Forschungsinteressen umfassen die Erarbeitung praktischer Ansätze, Ethik in KI-Systeme zu integrieren, Riskomanagement in Bezug auf KI und Kognitive Robotik im allgemeinen. Ihre laufende Dissertation beschäftigt sich mit Ansätzen des Reinforcement Learning, um Maschinen mit Moral auszustatten. Sie hat Abschlüsse in Philosophie und Psychologie.
Brigitte Krenn ist Leiterin der Gruppe Sprache und Interaktionstechnologien am ÖFAI. Davor hatte sie die wissenschaftliche Leitung der "Smart Agent Technologies" (jetzt "Smart Application Technologies") des "Research Studios Austria" inne und war Mitglied des "Seibersdorf Research", jetzt "AIT Austrian Institute of Technology". Zuvor war sie als wissenschaftliche Mitarbeiterin und Forscherin am Institut für Computerlinguistik der Universität des Saarlandes und am IAI (Institut der Gesellschaft zur Förderung der angewandten Informationswissenschaften der Universität des Saarlandes) tätig. Sie hat einen Doktortitel in Computerlinguistik von der Universität des Saarlandes Saarbrücken und ein Diplom in Germanisitk, Literatur, Psychologie, Philosophie und Pädagogik der Karl-Franzens-Universität Graz.
http://ofai.at/~brigitte.krenn/
Johann Petrak ist wissenschaftlicher Mitarbeiter am Österreichischen Forschungsinstitut für Künstliche Intelligenz sowie wissenschaftlicher Mitarbeiter an der University of Sheffield und Mitglied der Natural Language Processing Group des Fachbereichs Informatik. Er ist begeisterter Entwickler von Open Source Software.
http://johann-petrak.github.io/
Jona ist Gründer und Geschäftsführer von Gradient Zero. Jona hat einen Abschluss in Philosophie, Informatik und Kognitionswissenschaft. Er ist Experte für Softwareentwicklung. Nach mehreren Jahren in der Industrie gründete er sein eigenes Venture Craut Interactive, das er 2014 verkaufte. Vor Gradient Zero hatte Jona mehrere Führungspositionen in Unternehmen für maschinelles Lernen inne.
Artur ist Gründer und CTO von Gradient Zero. Er hat einen Abschluss in Informatik mit Schwerpunkt in Grafik- und Bildverarbeitungssystemen. Nach mehreren Jahren in der Industrie gründete er ein unabhängiges Spieleentwicklerstudio, das er 2012 verkaufte. Vor Gradient Zero war Artur als Freelancer für verschiedene Unternehmen in Deutschland und der Schweiz tätig.
Wolfgang ist Gründer und Head of Data Science von Gradient Zero. Er erwarb Abschlüsse in Informatik und Kognitionswissenschaft mit den Schwerpunkten Machine Learning und Neuronale Netze. Zuletzt entwickelte er hochmoderne Machine-Learning-Algorithmen mit Fokus auf multivariate Zeitreihenprognosen, die mit großem Erfolg im Finanzsektor angewendet wurden.
Dr. Paolo Campigotto bringt über zehn Jahre Erfahrung als Data Scientist mit, von universitärer Forschung bis zu unternehmerischen Anwendungen mit einem Fokus auf datengetriebenen Entscheidungen. Er promovierte in Informations- und Kommunikationstechnologien an der Universität von Trento. Paolo übernimmt in diesem Projekt die inhaltliche Leitung und führt das Forscher-Team.
Dr. Craig Lincoln verfügt über einen Abschluss in Data Science an der Technischen Universität Wien und Doktor der Physikalischen Chemie. Er arbeitet bei Gradient Zero als Data Scientist und Machine Learning Experte. In diesem Projekt ist er für die Erforschung und Umsetzung von Methoden aus dem Bereich “Privacy Preserving Machine Learning” zuständig.
Dominic Viehböck ist bei Gradient Zero als Software-Entwickler angestellt. Er hat einen Master of Science in Bioinformatik von der Fachhochschule Campus Wien. In diesem Projekt wird er die größten Teile der Software-Implementierungsaufgaben für die Plattform übernehmen.
Dr. Reinhard Munz ist Experte für verteilte Systeme und private Datenanalysen. Er hat am Max-Planck Institut für Software Systeme an der Evaluierung von Datenschutzmethoden und neuen Konzepten zur Budgetierung von Differential Privacy Implementierungen geforscht. Er arbeitet bei Gradient Zero als Data Scientist und Fachmann für private Datenanalysen. In diesem Projekt verantwortet er die sicherheits- und performanzrelevanten Komponenten der Plattform.
Onur Gülkokan hat einen Masterabschluss in Erneuerbare Energien der Muğla Sıtkı Koçman Universität und einen Masterabschluss in Medical Systems Engineering der Otto-von-Guericke-Universität. Er ist Spezialist für Softwareentwicklung und Experte für Data Engineering mit Fokus auf Healthcare-Anwendungen.