Wikipedia

Deborah Raji

nigerianisch-kanadische Informatikerin und Aktivistin

Inioluwa Deborah Raji (* in Port Harcourt, Nigeria) ist eine nigerianisch-kanadische Informatikerin und Aktivistin, die sich mit algorithmischer Verzerrung, Rechenschaftspflicht von KI und algorithmischem Auditing beschäftigt. Raji hat zuvor an der Erforschung geschlechtsspezifischer und rassistischer Vorurteile in der Gesichtserkennung gearbeitet. Sie hat mit dem Ethical AI Team von Google zusammengearbeitet. Sie war Forschungsstipendiatin am AI Now Institute an der New York University, wo sie sich mit Ethikfragen in der Praxis des maschinellen Lernens beschäftigte. Als Fellow der Mozilla Foundation wurde sie von MIT Technology Review und Forbes als eine der besten jungen Innovatoren der Welt ausgezeichnet.[1][2][3][4]

Inioluwa Deborah Raji
Inioluwa Deborah Raji

Kindheit und Studium

Bearbeiten

Raji zog nach Mississauga, Kanada, als sie vier Jahre alt war. Später zog ihre Familie nach Ottawa. Sie studierte Ingenieurwissenschaften an der University of Toronto und schloss ihr Studium 2019 mit einem Bachelor ab. Im Jahr 2015 gründete sie Project Include, eine gemeinnützige Organisation, die Studenten in einkommensschwachen und zugewanderten Gemeinden im Großraum Toronto den Zugang zu Ingenieurausbildung, Mentoring und Ressourcen erleichtert.[3][5][6][7]

Karriere und Forschung

Bearbeiten

Raji arbeitete am MIT Media Lab und der Algorithmic Justice League, wo sie kommerzielle Gesichtserkennungstechnologien von Microsoft, Amazon, IBM, Face++ und Kairos untersuchte. Sie fanden heraus, dass diese Technologien bei dunkelhäutigen Frauen deutlich ungenauer waren als bei weißen Männern. Mit der Unterstützung anderer führender KI-Forscher und verstärktem öffentlichen Druck und Kampagnen führten ihre Arbeiten dazu, dass IBM und Amazon sich bereit erklärten, die Regulierung der Gesichtserkennung zu unterstützen und später den Verkauf ihrer Produkte an die Polizei für mindestens ein Jahr zu stoppen. Raji absolvierte auch ein Praktikum beim Start-up-Unternehmen Clarifai, wo sie an einem Computer-Vision-Modell zur Markierung von Bildern arbeitete.[4][5][8][9][10][11][12][13]

Sie nahm an einem Forschungsmentorenprogramm bei Google teil und arbeitete mit dem Team für ethische KI an der Erstellung von Modellkarten, einem Dokumentationsrahmen für transparentere Berichte über Modelle für maschinelles Lernen. Außerdem war sie an der Entwicklung interner Prüfverfahren bei Google beteiligt. Ihre Beiträge bei Google wurden auf der AAAI-Konferenz und der ACM Conference on Fairness, Accountability and Transparency vorgestellt und veröffentlicht.[13][14][15][16]

Im Jahr 2019 war Raji Sommer-Forschungsstipendiatin bei The Partnership on AI, wo sie an der Festlegung von Transparenzstandards für maschinelles Lernen und Benchmarking-Standards arbeitete. Raji war Tech Fellow am AI Now Institute und arbeitete an Algorithmen- und KI-Prüfungen. Derzeit ist sie Fellow bei der Mozilla Foundation und forscht im Bereich der algorithmischen Prüfung und Bewertung.[2][17][18]

Rajis Arbeit über Verzerrungen in der Gesichtserkennung wurde in dem Dokumentarfilm Coded Bias (2020) unter der Regie von Shalini Kantayya beleuchtet.[19]

Auszeichnungen

Bearbeiten
  • 2019 Venturebeat AI Innovations Award in der Kategorie AI for Good (erhalten mit Joy Buolamwini und Timnit Gebru)[20]
  • 2020 MIT Technology Review Under 35 Innovator Auszeichnung[3]
  • 2020 EFF Pioneer Award (erhalten mit Joy Buolamwini und Timnit Gebru)[21]
  • 2021 Forbes 30 Under 30 Award in Unternehmenstechnologie[4]
  • 2021 Ehrung der 100 brillanten Frauen in der Ethik-Hall of Fame der KI[22]

Einzelnachweise

Bearbeiten
  1. ↑ ‘This is bigger than just Timnit’: How Google tried to silence a critic and ignited a movement. In: fastcompany.com. 26. Februar 2021, abgerufen am 4. Juni 2022 (englisch).
  2. ↑ a b Mozilla Welcomes Two New Fellows in Trustworthy AI. In: foundation.mozilla.org. 16. Oktober 2020, abgerufen am 4. Juni 2022 (englisch).
  3. ↑ a b c Inioluwa Deborah Raji, Her research on racial bias in data used to train facial recognition systems is forcing companies to change their ways. In: innovatorsunder35.com. 2020, abgerufen am 4. Juni 2022 (englisch).
  4. ↑ a b c Inioluwa Deborah Raji - Forbes 30 Under 30. In: forbes.com. 1. Dezember 2020, abgerufen am 4. Juni 2022 (englisch).
  5. ↑ a b This U of T Engineering student is holding companies accountable for biased AI facial technology. In: engineering.utoronto.ca. 11. Februar 2019, abgerufen am 4. Juni 2022 (englisch).
  6. ↑ U of T Engineering alumna Inioluwa Deborah Raji named to MIT Technology Review’s Top Innovators Under 35. In: engineering.utoronto.ca. 23. Juni 2020, abgerufen am 4. Juni 2022 (englisch).
  7. ↑ Interview with Inioluwa Deborah Raji, Forbes Tech 30 Under 30 Pick. In: re-work.co. 3. Februar 2021, abgerufen am 4. Juni 2022 (englisch).
  8. ↑ Inioluwa Deborah Raji, Joy Buolamwini: Actionable Auditing: Investigating the Impact of Publicly Naming Biased Performance Results of Commercial AI Products. (PDF) In: Proceedings of the 2019 AAAI/ACM Conference on AI, Ethics, and Society. 27. Januar 2019, abgerufen am 4. Juni 2022 (englisch).
  9. ↑ Amazon Is Pushing Facial Technology That a Study Says Could Be Biased. In: nytimes.com. 25. Januar 2019, abgerufen am 4. Juni 2022 (englisch).
  10. ↑ Why it matters that IBM is getting out of the facial recognition business. In: vox.com. 10. Juni 2020, abgerufen am 4. Juni 2022 (englisch).
  11. ↑ IBM walked away from facial recognition. What about Amazon and Microsoft? In: venturebeat.com. 10. Juni 2020, abgerufen am 4. Juni 2022 (englisch).
  12. ↑ The two-year fight to stop Amazon from selling face recognition to the police. In: technologyreview.com. 12. Juni 2020, abgerufen am 4. Juni 2022 (englisch).
  13. ↑ a b Inioluwa Deborah Raji. In: technologyreview.com. 2021, abgerufen am 4. Juni 2022 (englisch).
  14. ↑ Inioluwa Deborah Raji, Timnit Gebru, Margaret Mitchell, Joy Buolamwini, Joonseok Lee, Emily Denton: Saving Face: Investigating the Ethical Concerns of Facial Recognition Auditing. 3. Januar 2020.
  15. ↑ Inioluwa Deborah Raji, Andrew Smart, Rebecca White, Margaret Mitchell, Timnit Gebru, Ben Hutchinson, Jamila Smith-Loud, Daniel Theron, Parker Barnes: Closing the AI Accountability Gap: Defining an End-to-End Framework for Internal Algorithmic Auditing. 3. Januar 2020.
  16. ↑ Margaret Mitchell, Simone Wu, Andrew Zaldivar, Parker Barnes, Lucy Vasserman, Ben Hutchinson, Elena Spitzer, Inioluwa Deborah Raji, Timnit Gebru: Model Cards for Model Reporting. In: Proceedings of the Conference on Fairness, Accountability, and Transparency. 2019, ISBN 978-1-4503-6125-5, S. 220–229.
  17. ↑ Alice Xiang, Inioluwa Deborah Raji: On the Legal Compatibility of Fairness Definitions. In: DeepAI. 25. November 2019.
  18. ↑ Inioluwa Deborah Raji: About Face: A Survey of Facial Recognition Evaluation. In: deepai.org. 1. Februar 2021, abgerufen am 4. Juni 2022 (englisch).
  19. ↑ Katharine Miller: Coded Bias: Director Shalini Kantayya on Solving Facial Recognition’s Serious Flaws. In: hai.stanford.edu. 14. September 2020, abgerufen am 4. Juni 2022 (englisch).
  20. ↑ AI innovation winners announced in San Francisco. In: innovationmatrix.com. 12. Juli 2019, archiviert vom Original (nicht mehr online verfügbar) am 9. Dezember 2020; abgerufen am 4. Juni 2022 (englisch).  Info: Der Archivlink wurde automatisch eingesetzt und noch nicht geprüft. Bitte prüfe Original- und Archivlink gemäß Anleitung und entferne dann diesen Hinweis.@1@2Vorlage:Webachiv/IABot/www.innovationmatrix.com
  21. ↑ Pioneer Award Ceremony 2020. In: eff.org. 24. August 2020, abgerufen am 4. Juni 2022 (englisch).
  22. ↑ Women in AI Ethics™ – Hall of Fame. In: womeninaiethics.org. 2021, abgerufen am 4. Juni 2022 (englisch).
Personendaten
NAME Raji, Deborah
ALTERNATIVNAMEN Raji, Inioluwa Deborah (vollständiger Name); Team, Ethical AI; Institute, AI Now
KURZBESCHREIBUNG nigerianisch-kanadische Informatikerin und Aktivistin
GEBURTSDATUM 20. Jahrhundert
GEBURTSORT Port Harcourt, Nigeria
Abgerufen von „https://de.wikipedia.org/w/index.php?title=Deborah_Raji&oldid=227246483“