Skip to main content
vernetzte kompetenz sicherheitsmanagement

Portrait Of Young Businesspeople Face Recognized With Intellectual Learning System
© Royalty-free stock photo ID: 1103731769 By Andrey_Popov

Gesichtserkennung – Es ist Zeit zu handeln!

Innere Sicherheit: Sollten wir KI öffentliche Räume scannen lassen?

Von Brad Smith, Präsident und Chefjustiziar von Microsoft

In den USA war es in 2019 großes Tech-Thema, nun nimmt die Debatte um Gesichtserkennung mit Künstlicher Intelligenz auch bei uns Fahrt auf: Innenminister Seehofer forciert den Einsatz der Technologie.
Wie kann automatisierte Gesichtserkennung verantwortungsvoll eingesetzt werden? Sie kann die Sicherheit verbessern, wirft aber auch Fragen auf!
Es geht unter anderem um mögliche Diskriminierung und den Schutz der Privatsphäre.
Technologie zur Gesichtserkennung wird immer häufiger eingesetzt. Unserer Meinung nach birgt diese Technologie wichtige und für die Gesellschaft wertvolle Vorteile, aber auch das Potenzial für Missbrauch. Es ist deshalb spätestens jetzt an der Zeit zu handeln.

Wir sind der Ansicht, dass Regierungen weltweit damit beginnen müssen, Gesetze zur Regulierung von Gesichtserkennungstechnologie zu verabschieden. Wenn wir nicht handeln, riskieren wir, dass wir in fünf Jahren aufwachen und feststellen müssen, dass sich Gesichtserkennungsdienste auf eine Weise verbreitet haben, die gesellschaftliche Probleme verschärft. Wenn wir nicht handeln, werden diese Herausforderungen immer schwieriger zu bewältigen sein.

Wir glauben nicht, dass der Welt am besten mit einem kommerziellen Unterbietungswettlauf gedient ist, bei dem Technologieunternehmen gezwungen sind, zwischen sozialer Verantwortung und Markterfolg zu wählen. Der einzige Weg, solch einen Unterbietungswettlauf zu verhindern, ist ein stabiler Rahmen, der einen gesunden Marktwettbewerb fördert. Für solch einen stabilen Rahmen müssen wir sicherstellen, dass Organisationen, die die Technologie entwickeln und einsetzen, den Regeln des Rechtstaats unterliegen.

Regierungen wie auch der Technologiesektor spielen eine wichtige Rolle um sicherzustellen, dass die Gesichtserkennungstechnologie einen breiten gesellschaftlichen Nutzen schafft und gleichzeitig das Risiko des Missbrauchs eingedämmt wird. Obwohl die Gesichtserkennungstechnologie noch recht jung ist, kristallisieren sich bereits Probleme heraus. Wir müssen die grundlegenden Fragen deshalb jetzt angehen und laufend dazulernen. Wir müssen uns Wissen und Expertise aneignen, während die Technologie sich entwickelt und insbesondere der öffentliche Sektor Erfahrungen mit dem Einsatz von Gesichtserkennung gewinnt. Wie Mark Twain einmal bemerkte: “The secret of getting ahead is getting started.“ – „Das Geheimnis des Vorankommens liegt im Anfangen.“ Fangen wir also jetzt damit an.

Chancen durch Gesichtserkennung

Wie bei jeder neuen Technologie entwickeln sich Anwendungsgebiete der Gesichtserkennungstechnologie einerseits vorhersehbar, andererseits auch überraschend weiter. Es wird immer deutlicher, dass viele Anwendungen einen großen Mehrwert für Menschen auf der ganzen Welt geschaffen haben. Es ist faszinierend, auf wie vielen Gebieten diese Innovation Verbesserungen gebracht hat. Die Polizei in Neu-Delhi hat Gesichtserkennungstechnologie getestet und in vier Tagen fast 3000 vermisste Kinder identifiziert. Historiker in den Vereinigten Staaten haben die Technologie genutzt, um unbekannte Soldaten auf Bürgerkriegsfotos aus den 1860er-Jahren zu identifizieren. Forscher setzten erfolgreich Gesichtserkennungssoftware ein, um eine seltene genetische Krankheit zu diagnostizieren, die in Afrika, Asien und Lateinamerika auftritt. Und die National Australia Bank hat gezeigt, dass Geldautomaten möglich sind, an denen Kunden mit Gesichtserkennung erkannt werden und Geld abheben können.

Microsoft ist eines von mehreren Unternehmen, die eine führende Rolle bei der Entwicklung von Gesichtserkennungstechnologie spielen. Wir arbeiten mit Kunden auf der ganzen Welt zusammen und setzen uns intensiv dafür ein, die Fähigkeiten dieser Technologie zur Erkennung von Gesichtern unterschiedlichen Alters und unterschiedlicher Hautfarbe zu verbessern. Das National Institute of Standards and Technology (NIST) hat in einer Bewertung die Fortschritte bestätigt, die wir bei der Entwicklung gemacht haben. Die Algorithmen, die Microsoft für diese Bewertung vorgelegt hat, wurden durchweg als die genauesten beziehungsweise fast genauesten von insgesamt 127 getesteten Algorithmen eingestuft. Wir glauben an die Zukunft der Gesichtserkennungstechnologie und die positive Rolle, die sie spielen kann.

Robot holds a finger near the head. 3D illustration
© Royalty-free stock illustration ID: 638342005 By Tatiana Shepeleva

Probleme, die wir angehen müssen

Gleichzeitig müssen wir uns über die Risiken und das Missbrauchspotenzial von Gesichtserkennung im Klaren sein. Wir bewerten daher kontinuierlich, wie sich diese Technologie weiterentwickelt. Und wir glauben, dass es insbesondere drei Problembereiche gibt, die Regierungen angehen müssen.

  • Erstens beinhalten einige Anwendungsmöglichkeiten der Technologie, insbesondere in ihrem derzeitigen Entwicklungsstadium, das Risiko von verzerrten Ergebnissen und in manchen Fällen auch Verstößen gegen das Diskriminierungsverbot. • Zweitens kann die weit verbreitete Nutzung dieser Technologie zu neuen Eingriffen in die Privatsphäre von Menschen führen. • Und drittens kann der Einsatz von Gesichtserkennungstechnologie durch eine Regierung zur Einschränkung demokratischer Freiheiten führen, wenn sie zum Zweck der Massenüberwachung eingesetzt wird.

Wir glauben, dass der Gesetzgeber sich dieser drei Bereiche annehmen sollte. Doch wir erkennen auch an, dass Gesetze und Regulierung kein Ersatz sind für die Verantwortung von Technologieunternehmen.

Sechs Prinzipien für den Umgang mit Gesichtserkennungstechnologie

Wir haben uns viel Zeit dafür genommen, Anregungen und Ratschläge von unseren Mitarbeitern, Kunden, von Regierungsvertretern, Wissenschaftlern und der Zivilgesellschaft einzuholen. Wir haben dabei von den Diskussionen in den Vereinigten Staaten und auf der ganzen Welt profitiert. Als Resultat haben wir sechs Prinzipien für den Umgang mit Gesichtserkennungstechnologie verabschiedet. Sie gehen auf die Bedenken ein, der sich auch Regierungen annehmen müssen. Sie sind:

  1. Fairness: Wir werden daran arbeiten, die Gesichtserkennungstechnologie so zu entwickeln und einzusetzen, dass alle Menschen fair behandelt werden.
  2. Transparenz: Wir werden die Fähigkeiten und Grenzen der Gesichtserkennungstechnologie dokumentieren und klar kommunizieren.
  3. Verantwortlichkeit: Wir ermutigen unsere Kunden dazu und helfen ihnen dabei, die Gesichtserkennungstechnologie so einzusetzen, dass ein angemessenes Maß an menschlicher Kontrolle für Anwendungen gewährleistet ist, durch die Menschen beeinträchtigen werden können.
  4. Nicht-Diskriminierung: Wir werden in unseren Allgemeinen Geschäftsbedingungen die Verwendung von Gesichtserkennungstechnologien verbieten, wenn damit rechtswidrige Diskriminierung begangen werden soll.
  5. Hinweis und Einwilligung: Wir ermutigen Kunden aus dem Privatsektor, den Einsatz von Gesichtserkennungstechnologien anzuzeigen und die Einwilligung zu deren Anwendung sicherzustellen.
  6. Gesetzliche Überwachung: Wir werden uns für den Schutz der demokratischen Freiheiten der Menschen in Szenarien der Strafverfolgung einsetzen und keine Gesichtserkennungstechnologie in Szenarien einsetzen, von denen wir glauben, dass sie diese Freiheiten gefährden werden.

Wir sind uns im Klaren, dass wir noch nicht auf alle Fragen die richtigen Antworten gefunden haben. Da sich die Gesichtserkennungstechnologie in einem frühen Stadium befindet, kennen wir noch nicht einmal alle Fragen. Aber wir glauben, dass wir mit einem prinzipienorientierten Ansatz wertvolle Erfahrungen sammeln können, die es uns ermöglichen, schneller zu lernen. Und wir sind bestrebt, das Gelernte weiterzugeben.

Hinweis: Dieser Beitrag ist im Original hier erschienen. Es handelt sich an dieser Stelle um eine stark gekürzte, übersetzte und überarbeitete Fassung.