Warum ist das so wichtig?
Peter Schaar: Zum einen sind wir durch unsere Abhängigkeit von Technologien inzwischen sehr verletzlich. Das gilt im persönlichen Mikrokosmos, etwa wenn auf Basis eines Identitätsdiebstahls mein Bankkonto leer geräumt wird. Es betrifft aber auch die Gesellschaft, wenn etwa durch einen Cyberangriff Medizingeräte gehackt und so umprogrammiert werden, dass sie den Menschen schaden. Denken Sie mal an eine manipulierte Insulinpumpe – die kann jemanden umbringen.
Zum anderen nimmt die Gefahr zu, durch Algorithmen diskriminiert zu werden. Unternehmen, die aufschlussreiche Daten über uns besitzen, können unser Verhalten manipulieren, ohne dass wir dies mitbekommen. Etwa, wenn wir für Produkte, für die wir uns interessieren, einen besonders hohen Preis zahlen müssen oder von bestimmten Leistungen ganz ausgeschlossen werden. Noch gravierender wirkt es sich aus, dass Plattformbetreiber unser Weltbild beeinflussen, indem sie uns nur bestimmte Informationen präsentieren. In der Filterblase wird es immer schwerer, andere Facetten überhaupt noch wahrzunehmen.
Was würde passieren, wenn wir dieser Entwicklung nichts entgegen setzen?
Peter Schaar: Das wäre eine Dystopie, die gerade in der demnächst stärksten Volkswirtschaft der Welt realisiert wird. In China soll jeder Einwohner bis 2020 einen „Citizen Score“ bekommen, eine Art persönliche Kopfnote. Da wird soziales Wohlverhalten belohnt, indem brave Bürger günstige Kredite, schöne Wohnungen zu einem bezahlbaren Preis, Auslandsreisen und andere Vorteile erhalten. Kritische Geister hingegen werden mit Benachteiligungen bestraft. Aber diese Entwicklung ist natürlich nicht zwangsläufig, wir können und müssen auf sie einwirken.
Was ist Ihre Botschaft, um dem entgegenzusteuern?
Peter Schaar: Hersteller und Anbieter müssen Risiken und Folgewirkungen schon im Produktdesign berücksichtigen. Sie müssen für Sicherheitslücken verantwortlich gemacht werden können. Unternehmen, die fahrlässig Schutzvorkehrungen unterlassen, müssen spürbar sanktioniert werden. Auch der gesetzliche Rahmen muss weiterentwickelt werden, etwa in Bezug auf die Technologiefolgenabschätzung. Der Gesetzgeber muss auch dafür sorgen, dass die Betroffenen echte Entscheidungsmöglichkeiten haben, etwa im Hinblick auf das Tracking ihres Verhaltens. Schließlich sind auch die Nutzerinnen und Nutzer gefragt: Sie müssen ein stärkeres Bewusstsein für IT-Sicherheit und den Schutz der sie betreffenden Daten entwickeln. Lebenslanges Lernen wird deshalb immer wichtiger.