Microsoft kürzlich staatlich unterstützte Hacker gefangen nutzt seine generativen KI-Tools, um sie bei ihren Angriffen zu unterstützen. In der Sicherheitsgemeinschaft drehten sich die ersten Fragen nicht darum, wie die Hacker die Tools verwendeten (was völlig vorhersehbar war), sondern darum, wie Microsoft es herausgefunden hat. Die natürliche Schlussfolgerung war, dass Microsoft seine KI-Benutzer ausspionierte und nach Hackern suchte, die den Arbeitsplatz schädigten.
Einige wehrten sich dagegen, Microsofts Vorgehen als „Spionage“ zu bezeichnen. Von Kurs Cloud-Dienstanbieter überwachen, was Benutzer tun. Und da wir erwarten, dass Microsoft so etwas tut, ist es nicht fair, es als Spionage zu bezeichnen.
Wir betrachten dieses Argument als Beispiel dafür, wie sich unsere kollektiven Erwartungen an die Privatsphäre weiterentwickeln. Um zu verstehen, was vor sich geht, können wir von einer unwahrscheinlichen Quelle lernen: Fisch.
Mitte des 20. Jahrhunderts bemerkten Wissenschaftler, dass die Zahl der Fische im Meer – so groß, dass sie den Ausdruck „Es gibt viele Fische im Meer“ erklärt – aufgrund von Überfischung rapide abnahm. Sie hatten bereits einen ähnlichen Rückgang der Walpopulationen erlebt, als die Walfangindustrie nach dem Zweiten Weltkrieg viele Arten fast zum Aussterben brachte. Beim Walfang und später beim kommerziellen Fischfang machten es neue Technologien einfacher, Meeresbewohner in immer größerer Zahl zu finden und zu fangen. Ökologen, insbesondere solche, die im Fischereimanagement tätig sind, begannen zu untersuchen, wie und wann bestimmte Fischpopulationen einen gravierenden Rückgang erlebten.
Ein Wissenschaftler, Daniel Pauly, erkannte, dass Forscher, die Fischpopulationen untersuchten, einen großen Fehler machten, als sie versuchten, akzeptable Fanggrößen zu bestimmen. Es ist nicht so, dass Wissenschaftler den Rückgang der Fischpopulationen nicht erkannt hätten. Es war ihnen nur nicht bewusst, wie groß der Rückgang war. Pauly stellte fest, dass jede Generation von Wissenschaftlern eine andere Basislinie hatte, mit der sie aktuelle Statistiken verglichen, und dass die Basislinie jeder Generation niedriger war als die der vorherigen.
Was uns in der Sicherheitswelt normal erscheint, war zu Beginn unserer Karriere alltäglich.
Pauly nannte dies in einem Artikel aus dem Jahr 1995 das „Shifting-Baseline-Syndrom“. Die von den meisten Wissenschaftlern verwendete Basislinie war diejenige, die zu Beginn ihrer Forschungskarriere normal war. Nach diesem Maßstab war jeder weitere Rückgang nicht signifikant, aber der kumulative Rückgang war verheerend. Jede Forschergeneration wuchs in einem neuen ökologischen und technologischen Umfeld auf, das unbeabsichtigt den exponentiellen Niedergang verdeckte.
Paulys Ideen kamen zu spät, um den Managern einiger Fischereien zu helfen. Der Ozean hat Katastrophen erlitten, wie zum Beispiel den völligen Zusammenbruch der Kabeljaupopulation im Nordwestatlantik in den 1990er Jahren.
Die Internetüberwachung und der daraus resultierende Verlust der Privatsphäre verlaufen in die gleiche Richtung. So wie einige Fischpopulationen in den Weltmeeren um 80 Prozent zurückgegangen sind, nachdem sie zuvor um 80 Prozent zurückgegangen waren, nachdem sie um 80 Prozent (bis ins Unendliche) zurückgegangen waren, sind auch unsere Erwartungen an die Privatsphäre drastisch gesunken. Die allgegenwärtige Natur moderner Technologie macht die Überwachung einfacher denn je, da sich jede nachfolgende Generation der Öffentlichkeit an den Status quo gewöhnt, wenn es um die Privatsphäre ihrer Jugend geht. Was uns in der Sicherheitswelt normal erscheint, war zu Beginn unserer Karriere alltäglich.
Historisch gesehen kontrollierten Menschen ihre Computer und Software autonom. Das stets vernetzte Modell der Bereitstellung von Software und Diensten in der Cloud hat hier eine Wende gebracht. Die meisten Apps und Dienste sind so konzipiert, dass sie immer online sind und Nutzungsinformationen an das Unternehmen zurückmelden. Eine Folge dieses modernen Bereitstellungsmodells ist, dass jeder – zynische Techniker und sogar normale Benutzer – erwartet, dass das, was man mit moderner Technologie macht, nicht privat ist. Aber das liegt daran, dass sich die Grundlinie geändert hat.
KI-Chatbots sind die neueste Verkörperung dieses Phänomens: Sie liefern Ergebnisse als Reaktion auf Ihr Feedback, doch hinter den Kulissen verbirgt sich ein komplexes cloudbasiertes System, das dieses Feedback verfolgt, um sowohl den Service zu verbessern als auch Ihnen Werbung zu verkaufen.
Sich verändernde Grundlinien sind der Kern unseres kollektiven Verlusts an Privatsphäre. Der Oberste Gerichtshof der Vereinigten Staaten hat seit langem entschieden, dass unser Recht auf Privatsphäre davon abhängt, ob wir berechtigte Erwartungen an die Privatsphäre haben. Aber Erwartungen sind eine heikle Sache: Sie unterliegen sich ändernden Grundlinien.
Bleibt die Frage: Was nun? Fischereiwissenschaftler, die mit ihrem Wissen über das Shifting-Baseline-Syndrom ausgestattet sind, blicken nun auf das Gesamtbild. Sie berücksichtigen keine relativen Maße mehr, wie etwa den Vergleich dieses Jahrzehnts mit dem vorherigen Jahrzehnt. Stattdessen nehmen sie eine ganzheitliche, ökosystemweite Perspektive ein, um zu sehen, wie ein gesundes Meeresökosystem und damit nachhaltige Fänge aussehen sollten. Anschließend wandeln sie diese wissenschaftlich ermittelten nachhaltigen Fangzahlen in Grenzwerte um, die von den Regulierungsbehörden kodifiziert werden.
Wenn es um Datenschutz und Sicherheit geht, müssen wir dasselbe tun. Anstatt mit einer sich ändernden Ausgangslage zu vergleichen, müssen wir einen Schritt zurücktreten und untersuchen, wie ein gesundes Technologie-Ökosystem aussehen würde: eines, das die Privatsphäre der Menschen respektiert und es den Unternehmen gleichzeitig ermöglicht, die Kosten für die von ihnen bereitgestellten Dienste wieder hereinzuholen. Letztendlich müssen wir, wie beim Angeln, eine ganzheitliche Perspektive einnehmen und uns der Veränderungen der Ausgangswerte bewusst sein. Um ein Erbe – sei es das Meer oder das Internet – für die nächste Generation zu bewahren, ist ein demokratischer und wissenschaftsbasierter Regulierungsprozess notwendig.
Aus den Artikeln auf Ihrer Website
Verwandte Artikel im Internet