Quelle

Wahrgenommen von Heinrichsgeist: 2023. Zitate auf dieser Seite beziehen sich auf diese Quelle, sofern nicht anders gekennzeichnet (Zitationszweck: Anschauliche Hervorhebung ausgewählter Passagen).

Wenn sich Whittaker auf ihre Rede bezieht, meint sie die opening keynotes der re:publika 2023.

Interessant

In den 1990er Jahren förderte die Clinton-Regierung, im neoliberalem Glauben, die unregulierte Entwicklung von Datennetzen - entgegen dem chance/risikobasiertem Rat der Expertinnen. So entstanden die Big-Tech Oligopole im Silicon Valley mit ihrem frei entfalteten Überwachungskapitalismus.

Im Kontext offener Briefe von Big-Tech Größen bzgl. KI-Gefahren:

Wenn klar wird, dass Regulierung unausweichlich ist, bringen sich die Unternehmen selber massiv ein. Denn die beste Alternative zu «keiner Regulierung» für sie ist: die Regulierung selber mitzuschreiben. Insofern sind die offenen Briefe des Silicon Valley eine Art riesige Influencer-Kampagne.

Was ist die Strategie dahinter?

All die Unternehmens­chefs, die Lobbyisten, teils auch die befreundeten, von Big Tech finanzierten Akademikerinnen, welche jetzt vor Menschheits­katastrophen warnen, möchten eigentlich keine Beschränkung der heutigen Technologien. Sie wollen, dass der Status quo erhalten bleibt. Und deshalb werden irgendwelche existenz­vernichtenden KI-Systeme der Zukunft herbei­fantasiert, damit wir uns nicht mit dem Jetzt beschäftigen. Denn die heutigen KI-Systeme sind bereits schädigend. Sie reproduzieren Stereotype, sie haben einen rassistischen und sexistischen Bias, weil sie ja mit Texten, Bildern und Videos aus dem gesamten Internet trainiert und gefüttert werden.

KI Systeme haben kein Bewusstsein. Sie werden mit massenhaften Daten trainiert, und in diesem Trainingsprozess fließt massenhaft Arbeit von prekär beschäftigten Menschen ein. Ohne die menschliche Ausbeutung sind die entstehenden Geschäftsmodelle nicht denkbar; würden die beteiligten Arbeiterinnen einen menschenwürdigen Lohn bekommen, dann wären die Systeme nicht marktfähig.

Die Trainingsdaten sind so verzerrt, wie Daten von Menschen eben sind: Sexistisch, rassistisch usw. Die menschlichen Trainer machen ebenfalls Fehler. Beispiel: Emotionen werden in verschiedenen Kulturen unterschiedlich ausgedrückt, der menschliche Trainer kann sowas nicht für alle Situationen zuverlässig erkennen. Solche Effekte resultieren in deutlich unterschätze Fehlerquoten bzgl. der Korrektheit/Adäquatheit von KI-Ergebnissen.

Zum KI-Einsatz im Kontext der Chatkontrolle

Da sind wir wieder beim Thema meiner Rede. Die Entscheidungs­trägerinnen in Europa verfallen der KI-Magie. Das massenhafte Scannen unserer Smartphones ist ganz einfach eine Überwachungs­methode. Sie ist sehr stark fehleranfällig. Künstliche Intelligenz wird dieses Bild- und Textmaterial nicht erkennen. Politiker sind aber leider bereit, diesen Unsinn zu glauben. Auch hier spielen die Heils­versprechen rund um den Mythos KI wieder eine grosse Rolle. Das Thema Kinds­missbrauch ist ein mächtiger politischer Trigger, evidenz­basierte Entlarvung dieser Technologie­mythen kommt dagegen nicht an.

Zum Thema Digital Markets Act der EU: Interoperabilität der Messenger (Whatsapp, Telegram, Signal) könnte damit erzwungen werden. Ultimative Bedingung für Signal da mitzumachen ist, dass es seine Datenschutzstandards dafür nicht absenken müsste, dann das würde Signals Daseinsberechtigung untergraben.

Zum Thema “Dezentralisierung” von Signal (starker Wunsch kommt aus der Mastodon Community): Eine verteilte Serverarchitektur würde Zuverlässigkeit, Robustheit und Funktionalität (Echtzeit Videocalls) gefährden, daher keine Pläne Signal zu dezentralisieren. Außerdem, dezentralisierte Strukturen bedeutet nicht automatisch dezentralisierte Macht:

Ich glaube, das wird in der Kryptowelt sehr deutlich, in der oft gesagt wird: «Oh, Bitcoin ist eigentlich ein dezentralisiertes System, bei dem alle mitmachen können und alle profitieren.» Dann sage ich: «Ja, aber schau mal, wie viel Geld und wie viel Macht die reichen Winklevoss-Zwillinge mit ihren Krypto­börsen aufgebaut haben.»

Ähnlich

Was KI alles (nicht) kann The Age of Surveillance Capitalism