Humane Tech

 

Februar 2020
Die Diskussion fand am 26. Februar 2020 an der ZHDK bei Fachrichtung Cast / Audiovisual Media statt. Startpunkt bei diesem Thema ist die Feststellung, dass viele Tech Services mehr Lärm als Nutzen erzeugen und die auf Social Media wie Facebook oder Twitter verbrachte Zeit sich nicht lohnt. Bei genauerem Hinschauen stellt sich heraus, dass die meisten Skandale der grossen Tech-Firmen damit zusammen hängen, dass die menschliche Psychologie untergraben wird, um Geld zu verdienen. Das Stehlen von Aufmerksamkeit ist mit ihrem Businessmodell verknüpft. Es gibt eine Initiative vom Center of Humane Technology, um dem entgegenzuwirken. Humane Technology hat einen Designguide publiziert der helfen sollte die menschliche Psychologie zu unterstützen.

Es ist nützlich zu wissen, dass Machine Learning nicht optimiert sind, User die interessantesten Inhalte zu zeigen. Die Zielfunktion von Machine Learning besteht darin, mehr Engagement zu erzielen (wie zum Beispiel Klicks auf Inhalte oder eine lange Verweildauer). Durch diese Zielfunktion entwickelt Machine Learning als Strategie, uns Angst einzuflössen oder uns ein Weltbild zu zeigen, das uns empört. So klicken wir eher auf den nächsten Link.

Für Hannes Gassert (Unternehmer, Teamhuman.ch) Gassert ist es unmöglich, ein Netflix oder sogar nur ein Chess.com Konto zu haben, denn es raubt ihm Zeit und Aufmerksamkeit, um zu funktionieren. Hier ist Hannes aber nicht alleine, auch im Publikum gibt es welche, die den Abend verbringen können, ohne einige Blicke auf das Mobiltelefon zu werfen. Weshalb verbreiten sich die radikale Message oder Fake News viel mehr als die gemässigten und gut recherchierten Nachrichten? Um unsere Aufmerksamkeit und uns an sie zu binden haben die Plattformen ihre Mechanismen darauf optimiert. So bieten diese Plattformen uns Empfehlungen oder zeigen Meldungen im Endless Scroll. Dabei empfinden Menschen Geschichten, die Angst oder Empörung verursachen am fesselndsten und verweilen dadurch am längsten an den Bildschirm. Hinter der Logik der Aufmerksamkeitsökonomie steht der *Upgrade der Maschinen” gegenüber dem “Downgrade der Menschheit”. Unser Hirnstrukturen stammen immer noch aus der Steinzeit. Die Maschinen finden die Schwächen aller Menschen und nutzen sie aus. So ist die Frage schon lange nicht mehr wann übertreffen diese Mechanismen die Menschen? Sondern wann sind die Maschinen überwältigend für unsere Schwächen?

Naveen Shamsudhin (ETH / The Origin) hat eine App vorgestellt, die den Humane Designguides entspricht. Letztes Jahr fand eine Konferenz in Portugal statt und Naveen plante, auf Booking.com seine Unterkunft zu buchen. Aber als er die Hotels vergleichen wollte, sah er nur, dass alle ausgebucht waren. So reservierte er das erstbeste Hotel und fiel dem Dark Pattern ‚Verknappungseffekt‘ zum Opfer. Wir sind jetzt in einer Situation, wo Designer und Entwickler auf diese Dark Patterns angewiesen sind, um ihre Produkte an den Mann bzw die Frau zu bringen. Die Dark Patterns bewegen User, unbewusst zu klicken, zu kaufen, oder stundenlang Status Nachrichten zu lesen. Vor vier Jahren hatte Naveen eine Erleuchtung: Gezwungenermassen verwandelte sich sein Smartphone in ein Ziegelstein, weil er sein Telefonabo nicht verlängerte. Dies brachte ihn dazu, mit seinem Co-Founder Alexander Boethius CocoonWeaver zu entwickeln, das noch weiter geht, als den Menschen in den Mittelpunkt zu stellen. Durch die konstante Unterbrechungen digitaler Geräte ist es oft schwierig, Raum für kreative Gedanken zu finden. Darum ist die CocoonWeaver App so gebaut, dass sie möglichst alle Ablenkungen verhindert. Aus ihren eigenen Bedürfnissen heraus wurde CocoonWeaver entwickelt und erst im Nachhinein fand Naveen den Designguide. Im Unterschied zum klassischen Human Centric Design, hat Humane Design noch die Komponente von Mitgefühl und Wohlwollen. CocoonWeaver wurde vor einem Monat lanciert und hat User wie Schriftsteller aber auch Menschen mit ADHD.

Für Naveen ist es nicht die Technologie, die problematisch ist, sondern die Menschen, welche sie entwickeln. Der Designguide ist eine Komponente, wie man Humane Technology entwickelt, eine andere Komponente kann Regulierung sein.

Update November 2020

Die EU Kommission hat am 13 November 2020 ihre Verbraucheragenda für die nächsten fünf Jahren vorgestellt. Sie plant, europäischen Verbraucher zu stärken und zu befähigen, eine aktive Rolle beim ökologischen und digitalen Wandel zu spielen. Die Digitalisierung durchdringt immer mehr Bereiche, so dass die Kommission es als wichtig erachtet gegen online Geschäftspraktiken vorzugehen, welche die Konsumenten manipulieren, gegen ihren eigenen Interessen zu handeln, Entscheidungsprozesse (negativ) beeinflussen und das Recht der Konsumenten auf freie Wahl missachten. Das sind insbesondere Dark Patterns, die wir im Februar 2020 diskutiert haben.

Quelle: Humane Tech