News der Woche: Der Menschheit Leid ist des Algorithmus Belohnung

News der Woche: Der Menschheit Leid ist des Algorithmus Belohnung

Rückblick in die Computerzukunft: Algorithmen, die nur auf Belohnung aus sind, ein XR-Planetarium im eigenen Wohnzimmer, flexible Alltagsroboter und mehr.

Algorithmische Belohnungsmaximierung: Polarisierung von der Pole-Position

Facebook Thumbs down

Empfehlungsalgorithmen sind überall. Forscher:innen warnen jetzt vor der nächsten Generation, die auf bestärkendes Lernen setzen soll. | Bild: Unsplash

Algorithmen bestimmen vielleicht nicht unser Leben, aber sie beeinflussen es maßgeblich. Wie viele Menschen etwa unsere Webseite besuchen, hängt stark davon ab, wie Googles Algorithmen unsere Artikel aufgreifen und ausspielen.

Das wiederum hängt davon ab, welche Interessen Google Nutzer:innen unterstellt und wie diese potenziell interessierten Nutzer:innen auf unsere Artikel reagieren – klicken sie schnell darauf, lesen sie lange, teilen sie den Inhalt und so weiter. Je positiver und schneller Nutzer:innen reagieren, desto weitläufiger spielt Google unsere Inhalte aus. Das gilt für News-Seiten wie unsere ebenso wie für YouTube-Kanäle, Spotify-Podcasts und viele weitere Formate.

Theoretisch eine faire Sache: Gute Inhalte führen zu vielen Reaktionen führen zu hoher Reichweite. In der Praxis versagt der beschriebene Mechanismus jedoch häufiger, als er funktioniert, da die Reaktionen von Nutzer:innen nur bedingt als Qualitätskriterium taugen – freilich abhängig davon, was man als Qualität definiert. Aber das ist eine andere Diskussion.

Das Dilemma der Plattformanbieter: Rein auf Basis von Text- und Strukturauswertungen kann ein Algorithmus die Qualität oder Relevanz von Inhalten bestenfalls nur auf einer basalen Ebene bestimmen. Er benötigt die Reaktionen von Menschen, um sich zu orientieren. Das Wissen darüber beeinflusst wiederum, wie Menschen, die Inhalte erstellen, etwa Überschriften und Titelbilder gestalten – also die Elemente, die schnelle Reaktionen hervorrufen.

Davon frei machen können sich nur jene, die entweder schon berühmt sind und Kraft ihrer eigenen Marke gesehen und vom Algorithmus ausgewählt werden, oder die außerhalb algorithmisch getriebener Wirtschaftssysteme agieren.

Dass sich dieses Dilemma einer algorithmusgesteuerten Medienwelt noch weiter verschärfen könnte, beschreibt eine Forschungsarbeit über eine neue Generation Empfehlungsalgorithmus, die per bestärkendem Lernen trainiert wird.

Bei der Versuch-und-Irrtum-Methode wird ein Algorithmus belohnt, wenn er ein vorgegebenes Ziel erreicht, etwa die Maximierung von Klickzahlen oder positiver Reaktionen. Wie der Algorithmus sein Ziel erreicht, ist für ihn sekundär – aber für unsere Gesellschaft von hoher Bedeutung.

Der von den Forschenden trainierte Algorithmus jedenfalls manipulierte bei Tests mit politischen Nachrichten die Nutzer:innen in drei Schritten: Zuerst fand er ihre politische Gesinnung heraus, um sie dann gezielt mit gegensätzlichen Meinungen zu polarisieren, sodass sie später umso berechenbarer auf zu ihren Einstellungen passende politische Ansichten reagierten. Das ist algorithmische Belohnungsmaximierung auf Kosten der Gesellschaft.

logo
  • checkMIXED.de ohne Werbebanner
  • checkZugriff auf mehr als 9.000 Artikel
  • checkKündigung jederzeit online möglich
ab 2,80 € / Monat
logo


Roboter der Woche: Unit 033 rückt Stühle

Türen öffnen oder Stühle rücken – beide Aufgaben erledigt Alphabets neuer Haushaltsroboter mit nur einem Algorithmus. | Video: Alphabet

Der Google-Mutterkonzern Alphabet drängt aus dem Internet in eure Wohnzimmer: Flexible, alltagstaugliche Haushaltsroboter sind das Ziel. Die ersten 100 Prototypen wischen jetzt in Google Büros Tische und rücken Stühle.


Idee der Woche: XR-Planetarium im Wohnzimmer

Der AR-Modus von Metas autarker VR-Brille Quest 2 inspiriert Entwickler:innen: Der Stargazer (Deutsch: „Sterngucker“) des XR-Tütftlers Emanuel Tomozei erweitert euch im wahrsten Sinne des Wortes den Horizont.


Zukunft der Computer jetzt!

🎭👓 VR-Theater Solo im Test
🦠 KI entdeckt unbekannte Zellstrukturen
🥴 Deepfake-Profile bei Linkedin
💔 Meta killt Oculus
🤖🚘 Hyundai testet autonomes Fahren Level 4
👨‍🎨 Aus Text wird Bild


MIXEDCAST #274: Nvidias KI-Strategie & Metaverse-Trolle

Bild: MIXED

Den MIXED.de-Podcast gibt es bei YouTube, Soundcloud, Spotify, iTunes, in der Google Podcast-App oder als RSS-Feed.


Etwas 😎 zum Abschluss

Ein Video aus Shibuya, auf das ein 3D-Filter Effekt gelegt ist. Es sieht aus, als würde sich die Welt langsam in Pixel auflösen.

Cyberpunk-Shibuya: iPhone 13 Lidar-Videos faszinieren | Bild: Keijiro Takahashi

Das AR-Videoformat mit Cyberpunk-Effekt von Keijiro Takahashi, das sogar die Cyberpunk-Legende William Gibson retweetet.