Versetzen wir uns zurück ins 19. Jahrhundert: Große Fabriken werden gebaut, Kohleöfen treiben Dampfmaschinen an, und die ersten Automobile fahren über die Straßen. Dass eine Revolution im Gange war, muss allen bewusst gewesen sein, denn die neue Technologie war groß, laut und dreckig. Der Digitalen Revolution begegnen wir auf ganz andere Weise: über den Bildschirm. Auch dort ist klar, dass sich irgendetwas ändert, doch die dahinter liegenden Prozesse entziehen sich unserer Wahrnehmung.

Bestimmend für das Informationszeitalter ist die Entwicklung von Algorithmen und Rechenmaschinen. Die 1965 von Gordon Moore aufgestellte These, dass sich die Rechenleistung von Computerchips etwa alle 20 Monate verdoppelt, hat sich bewahrheitet. Auch wenn die exponentielle Kurve langsam abflacht, haben wir jetzt Maschinen mit einer enormen Rechenleistung, die es ermöglichen, immer aufwendigere, komplexere Algorithmen auszuführen. Diese bestimmen zunehmend unser Leben, ohne dass wir es merken. Versteckt hinter Icons und benutzerfreundlichen Oberflächen befinden sich technische Systeme, die das Potential haben, hart erkämpfte Freiheitsrechte zu untergraben.

Um diese Entwicklungen diskutieren und beurteilen zu können, brauchen wir ein Verständnis für diese Systeme und die Dynamiken, die sie in der Gesellschaft auslösen – und zwar nicht nur auf Seiten von Expertinnen, sondern in der Breite der Gesellschaft.

Maschinelles Lernen hat in den vergangenen zehn Jahren enorme Fortschritte gemacht, und in allen möglichen Branchen wird versucht, KI-Systeme (Künstliche Intelligenz) zu integrieren. An einigen Stellen mag dies unbedenklich sein, andere sind eher mit Vorsicht zu genießen. Hier zwei Beispiele für Systeme der letzteren Sorte.

Inhalte im Netz sind mehr und mehr auf einzelne Nutzer zugeschnitten. Sogenannte Recommender Systems – Empfehlungsdienste – schlagen uns basierend auf unserem Online-Verhalten Produkte, Musik oder andere Inhalte vor. Dies führt einerseits dazu, dass die Informationsflut für uns vorsortiert wird, andererseits haben wir keine direkte Kontrolle darüber, welche Inhalte an uns ausgespielt werden. Damit können – und sollen – wir beeinflusst werden, ohne es zu merken: Kaufverhalten, Medienkonsum, ja, unser Selbstbild wird ungesehen manipuliert.

Noch gravierender sind die Konsequenzen, werden KI-Systeme unbedacht im Personalwesen eingesetzt. Ziel ist es, die Bewerbungen vorzusortieren und Personalabteilungen die vermeintlich besten Kandidatinnen vorzuschlagen – wieder werden Informationen zurechtgestutzt, werden selektiert und reduziert. Die Prämisse ist, dass Rechner eine objektive Meinung abgeben, losgelöst von persönlichen Vorlieben. Scheinbar.

Doch auch KI-Systeme haben Vorurteile, einen sogenannten Bias. Der Online-Versandhändler Amazon hat sich früh an einem solchen System versucht – bis klar wurde, dass die Software systematisch Frauen benachteiligte. Inzwischen ist das Projekt eingestellt.

Hier ist wichtig zu verstehen, woher die Modelle kommen: Üblicherweise werde sie basierend auf bestehenden Daten trainiert – in diesem Falle also Bewerbungen und die korrespondierenden Personalentscheidungen. Existieren in dem bestehenden System Vorurteile gegenüber gewissen Gruppen, lernt die KI, diese zu reproduzieren. Alle Ismen unserer Gesellschaft können sich so in Algorithmen manifestieren und führen letztlich ein menschenrechtswidriges Schattendasein. In der „echten Welt“ von Sexismus oder Rassismus betroffen zu sein, ist belastend – aber zumindest können wir eine Wahrnehmung dafür entwickeln und uns dagegen wehren, gibt es so etwas wie die vielbeschworenen transparenten Verhältnisse. Werden Bewerbungen systematisch von einem Algorithmus abgelehnt, kann die einzelne Person nicht mehr nachvollziehen, welche Gründe dahinter liegen. Die Maschine hat gesprochen, die Nummer ist durch.

Um diesen negativen Konsequenzen zu begegnen, brauchen wir eine Wissenschaft für und mit den Menschen. Das klingt selbstverständlich, ist es aber gerade nicht. Tatsächlich benötigen wir mehr unabhängige Experten, die soziotechnische Systeme erforschen, in denen Algorithmen nicht isoliert betrachtet werden, sondern eingebettet in die Gesellschaft. Nicht weniger notwendig ist allerdings eine bessere Kommunikation zwischen Forschungseinrichtungen und der Öffentlichkeit – und zwar in beide Richtungen.

In klassischen – unidirektionalen – Formaten der Wissenschafts­kommunikation vermitteln Expertinnen ihr Wissen, im besten Fall nicht unterkomplex, aber gut verständlich. Menschen werden sachlich neutral informiert, ihnen wird die Möglichkeit gegeben, sich selbst tiefergehend mit dem Themenfeld auseinanderzusetzen. Sicherlich bedarf es dieser Form der Kommunikation, um ein Basiswissen herzustellen und die Bevölkerung in die Lage zu versetzen, digitale Systeme zu bewerten und kritisch zu hinterfragen. Darüber hinaus brauchen wir aber einen fortlaufenden Dialog zwischen Forschung und Gesellschaft, in der Bürger ihre Perspektive einbringen können und wahrgenommen werden. Das ist mehr als nur die Abwehr des häufig populistischen Vorwurfs, „die Wissenschaft“ spreche von oben herab.

Um diesen Dialog führen zu können, müssen entsprechende Voraussetzungen geschaffen werden, Kapazitäten bereitgehalten werden, Wissenschaftlerinnen und Wissenschaftler befähigt werden, sich nicht nur mit ihrer Forschungsarbeit selbst zu beschäftigen, sondern ihre Erkenntnisse auch in einen Dialog einzubringen. Wissenschaftskommunikation sollte Teil einer wissenschaftlichen Ausbildung sein, um die nächste Generation Forschender zu befähigen, ihre Inhalte mit der Gesellschaft zu teilen. Zudem bedarf es neuer Räume für Vermittlung und partizipative Forschung, wie beispielsweise das Futurium Lab in Berlin, denn ein Dialog unterschiedlichster Parteien profitiert von neutralem Boden.

In der Digitalen Revolution kann Wissenschaftskommunikation eine entscheidende Rolle spielen. Schaffen wir es nicht, der Bevölkerung eine Vorstellung zu vermitteln, von welchen Systemen wir tagtäglich beeinflusst werden, sind wir komplett von den politischen Entscheidungsträgern abhängig. Der Vorschlag für ein Gesetz über digitale Dienste (Digital Services Act) der EU-Kommission ist sicherlich ein Schritt in die richtige Richtung, dennoch ist und bleibt eine mündige Bevölkerung die Voraussetzung für eine demokratische Gesellschaft schlechthin.

Die Zeitenwende kann eine Chance sein, die neue Verbindungen zwischen Forschung und Gesellschaft herzustellen. Wir müssen gemeinsam gestalten, kreativ und aufmerksam sein, um nicht alle Entwicklung den GAFAs dieser Welt (Google, Apple, Facebook, Amazon) überlassen. Auch wenn im Koalitionsvertrag steht, dass „Wissenschaft kein abgeschlossenes System ist, sondern vom Austausch und der Kommunikation mit der Gesellschaft lebt” – weiß jede, die sich in diesem System bewegt, dass es dorthin noch ein weiter Weg ist.