Wissenschaft reflektiert: Was kann Wissenschaft?

Ein studentisches Projekt am ZiWiS

Inhalt

Technologisierung, Künstliche Intelligenzen & Co: Pflastern wir uns den Weg in unsere eigene Dystopie?

Ob E.M. Forster bereits vor einem Jahrhundert in die Zukunft blicken konnte, gut kombiniert oder einfach nur geraten hat: Teile seiner Vision einer Gesellschaft, deren Leben und Alltag von einer Maschine bestimmt werden, sind heute Realität. Unsere Kommunikation und Vernetzung beispielsweise laufen bereits zu großen Teilen über eine Maschine und die Technologie des Smart Homes kommt der in „Die Maschine steht still“ verwendeten Technik sehr nahe. Wie weit sich unser Leben durch Technologisierung und Innovationen schon an das Leben der Protagonisten im Buch angenähert hat, zeigt auch der Blogpost „Ist Science Fiction in Wahrheit eine Prophezeiung“. Dennoch scheinen diese dystopischen Parallelen bisher nur vereinzelt aufzutreten. Noch befinden wir uns also nicht in einer absoluten Abhängigkeit von einer Maschine.

 

Wer nun aufatmet und sich daran erfreut, dem sei ein Gedanke ans Herz gelegt: Technologisierung stoppt nicht. Bis heute hat sie unser Leben und unsere Gesellschaft umfassend verändert. Betrachtet man verschiedene aktuelle Entwicklungen, Forschungen und Vorhersagen, scheint eine Annäherung an die Gesellschaft aus Forsters Roman immer wahrscheinlicher. Dabei kommt eine Frage auf: Kann es sein, dass wir uns den Weg in unsere eigene Dystopie pflastern?

 

Um diese Frage zu beantworten, stellen wir uns vor, wir stehen heute mit einer Gruppe von Baumeistern und Arbeitern an einem metaphorischen Weg. Mit dem technischen Fortschritt als Baumaterial, der Robotik als Stein und der Digitalisierung als Mörtel sind in der Vergangenheit bereits die ersten Meter verlegt worden, sodass eine grobe Richtung schon jetzt erkennbar ist. Nach dort hinten, ganz weit in die Ferne, soll unser Weg führen. Dorthin, wo wir momentan nur ein Leuchten, eine ungewisse Zukunft sehen. Obwohl – oder gerade weil – wir nicht wissen, was es mit diesem Leuchten auf sich hat, werden wir neugierig.

 

Erschaffen wir uns mit Künstlichen Intelligenzen unsere eigene „Maschine“?

 

Also holen wir uns die nächste Ladung Baumaterial für unseren Weg in Richtung Zukunft. Die Forschung an superintelligenten Künstlichen Intelligenzen wird das Material für die nächsten Abschnitte unseres Weges sein. Gleichzeitig ist die Vorstellung einer superintelligenten K.I. wohl die Technologie, die der Maschine im Roman am nächsten kommt. Einer Maschine, die über den Menschen steht, schlauer ist und ihr gesamtes Leben bestimmt.

 

Von vielen noch als Science-Fiction-Szenario abgestempelt, prognostizieren Experten, dass im Zeitraum zwischen 2040 und 2050 erstmals eine Künstliche Intelligenz erschaffen sein wird, die der Intelligenz eines Menschen entspricht.[1] Wo das menschliche Gehirn in seiner Ressourcennutzung begrenzt ist, kann sich eine K.I. – genug Rechen- und Speicherkapazität vorausgesetzt – unbegrenzt weiterentwickeln. Mit jeder neuen Aufgabe und Information enthält die K.I. dann das Potential zur eigenen Optimierung. Die Menge an berücksichtigten Daten oder das Ausbleiben von emotionsbedingten Fehlinterpretationen beispielsweise wird es ihr ermöglichen, bessere Entscheidungen zu treffen, als der Mensch es kann. Selbst komplexeste Aufgaben löst sie in Sekundenbruchteilen, und durch kontinuierliches Dazulernen kennt ihre Entwicklung praktisch keine Grenzen.[2]

 

Wenn der Menschheit dann eine Maschine zur Verfügung steht, die sämtliche Aufgaben besser lösen kann als die Menschheit selbst, wird die Verlockung groß sein, der Maschine auch die Lösung von Aufgaben zu übertragen. Dies mag auf den ersten Blick nach einer großen Hilfe aussehen; bei näherer Betrachtung zeigen sich jedoch die Schattenseiten: Eine Abhängigkeit von den Entscheidungen, Diensten, Hilfen oder Lösungsvorschlägen der K.I. scheint – ähnlich der Abhängigkeit zur Maschine im Roman – plötzlich nicht mehr so unrealistisch. Allen, die eine solche Entwicklung für unglaubwürdig halten, sollen nun kurz die Prognosen für einen Internetausfall im 21. Jahrhundert vor Augen geführt werden: Neben dem offensichtlichen Versagen von Telefon oder Onlinebanking fallen vor allem Handel und Logistik aus, die Börse bricht zusammen, nach wenigen Tagen sitzen wir ohne Strom in unseren Wohnungen und bald gibt es kein Warmwasser mehr.[3] Eine gewisse Abhängigkeit von einer Technologie ist demnach schon heute nicht mehr von der Hand zu weisen.

 

www.pixabay.com

Und dann? Müssen wir alle Cyborgs werden?

 

Außerdem bekommen wir soeben eine neue Lieferung an Bausteinen. Die Weiterentwicklung einer K.I. obliegt – wie wir gerade festgestellt haben – ab einem bestimmten Zeitpunkt nicht mehr dem Menschen, sondern wird von der Intelligenz selbstständig durchgeführt und kontinuierlich vorangetrieben. Wie die Menschen im Roman werden bald selbst die schlauesten Programmierer und IT-Experten die Arbeitsweise dieser Intelligenz weder verstehen noch kontrollieren können. Und mangelndes Verständnis führt auch zwangsläufig zu mangelnder Kontrolle. Obwohl Forschern diese Tatsache und die daraus resultierenden Gefahren bewusst sind, wird die Entwicklung dennoch vorangetrieben. Einer, der sich genau deshalb für mehr Kontrolle ausspricht, ist Tesla-Gründer und Erfinder Elon Musk. Trotz seines Images als Hightech-Utopist warnte er in der Vergangenheit wiederholt vor den potenziellen negativen Auswirkungen der K.I.-Forschung. Zudem spendete er große Summen an das sogenannte „Future of Life Institute“, dessen Forschung auf die Verringerung der Gefahr durch K.I.s ausgerichtet ist.[4] Für Musk ist klar, dass Vorkehrungen getroffen werden müssen, damit eine superintelligente Künstliche Intelligenz dem Menschen nicht irgendwann (auch unbeabsichtigt) schadet. Obwohl also eine gewisse Auseinandersetzung mit möglichen Auswirkungen stattfindet, verlässt sich ein großer Teil der Wissenschaft darauf, rechtzeitig eine funktionierende Lösung finden zu können. Vorschläge hierzu bestehen beispielsweise darin, der K.I. menschliche Werte beizubringen. Nick Bostrom, Philosoph und Spezialist für Technikfolgenabschätzung von der Universität Oxford, vertritt diese Auffassung.[5] Wie genau das geschehen soll, ist bisher unklar. Auch die Verschmelzung von Mensch und K.I. durch eine Verbindung von Gedanken und Daten stellt für einige Forscher – wie Elon Musk – eine Lösungsmöglichkeit dar.[6] Für die meisten Zeitgenossen wohl eine abschreckende Vorstellung. Und dennoch wäre sie aus Sicht Einiger durch den Fortschritt gerechtfertigt, der hier zum Selbstzweck wird: Fortschritt um des Fortschritts Willen.

 

In welche Richtung soll der Weg nun führen?

 

Während wir also weiter unsere Bausteine verlegen, nähern wir uns immer mehr dem Leuchten in der Ferne. Mittlerweile sind wir nahe genug, um ein leichtes Flackern erkennen zu können. Unter den Baumeistern und Angestellten bilden sich währenddessen drei Gruppen. Bald äußert sich ein Vertreter der ersten Gruppe: „Wir sind dem Leuchten schon viel näher gekommen. Dort hinten muss es gemütlich und geborgen sein. Es sieht nach einer besseren Zukunft aus“. Viele stimmen der Meinung der ersten Gruppe zu. Die Aussicht auf eine positive Zukunft rechtfertigt ihren Wunsch, weiterhin an Künstlichen Intelligenzen zu forschen und damit den Weg in Richtung des Leuchtens fortzusetzen. „Weiterbauen sollten wir auf jeden Fall.“ findet auch ein Gesprächsführer der zweiten Gruppe „Aber warum machen wir uns Gedanken, was dort hinten liegt? Hauptsache die Bauarbeiten stagnieren nicht.“ Die Anhänger um Gruppe zwei sind Vertreter der Innovation als Selbstzweck. Die Aussicht auf die neuen Möglichkeiten der K.I. Technologie sind für sie Ansporn genug. Auch die dritte Gruppe blickt in Richtung des flackernden Leuchtens und denkt über dessen Bedeutung nach. „Ein Feuer könnte es sein, dass dort hinten Chaos und Verderben bringt“, gibt einer von ihnen zu bedenken. „Wollen wir unseren Weg wirklich weiter in diese Richtung bauen?“ Aus Sorge vor den potenziellen negativen Auswirkungen der K.I.-Forschung vertritt die dritte Gruppe eine recht kritische Auffassung. Sie will die Richtung des Weges überdenken und findet, man sollte über eine neue Ausrichtung nachdenken.

 

Leider kann keine der drei Gruppen ihr jeweiliges Vorhaben ohne die Zustimmung der beiden anderen durchsetzen. Bauen die Gruppen Eins und Zwei ihren Weg weiter in Richtung des Leuchtens, wird auch ein Richtungswechsel oder eine Arbeitsverweigerung der dritten Gruppe den Bau nicht aufhalten können. Ist unsere Zukunft damit schon besiegelt? Können wir unseren Kurs überhaupt noch ändern? Wenn überhaupt, muss eine Einigung her. Doch wie sollen sich die Gruppen entscheiden? Sollten sie den Bau des Weges fortsetzen und in ihrem Glauben an eine bessere Zukunft Recht behalten? Ist das Ziel nicht vielleicht nebensächlich, solange sie nur weiterbauen? Oder pflastern sie sich da gerade den Weg in ihre eigene Dystopie?

 

Über die Autorin
Mein Name ist Kristina Gössler und ich studiere Politikwissenschaft und Öffentliches Recht. Vor allem realistische Dystopien und die potenziellen gesellschaftlichen Auswirkungen aktueller Entwicklungen haben mich schon immer fasziniert. Bei Einigen bin ich deshalb auch als Innovationskritikerin bekannt. Den Miesepeter spiele ich aber gerne, denn wo der blinde Fortschrittsglaube vorherrscht, muss auch eine Auseinandersetzung mit den weniger bequemen Seiten einer Entwicklung stattfinden.

 

 

[1]Vgl. Bostrom, N. (2005): What happens when our computers get smarter than we are?“, In: TED, HTML: https://www.ted.com/talks/nick_bostrom_what_happens_when_our_computers_get_smarter_than_we_are (Stand: 16.01.2018)

[2]Vgl. Ebend.

[3]Vgl. Seiffert, P. (2015): „Blackout – Was passiert, wenn das Internet ausfällt?“ , In: Focus Online, HTML: http://www.focus.de/digital/computer/chip-exklusiv/tid-33098/google-weg-facebook-weg-netz-weg-blackout-was-passiert-wenn-das-internet-ausfaellt_aid_1079042.html (Stand: 16.01.2018)

[4]Vgl. Bostrom, N. (2015): What happens when our computers get smarter than we are?“, In: TED, HTML:https://www.ted.com/talks/nick_bostrom_what_happens_when_our_computers_get_smarter_than_we_are (Stand: 16.01.2018) https://www.ted.com/talks/nick_bostrom_what_happens_when_our_computers_get_smarter_than_we_are

[5]Vgl. Ebend.

[6]Vgl. o.A. (2017): „Elon Musk: Wir müssen alle Cyborgs werden“, In: Wired, HTML : https://www.wired.de/collection/tech/elon-musk-wir-muessen-alle-cyborgs-werden (Stand: 18.01.2018)

2 Kommentare zu “Technologisierung, Künstliche Intelligenzen & Co: Pflastern wir uns den Weg in unsere eigene Dystopie?

  1. Julie Christin Teßmann sagt:

    Liebe Kristina,
    dein Artikel trifft einen Nerv bei mir! Ich bin selbst großer Fan von Dystopien und Science Fiction und daher stecke ich tief im Thema drin, weshalb du praktischerweise direkt auf meinen (kommenden) Beitrag verwiesen hast. Vielen Dank dafür erst einmal!
    Wie man in meinem Artikel möglicherweise herauslesen kann, stehe auch ich dem technischen Fortschritt ein wenig skeptisch gegenüber. Selbstverständlich gibt es viele positive Effekte auf unser Leben und alles wird durch die Technik einfacher, jedoch gibt es – wie du erkannt hast – viele Nachteile und beängstigende Szenarien (bspw. aus Dystopien), die sich entwickeln könnten.
    Deine Darstellung der K.I.-Thematik finde ich auch sehr spannend. Es besteht definitiv Klärungsbedarf darüber, ob und wie weit man noch gehen sollte und darf. Jedoch denke ich, dass wir auf unserem Weg in eine hoch technisierte Zukunft bereits zu weit sind um umzukehren. Dies finde ich jedoch gar nicht schlecht. Wir sollten das Potenzial durchaus nutzen. Denn nur mit Fortschritt können wir über uns hinaus wachsen – und vielleicht können mithilfe der richtigen Technologien auch eine bessere Welt schaffen, sofern wir uns denn damit auch kritisch und ethisch auseinandersetzen.
    Liebe Grüße

  2. Annika Schmidt sagt:

    Dieser Artikel ist sehr interessant. Ich finde es super, dass die Maschine aus dem Buch mit der K.I verglichen wird. Ich habe mir selbst schon viele Gedanken über künstliche Intelligenzen gemacht und sehe auch eher die negativen Seiten. Durch einen Überblickverlust können wir die K.I irgendwann nicht mehr kontrollieren. Ich stelle mir immer wieder vor, dass wenn wir der K.I die Aufgabe geben zum Beispiel unser Klimaproblem zu lösen, wäre die offensichtliche Lösung der Tod aller Menschen, und wer würde eine so intelligente Maschine dann noch aufhalten können. Ich denke es ist gut, dass wir uns auch mit den negativen Seiten der Digitalisierung beschäftigen. Ich finde deinen Artikel deshalb echt richtig gut, weil er einen negativen Blick in die Zukunft bringt. Natürlich hoffe ich nicht, dass diese Dinge alle eintreffen, doch es regt mich doch sehr zum denken an, denn ich bin ein großer Fan von Dystopien. Ich denke Dystopien können uns aufzeigen, was wir falsch machen könnten und wie wir genau diesen Weg in die Zukunft nicht einschlagen werden.

Kommentar hinterlassen

Ihre Email-Adresse wird nicht veröffentlicht. Erforderliche Felder sind * markiert

Sie können die folgenden HTML-Tags benutzen: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <s> <strike> <strong>