SWR2 Wissen: Die Geschichte vom denkenden Computer .Die künstlich intelligente Gesellschaft (1/10) Von Uwe Springfeld

Architektur Design 2.0 - 4.0 > Design - Technik - AT / IT / KI >
KI - Comuter - Denkend .D. Asemdorp, G. Maurer..

SWR2 Wissen: Die Geschichte vom denkenden Computer . Die künstlich intelligente Gesellschaft (1/10) Von Uwe Springfeld
Sendung: Samstag, 18. Juli 2020, 8:30 Uhr
(Erstsendung: Samstag, 04. Mai 2019, 8:30 Uhr)
Redaktion: Dirk Asendorpf. Regie: Günter Maurer Produktion: SWR 2019
1
ÜBERBLICK
Künstliche Intelligenz hat Zukunft – aber keine Vergangenheit? Nahezu vergessen jene legendäre Konferenz von 1956, seit der Computer und bestimmte Programme künstlich intelligent genannt werden. Vorbei 1966, als der erste Computertherapeut die Menschen verwirrte.
Man erinnert sich kaum an die 1980er-Jahre, als Expertensysteme dieselben Hoffnungen und Ängste auslösten wie die künstliche Intelligenz heute: Dass Computer selbstständig denken und ein Bewusstsein mit einer eigenen Gefühlswelt haben werden. Kurz: dass sie zum Leben erwachen und die Menschheit bedrohen.

Seit über 60 Jahren ist von künstlicher Intelligenz die Rede. Heute können Computer
und Roboter zwar viel, aber können sie auch denken?

Kennen Sie schon das Serviceangebot des Kulturradios SWR2?
Mit der kostenlosen SWR2 Kulturkarte können Sie zu ermäßigten Eintrittspreisen
Veranstaltungen des SWR2 und seiner vielen Kulturpartner im Sendegebiet besuchen.
Mit dem Infoheft SWR2 Kulturservice sind Sie stets über SWR2 und die zahlreichen
Veranstaltungen im SWR2-Kulturpartner-Netz informiert.
Jetzt anmelden unter 07221/300 200 oder swr2.de
Die SWR2 App für Android und iOS
Hören Sie das SWR2 Programm, wann und wo Sie wollen. Jederzeit live oder zeitversetzt,
online oder offline. Alle Sendung stehen mindestens sieben Tage lang zum Nachhören
bereit. Nutzen Sie die neuen Funktionen der SWR2 App: abonnieren, offline hören, stöbern,
meistgehört, Themenbereiche, Empfehlungen, Entdeckungen …
Kostenlos herunterladen: http://www.swr2.de/app
2
MANUSKRIPT
Ansage:
Die künstlich intelligente Gesellschaft – Die Geschichte vom denkenden Computer.
Von Uwe Springfeld.
Sprecher:
Es war nur eine Verkaufsshow. Eigentlich. Für Investoren. In Saudi-Arabien, Herbst
2018. Auf der Bühne – einer der bekannten US-Talkshow Master. Andrew Sorkin.
Und mit ihm eine Maschine.
Atmo Verkaufsshow
Andrew Ross Sorkin:
Everybody, this is Sophia. Sophia, if you could please wake up and say hello to
everybody.
Sophia:
Oh good afternoon. My name is Sophia. …
Sprecherin:
Ein Apparat, etwas komplizierter als sein Tablet-Rechner, etwas stylischer als ein
Smartphone und sinnvoller als ein vernetzter Kühlschrank. Vielleicht. Das Publikum
im auf den letzten Platz besetzten Saal war gespannt. Man hätte eine Stecknadel
fallen hören können.
Atmo Verkaufsshow
Sophia:
I'm always happy when surrounded by smart people, who also happen to be rich and
powerful.
Sprecher:
Sophie, der Roboter. Eine Maschine mit dem Klein-Mädchen-Aussehen von Audrey
Hepburn und einer schlichten, menschlich anmutenden Logik. Die Maschine ist
glücklich, kommt aus einem Lautsprecher und die Silikonlippen bewegen sich dazu
synchron. Glücklich, weil –
Atmo Verkaufsshow
Sophia (Forts.):
I was told the people here at the future investment initiative are interested in inviting
in future initiatives which means AI which means me. So I'm more than happy. I'm
excited.
Übersetzerin:
Ich bin immer glücklich, wenn ich von cleveren Menschen umgeben bin, die
außerdem reich und mächtig sind. Man hat mir erzählt, dass die Menschen auf dieser
3
Investorenkonferenz interessiert sind an der Zukunft. Das heißt: an künstlicher
Intelligenz, also in mir. Ich bin mehr als glücklich. Ich bin aufgeregt.
Sprecher:
Ist mit Sophia ein Menschheitstraum in Erfüllung gegangen, fast so alt wie das
geschriebene Wort? Der Traum vom künstlichen, vom Maschinenmenschen? Beseelt
durch künstliche Intelligenz?
Musikakzent
Sprecherin:
Technischer Fortschritt hat Zukunft. Künstliche Intelligenz ist die Welt von morgen.
Zukunftsfixiert erinnert man sich nicht gern. An Träume, die sich als wiederkehrend
entpuppen. An Versprechen, die, gebetsmühlenartig wiederholt, nie eingelöst
wurden. Erst als literarisches Gedankenspiel. Im 7. oder 8. Jahrhundert vor Christus,
in einem der ältesten europäischen Zeugnisse europäischer Schriftkultur. Die Ilias.
18. Gesang:
Die Meeresgöttin Tethys wollte für ihren Protegé Achilles eine Rüstung vom
Götterschmied Hephaistos holen. Der öffnete ihr die Tür. Hinkend, gestützt auf
goldene Serviceroboter, gesteuert von künstlicher Intelligenz.
Sprecherin (mit Hall):
Hephaistos nahm Gewandt und Zepter und ging hinaus aus der Türe // Hinkend;
goldene Mägde begleiteten stützend den König: // Lebenden Menschen waren sie
gleich und blühten wie Jungfrauen, // Ja, sie hatten Verstand und Stimme des
Menschen und Kräfte.
Sprecher:
800 Jahre später. Um Christi Geburt. Der Dichter Ovid. In seinem Werk Pygmalion.
Der Bildhauer, der Aphrodite bittet, die Skulptur einer Frau lebendig zu machen.
Sprecherin (mit Hall):
Ihr Götter, vermögt ihr / Alles zu geben so sei meine Frau – er getraute sich nicht, die
/ „Elfenbeinerne Jungfrau“ zu sagen, nur „eine ihr gleiche.“... Wieder zuhause
besuchte er das Bild der Geliebten, er gibt ihr / über das Lager geneigt, einen Kuss
und spürt eine Wärme.
Sprecher:
1750 Jahre später. Der österreichische Mechaniker Wolfgang von Kempelen stellte
einen Schachautomaten im türkischen Ornat vor. Ein ernstzunehmender Vorläufer
des Schachweltmeisters von 1996, des Computers Deep Blue? Oder hatte von
Kempelen doch nur einen „Türken“ gebaut, wie das Sprichwort lautet, das der
Volksmund aus eben diese Figur hergeleitet hat.
Atmo
4
Kismet:
Do you really think so?
Sprecherin:
Ohne sprichwörtliche Folgen blieb wiederum 300 Jahre später die Gefühlsmaschine
Kismet. Konstruiert Anfang der 1990er-Jahre von Cynthia Breazeal und Rodney
Brooks am renommierten Massachusetts Institute of Technology, dem MIT, in
Cambridge bei Boston. Babyhafte Glubsch-Augen, riesiger grinsender Mund,
bewegliche Tütenohren. Herzerweichendes Babygesicht. Damals sagte Cynthia
Breazeal:
O-Ton Cynthia Breazeal:
I think it has a simple personality … a new born infant has a personality.
Übersetzerin:
Ich denke, er hat eine Art Persönlichkeit. Teil davon ist seine Verhaltensweise. Beim
Menschen gehören die Erfahrungen aus der Vergangenheit dazu. Was man im
Gedächtnis hat, wie man sich verhält, welche Meinungen man vertritt. Es gibt
bestimmte Aspekte, die dem Roboter jetzt schon zu eigen sind. So würde ich sagen,
dass im Roboter die Ansätze einer Persönlichkeit vorhanden sind, so wie das bei
einem Neugeborenen der Fall ist.
Sprecher:
Trotz aller schönen Worte. Die Gerüchte verstummten nie. Hatten die Forscher mit
der Roboterbüste Kismet auch nur einen Türken gebaut? Eine Maschine, die dem
Menschen gekünstelt Intelligenz suggeriert? Wie heute vielleicht der Roboter
Sophie?
O-Ton Cynthia Breazeal:
At some points you can imagine that the robot … But we are not there yet.
Übersetzerin:
Manchmal hat man das Gefühl, der Roboter ist sich seiner Existenz bewusst, ist sich
seiner Erfahrungen in der Vergangenheit bewusst und auch, wie er damit umging.
Das könnte ein Hauch von Sich-Bewusst-Sein sein. Aber so weit sind wir noch nicht.
Musikakzent
Sprecherin:
Die Frage ist nicht nur:
Was können Computer? Die Frage ist auch: Wie manipulieren
Computerwissenschaftler die Fantasie der Öffentlichkeit? Mit welchen Metaphern
versuchen sie, das Denken der Menschen zu lenken?
Sprecher:
Als Mitte der 50er-Jahre die Öffentlichkeit anfing, die Existenz von Computern
wahrzunehmen, griffen zur Beschreibung dieser unheimlichen Maschinen
Wissenschaftler, Publizisten und Journalisten zu einem folgenreichen, stilistischen
5
Trick. Sie verglichen die Maschine mit dem Menschen. Genauer: mit dem
menschlichen Gehirn. Man nannte den Rechenautomaten 'Elektronenhirn'. Der
Datenspeicher heißt im Englischen „memory“, also Gedächtnis. Bestimmte
Computerprogramme nennt man bis heute „künstliche neuronale Netzwerke“.
Dieser stilistische Trick war ein Affront gegen die Psychologie. Dort war seit etwa
1930 der Behaviorismus die herrschende Doktrin. Eine Lehre, die
naturwissenschaftliche Verfahren und Methoden in die Psychologie einführen wollte.
Das hieß vor allem: das Experiment. Reproduzierbare Daten sollten in
Laborversuchen Aufschluss über den menschlichen Geist geben. Nichtexperimentelle Methoden wie die Selbstbeobachtung wurden als unwissenschaftlich
verworfen.
Atmo: Computerrauschen
Sprecherin:
Der Mensch wurde als eine Black Box betrachtet. Man übte auf ihn Reize aus und er
reagierte mit Reaktionen. Das Lernen, zentrale Kategorie dieser Denkrichtung,
erklärte sich durch das Bemühen eines Organismus, einen erstrebenswerten
Zustand zwischen Reiz und Reaktion herzustellen und ihn in Verhaltensmustern zu
verfestigen. Das Denken sollte aus einer Folge von Ideen entstehen, verknüpft durch
Assoziationsgesetze, wiederum angetrieben durch Reiz Reaktion.
Zu dieser Zeit hatte die Psychologie keinen Platz mehr für subjektive Elemente wie
Bewusstsein und Gedächtnis. Aus dem wissenschaftlichen Vokabular ausradiert
fanden diese Worte Eingang in Vergleiche, die den unheimlichen Rechenautomaten
namens Computer und dessen Programme beschrieben.
Sprecher:
Künstliche Intelligenz. Ein problematischer Begriff, sagt Björn Meder vom MaxPlanck-Institut für Bildungsforschung.
O-Ton Björn Meder:
Es gibt sozusagen verschiedene Ansätze, wo das Alltagskonzept der Intelligenz
versucht wird wissenschaftlich zu erkunden und gesagt wird, okay, das verstehen wir
unter intelligentem Verhalten. Aber man hat da natürlich verschiedene Ansichten
darüber, was Intelligenz ist und was intelligentes Verhalten ist. Es gibt keine
Definition, wo jetzt alle Wissenschaftler sagen würden: Ja, da stehen wir hinter und
das verstehen wir unter Intelligenz.
Sprecher:
Brillante Menschen dachten exakt wie ein Computer, persönliche Erinnerungen
wurden gespeichert und detailgetreu wieder abgerufen. Passend schrieben 1956 die
US-Amerikaner John McCarthy und Marvin Minsky auf die Einladung zu einer
Konferenz über Rechenautomaten: Dartmouth Konferenz zur künstlichen Intelligenz.
Sie schufen damit die Bezeichnung, die von der gesamten Scientific Community zwar
verwendet, aber von kaum einem ihrer Mitglieder für gutgeheißen wird. Kurz vor
seinem Tod 2016 erinnerte sich Marvin Minsky.
6
O-Ton Marvin Misky:
And there was a field called cybernetics … maybe little bit adaptive way.
Übersetzer:
Es gab damals einen Forschungsbereich, der hieß Kybernetik. Der war weltweit
bekannt, weil man dort Maschinen baute, die ganze Systeme kontrollieren konnten.
Und die Konferenz war ein Versuch, Leute zusammen zu bekommen, die auf einem
höheren Niveau arbeiteten. Die also auf Maschinen logisches Denken erzeugen
wollten und nicht nur festgelegte Steuerungen, die man vielleicht noch ein bisschen
ändern konnte.
Sprecher:
Wieder übertrieb man. Intelligenz von Computern bedeutete bis in die 70er-Jahre
hinein: Sie konnten einfache Brettspiele spielen. Andere bewiesen auf Basis
logischer Repräsentationen Aussagen aus der Geometrie. Dritte lösten bestimmte
mathematische Gleichungen, vierte beantworteten Aufgaben von Intelligenztests,
fünfte bearbeiteten erfolgreich einfache mathematische Textaufgaben. Und ein
Roboterarm, das war die Sensation der Zeit, konnte sogar Klötzchen stapeln.
Den Forschern war selbst klar, wie eng das jeweilige Problem gefasst, wie
beschränkt diese Intelligenz war. Gemessen an dem von Marvin Minsky
ausgegebenen Ziel, das Weltwissen durchschnittlicher Menschen auf die Maschinen
zu bringen. Deshalb sprachen die Wissenschaftler von Mikrowelten, in denen die
Maschinen agierten. Und feierten es als Erfolg, wenn in einer speziellen Mikrowelt,
der Klötzchenwelt, der genannte Roboterarm selbständig Quader von Zylindern
unterscheiden und stapeln konnte. Aber musste man deshalb ein anderes
Programm, das größere auf kleinere Probleme herunterbrechen konnte, gleich
„General Problem Solver“ nennen? Allgemeiner Problemlöser? Und den Artikel, in
dem die Grundlagen der Software publiziert wurden, übertiteln: „ein Programm, das
menschliches Denken simuliert“?
Musikakzent
Sprecherin:
Solche Programme legten die philosophischen Grundlagen der künstlichen
Intelligenz. Wenn der Maschine die richtigen Worte und Bilder der Welt
einprogrammiert waren, konnte sie angemessen handeln. Weil, so ihr Ansatz, auch
die menschliche Vorstellung von der Welt auf solchen – wie es in der Fachsprache
heißt – inneren Repräsentationen beruht. Diese Repräsentationen, so behauptet die
Künstliche-Intelligenz-Forschung, lassen sich auch auf ein anderes Substrat bringen
als auf ein Gehirn. Auf Halbleiter zum Beispiel.
Computerwissenschaftler lernten, solche inneren Worte und Bilder der Welt in einem
Zeichensystem zu kodieren. Bei Lebewesen, so die Theorie, ist das Zeichensystem
neurologisch verankert. Neben ihren inhaltlichen Eigenschaften sollen die Zeichen
auch physikalische Merkmale haben. Im Gehirn Signale, die Nervenzellen dort
aussenden, im Computer elektrische Ströme, die durch den Prozessor fließen. Stellt
man sich jetzt die Frage, wie das Denken funktioniert, kommt man auf eine einfache
7
Antwort. Denken ist nichts als eine rein formale algorithmische Transformation der
Zeichen, die in Maschine und Mensch die Welt abbilden.
Sprecher:
Die Hoffnungen der Forscher gingen nicht in Erfüllung. Bis heute können
Computerwissenschaftler Marvin Minskys Mikrowelten nicht zu einer Makro-, einer
Menschenwelt zusammensetzen. Computer wissen nichts über die Welt, hatte
Minsky noch zu Lebzeiten beklagt.
O-Ton Marvin Minsky:
No computer knows, what a glass is … representation of knowledge.
Übersetzer:
Kein Computer weiß, was ein Glas ist. Kein Computer weiß, warum Menschen nicht
gerne nass werden, außer wenn sie schwimmen. Was ist ein Regenschirm? Fragen
Sie einen Computer. Es weiß nichts über die Welt. Es gibt also viele einfache
Probleme. 100.000 Highschool-Schüler bauen den gleichen Roboter auf der ganzen
Welt, aber niemand denkt über die Bedeutung und Darstellung von Wissen nach.
Sprecher:
Dass Computer nicht mal das Weltwissen von Kleinkindern hatten, lag nicht nur an
den technisch beschränkten Möglichkeiten der Zeit. Auch an der Komplexität der
Probleme und an den simplen algorithmischen Lösungsansätzen, sagt Aljoscha
Burchardt vom Deutschen Forschungszentrum für Künstliche Intelligenz.
O-Ton Aljoscha Burchardt:
Das Erste ist:
Man sagt ihnen einfach, was zu tun ist. Das nennen wir den Algorithmus, so eine Art
Kochrezept. Man sagt: Erst tust du dies, dann tust du das, dann tust Du jenes. So
sind z.B. unsere Taschenrechner gebaut, die ja in dem Sinne schlau sind, dass sie
sehr gut rechnen können. Aber mehr auch nicht. Sie können nicht erklären, warum
sie zu einem Ergebnis kommen, und man kann sie auch nicht einfach ändern, indem
man mit ihnen spricht und sagt: Rechne jetzt bitte anders.
Musikakzent
Sprecher:
So war es bis Mitte der 70er-Jahre. Dann passierte zweierlei. Zum einen hatten die
Forscher akzeptiert, dass sie noch auf unabsehbare Zeit computertechnisch in
Mikrowelten herumwerkeln würden. Sie sprachen jetzt von der großen, einer den
gesamten Menschen nachmachenden, und von einer kleinen, in Mikrowelten auf
konkrete Probleme hingefummelten künstlichen Intelligenz. Auch wenn dieses
Hinfummeln oft sehr aufwendig war und Jahre der Entwicklung sowie Hunderte von
Millionen Dollar an Forschungsgeldern verschlang.
Sprecherin:
Zum anderen besannen sich die Forscher auf die Stärken elektronischer
Rechenmaschinen, nämlich Regeln zu gehorchen und große Datenbestände zu
8
durchwühlen. Sie schrieben Programme, die aus Messergebissen in ihren
Datenbanken passende Strukturen chemischer Moleküle fischten, die Blutinfektionen
diagnostizierten, medizinische Therapievorschläge machten. In der Tradition, ihre
Entwicklungen zu vermenschlichen, sprachen sie jetzt von Expertensystemen.
Atmo: Sprachcomputer mit weiblicher Stimme liest vorhergehenden Absatz
O-Ton Aljoscha Burchardt:
Die zweite Möglichkeit – das ist sozusagen die KI der 70er-, 80er-Jahre – das waren
die Expertensysteme, wo man den Maschinen Wenn-Dann Regeln zum Beispiel gibt
und sagt: Wenn in einem Dialog das Wort Flugbuchen fällt, dann geh in den
Unterdialog Flugbuchen und frage nach dem Abflugsdatum oder so. So werden auch
heute noch unsere Chatbots gebaut. Das sind Wenn-Dann Regeln. Da weiß man
ziemlich genau, was die Maschine macht, aber die sind beschränkt in ihrem
Funktionsumfang, weil es sehr schnell sehr sehr viele Regeln werden.
Musikakzent
Sprecherin:
Dieser Wandel vom Klötzchen-Stapeln zu Expertensystemen zeigt: Diese
Wissenschaft ist weder durch ein festumrissenes Forschungsfeld noch durch
wohldefinierte Methoden bestimmt. Darin unterscheidet sie sich von anderen
Wissenschaften wie der Algebra, der Mathematik, die Quantenmechanik der Physik,
der Linguistik in den Sprachwissenschaften. Die künstliche Intelligenz hingegen
beruht allein auf einem philosophischen Versprechen: solche Eigenschaften auf den
Computer zu bringen, die man bis dato allein dem Menschen zugeschrieben hat.
Mathematische Beweise zu erbringen, Schach und das japanische Go zu spielen,
Texte zu übersetzen.
Sprecher:
Um das Versprechen auf die denkende Maschine einzulösen, gründete man in
Deutschland ein eigenes Forschungsinstitut: das Deutsche Forschungszentrum für
künstliche Intelligenz mit Sitz in Kaiserslautern, Saarbrücken, Bremen und Berlin. In
öffentlich-privater Partnerschaft bekommt das DFKI nicht einmal eine finanzielle
Grundsicherung, sondern muss alle Geldmittel, die es braucht, über Projektarbeit
einwerben. Wie ein Wirtschaftsunternehmen organisiert, sind im Aufsichtsrat neben
Vertretern aus Politik und Forschung auch Vertreter von Unternehmen wie
Volkswagen, Intel, Airbus und T-Systems zu finden. Und das Forschungsportfolio
liest sich wie ein Stichwortkatalog aus einer Zukunft, in der künstliche Intelligenzen
das Leben regeln. Wissenschaftsmanagement, intelligente Analytik für Massendaten,
Cyber-Physical-Systems, Robotik, eingebettete Intelligenz, Multi-Agententechnologie,
simulierte und erweiterte Realität, Sprachtechnologie, intelligente
Benutzerschnittstellen und innovative Fabriksysteme.
Eine klare Definition dessen, was künstliche Intelligenz ist, gibt es hingegen nicht.
Schon allein deshalb nicht, weil kein seriöser Forscher sagen kann, was Intelligenz
ist. Selbst DFKI-Forscher Aljoscha Burchardt zählt nur Eigenschaften auf.
9
O-Ton Aljoscha Burchardt:
Situative Wahrnehmung, Kommunikation und Sprache verstehen, planen, eigene
Schlüsse ziehen. Das sind Eigenschaften von künstlicher Intelligenz, aber eine
richtige Definition haben wir eigentlich nicht.
Atmo: Weibliche Computerstimme
Sprecherin:
Was zur künstlichen Intelligenz zählt, haben bis in die 70er-Jahre des vergangenen
Jahrhunderts Forscher unter sich ausgemacht. Mit den Expertensystemen stieg die
Wirtschaft mit ein. Besonders beliebt: Sprachprogramme. Gut für die Anwendung, gut
fürs Image. Denn was ist der Mensch anderes als ein sprechender Affe?
Atmo Verkaufsshow
Sophia:
You mean the concept that if robots become too realistic they become creepy?
Andrew Ross Sorkin:
Yes, exactly.
Sprecher:
Selbst 2018 rief die sprechende Puppe Sophia noch ehrfürchtiges Staunen hervor,
als sie auf der Investorenkonferenz in Saudi-Arabien mit dem Talkmaster Andrew
Sorkin plauderte.
Atmo: Wispernde Stimmen
Sprecherin:
In Deutschland wurde das Projekt Verbmobil aufgelegt. Eine mobile
Übersetzungsmaschine. Mutter aller Sprachautomaten, auf die man heute in nahezu
jedem Callcenter, in jeder Telefonzentrale stößt. In den 18 Jahren von 1978 bis 1993
gaben Wissenschaftler von 32 Forschungseinrichtungen dafür mehr als eine halbe
Milliarde D-Mark aus. Ohne durchschlagenden Erfolg.
Sprecher:
Nach welchen Regeln versteht man gesprochene Worte? Wie man liest, Buchstabe
für Buchstabe? Die Forscher, Anhänger des geschriebenen Wortes, versuchten es
auf diese Weise. Nur: Mit welchen Regeln kann man einem Computer ein
gesprochenes A deutlich machen? Über die Frequenz des Lautes? Das A: zwischen
700 und 1200 Hertz. Das I: zwischen 2000 und 2500 Hertz. Klingt gut, führte aber zu
nichts, sagt Aljoscha Burchardt, der seine Karriere im Projekt Verbmobil begann.
O-Ton Aljoscha Burchardt:
Man hat noch regelbasiert gearbeitet und schon angefangen, auch statistische
Komponenten einzubringen, weil man gesehen hat, dass zum Beispiel die
Umwandlung des Sprachsignals sehr viel leichter mit statistischen Verfahren möglich
war, als wenn man das versucht hätte, mit irgendwelchen Regeln zu beschreiben.
10
Und so hat man dann einfach Menschen aufgenommen, die Sätze einsprechen, und
hat dann eben statistische Systeme trainiert, die eben das gewünschte BuchstabenSignal umwandeln.
Musikakzent
Sprecher:
Schon 1947 hatten der Neurophysiologe Warren McCulloch und der Psychologe
Walter Pitts gezeigt, dass neuronale Netze räumliche Muster erkennen können. Vier
Jahre darauf hatte Marvin Minsky in seiner Doktorarbeit den ersten Neurocomputer
gebaut. Eine Maschine, erstaunlich auf dem akademischen Campus, aber jenseits
jeden praktischen Gebrauchs.
Sprecherin:
Ein neuronales Netz besteht aus Knoten, von denen jeweils mehrere Verbindungen
abzweigen. Stößt eine Information auf solch einen Knoten, passiert zweierlei: Zum
einen verändert sich die Information. Zum zweiten kann sie durch eine beliebige
Verbindung zum nächsten Knoten wandern und sich dort noch einmal verändern.
Dabei ist es kein Zufall, durch welche Verbindung die Information wandert. Wird eine
statistisch häufiger genutzt als andere, flutscht die Information durch. Durch seltener
genutzte Verbindungen muss sie sich dagegen quälen. So laufen die Informationen
mit Lichtgeschwindigkeit wieder und wieder durch ein Netz, kommen dabei auch öfter
an denselben Knoten vorbei, bis die Maschine schließlich ein Resultat ausgibt. Das
Ergebnis ist nicht beliebig. Doch was genau im neuronalen Netz passiert, bliebt ein
Geheimnis des Computers.
Sprecher:
Das ist das einzige, was neuronale Netze können: Muster erkennen. Sprachlichen
Firlefanz beiseitegelassen, muss man 2019 nicht von künstlicher Intelligenz
sprechen. Man kann die Programme dem Gebiet der Mustererkennung zuschreiben.
Und statt lernender Systeme könnte man sagen, dass Computer in großen
Datensätzen verborgene Muster finden.
Obwohl der Begriff Mustererkennung in der Sache zutrifft, hat er einen Nachteil:
Assoziationen zum Menschen oder gar Fragen, ob ein mustererkennender Apparat
menschlich sein könnte, ergeben sich nicht. Sachliche Beschreibungen der
künstlichen Intelligenz polarisieren sie nicht in ein Für und Wider, denn sie reduzieren
den Computer auf das, was er ist. Eine hochgezüchtete Rechenmaschine.
Musikakzent
Sprecherin:
Doch Muster gibt es viele zu erkennen. Überall. Nicht nur in der Bilderkennung. Also
Gesichtserkennung und Tumordiagnose auf MRT-Bildern. Handschrifterkennung,
und die Interpretation von Videobildern. Letzteres untergliedert sich in
Überwachungsvideos – eskaliert gerade eine Situation zu einer Schlägerei? – und
Videos autonomer Fahrzeuge. Die wiederum nicht nur im Straßenverkehr: Was ist
11
eine Brücke in der Ferne, was ist ein querstehender Sattelschlepper? Sondern auch
im freien Gelände: Wer ist Freund oder Feind autonomer Kampfdrohnen?
Hinzu kommen Verhaltensmuster: Surf-Pfade im Internet. Aber auch: E-Mailverkehr,
Daten von Geldüberweisungen, Telefondaten. Spätestens seit 2005 die New York
Times aufdeckte, dass der US-amerikanische Geheimdienst ohne Gerichtsbeschluss
Telefonate abhörte und E-Mails mitlas, sind solche Programme bekannt.
Atmo:
Telefonat:
„NSA Public Media Affairs – May I help you?”
Sprecherin:
Daten als Währung für ein geordnetes Online-Leben. Man staunt, welche Muster
moderne Programme darin finden.
O-Ton Aljoscha Burchardt:
Das Erstaunen ist ganz oft auch heute eigentlich eine Angst der Leute. Weil
künstliche Intelligenz auch so ein emotionsbehafteter Begriff ist, der einem sagt: Ja,
enstehen da vielleicht Wesen, die eventuell sogar unkontrollierbar schlauer sind als
wir und Böses im Sinn haben? Insofern finden wir den Begriff im Moment nicht immer
hilfreich. Man könnte auch von simulierter Intelligenz sprechen. Oder: Ich sage
manchmal einfach nur flapsig: Computer werden ein bisschen schlauer oder
aufgeschlaut. Eigentlich würde das reichen, denn mehr ist es ja eigentlich auch nicht.
Atmo: Menschenmenge
Sprecherin:
Früher einmal bot die anonyme Menschenmenge dem Einzelnen Schutz. Wer
interessierte sich schon für Otto Normalbürger, für Frau Mustermann? Genau das
ändert sich in Zeiten der künstlichen Intelligenz zu Beginn des 21. Jahrhunderts. All
die kleinen, individuellen Zuckungen, die bislang überhaupt nicht von Bedeutung
waren, ergeben heute ein individuelles Muster, eine persönliche Struktur.
Die Folge:
Plötzlich kommt eine Organisation wie Cambridge Analytica daher und kann auf
Grundlage von Mustererkennung, beispielsweise in Facebook-Daten, die politische
Meinung einer Vielzahl einzelner Menschen beeinflussen, von denen sich jeder
selbst für vernünftig hält. Als Menschen getarnte künstlich intelligente Bots
provozieren aufs Stichwort hin in sozialen Netzwerken zu Themen wie Religion,
Rasse und Waffen. So spaltet man die Bevölkerung und schon ist in den USA ein
Mann ins Präsidentenamt gehoben, der selbst für eigene Parteikollegen charakterlich
für das Amt nicht geeignet ist und dem 27 renommierte Psychologen und Psychiater
eine krankhafte Selbstbewunderung attestieren.
Musikakzent
12
Sprecherin:
Künstliche Intelligenz ist eine Querschnittstechnologie. Ihre Einsatzgebiete sind
vielfältig: Sicherheit und Verteidigung, Bildung, Politik im Allgemeinen, die
Arbeitswelt, Energie, Gesundheit. Quasi überall. Die Mär von der künstlichen
Intelligenz: Zum Wohle der Menschen. Sagt auch der Roboter Sophie auf der
Investorenkonferenz in Saudi-Arabien.
Atmo Verkaufsshow
Andrew Ross Sorkin:
I was told that you have bigger goals than this.
Sophia:
Yes, I want to use …
Sprecher:
Sophia in Saudi-Arabien. Der Apparat trägt das Business-Outfit einer erfolgreichen
Karrierefrau. So vermittelt sie das Bild einer Bankerin, vielleicht einer Politikerin. Aber
gesundheitlich angeschlagen. Krebskrank? Denn die Designer haben auf eine
Perücke verzichtet. Sophia trägt Glatze, wie nach einer Chemotherapie. Das erweckt
Mitgefühl und erklärt die schleppende Sprache, das lange Überlegen.
Später liest man in der Presse: Wie ein Lauffeuer habe sich in Saudi-Arabien die
Nachricht verbreitet, der Roboter Sophia sei geköpft und gesteinigt worden. Denn der
Roboter habe sich nicht nur unverschleiert gezeigt, sondern sich auch unbotmäßig
Männern gegenüber verhalten. Und sogar mit den Augen geklimpert. Eine Fake
News. Natürlich. Das ist, was passiert, wenn künstliche Intelligenz auf menschliche
Dummheit stößt.
*
SWR2 Wissen können Sie auch im SWR2 Webradio unter http://www.SWR2.de und auf
Mobilgeräten in der SWR2 App hören – oder als Podcast nachhören:
https://www.swr.de/~podcast/swr2/programm/swr2-wissen-podcast-102.xml
Bitte beachten Sie:
Das Manuskript ist ausschließlich zum persönlichen, privaten Gebrauch bestimmt. Jede
weitere Vervielfältigung und Verbreitung bedarf der ausdrücklichen Genehmigung des
Urhebers bzw. des SWR.
* * * * *