Künstliche Intelligenz mit handfesten Vorurteilen

Spektrum der Wissenschaft/spektrum.de, 13. April 2017 – Link

In der Computerlinguistik nimmt eine Debatte über die Ethik des Faches an Fahrt auf: zwei aktuelle Veröffentlichungen zeigen, dass Algorithmen Vorurteile von Menschen übernehmen und diese zementieren. Wie kann sich die Gesellschaft davor schützen? Die Forscher haben verschiedene Ansätze – aber noch keine Lösung.

Wenn eine künstliche Intelligenz die menschliche Sprache aus repräsentativen Texten der Menschheit lernt, entwickelt sie Vorurteile. Schließlich stecken diese bereits in den Trainingsdaten, wenn auch häufig wenig offensichtlich. Die Diskussion darum, wie die Forschung mit dieser Tatsache umgehen soll, nimmt gerade an Fahrt auf und hat nun durch eine aktuelle Studie im Magazin „Science“ neue Nahrung bekommen: Forscher um die Informatikerin Aylin Caliskan von der Princeton University zeigen darin, dass entsprechende Algorithmen die gleichen impliziten rassistischen und sexistischen Stereotypen reproduzieren wie Menschen. Sie erzielten mit ihrem Messverfahren vergleichbare Ergebnisse wie Neurowissenschaftler, die unbewusste Vorurteile und Wertvorstelleungen bei Menschen mittels des Implicit Associations Test (IAT) untersucht hatten. Weiterlesen

Echt nette Roboter

Süddeutsche Zeitung Wochenende, 29. Oktober 2016 – Link

Menschliches Handeln ist in weiten Teilen vorhersagbar. Roboter nutzen das erfolgreich, um soziales Verhalten zu imitieren. Aber wie echt ist diese berechnete Hilfsbereitschaft?

Der kleine Kerl bewegt seine Arme und folgt diesen Bewegungen mit großen Augen, als nehme er diese Arme zum ersten Mal wahr. Noch scheint der Weg weit zu sozialem Verhalten: Erst einmal geht es darum, den eigenen Körper zu erfassen und dessen Grenzen, um überhaupt verstehen zu können, dass es ein „Ich“ und ein „Du“ gibt. Bei jeder Bewegung des Arms scheint sich der Kleine zu fragen: „Bin das ich? Mache ich das?“ Er bewegt seine Gliedmaßen unermüdlich und scheinbar zufällig, er testet, welche Richtungen seine Gelenke zulassen. Er dreht den Kopf so weit er kann und schaut sich um. Mit der Zeit werden die Bewegungen gezielter. Er hat gelernt, wie weit sein Radius ist, welche Positionen er erreichen kann. Später, als er verstanden hat, wo der eigene Körper aufhört, kommt ein Mann und reicht ihm einen Ball. Der kleine Kerl will ihn haben, greift aber erst unbeholfen daneben. Aber auch darin wird er mit etwas Übung immer besser: die erste Interaktion funktioniert!
Weiterlesen

Hat die Virtuelle Realität ein Problem mit sexueller Belästigung?

Die ZEIT, 8. September 2016

(aus rechtlichen Gründen darf dieser Artikel hier nicht komplett erscheinen. Wer nach dieser Leseprobe Lust auf mehr hat, kann in der aktuellen ZEIT weiterlesen)

Soziale Interaktion in der virtuellen Realität wird als Zukunftsvision gehandelt. Aber die junge Technologie hat ein Problem mit sexuellen Übergriffen. Scheitert sie daran?

Hier stimmt etwas nicht. Schon aus dem Augenwinkel sehe ich, wie dieser Mann aus der Ecke des Raumes auffallend zielstrebig auf mich zukommt. Ich bin zum ersten Mal hier, habe mich gerade eben hierher gebeamt aus der anderen, der echten Welt, indem ich ein Virtual-Reality-Headset und Kopfhörer aufgesetzt und damit meinen physischen Körper in meiner Wohnung zurückgelassen habe. Ich habe Controller, die ich in dieser dreidimensionalen anderen Welt um mich herum wie Hände benutzen kann. Es ist, als wäre mein Geist an einen weit entfernten Ort gereist, wo er einen neuen Körper bezogen hat: einen Avatar in AltspaceVR, einem Treffpunkt in der Virtuellen Realität.

Eigentlich würde ich mich gerne diesem verrückt echten Gefühl hingeben, das mich sofort überfällt: Ich bin eingetaucht in eine komplette Welt, drehe mich um mich selbst, gehe ein paar Schritte durch den großen hellen Raum zur Terrassentür, vor der Vögel zwitschern und Grillen zirpen. Ein Bach plätschert neben dem Haus. Eigentlich würde ich jetzt gerne diese andere Welt erkunden, die friedliche Atmosphäre genießen mit den anderen Leuten, die in Grüppchen draußen in der Dämmerung unter den Bäumen stehen und plaudern. Eigentlich würde ich gerne erspüren, was es mit dieser „Social VR“ auf sich hat: die soziale Interaktion in der Virtuellen Realität.

Eigentlich. Weiterlesen

Die perfekte Erinnerung

DIE ZEIT, 21. Januar 2016

Lässt sich alles, was wir erleben, digital speichern? Informatiker arbeiten daran. Wie ich Teil eines Experiments wurde.

Der Cyborg, der mir im Frühling 2013 in einem Stuttgarter Cafe gegenüber sitzt, sieht aus wie ein ganz normaler Mitvierziger mit leichten Geheimratsecken, in Hemd und Jeans. Nur sein türkiser Brillenbügel ist auffällig breit. Am vorderen Ende ist eine kleine Kamera eingearbeitet und ein Prisma. Seine rechte Hand steckt in der Hosentasche.

Thad Starner ist nicht allein. Er hat sein »System« bei sich. Das erkennt man an seiner Googlebrille und einer nahezu unsichtbaren rechteckigen Spiegelung auf seiner Netzhaut. In seiner Hosentasche hat er eine Fünffinger-Tastatur. Starner ist Informatikprofessor am Georgia Institute of Technology und ein Pionier der Erforschung anziehbarer Computer (wearable computing). Fast sein halbes Leben lang, seit mehr als 20 Jahren, trägt er wechselnde Versionen eines Prototypen am Körper. Er sieht sein »System« als Erweiterung seines Gehirns.

Weiterlesen

Verdammt echt

Die ZEIT, 25. Feburar 2016

Die Virtuelle Realität fühlt sich realer an, als sich viele vorstellen können. Und sie kann missbraucht werden. Ein Ethik-Kodex soll der Gesellschaft helfen, die gute Verwendung der Technologie zu sichern.

Dieser Selbstmord war zu viel. Sean Buckley ist nicht allzu zart besaitet, er testet regelmäßig die neuesten Virtual-Reality-Killerspiele für das US-Magazin „engadget“. Aber als sich die junge Frau vor seinen Augen erschoss, zitterte er am ganzen Körper. „Das ist nicht fair, habe ich geschrien, ich bin völlig ausgeflippt“, beschreibt er seine Erfahrung im Nachhinein: „Sie war so real.“

Noch härter traf es die ersten Nutzer einer Demo für ein Sony-Headset. Dort konnte der Spieler die Pistole an die eigene Schläfe  setzen und abdrücken. Der virtuelle Selbstmord versetzte die Betroffenen derart unter Stress, dass das Unternehmen das Feature schnell wieder entfernte. „Dieses Medium ist sehr mächtig, deshalb müssen wir vorsichtig mit dem sein, was wir anbieten“, kommentierte Sony-Chef Shuhei Yoshida den Vorfall.
Der Virtual Reality wird für dieses Jahr der Durchbruch auf dem Massenmarkt vorhergesagt. Aber so manche Gamer machen derzeit Erfahrungen, die der Gesellschaft besser erspart bleiben sollten. Weiterlesen

Was macht eigentlich der Molekularpsychologe Christian Montag?

Bild der Wissenschaft 01/2016

Einige ereignisreiche Tage im Leben des jungen Professors, der sich wie ein Detektiv auf die Spuren der Internetsucht begibt.

Ping! Christian Montag ist gerade im Büro angekommen, hat den Computer hochgefahren und die Bilder des jüngsten Hirnscans geöffnet, schon ertönt dieses vertraute „pling“, das eine Whatsapp-Nachricht auf seinem Smartphone ankündigt. „Dieses Ding“, sagt der 38-jährige Psychologe mit empörtem Unterton und fixiert sein Handy neben der Tastatur, „dieses Ding, das macht uns doch ganz kirre.“ Er angelt danach und stellt es auf lautlos. „Dieses Ding frequentiert unseren Alltag“, setzt er hinterher, „es unterbricht uns ständig beim Arbeiten. Wir können uns gar nicht mehr richtig konzentrieren.“ Er legt es weg und schaut ratlos vom BAP-Poster auf der einen Seite seines Büros zum Foto an der anderen Wand, das ihn selbst als Rockgittaristen zeigt . „Wo waren wir gerade?“

Und damit wären wir beim Thema. Christian Montag treibt die Frage um, wie sich Smartphone, Internet und Co auf unser Gehirn auswirken. Er ist kein Technologiekritiker. Aber als Psychologe weiß er, wie sehr ständige Unterbrechungen unser Arbeitsgedächtnis belasten. „Wir kommen heutzutage gar nicht mehr in einen konzentrierten Arbeitsflow“, sagt er. Denn dafür braucht man eine unterbrechungsfreie Zeit am Stück. Wer zu viele Baustellen gleichzeitig im Arbeitsalltag überblicken muss, der wird unkonzentriert und vergesslich. Und ist am Ende des Tages unzufrieden, weil er nicht recht voran kam. Das zermürbt viele. Weiterlesen

Sicherheit für jeden

Technology Review 10/2015

Lange Zeit galten Sicherheit und Nutzbarkeit unter Informatikern als unvereinbar. Dabei muss man nur den Menschen und seine Stärken ernst nehmen.

Mantra eines Informatikers: „Lieber Nutzer, bitte verwende ein möglichst komplexes Passwort aus Buchstaben, Zahlen und Sonderzeichen, und nutze  keinesfalls das Gleiche für verschiedene Dienste!“ Lieblingsreaktion des Durchschnitt-Nutzers: „Ok, dann nehme ich 123mail für den Mailaccount und 123ebay für Ebay, 123amazon für Amazon.“ Kein Wunder, dass manch ein Informatiker kapituliert. Aber das ist falsch, findet Emanuel von Zezschwitz von der Ludwig-Maximilians-Universität München: „Man könnte sagen: die Leute brauchen keine Sicherheit, wenn sie keine wollen, aber damit dürfen wir uns nicht zufrieden geben.“ Das Problem liegt woanders, ergänzt Albrecht Schmidt vom Lehrstuhl für Mensch-Computer-Interaktion der Universität Stuttgart: „Sicherheit wurde lange von Leuten entwickelt, die nur die mathematische Seite gesehen haben.“  Nur kann sich kaum jemand komplexe Passwörter merken: „Mit dem Menschen im System gibt es keine absolute Sicherheit.“ Wer die menschlichen Fähigkeiten mitdenkt, kann die Sicherheit enorm erhöhen, betont Matthew Smith, Leiter der Arbeitsgruppe Usable Security and Privacy an der Uni Bonn: „80 Prozent gelebte Sicherheit sind besser als 100 Prozent Sicherheit, die keiner nutzt.“ Weiterlesen

Wie sichern wir unsere Unberechenbarkeit?

spektrum.de/Spektrum der Wissenschaft, 1. Oktober 2015 – Link

Brauchen wir neue gesellschaftliche Konventionen angesichts der zunehmenden Automatisierung? Forscher diskutieren, wie unsere Werte im digitalen Umbruch gesichert werden können. Auch der Mensch muss sich dabei neu definieren.

„Entschuldigen Sie bitte, wo ist denn hier die Liste der Dinge, die nicht automatisiert werden sollen?“ Wenn es nach dem Zukunftsforscher Alexander Mankowsky geht, ist das die erste Frage, die man den Verantwortlichen eines Automatisierungsprojektes jeder Art stellen sollte – sei das ein autonomes Auto oder eine Smart City. „Die schauen dann meistens ganz verblüfft“, sagt Mankowsky und grinst. Dabei findet er diese Frage gar nicht abwegig. Der Philosoph interpretiert dieses Bewusstsein über das nicht-Automatisierbare als Indikator dafür, inwiefern die menschliche Freiheit mitgedacht wird. Soziale Wahrnehmung lasse sich nicht automatisieren, und auch der Mensch der Zukunft sollte die Freiheit zur Willkür haben: Spontane Aktivitäten, die eine Maschine nicht vorhersehen kann. Und trotzdem nicht unter die Räder kommen. Weiterlesen

Der quantifizierte Patient

Neue Züricher Zeitung, 20. Mai 2015

Das Interesse an anziehbaren Computern wächst in Medizin, Psychologie und im Leistungssport. Intelligente Brillen und Uhren können Krankheiten oder die perfekte Bewegung berechnen.

Computer-Uhren und smarte Brillen, Fitnessarmbänder und intelligente Laufschuhe: Wer sich dieser Tage auf den Elektronik-Messen herumtreibt, könnte schnell den Eindruck gewinnen, dass „Wearable Computing“ die Lösung für alle unsere Probleme ist. Aber Wissenschaftler dämpfen die Erwartungen. „Vieles ist hochgepoppt, aber jetzt kommt die große Ernüchterung“, fürchtet Gerhard Tröster, Leiter des Elektronik-Labors der ETH Zürich. Ihn treibt wie viele Informatiker die Frage nach dem Usecase – dem Anwendungsfall – der anziehbaren Computer um. Denn auch speziellere Anwendungen, wie sie Fitnessarmbänder versprechen, könnten schnell das Interesse der Kunden verlieren. „Die Quantified-Self-Welle wird schnell wieder abebben“, prognostiziert Tröster. Zudem seien diese Geräte häufig billig gemacht und nicht klinisch getestet, ergänzt Kristof Van Laerhoven, Professor für eingebettete Systeme an der Universität Freiburg: „Was habe ich von einem Messergebnis, von dem ich nicht weiß, ob es richtig ist?“ Wissenschaftlich geprüfte Geräte seien zwar deutlich teurer, Van Laerhoven prognostiziert ihnen aber langfristig eine bessere Marktchance. Schließlich seien Wearables gut geeignet, um physiologische Werte zu messen und Aktivitäten auszuwerten.

Gerade im medizinischen Bereich entstehen aktuell viele Prototypen, die eingearbeitet in Kleidungsstücke beispielsweise Herz-Rhythmus- oder Durchblutungsstörungen erkennen können. Trösters Vision geht darüber hinaus: Daten über physiologische Vorgänge und Aktivitäten eines Menschen können auch Aufschluss über dessen psychische Situation geben. „Ein Psychologe erkennt viele Störungen auf den ersten Blick, er arbeitet mit seinen fünf Sinnen“, sagt Tröster. „Wenn er es sieht, muss man es auch messen können.“
Weiterlesen

Wie Technologie uns klüger macht

Technology Review 5/2015 (Auszug)

Kritiker warnen, dass digitale Technololgien unsere Intelligenz beeinträchtigen. Doch jetzt zeigen Studien, dass die neuen Medien ganz neue Lernformen ermöglichen und unsere kognitiven Möglichkeiten steigern können.

Ein Schulhof am Rande von Panama-City: Ein Junge kauert unter einem Baum, ein Smartphone in der Hand, ein Englischschulbuch auf den Knien. Aus dem Handy ertönt die Stimme seines Lehrers. Dieser liest den englischen Text aus dem Buch vor. Der Junge lauscht konzentriert. Dann spricht er dem Lehrer nach. Schließlich nimmt er seine Stimme ebenfalls auf und spielt seine Aufnahme und die des Lehrers abwechselnd ab. Unter diesem Baum auf einem panamaischen Pausenhof ist ein modernes Sprachlabor entstanden. Mit denkbar einfachen Mitteln.

Das Experiment hat die panamaische Informatikerin Elba Del Carmen Valderrama durchgeführt. Sie verteilte günstige Smartphones an Schulen ohne spezielle Lernsoftware. Ihre Idee: In Schwellenländern fehlen an Schulen häufig alle technischen Möglichkeiten vom Drucker bis zum Videobeamer um den Unterricht zu bereichern. Was würden also die Schüler und Lehrer mit den Handys machen? Innerhalb weniger Tage fungierten die Geräte als Kopierer und Sprachlabor, die Schüler erledigten darauf Hausaufgaben und sendeten sie an die Lehrer, sie drehten Lernvideos und protokollierten den Unterricht. Sie lernten enthusiastisch.

Valderramas Ergebnisse sind kein Einzelfall. Ähnliche Erfahrungen machte auch Nicholas Negroponte, als er mit seiner Initiative „One Laptop per child“ zwei abgelegene äthiopische Dörfer mit Laptops versorgte: jedes Kind bekam ohne jede Anleitung einen Computer inklusive Solar-Ladeeinheit mit einigen vorinstallierten Apps. Schon nach wenigen Minuten hatten die Kinder, die keine Schule besuchen und weder lesen noch schreiben können, den Einschaltknopf gefunden. Nach fünf Tagen hatten sie alle Apps ausprobiert, wie die Auswertung der Sim-Karten ergab. Nach zwei Wochen sangen die Kinder ein Alphabetlied, die ersten begannen zu schreiben. „Nach fünf Monaten hatten sie Android gehackt“, berichtet Negroponte: die Kamera der Geräte sei versehentlich ausgeschaltet gewesen. Die Kinder hatten sie entdeckt, ein Programm umgeschrieben und sie zum Laufen gebracht. Weiterlesen