Kamera aus!

Süddeutsche Zeitung am Wochenende, 29. Juli 2017

In Bildern stecken mehr Informationen, als sich die meisten Menschen vorstellen können. Angesichts der wachsenden Zahl an Kameras tüfteln Forscher an Konzepten, um den Schutz der Privatsphäre in der Technik zu verankern. Doch auch das hat seine Tücken.

Die Künstliche Intelligenz stellt fest: Im Restaurant Zunfthaus zur Waag im historischen Zentrum Zürichs sitzen 35 Gäste, weitere 24 genießen die Sonne unter den Sonnenschirmen, darunter eine ungewöhnlich große Gruppe. Im Haus sind aktuell acht Bewohner, der erste hat es heute um 6.45 Uhr verlassen, normalerweise kehren die letzten gegen 23 Uhr zurück. Die Fassade ist relativ frisch gestrichen, doch es zeigen sich erste kleine Schäden unterhalb eines Fensters im dritten Stock. Durch die oberen Fenster fällt am meisten Licht, zwei davon sind geöffnet, in den mittleren spiegelt sich das Haus gegenüber. Es finden sich kaum freie Parkplätze in der Nähe, und am benachbarten Paradeplatz sammeln sich auffällig viele Menschen. Vielleicht sollte man dort eine Polizeistreife vorbeischicken, nur sicherheitshalber, und vielleicht sollte man der Mutter des Kindes, das sein Zimmer im vierten Stock zur Sonnenseite hat, zu einer Verdunkelung raten, denn das System hat berechnet, dass der Raum um diese Zeit stark aufheizt, da das Fenster mit seiner Größe von 2,2 mal 1,5 Meter und dieser Ausrichtung viel Sonne hereinlässt. Weiterlesen

KI ist wichtig – aber das hat mit mir nichts zu tun

Magazin t3n Nr 48, Drittes Quartal 2017

Verschlafen die deutschen Unternehmen die Chancen der künstlichen Intelligenz? Laut aktueller Studien sind sie kaum vorbereitet. Das zeigen auch Einblicke in die Praxis. Startups sind da deutlich weiter – und übertreffen selbst die großen ­KI-Pioniere.

Bist du schwul, depressiv oder in Kauflaune? Sorgst du dich um deine Kinder, bist du ein aggressiver Zeitgenosse oder hast du gar eine Ehekrise? Das alles – so heißt es – weiß die künstliche Intelligenz über uns: Sie kennt uns besser als unsere Freunde uns kennen, weiß mehr, als unser Partner über uns. Das zumindest behaupten jene, die von solchen Entwicklungen profitieren: Immer mal wieder geistern Studien durch die Medien, die beispielsweise aus Twitterdaten vorhersagen, ob jemand eine psychische Krankheit entwickelt oder aus Facebook-Posts die Persönlichkeit berechnen, für deren Definition Psychologen fünf Fragebögen und sechs Monate persönliche Gespräche benötigen. Weiterlesen

Google und die Frau am Herd

Hervorgehoben

Die ZEIT, 13. Juli 2017

Künstliche Intelligenz interpretiert die Welt auf ihre eigene Weise – und zementiert damit Vorurteile, Rassismus und Rollenklischees. Das führt die Suche nach der Formel für Gerechtigkeit ad absurdum.

Dieser Emmanuel Macron! Dankt am Abend seines Wahlsieges seinen „amerikanischen Mitbürgern“ für ihr Vertrauen! Wer Macrons Tweet vom 7. Mai las, der musste sich wundern – jedenfalls hierzulande und in Amerika. In der automatischen Übersetzung, die Twitter deutschen Nutzern anbot, war von „tiefer Dankbarkeit“ gegenüber den „amerikanischen Mitbürgern“ die Rede. Auch in den USA wurde Macrons Anrede „mes chers compatriotes“ als „my fellow americans“ übersetzt. Dabei bedeutet compatriotes im Französischen schlicht „Mitbürger“. Über Amerikaner hatte Macron kein Wort verloren. Wie Twitter nur darauf kam? Weiterlesen

Künstliche Intelligenz mit handfesten Vorurteilen

Spektrum der Wissenschaft/spektrum.de, 13. April 2017 – Link

In der Computerlinguistik nimmt eine Debatte über die Ethik des Faches an Fahrt auf: zwei aktuelle Veröffentlichungen zeigen, dass Algorithmen Vorurteile von Menschen übernehmen und diese zementieren. Wie kann sich die Gesellschaft davor schützen? Die Forscher haben verschiedene Ansätze – aber noch keine Lösung.

Wenn eine künstliche Intelligenz die menschliche Sprache aus repräsentativen Texten der Menschheit lernt, entwickelt sie Vorurteile. Schließlich stecken diese bereits in den Trainingsdaten, wenn auch häufig wenig offensichtlich. Die Diskussion darum, wie die Forschung mit dieser Tatsache umgehen soll, nimmt gerade an Fahrt auf und hat nun durch eine aktuelle Studie im Magazin „Science“ neue Nahrung bekommen: Forscher um die Informatikerin Aylin Caliskan von der Princeton University zeigen darin, dass entsprechende Algorithmen die gleichen impliziten rassistischen und sexistischen Stereotypen reproduzieren wie Menschen. Sie erzielten mit ihrem Messverfahren vergleichbare Ergebnisse wie Neurowissenschaftler, die unbewusste Vorurteile und Wertvorstelleungen bei Menschen mittels des Implicit Associations Test (IAT) untersucht hatten. Weiterlesen

Dunkle Algorithmen

Süddeutsche Zeitung Wochenende, 25. März 2017 – Link

Wenn Computer lernen, den Sinn menschlicher Sprache zu verstehen, bringt das Risiken mit sich. Erste Anwendungen zeigen, wie massiv der Eingriff in unser Leben sein kann – und die betroffenen Forscher beginnen, über die Ethik ihrer Disziplin nachzudenken.

Eine Schlagzeile im Wall Street Journal hat Michael Strube am 9. Juni 2013  die Augen geöffnet. „Wie die NSA so schnell so schlau wurde“ stand dort: Wie konnte der größte Auslandsgeheimdienst der USA nicht nur massenhaft Daten sammeln, sondern vor allem diese Masse auch auswerten, insbesondere Sprachdaten aus Emails und Telefonaten? Der 51jährige Computerlinguist vom Heidelberger Institut für Theoretische Studien war auf einer wissenschaftlichen Konferenz in den USA, die Zeitung lag auf dem Frühstückstisch im Hotel. Zehn Tage nach den Snowden-Enthüllungen bewegte das die Welt – und insbesondere Strube. Schließlich wurde im Artikel detailliert erläutert, wie seine Disziplin die Spione maßgeblich stark gemacht hatte: Natural Language Processing (NLP) lehrt Computern, menschliche Sprache zu verstehen. Die meisten Menschen haben mit dieser Technologie zu tun, wenn sie Dienste wie Google Translate verwenden oder ihr Smartphone per Sprachbefehlen bedienen. Die dunkle Seite ist weniger offensichtlich: „Der Öffentlichkeit ist zwar bekannt, dass die Geheimdienste auf Metadaten zugreifen“, sagt Strube, also auf Daten wie Absender oder Betreff einer Mail. „Aber die Wenigsten wissen, wie gut wir unstrukturierte Daten analysieren können.“ Unstrukturiert, das ist aus Sicht der Informatik beispielsweise die menschliche Sprache, die für Maschinen lange eine undurchsichtige Sache war. Und auch wenn man allein aus den Metadaten von Emails viele Rückschlüsse auf eine Person und ihr Umfeld schließen kann: wer den Inhalt automatisch auswerten kann, erfährt noch viel mehr.
Weiterlesen

Können Computer Lügen entlarven?

Spektrum.de/Spektrum der Wissenschaft, 17. Januar 2017 – Link

Aktuelle Aktivitäten gegen Fakenews konzentrieren sich vorallem darauf, unseriöse Quellen automatisch zu erkennen. Aber können Algorithmen Falschmeldungen an sich identifizieren? Es schien zeitweise so, als habe die Wissenschaft das schon zu den Akten gelegt. Aber eine Wette und ein Streit unter Forschern gibt neue Hoffnung.

Ende 2016 ächzte die Welt unter dem Problem der Fakenews – und 2017 wird das Problem aller Voraussicht nach nicht kleiner. Angesichts des anstehenden Bundestagswahlkampfs könnte es in Deutschland gar eine größere Dimension bekommen. Da ist eine Hoffnung nicht unberechtigt: Wie schön wäre es, wenn Computer die Welt von Falschmeldungen befreien könnten! Schließlich haben die Algorithmen unter anderem von Facebook Fakenews erst groß werden lassen. Doch während manche daran arbeiten, seriöse Quellen von unseriösen maschinell zu unterscheiden, warnen andere: das ist zu spät, so werden wir dem Phänomen nicht Herr. „Das Problem an seiner Quelle zu fassen ist in diesem Fall nicht die beste Strategie“, sagt Victoria Rubin, Associate Professor an der University of Western Ontario: dafür verbreiten sich Fakenews zu schnell. Zudem gibt es ständig neue Quellen und neue Webseiten, die Falschmeldungen produzieren – hat man eine identifiziert, gitb es bereits zehn neue.
Weiterlesen

Liebe und Sex mit Robotern

Spektrum.de, 22. Dezember 2016 – Link

Wie sieht unsere Zukunft mit Sexrobotern aus? Wissenschaftler streiten sich über mögliche negative Folgen der Technologie. Während manche gar ein Verbot fordern, setzen andere auf eine wissenschaftliche Durchleuchtung des Themas.

Es ist schon verrückt, was für einen Staub eine Konferenz mit vielleicht 200 Teilnehmern aufwirbeln kann. In London haben sich am 19. und 20. Dezember 2016 Wissenschaftler aus aller Welt getroffen, um sich mit dem Thema „Sex and Love with Robots“ zu beschäftigen. Wird es eines Tages Alltag sein, dass Menschen Sex mit Robotern haben? Wird es gesellschaftsfähig sein, einen maschinellen Lebenspartner zu geselligen Events auszuführen? Und wie wird sich das auf unser Zusammenleben auswirken? Die durchaus berechtigten Fragen der Philosophen, Soziologen, Informatiker und Psychologen gingen beinahe unter in der reißerischen Berichterstattung auf der einen Seite und in der Empörung, die das Thema auf der anderen Seite offenbar mit sich bringt.

Weiterlesen

Haben Maschinen Trumps Sieg verursacht? Unsinn!

Spektrum.de, 6. Dezember 2016 – Link

Ein Text über psychologische Profilbildung mittels Facebookdaten schreckt viele auf. Der Text beschreibt aber weder eine neue Technologie, noch ist seine Schlussfolgerung seriös, nach der Trump die Wahl dank Algorithmen gewonnen hat. Dennoch besteht kein Anlass sich zurück zu lehnen, kommentiert Eva Wolfangel.

Ist Bigdata schuld an Trump? Dieses Luder, diese gefährliche Technologie, das sieht ihr ähnlich! Sie bringt Unheil über die Welt – jetzt haben wir den Beweis! So oder ähnlich denken offenbar viele nach der Lektüre des Textes „Ich habe nur gezeigt, dass es die Bombe gibt“. Die vage Hoffnung, dass vielleicht doch nicht Menschen sondern Maschinen schuld sind am Wahlsieg des künftigen US-Präsidenten, scheint viele zu mobilisieren: der Text dreht derzeit so nachhaltig seine Runden in den sozialen Netzwerken, dass man meinen könnte, er verkünde revolutionäres. Das tut er aber nicht.
Weiterlesen

Echt nette Roboter

Süddeutsche Zeitung Wochenende, 29. Oktober 2016 – Link

Menschliches Handeln ist in weiten Teilen vorhersagbar. Roboter nutzen das erfolgreich, um soziales Verhalten zu imitieren. Aber wie echt ist diese berechnete Hilfsbereitschaft?

Der kleine Kerl bewegt seine Arme und folgt diesen Bewegungen mit großen Augen, als nehme er diese Arme zum ersten Mal wahr. Noch scheint der Weg weit zu sozialem Verhalten: Erst einmal geht es darum, den eigenen Körper zu erfassen und dessen Grenzen, um überhaupt verstehen zu können, dass es ein „Ich“ und ein „Du“ gibt. Bei jeder Bewegung des Arms scheint sich der Kleine zu fragen: „Bin das ich? Mache ich das?“ Er bewegt seine Gliedmaßen unermüdlich und scheinbar zufällig, er testet, welche Richtungen seine Gelenke zulassen. Er dreht den Kopf so weit er kann und schaut sich um. Mit der Zeit werden die Bewegungen gezielter. Er hat gelernt, wie weit sein Radius ist, welche Positionen er erreichen kann. Später, als er verstanden hat, wo der eigene Körper aufhört, kommt ein Mann und reicht ihm einen Ball. Der kleine Kerl will ihn haben, greift aber erst unbeholfen daneben. Aber auch darin wird er mit etwas Übung immer besser: die erste Interaktion funktioniert!
Weiterlesen

Die Grenzen der Künstlichen Intelligenz

spektrum.de, 3. Mai 2016Link

Der Sieg einer Googlesoftware über den Weltmeister im Brettspiel Go hat der Technologie der künstlichen Intelligenz gesellschaftlichen Auftrieb verschafft. Die Mühen der Ebene zeigen aber, dass die Algorithmen des maschinellen Lernens allerlei Fallen bergen – auch für ihre Entwickler.

Die Bank verweigert einen Kredit trotz bester Bonität, Amazon schlägt beharrlich Bücher vor, die man nie lesen würde, und der Ganzkörperscanner am Flughafen findet irgendetwas auffällig am eigenen Körper: das kann zwar keiner der freundlichen Beamten erklären, es zieht aber eine aufwendige Sicherheitskontrolle und einen Sprint zum Gate nach sich: Die Auswirkungen maschinellen Lernens kennt jeder aus dem Alltag- auch wenn die wenigsten wissen, dass dahinter Künstliche-Intelligenz-Algorithmen liegen. Im Unterschied zum Brettspiel Go, wo jeder sehen kann, wer gewonnen hat, sind die meisten anderen Anwendungsgebiete weniger transparent: liegt der Schufa-Algorithmus falsch oder ist der Betroffene wirklich nicht kreditwürdig?

Je weitreichender die Einsatzgebiete solcher Algorithmen sind, umso gefährlicher sind  mögliche Fehlschlüsse oder Ungenauigkeiten solcher Systeme: Das kann jeder sofort nachvollziehen wenn es beispielsweise ums autonome Fahren oder um die Steuerung automatischer Waffensysteme geht. Experten glauben nicht daran, dass diese Fehler gänzlich auszumerzen sind. Sie liegen im System – und in der Anwendung: denn es ist längst kein Allgemeingut unter Informatikern, welcher Algorithmus für welche Anwendung geeignet ist. Dazu kommen Annahmen, die im Vorfeld getroffen werden müssen, und bei vielen Algorithmen die Unmöglichkeit, das Ergebnis auf die Richtigkeit oder statistische Relevanz hin zu überprüfen. Weiterlesen