News und Termine

Update zum Thema Jailbreaking, Fable 5 und KI in der investigativen Recherche - mit Tipps und Tricks und Links und einer Einschätzung dazu, wieso die US-Regierung Anthropic nötigt, den Zugang zu ihrem neuesten Modell zu sperren.

Auf der Netzwerk Recherche Konferenz am 12. und 13.6.26 habe ich zwei Vorträge zum Thema KI in der Recherche gehalten. Die beiden hängen zusammen und sind gerade auch deshalb besonders aktuell, weil sie sich damit beschäftigen, wie KI-Modelle überlistet werden können, Dinge zu tun oder zu verraten, die sie nicht tun und nicht verraten sollen. Das wird Jailbreaking genannt.

Und wie immer und bei fast allem, gilt auch hier: Man kann Jailbreaking für Gutes und Schlechtes nutzen. Und wie immer hängt die Frage, was gut und schlecht ist auch von der eigenen Perspektive und dem eigenen Hintergrund ab.

Das kann man aktuell sehr schön am aktuellsten Move der US-Regierung sehen: Sie hat angeordnet, dass das neueste Modell von Anthropic, Fable 5, nur noch von US-Bürgern benutzt werden darf. Anthropic hat daraufhin in der vergangenen Nacht den Zugang für alle komplett gesperrt, da sich die Anordnung auf die Schnelle anders nicht umsetzen lässt - denn (noch) hat Anthropic keine ID-Verifikation seiner Nutzer:innen eingeführt (der Konzern hat das allerdings schon mal angekündigt)

Die in diesem Text verlinkten ZEIT-Texte sind 14 Tage frei zugänglich (dann laufen die Freebie-Links ab). Also besser gleich lesen. :)

In den vergangenen Monaten habe ich mich intensiv mit den Limitationen von großen Sprachmodellen beschäftigt. Genauer gesagt: mit jener Form von KI, die auf sogenannten Transformer-Modellen basiert. Ich hole deshalb ein wenig aus, weil viele Menschen mit "künstlicher Intelligenz" genau das meinen und sich nicht bewusst sind, dass es viele andere Ansätze gibt. Der Hype rund um ChatGPT und andere Chatbots hat zu einer seltsamen Verengung des Begriffs KI geführt - der, ja, natürlich nicht wohl definiert und viel zu breit ist. Die aktuelle Verengung ist aber auch nicht dienlich.

Denn dank des Marketings der großen Tech-Firmen (die gar nicht anders können, als den Hype zu befeuern, denn ihre Existenz hängt davon ab) denken viele Menschen zudem, dass aus diesen Modellen etwas Größeres erwachsen könnte, oder gar schon ist. Eine Form echter Intelligenz, eine allgemeine Intelligenz, Artificial General Intelligence AGI. Und je nachdem, ob man eher zum Kulturpessimismus oder zum Tech-Optimismus neigt, führt diese AGI eher zum Weltuntergang oder zur Lösung aller Probleme.

Nichts von all dem wird kommen. Denn was die Tech-Firmen mit dem Hype und den Ablenkungsdiskussionen um die angebliche Gefahr ihrer Modelle erstaunlich erfolgreich schaffen, ist, den Eindruck zu erwecken, dass sie hier etwas Großes und Mächtiges geschaffen haben. Etwas, das künftig tatsächlich das Potenzial haben soll, intelligenter als Menschen zu werden. Etwas, das Menschen die Arbeit wegnehmen, sie ersetzen oder sie womöglich künftig als Sklaven halten könnte.

Ich habe gerade anlässlich des bevorstehenden Besuchs von Frieder Nake auf dem diesjährigen CCC-Kongress im Dezember in Hamburg auf meiner eigenen Website gesurft (fast so schlimm wie Ego-Googeln, was mich aber auch immer wieder zu interessanten Aspekten meines virtuellen Ichs führt ;)) und das Portrait gefunden, das ich vor zehn Jahren über ihn geschrieben habe. Er muss inzwischen knapp 90 sein und spricht auf dem Kongress über Computerkunst (die er mitgegründet hat). Das allein ist ein Grund hinzugehen!

Dabei ist mir eingefallen, dass ich versprochen hatte, hier immer über meine aktuellen Aktivitäten zu informieren, vor allem mit dem Ziel, dass ihr wisst, wo ihr mich findet für einen Schnack im echten Leben. Das ist leider angesichts der rasenden Zeit irgendwie zu kurz gekommen in letzter Zeit - deshalb hole ich das jetzt nach.

Immer mal wieder bekomme ich Zugang zu gehackten Daten und meistens verbergen sich darin wichtige und relevante Geschichten, die Probleme und Missstände aufdecken. Meine letzte größere Geschichte, die auf einem solchen Leak basierte, war die zur NoFly-List der USA, mit der die Freiheit von tausenden Menschen oft willkürlich eingeschränkt wird.

Von daher erscheint es eigentlich klar: Mit Hacking und Leaking erreichen Daten die Öffentlichkeit, die relevant sind für die Gesellschaft und für die Demokratie. Oder nicht?

Auf der re:publica habe ich ein wenig aus meinen jüngsten Recherchen zu maschineller Intelligenz erzählt und wie ich Opfer einer Schwachstelle der menschlichen Kognition geworden bin, vor der ich selbst zuvor gewarnt hatte!

Hier gibt es die Aufzeichung und hier ist ein Artikel, der den Talk zusammenfasst. Und wie versprochen gibt es hier die im Vortrag erwähnten Quellen und Artikel – viel Spaß beim Lesen!