News und Termine

Manche Medien und Journalist:innen nutzen KI, um Informationen aus dem Netz zu scrapen, maschinell daraus Beiträge zu verfassen und als eigene auszugeben. Damit schaufelt sich die Branche ihr eigenes Grab.

 Ich hatte heute ein seltsames Erlebnis auf LinkedIn, das mich nicht nur frustriert hat, sondern das mir auch klar gemacht hat, was hier auf dem Spiel steht. Jemand hat einen meiner Posts deutlich sichtbar plagiiert. Im Verlauf der Diskussion wurde klar, dass die Person das vermutlich nicht selbst aktiv getan hat (und ich muss zugeben, das nehme ich ihr ab, denn es wäre tatsächlich naiv zu glauben, dass so etwas nicht auffällt und vor allem angesichts der wörtlichen Übernahme vieler Passagen nicht auch einfach nachzuweisen wäre). Die Person - ebenfalls ein Journalist und "Experte KI und Digital" - nutzt stattdessen diverse KI-Agenten, die das Netz nach Themen durchsuchen und diese in Posts und Artikeln im Namen der Person zusammenfassen.

So in de Art muss es auch dazu gekommen sein, dass der KI-Agent meinen LinkedIn-Post fand und sich daraus bediente. Etwas zu wörtlich, so dass es aufflog.

Update zum Thema Jailbreaking, Fable 5 und KI in der investigativen Recherche - mit Tipps und Tricks und Links und einer Einschätzung dazu, wieso die US-Regierung Anthropic nötigt, den Zugang zu ihrem neuesten Modell zu sperren.

Auf der Netzwerk Recherche Konferenz am 12. und 13.6.26 habe ich zwei Vorträge zum Thema KI in der Recherche gehalten. Die beiden hängen zusammen und sind gerade auch deshalb besonders aktuell, weil sie sich damit beschäftigen, wie KI-Modelle überlistet werden können, Dinge zu tun oder zu verraten, die sie nicht tun und nicht verraten sollen. Das wird Jailbreaking genannt.

Und wie immer und bei fast allem, gilt auch hier: Man kann Jailbreaking für Gutes und Schlechtes nutzen. Und wie immer hängt die Frage, was gut und schlecht ist auch von der eigenen Perspektive und dem eigenen Hintergrund ab.

Das kann man aktuell sehr schön am aktuellsten Move der US-Regierung sehen: Sie hat angeordnet, dass das neueste Modell von Anthropic, Fable 5, nur noch von US-Bürgern benutzt werden darf. Anthropic hat daraufhin in der vergangenen Nacht den Zugang für alle komplett gesperrt, da sich die Anordnung auf die Schnelle anders nicht umsetzen lässt - denn (noch) hat Anthropic keine ID-Verifikation seiner Nutzer:innen eingeführt (der Konzern hat das allerdings schon mal angekündigt)

Die in diesem Text verlinkten ZEIT-Texte sind 14 Tage frei zugänglich (dann laufen die Freebie-Links ab). Also besser gleich lesen. :)

In den vergangenen Monaten habe ich mich intensiv mit den Limitationen von großen Sprachmodellen beschäftigt. Genauer gesagt: mit jener Form von KI, die auf sogenannten Transformer-Modellen basiert. Ich hole deshalb ein wenig aus, weil viele Menschen mit "künstlicher Intelligenz" genau das meinen und sich nicht bewusst sind, dass es viele andere Ansätze gibt. Der Hype rund um ChatGPT und andere Chatbots hat zu einer seltsamen Verengung des Begriffs KI geführt - der, ja, natürlich nicht wohl definiert und viel zu breit ist. Die aktuelle Verengung ist aber auch nicht dienlich.

Denn dank des Marketings der großen Tech-Firmen (die gar nicht anders können, als den Hype zu befeuern, denn ihre Existenz hängt davon ab) denken viele Menschen zudem, dass aus diesen Modellen etwas Größeres erwachsen könnte, oder gar schon ist. Eine Form echter Intelligenz, eine allgemeine Intelligenz, Artificial General Intelligence AGI. Und je nachdem, ob man eher zum Kulturpessimismus oder zum Tech-Optimismus neigt, führt diese AGI eher zum Weltuntergang oder zur Lösung aller Probleme.

Nichts von all dem wird kommen. Denn was die Tech-Firmen mit dem Hype und den Ablenkungsdiskussionen um die angebliche Gefahr ihrer Modelle erstaunlich erfolgreich schaffen, ist, den Eindruck zu erwecken, dass sie hier etwas Großes und Mächtiges geschaffen haben. Etwas, das künftig tatsächlich das Potenzial haben soll, intelligenter als Menschen zu werden. Etwas, das Menschen die Arbeit wegnehmen, sie ersetzen oder sie womöglich künftig als Sklaven halten könnte.

Ich habe gerade anlässlich des bevorstehenden Besuchs von Frieder Nake auf dem diesjährigen CCC-Kongress im Dezember in Hamburg auf meiner eigenen Website gesurft (fast so schlimm wie Ego-Googeln, was mich aber auch immer wieder zu interessanten Aspekten meines virtuellen Ichs führt ;)) und das Portrait gefunden, das ich vor zehn Jahren über ihn geschrieben habe. Er muss inzwischen knapp 90 sein und spricht auf dem Kongress über Computerkunst (die er mitgegründet hat). Das allein ist ein Grund hinzugehen!

Dabei ist mir eingefallen, dass ich versprochen hatte, hier immer über meine aktuellen Aktivitäten zu informieren, vor allem mit dem Ziel, dass ihr wisst, wo ihr mich findet für einen Schnack im echten Leben. Das ist leider angesichts der rasenden Zeit irgendwie zu kurz gekommen in letzter Zeit - deshalb hole ich das jetzt nach.

Immer mal wieder bekomme ich Zugang zu gehackten Daten und meistens verbergen sich darin wichtige und relevante Geschichten, die Probleme und Missstände aufdecken. Meine letzte größere Geschichte, die auf einem solchen Leak basierte, war die zur NoFly-List der USA, mit der die Freiheit von tausenden Menschen oft willkürlich eingeschränkt wird.

Von daher erscheint es eigentlich klar: Mit Hacking und Leaking erreichen Daten die Öffentlichkeit, die relevant sind für die Gesellschaft und für die Demokratie. Oder nicht?