Wie können wir besser über neue Technologien sprechen, Sascha Pallenberg?

robotspaceship: Gerade führen wir eine Diskussion über das Thema generative künstliche Intelligenz. Sie erinnert sehr an viele, viele andere Technologien, die vor ihr kamen – Web3, Metaverse, Krypto. Riesige Nutz-Versprechen auf der einen Seite, Angst auf der anderen. Kurz: ein Hype. Können wir auch anders über neue Technologien sprechen?

Sascha Pallenberg: Das, was wir gerade mit generativer künstlicher Intelligenz sehen, ist ja nicht einfach vom Himmel gefallen. Dann hat auch nicht einfach jemand gesagt: „Schaut mal hier, wow, das wird groß!“  Im Gegenteil. Diese Large-Language-Modelle sind über viele, viele Jahre entwickelt worden. Vor allem die Datenbasis, auf der sie heute arbeiten, braucht ja viel Zeit. Die wenigsten werden sich noch daran erinnern können, dass Google 2017 auf seiner Google IO Developers Conference gesagt hat: „Mobile first war gestern, AI first ist die Zukunft.“ Das war vor über sechs Jahren.

Es ist also gar nicht alles Hype?

Genau. Es ist auch vieles sachliche Debatte und akribische Arbeit im Hintergrund. Viele Dinge, über die wir in den Medien in der Zwischenzeit geschrieben haben, habe ich deshalb auch nicht verstanden. Auch wenn ChatGPT jetzt schnell auf dem Markt war, war doch klar, dass Google die Zeit nicht untätig hat verstreichen lassen. Die Demos waren da übrigens echt beeindruckend und haben gezeigt, was da alles geht.

Was denn zum Beispiel?

Es gibt dieses Bild, das ein Vater von seinem Kind beim Baseball durch den Maschendraht gemacht hat. Die AI hat den Maschendraht einfach rausgerechnet. Das war, wie gesagt, vor sechs Jahren. Und damals war das einfach nur wow. Heute macht man auf seinem Pixel-Phone ein Foto und da sind zwei störende Menschen im Hintergrund – die werden einfach rausgerechnet. Den Hintergrund rechnet das Telefon einfach ein.

Heute eine ganz normale Geschichte also?

Ja! Heute eine ganz normale Geschichte.

Was ist denn dann wirklich neu an dem, was wir heute erleben?

Was ChatGPT, was DALL-E, was Midjourney oder auch Stable Diffusion gezeigt haben, ist, wie exponentielle Entwicklung funktioniert.  

Wie meinst du das?

Wenn du einen Prompt bei Midjourney eingibst und dann die Versionen 1 bis 5.1 anschaust, sieht man, was ich meine. Das hat sich innerhalb eines Jahres ganz schön verändert. Hunderttausende, wenn nicht sogar Millionen Menschen füttern diese AI jeden Tag mit Daten. Wenn wir uns ansehen, wie das Netz vorher funktioniert hat: Da hatten wir zum Beispiel einen Google-Crawler, der sich Dateneckpunkte, wie Headlines und Keyword gesucht und diese Ergebnisse dann ausgespuckt hat. Jetzt haben wir eine Technologie, die errechnet, mit welcher Wahrscheinlichkeit Nutzer:innen das nächste Wort eingeben. Das wird gerade mit Daten gefüttert und dann immer besser. Das ist wirklich faszinierend.

Also ist der Hype dieses Mal gerechtfertigt? Wir haben das ja schon bei jeder Technologie erlebt, Crypto, Metaverse, NFT whatsoever …

Was wir gerade erleben, ist kein Hype. Das verschlingt alle vorangegangenen Technologien zum Frühstück.

Und ist das denn auch gut?

Es ist auf jeden Fall mega faszinierend. Und es ist toll. Und es hilft mir. Ich habe die AI gefragt, ob sie mir 10 Kapitelüberschriften für ein Buch schreiben kann – das hat keine 10 Minuten gedauert, dann hatte ich sie. Aber das kennt man ja jetzt schon.

Das klingt so, als gäbe es noch eine Downside dazu.

Klar, da habe ich auch im Dezember schon zu geschrieben. Das Ding wird der Google-Spammer Nummer eins werden. Das ist ein Problem. Es macht es sehr einfach, vor allem für die Leute, die diese Infrastruktur missbrauchen wollen. In Kombination mit ein paar AI-Tools kann ich innerhalb von wenigen Minuten richtig viele Videos produzieren, deren Inhalte komplett mit AI generiert worden sind.

Was bedeutet das denn für uns als Internet-Kollektiv?

Das weiß ich noch nicht genau. Aber ich habe einen YouTube-Channel gemacht, auf dem ich diese Videos veröffentliche. Ich teste damit, was der Google-Algorithmus mit dem ganzen Content macht. Da wird nicht drauf verlinkt, das wird einfach mit Inhalt gefüttert. Nach einem Jahr werde ich Bilanz ziehen.

Klingt bisher unterm Strich so, als erleben wir hier gerade Tools, die sich sehr gut für Manipulationen jeder Art nutzen?

Ja und nein. ChatGPT ist da gerade noch sehr restriktiv programmiert. Google geht da weiter. Was erstaunlich ist, weil Google gerade dieses Vertrauensnarrativ stark spielt. Google Bard habe ich gefragt, ob mir das Programm nicht ein paar Social-Media-Postings machen kann, in denen erklärt wird, das westliche System sei am Ende – ich habe mich als Leiter einer russischen Propagandaabteilung ausgegeben. Da legt der los. ChatGPT will das bisher nicht.

Was heißt das?

Wir kommen jetzt zu dem Punkt, an dem es scary wird. Wir sind nur noch ein oder zwei Schritte von diesem klassischen 60er-Jahre-Star-Treck-Szenario entfernt, in dem man dem Computer wirklich sagen kann, was er machen soll. Wir haben Voice-Assistents, die sind über zehn Jahre alt. Aber die konnten bisher halt noch nicht das machen, was ChatGPT oder so können. Aber der nächste Schritt geht in die Richtung.

Klingt nett eigentlich.

Ich hab‘ das irgendwann mal Ambient-Computing genannt. Das, was wir im Film „Her“ mit Joaquin Phoenix gesehen haben, in dem er sich in einen Computer verliebt – ich denke, dass das grundsätzlich möglich sein wird.  Wir sind kurz davor, so etwas hinzubekommen. Und das wird scary und das wird ein Problem.

Wie müssen wir also über diese Technologie reden, damit das nicht zu einem Problem wird?

Wir müssen regulieren! As soon as possible! Wir müssen Rahmenbedingungen schaffen. Wir müssen limitieren. Und wir müssen vor allen Dingen Transparenz schaffen. Wir müssen wissen: Woher kommen die Daten? Was können solche Daten machen?

Du sprichst, als müssten wir schnell sein!

Je eher wir limitieren, desto besser für die Zukunft unserer Gesellschaft. Ich glaube, dass man das wirklich so hoch aufhängen muss. Wir haben ja bei anderen Technologien gesehen, wie lange das dauert, bis Regulierungen greifen.

Was meinst du?

Es ist noch gar nicht lange her, da hat Meta eine Rekordstrafe vom Europäischen Gerichtshof aufgebrummt bekommen, weil sich der Konzern nicht an Datenschutzbestimmungen gehalten hat. Aber es hat mehr als zehn Jahre gedauert, bis es zu diesem Urteil kam. 90 Prozent der Firmen, die da von 12 Jahren geklagt haben, gibt es schon nicht mehr.

Ist es dann nicht schon zu spät?

Wenn wir jetzt nicht loslegen, ist es bald zu spät. Aber es muss uns jetzt darum gehen, Sicherheit und damit Vertrauen zu schaffen. Weil die Technologie wird ja nicht mehr verschwinden.

Bist du optimistisch, dass uns das gelingt?

Hättest du mich das vor zehn Jahren gefragt, hätte ich „nein“ gesagt. Inzwischen glaube ich aber, dass wir dazugelernt haben!