Nix verstehen

Frohe Ostern! Das war mal wieder eine inspirierende Woche bis jetzt, und inspiriert von einem Post von Barbara Lampl, der besonders schön illustriert war, ist auch das heutige Titelbild. Aber natürlich musste ich da noch einen drauflegen und habe gleich zwei Bücher abgelichtet, von deren Inhalt viele Menschen wahrscheinlich behaupten werden: Kapier’ ich nicht, brauch’ ich nicht.

(Da fällt mir auf: Mein Taschenbuch der Mathematik wird dieses Jahr übrigens dreißig Jahre alt – Happy Birthday! 🥳).

Nix zu verstehen und trotzdem totaler Experte zu sein, in dem, was man tut, das ist mittlerweile groß in Mode. Und man kommt damit auch erstaunlich weit. Der Einäugige ist unter den Blinden König, sagt man ja. Das trifft auch hier zu. Denn hinterfragt wird mittlerweile herzlich wenig. Aber wer aus dem Staunen nicht mehr rauskommt, der hat ja auch gar keine Zeit mehr etwas zu hinterfragen.

Verstehen, das braucht eine aktive Beschäftigung mit der Materie. Gerne auch spielerisch. Aber wohl begreifend, was man tut und welche Auswirkungen das hat. Um dann den Dingen vielleicht irgendwann aus Neugier auf den Grund zu gehen und Zusammenhänge zu verstehen.

Viele sagen, sie hätten keine Zeit dafür. Irgendwie reicht es bei all dem Stress aber doch meist dazu, sich in etlichen Prompting-Versuchen als Actionfigur oder Ghibli-Charakter kreieren zu lassen. Das ist so ein bisschen wie Nachtisch. Eigentlich bin ich ja satt, aber den Dopamin-Kick gebe ich mir dann doch noch. Die Aufmerksamkeitsökonomie hat uns fest im Griff. Wir wollen nicht nur überall mitspielen, wir geben unsere Aufmerksamkeit auch jedem, der einfach nur laut genug danach kräht (Wenn du schon länger hier liest, erinnerst du dich vielleicht an meinen Artikel zu #JOMO).

Und jetzt stehen wir da und werden befeuert mit Dingen, da angeblich unser gesamtes Leben und unsere Gesellschaft verändern werden. Und wieder verstehen wir gar nichts und glauben einfach denjenigen, die zumindest ihre Meinung lautstark heraushauen. Auch wenn das oft sehr viel Meinung für erschreckend wenig Ahnung ist. Die die wichtigen Fragen auch gerne einfach mal ignoriert.

Mal ein paar Beispiele:

1. Weißt du, warum die riesigen Kontextfenster neuer LLMs, die alle momentan alle so abfeiern, dir in der Praxis eigentlich überhaupt nichts nutzen, wenn deine generierten Texte nicht komplett oberflächlich gehalten werden sollen?

2. Weißt du, warum man Halluzinationen nicht einfach abschalten kann, sondern diese ein ganz elementarer Bestandteil der Wirkungsweise von LLMs sind?

3. Ist dir bewusst, dass agentische Workflows eigentlich überhaupt nichts Neues sind und es abseits der Rechenleistung noch einen Haufen weitere gute Gründe gibt, warum wir damit nicht in den letzten 20 Jahren einfach alles gelöst haben?

4. Ist dir klar, dass man Benchmarks bei LLM-Systemen nicht auf die Goldwaage legen darf und diese nur sehr wenig über die reale Leistung eines Modells aussagen?

5. Kannst du verstehen, dass viele der KI-Lösungen, die man dir heute vor die Füße wirft, nicht viel mehr sind als knallig bunte Zauberkästen, deren Wirkungsweise dir niemand erklären kann und die dein Problem gar nicht lösen, sondern nur die Symptome deines Problems verdecken? Verstehst du, wie unzuverlässig diese Systeme sind und dass die Aussage „dann ist es aber immer noch besser als jetzt“ kein Lob oder eine Lösung ist?

6. Kannst du dir realistisch vorstellen, wie unsagbar teuer und wie wenig nachhaltig diese Lösungen sind? Vor allem in Bereichen, wo wir schon bessere Lösungen mit klassischem Machine Learning oder gänzlich ohne KI erarbeitet haben.

Das zu wissen, ist sicher keine Selbstverständlichkeit. Das nicht zu wissen und dann aber vernünftige und sinnbehaftete Entscheidungen, zum Beispiel über den Einsatz von KI im eigenen Unternehmen, treffen zu wollen; das ist sogar eine Unmöglichkeit.

Um ein sehr gutes Verständnis davon zu bekommen, wie neuronale Netze und damit letztendlich auch Deep Learning und generative KI funktionieren, reicht erstaunlicherweise schon die Mathematik aus, die man in der Oberstufe im Grundkurs lernt. Und damit hätte man schon immens viel verinnerlicht, mehr wahrscheinlich, als man zum Fällen von Entscheidungen braucht (Mathematik muss nicht jeder voll erfassen, mathematisch denken, sollte aber jeder können, der heutzutage mit Daten, Prozessen und auch KI zu tun hat).

Wer aber einfach blind irgendwelche Marketingversprechen, Toolhypes und Ki-Trends mit abfeiert, der kommt nicht nur nicht zur Ruhe, der wird es auch nicht verstehen. Der wird vielleicht Dinge optimieren, aber nicht so, dass es etwas nützt.

Ach ja, das oben sind übrigens wirklich beides meine Bücher, die mich seit meinem Studiumsbeginn vor dreißig Jahren stets begleitet haben und die jetzt auch noch immer griffbereit auf meinem Schreibtisch liegen. Spannenderweise fröne ich damit nicht nur seit langem dem Trend zum Zweitbuch, nein, ich habe sogar noch viel mehr Bücher. Tausende, um ehrlich zu sein. Heutzutage oft natürlich auch in elektronischer Form.

Ich lese viel. Und ich lese gern. Und ich habe mich schon immer darüber geärgert, wenn Menschen Zusammenfassungen von Büchern und Artikeln verfassen, die sie nicht verstanden haben. Denn dann bleibt wesentliches unerwähnt. Heutzutage fassen KI-Modelle Bücher und Artikel zusammen. Natürlich verstehen die Modelle den Inhalt auch nicht. Und damit bleibt auch hier wieder vieles auf der Strecke.

Naja. Ich kann mich immerhin darin sonnen, das zu wissen und zu verstehen, wo die Unzulänglichkeiten und auch die mathematischen Grenzen generativer KI liegen. Du auch? Oder reicht es dir, das nicht zu verstehen? Oder gar nix zu verstehen?