Arbeitsmarkt 2026: LLMs waren erst der Anfang

00:00:12: Hallo

00:00:12: und herzlich willkommen bei Burn for IT.

00:00:15: Deinem Podcast für Menschen und Themen in der IT, vom Datacenter bis zur Cloud und vom Server bis zum Container – wir brennen für IT!

00:00:24: Mein Name ist Nikolas Frey und heute wieder mit mir dabei.

00:00:28: Robert, grüße Dich!

00:00:34: immer wieder schön mit dir eine Folge aufzunehmen und vor allem nach dem Feedback zur letzten Folge die Maske ablegen.

00:00:41: Muss ich echt noch mal vielen Dank sagen an das reiche Feedback, dass ich bekommen habe und sogar physisches Feedback denn ich hatte tatsächlich von einer Hörerin Markus Aurelius Meditations im Briefkasten und hab mich natürlich riesig gefreut!

00:00:56: Und jetzt haben wir auch ein Beispiel für stoische Literatur, das wir es letzte Mal nicht genannt haben also... Ich bin froh, habe jetzt meine Abendleaktüre und darum wenn ihr Feedback habt freuen wir uns natürlich immer.

00:01:06: Wenn ihr euch bei uns meldet Wir versuchen Stück für Stück besser zu werden Und das werdet ihr auch hoffentlich in der Qualität des Erfolges merken.

00:01:14: aber wie gesagt es ist ein langer Prozess Darum.

00:01:17: heute geht's bei uns um den Arbeitsmarkt und vor allem was die KI dafür Auswirkungen zurzeit produziert und diese sind ja in aller Munde haben ja damals auch mit ChatGPT gestartet und sind dann von den ganzen Public Large Language Modellen.

00:01:36: Dazu kann Robert gleich noch ein bisschen Grundlagen erklären, was es damit aus sich hat natürlich jetzt voll in der neuen AI-Welt drinnen und bauen teilweise natürlich ihren Tagesablauf auch darauf auf heißt nutzen eben Chatboards, nutzen teilweise schon AI-Agenden also Agendensysteme die dann etwas autonoma agieren und einfach Probleme lösen helfen.

00:02:02: Aber dazu gleich mehr, weil wir wollen jetzt erstmal so den Einstieg finden was es für Gründe auch dahinter gibt warum man vielleicht ein Large Language Model nutzt usw.

00:02:13: Und was ist auch bedeutet für unsere junge Generation?

00:02:16: Für unsere bestehende Arbeitswelt und die Auswirkungen auf uns alle?

00:02:22: Also Robert, vielleicht magst du noch mal Ganz kurz, wer hat uns im Vorgespräch ja schon thematisiert?

00:02:27: Dass die Fachbegriffe natürlich immer manchmal ein bisschen komplex und herausfordernd sind.

00:02:32: Vielleicht magst du noch mal einfach erklären was es so mit LLMs und ChatGPT was dahinter steht.

00:02:38: Der ganz einfache Einstieg in LLM in hundert Sekunden.

00:02:44: In meinen der Begriff künstliche Intelligenz ist schon deutlich älter als seitdem es ChatGPPT gibt.

00:02:51: Ist schon über hundert Jahre alt zumindest die Idee davon, das mathematische Modell davon.

00:02:57: Damals gab es aber noch nicht die Rechner dafür, die das Ganze berechnen konnten und man hatte eben so mathematisch schon das erste Modell.

00:03:03: okay wie kann ich Neuronen, die bei uns im Gehirn arbeiten technisch nachbilden?

00:03:09: Und dann hatten wir viele verschiedene Epochen schon in den letzten achtzig Jahren in denen verschiedene neuronale Netzwerke gebaut worden sind.

00:03:18: Man erinnert sich vielleicht noch so, dass Google mal einen Schachroboter gebaut hat der den Schachweltmeister und den Go-Weltmeister besiegt haben.

00:03:27: Das waren neuronale Netze.

00:03:30: Und im Jahr zwei Tausend sechzehn ungefähr also jetzt auch schon zehn Jahre her kam Google mit einem Sprachmodell um die Ecke.

00:03:42: Einem Transformermodell mit dem es möglich war natürliche Sprache zu verarbeiten und darauf zu trainieren, dass ein Computer unsere natürliche Sprache versteht.

00:03:55: Es ist ja bis dahin immer der Unterschied gewesen ganz am Anfang noch mit Lochkarten dann Programmiersprachen und alles das wir eine extra Sprache hatten um mit Maschinen zu reden.

00:04:06: und durch dieses Transformer Modell dann eben Large Language Model kurz LLM genannt kann eben eine Maschine Ansatzweise zumindest verstehen je nach Trainingsdatensatz, was wir sagen.

00:04:20: Was wir wollen und dann auch damit uns antworten.

00:04:25: Das heißt in JetGPT hast du jetzt schon mal das Tee erklärt oder?

00:04:29: Das Tee ganz hin.

00:04:30: Transformer

00:04:32: ist es da.

00:04:32: Das GPT ist der General... Tee weiß ich gerade leider gar nicht mehr.

00:04:38: Und der Transformer genau.

00:04:41: Also das steckt ja tatsächlich schon drin.

00:04:45: hat ihren Namen auch daher, dass sie das ganze erst mal offen gestartet haben.

00:04:48: Also JetGPT-I und II gibt es, gab es auf jeden Fall auch komplett Open Source, konnte man sich viele, viele Jahre lokal ausführen, hat aber niemand interessiert weil das war einfach nicht das Erlebnis was man sich erhofft hat.

00:05:07: Kein Vergleich zu heute!

00:05:09: Und mit dem Modell ChatGPT als Plattform damals November, zwanzig gestartet.

00:05:18: Und das hat so ein bisschen den Stein eben für large language Models.

00:05:21: und wo wir heute stehen damit.

00:05:24: Wie du gerade gesagt hast erst so'n bisschen Spielzeug und dann ging's Richtung stille Produktivitätsverschiebung.

00:05:31: und man sieht halt jetzt es gibt Use Cases, wo das echt mehr Wertes schafft.

00:05:35: und Du als Programmierer da kommen wir gleich noch drauf.

00:05:38: Du hast es ja gesehen.

00:05:39: Das ist sehr hochspannend wie sich das jetzt wirklich Von vor GPT oder ChatGPT bis jetzt zur Richtung Agenten hin bewegt und du hast ja auch selbst schon eine Menge Erfahrungen gesammelt, da kannst du gleich nochmal einiges dazu sagen.

00:05:52: Aber noch mal kurz zum GPT.

00:05:53: also es heißt Generative Pre-Trained Transformer also generativer vortrainierte Transformierer.

00:06:00: so okay

00:06:01: genau.

00:06:02: und jetzt wo stehen wir jetzt Robert?

00:06:04: was ist nach ChatGPD?

00:06:07: Genau, natürlich ganz viele neue Versionen von JGPT.

00:06:11: Aktuell sind wir ja bei JGBT bei fünf Punkt sechs.

00:06:15: Es kamen Konkurrenzunternehmen wie in Strapik die Claude angeboten haben.

00:06:20: Wir haben natürlich auch bei uns in Europa gibt es zum Beispiel Mistrill als europäischer Vorreiter für KI genauso wie chinesische Modelle und neben vielen Unternehmen, die das Ganze dann eben als mit Ihrem Pricing-Modell, als API oder als Chatbot auf Ihrer Webseite anbieten sind daneben auch Open Source Modeller herausgekommen.

00:06:45: Vielleicht auch etwas angetrieben durch chinesische Modelle wie DeepSeq und andere die gezeigt haben okay wir können diese Leistungen annähernd auch schaffen wenn wir bestimmte Architekturen in diesem Transformer ein bisschen ändern, ein bisschen anpassen und optimieren.

00:07:03: Ja, also es gibt verschiedene Benchmarks.

00:07:05: Also verschiedene Spielplätze und Versuchsreihen wo man das vergleichen kann miteinander.

00:07:11: Da gibt's auch ganz viele Studien die das jeden Monat wiederholen um zu schauen wer hat das beste Modell?

00:07:17: Wer ist am weitesten voran Und auch für was sehr.

00:07:20: Es gibt Modelle die sind super Um Texte zu generieren Für irgendwie, sagen wir mal Hochzeitsreden.

00:07:26: Die müssen sympathisch sein da muss irgendein Bezug mit einfließen.

00:07:32: Die sind eben für Text-Generierung sehr gut, es gibt welche die sind für Coding ziemlich gut.

00:07:36: Also alles was so Programmiersprachen angeht.

00:07:39: Es gibt Wischenmodelle die aus Bildern Informationen extrahieren können.

00:07:44: Es gibt Modelle die sind Für Bilder generieren auch da und sind ein bisschen verteilt Und über diese Benchmarks kann ich dann sehen

00:07:54: wie

00:07:55: gut sie sind Kann sie halbwegs gut miteinander vergleichen?

00:07:59: Dann sehen wir halt okay jetzt Bei so vielen Coding Challenges ist halt ChatGPT und Clorz sind es bei ... ... eighty-sechsen, achtzig Prozent.

00:08:09: Und ein Open Source Modell, dass ich mir selber hosten kann... ... ist bei dreieinachtzig, vierenachtzig Prozent!

00:08:15: Ja super.

00:08:16: also das ist wirklich nur noch einen einstelliger Prozentbereich.

00:08:19: aber ja hier plus minus wie du schon gesagt hast gibt's speziell eine Modelle, die Aufgaben besonders gut können und andere halt eben nicht.

00:08:26: Und wenn ich die Token sind, das werfe das für was nicht geeignet ist dann mache ich es eh falsch.

00:08:32: Aber da kommen wir gleich nochmal drauf, wenn man vielleicht über Agentensysteme und Multiagenten sprechen.

00:08:37: Vielleicht jetzt mal so diese Zeitreise, die du gerade schöne Revue passieren hast lassen.

00:08:42: Jetzt sind wir in den Jahr im Jahr zum Jahr zwanzig und sehen an heiße Artikeln wie von zwei fünfundzwanzig also hier die Wellapot Shops Under AI Pressure Also die Junior-Stellen sinken und das gewaltlich um vierundfünfzig Prozent, also es werden weniger Juniors eingestellt.

00:09:00: Und Seniors hingegen nicht ganz so wenig weniger, also fünfzehn Prozent irgendwo.

00:09:07: Es ist schon ein krasser Unterschied Und das ist, da sind wir ja jetzt angekommen.

00:09:12: Also diese Auswirkung dieser Technologie, diese Explosion an in Anführungsstrichen Intelligenz, also das sei dahingestellt, also an Vorhersagen zu Lösungen.

00:09:21: Wir hatten es gerade schon gesagt spezialisierte Modelle.

00:09:23: Das hat natürlich auf den Arbeitsmarkt, also speziell bei Entwicklern natürlich gravierende Auswirkungen und auch Implikationen für die Zukunft.

00:09:32: Da kommen wir gleich drauf.

00:09:34: aber natürlich auch mal muss die Kirche im Dorf lassen.

00:09:36: Es gibt eine Menge Jobs Die sind im Moment noch nicht das von so getroffen, vor allem die sehr menschnah sind wie Pflegeberufe oder das Handwerk wo man eben nur diesen Digitalisierungskrat hat und auch nun diese Qualität in der Automatisierung hinbekommt.

00:09:50: Aber wir wissen natürlich auch die Roboter stehen vor der Tür und sie kommen auch früher oder später.

00:09:56: also warten wir da mal ab aber trotzdem Kirchen Dorf lassen.

00:09:59: So jetzt aber bei den Punkt wo es wirklich einen Impact hat.

00:10:03: den Artikel packe ich noch in die Show Notes und auch den Artikel generell, was die Unternehmen erwarten.

00:10:08: Was jetzt auch mit den Löhnen vielleicht passiert im Verbindung mit Künstlicher Intelligenz packe ich auch noch ein.

00:10:14: aber mich interessiert jetzt Robert aus deiner Erfahrung wie siehst du das in der Realität?

00:10:19: Wie steht es um unsere Juniors?

00:10:22: schwierig um das mal ganz kurz zu sagen.

00:10:25: also Ich bin sehr froh ich habe meinen Abschluss Mitte zwanzig noch fertig bekommen, das heißt ich kann sagen.

00:10:33: Ich habe meine ganze Arbeit ohne KI geschrieben wohl aber über das Thema künstliche Intelligenz was auch wieder selbst ironisch ist.

00:10:45: und man merkt schon deutlich wenn man jetzt in Bewerbungsgesprächen eben auf der anderen Seite sitzt und dann auch mit bewerten muss okay wer sitzt uns gegenüber?

00:10:55: welches Wissen wird mitgebracht?

00:10:57: wie können wir mit dem Team integrieren, dass schon immer.

00:11:01: auch die Frage ist okay wie viel dürfen wir erwarten.

00:11:07: Und ich glaube die Frage die gab es auch schon vorher aber sie ist deutlich schwieriger geworden einzuschätzen.

00:11:13: also was noch so vor zwei drei Jahren mit ja ja es gibt KI aber sobald du halt so einen Lebenslauf zum KI generierten liest da hast Du halt gemerkt Ja, das klingt jetzt schon sehr generiert und das ist heutzutage kaum mehr zu unterscheiden.

00:11:30: Es ist ja eher andersrum, dass wenn man von Hand schreibt... Wenn man auch auf LinkedIn guckt die Tipps für wie sieht dein Text nicht KI generiert aus?

00:11:39: Du musst mittlerweile Rechtschreibfehler einbauen.

00:11:41: Du brauchst Kommata-Fehler, Großgleinschreibung muss irgendwo falsch sein sonst glauben die Leute, das wäre KI generierter.

00:11:49: Und das ist ein wahnsinnig Schon ein wahnsinniges Problem, weil entweder machst du es korrekt und die Leute sagen okay das hat ja die KI geschrieben.

00:11:59: Oder du sagst okay du brauchst Fehler ein und dann zweifeln die Leute auch okay war die Person jetzt nicht fähig correct Deutsch zu sprechen oder anderes.

00:12:09: Das heißt du sprichst jetzt gerade über den Bewerbungsprozess?

00:12:12: Auch dort merkt man natürlich die Auswirkungen dass jetzt die eine Seite die andere Seite ist natürlich die Unternehmen die Leute einstellen, weil sie stellen ja nicht mehr so viele ein.

00:12:21: Die schreiben nicht mehr viel aus.

00:12:23: Das heißt irgendwie müssen die Aufgaben jetzt anders erledigt worden sein.

00:12:26: und wie macht man das dann als Software-Unternehmen?

00:12:30: Wo setzt man denn da die KI ein anstatt einem Junior Entwickler?

00:12:33: Also wo wird der dann ersetzt?

00:12:36: Sagen wir, die große Hoffnung ist das Versprechen dieser großen Unternehmen von Open AI & Stropic oder anderen oder auch Google mit Gemini.

00:12:45: Wir wollen ja niemanden außen vorlassen das durch KI bei Entwicklern eben dieses zehnmal mehr Produktivität rauskommt, weil jetzt ist die KI da und kann Code schreiben noch und nöcher.

00:13:00: Also dass man sagt okay ich brauche nur noch einen Entwickler statt zehn in einem Team der jetzt nur dem Agenten sagt was brauchen wir?

00:13:10: Und dann schreibt die KI den ganzen Text schaut noch drüber, funktioniert tut es.

00:13:18: Ist es entsprechend den Anforderungen?

00:13:20: Man setzt einen Haken hinten dran und das geht aktuell noch nicht ganz auf.

00:13:27: Es wird immer mal wieder gezeigt okay wenn man's... da ist es immer die Frage Wenn man es richtig macht kann man damit gut skalieren aber bei Weitem nicht mit diesen zehnmal so fest oder so schnell eher doppelt so schnell.

00:13:43: Damit würde ich mitgehen.

00:13:46: Aber nicht, dass man Leute damit ersetzt.

00:13:48: Eher das man sagt okay wir kommen auch mit weniger Leuten klar können aber ein größeres Feld damit erschließen ja können nochmal mehr Test schreiben.

00:13:57: wir können noch mal über unsere Dokumentation drüber lesen.

00:14:01: ist die korrekt?

00:14:02: es unsere implementierung korreakt dass man mehr Zeit wieder dadurch auch frei hat zu investieren besser zu sein.

00:14:12: Wenn man jetzt als Unternehmen diesen Schritt geht und eher die Juniors runterfährt, sage ich mal.

00:14:18: Die Seniors behält und versucht mehr zu automatisieren, mehr Produktivität?

00:14:24: Was bedeutet das für die Zukunft aus deiner Sicht?

00:14:27: Schätzungsweise in zehn bis fünfzehn Jahren spätestens wird es zu Problemen kommen dass wir in Unternehmen Seniors brauchen und keine haben weil wir die juniors nie haben lernen lassen.

00:14:40: Das ist auch für mich eine harte Erkenntnis gewesen, nachdem ich dann auch viel ausprobiert habe und experimentiert hab.

00:14:48: Und viel large language model verschiedenste genutzt haben, experimentiert hat und selber merken musste oh hoppala!

00:14:57: Dadurch dass sich jetzt das generieren habt lassen, habe ich gar nicht mehr das Verständnis für das was geschrieben ist.

00:15:03: Und das würde mir total fehlen... Mit der Zeit kommt man auch wieder rein, man muss sich halt reinsetzen und sagen okay ich muss das verstehen.

00:15:13: Aber das geht wenn ich das in dem Sinne im Vergleich zum LLM von Hand geschrieben habe deutlich besser weil es einfach Lerntheorie des Menschen ist.

00:15:23: was ich selber mache mit meinen Händen, mit allen meinen Sinten erfasse kann ich besser lernen, verstehen und auch im Kopf behalten.

00:15:32: Und das ist etwas was mit large language Models schlimmer wird Kot nicht mehr verstanden wird.

00:15:39: Das ist so viel Kot, der generiert wurde.

00:15:42: ich lesen gar nicht mal richtig durch und das wird ein Problem dass wir dann keine juniors haben die genügend Erfahrungen sammeln konnten.

00:15:52: damit.

00:15:54: wenn ich mir jetzt vorstehe ich höre die podcast folge als junior dann denke ich super macht ja alles keinen Sinn mehr.

00:16:00: Robert, du machst dir da bestimmt Gedanken wie kann man sich weiterbilden und was gibt's denn dafür Möglichkeiten?

00:16:06: also wenn wir jetzt noch mal in der Situation wärst um deine Arbeit nicht vor dieser Revolution zu dem Thema geschrieben hättest sondern jetzt mitten in diesem strudel drin wärst.

00:16:16: Wie würdest du dich da differenzieren?

00:16:17: Was wären so die Punkte die dir wieder Hoffnung geben oder ist alles gar nicht so schlimm?

00:16:23: das ist ja ansichtssache.

00:16:25: ich würde sagen es is nicht so extrem schlimm, dass jetzt die Welt dadurch untergeht.

00:16:33: Ja, Energieverbrauch, Wasserverbraucht vielleicht schon aber dafür können wir ja Open Source Modelle lokal bei uns nutzen.

00:16:39: Die sind deutlich effizienter was das angeht als Junior beziehungsweise wenn ich jetzt frisch meine Ausbildung fertig habe mein Studium auch während dem Studium und während der Ausbildung immer neugierig bleiben schauen was kann ich machen?

00:16:54: Was kann ich vor allem selber machen?

00:16:55: Auch selber mal ein System schreiben mal gucken, was kann man denn überhaupt damit machen?

00:17:01: Vielleicht dies vor fünfzig Jahren auch schon war ein Praktikum machen.

00:17:07: Nicht bezahlt es um Arbeitserfahrung zu sammeln und darum schaut man ja eher nicht mehr auf die Ausbildung.

00:17:15: das ist mittlerweile ein deutlich geringerer Punkt an vielen Stellen als tatsächlich die Erfahrung die man mitbringt weil es zeigt sich dass die Universitäten, Hochschulen, Ausbildungszentren doch so unterschiedliche Auffassungen haben.

00:17:29: Was wichtig ist, weil ich jetzt die Fokuspunkte sind und man letzten Endes die Person im Unternehmen eh anlernen muss an das was baut man überhaupt wie macht man das?

00:17:41: Ja

00:17:43: also mehr Projekterfahrung weniger Hochschulbildung alleine, wie du schon gesagt hast, ich glaube beim Vorgespräch hatten wir es auch gesagt Hochschulabsolventen, die kriegen auch nicht um.

00:17:54: Ist auch keine Garantie mehr ein Job zu bekommen?

00:17:57: Deswegen jetzt kommen wir vielleicht zu diesem Open Source Thema also das ganze was relativ frei verfügbar ist und man das auf seiner eigenen Hardware wie zur Eingangs schon angedeutet betreiben kann.

00:18:09: Was kann man denn da so machen?

00:18:10: Robert du hast ja eine Menge rum experimentiert.

00:18:12: Vielleicht kannst du ein paar Use Cases oder... aus deinem Labor also ein paar Erkenntnisse transportieren.

00:18:19: Ja wie man sich das so vorstellt, bei mir als Attila habe ich natürlich verschiedenste Rechner und Computer in meinem Wohnzimmer stehen... Und das Schöne ist damit kann man auch sehr viel unterschiedliches ausprobieren.

00:18:30: Ich hab einen Linux-Rechner da sind RTX vierzig siebzig drin mehrere.

00:18:37: Das heißt da kann man größere Modelle laufen lassen.

00:18:41: Weil das einfach für mich auch ein Punkt ist, an jedem Rechner und jedem System auch Stromzelle und so was mit dabei um einfach zu vergleichen.

00:18:50: Für die Effizienz bei solchen Systemen spielt auch der Energieverbrauch bei mir eine Rolle Und deshalb bin ich tatsächlich mittlerweile gar nicht mehr so groß auf meinem Multi-GPU-System.

00:19:01: weil wir Modelle haben, die wahnsinnig gut auf kleinen Rechners laufen bin ich viel mit meinem MacBook auch unterwegs.

00:19:09: Das ist ein MacBook Pro, hat nur acht Gigabyte RAM und das ist ja der geteilte RAM bei Apple.

00:19:16: Das Schöne ist aber diese Apple Silicon Prozessoren können da sehr gut damit umgehen und man eben über dieses Dateien hin- und herguckieren, dass spart man sich dann zwischen RAM und GPU.

00:19:29: Und was ich jedem gerade weil wir es hatten experimentierend neugierig sein empfehlen kann Wo kann man mal damit anfangen?

00:19:37: Das ist zum Beispiel Lama.cpp, es ist ein Open Source Programm, baut auf GTF auf und damit kann man Lokalmodelle hosten.

00:19:47: Das ist erstmal so das Base Layer mit dem man alles verknüpft.

00:19:53: Das heißt ich habe dann mein Chatbot sozusagen

00:19:55: zu uns,

00:19:56: der halt... hab' ich da auch in diesem Fall Internet Zugriff oder ist das erst einmal nur Daten in dem trainierten Modell?

00:20:01: Also Lama-CPP ist erstmal nur das System in dem mein Modell läuft,

00:20:06: d.h.,

00:20:06: ich brauche einmal Lama-CPP und der anderen Seite auch ein Modell.

00:20:10: Da ist die Auswahl riesig.

00:20:12: Hackingface ist also die Anlaufstelle.

00:20:14: da gibt es ja alle Modelle so ungefähr zum runterladen.

00:20:17: man muss schauen was passt auf den Rechner zu dem was man sucht.

00:20:22: Also eben mit meinen acht Gigabyte RAM hier auf meinem MacBook werde ich kein... ...hundertzweiundneinzig Billionen Parametermodell laufen lassen finden.

00:20:31: Das ist absolut unrealistisch!

00:20:33: Das ist auch gar nicht das Ziel.

00:20:35: Es gibt mittlerweile eben zum Beispiel die Bonsai-Modelle, bin ich ein großer Fan von.

00:20:39: Ich hab' das Bonsay-Acht-Bee-Model bei mir laufen also mit acht Billionen Parametern in einer Einbittorflösung und das braucht ungefähr eins Komma drei Eins Komma vier Gigabyte an Ram.

00:20:53: Das ist extrem wenig dafür dass das Modell.

00:20:57: Mit dem habe ich dann auch mein Chat Lokal.

00:21:00: Ich brauche kein Internet dafür, das ist ganz cool.

00:21:02: Ich kann komplett offline mit meinem Chatboard reden und auch meine Daten sind ja sicher damit, weil die nicht auf irgendein anderen Server vielleicht noch nach Übersee oder über eine große Mauer fliegen.

00:21:15: Sondern die Daten und meine Gespräche bleiben auch absolut super rähnen, transparenten und Daten DSGVO-konform bei mir auf meinem Rechner.

00:21:26: Gut!

00:21:27: MacBook ist das Ganze dann auch sehr kostenneutral, oder?

00:21:30: Ist ja fast nicht messbar.

00:21:31: Wenn ich mir überlege auf höchst Leistung verbrauchte Silikon irgendwie zehn Watt, ist es so?

00:21:37: Bei

00:21:38: zehn Watte würde ich glaube ich nicht mitgeben.

00:21:42: also Ich kann auch die Lüfter von meinem Macbook zum Glühnen bringen.

00:21:46: So ist es nicht.

00:21:49: Man kann auch manchmal die Tastatur da nicht mehr verwenden weil sie etwas zu warm ist aber vielleicht fürs Tee kochen.

00:21:56: Aber durch die Epicylican für fünfundneunzig Prozent der Use Cases, die man hat, reicht das völlig aus.

00:22:04: und ich habe nebenbei Browser und alles weitere offen.

00:22:08: Mein Coding Agent, der noch parallel läuft dann bei mir auf dem Rechner, dennoch durch mein Repo durchgeht und bug fixes löst – das funktioniert!

00:22:17: Sehr gut, das heißt du nutzt es für die persönliche Produktivität und auch zum Programmieren wie du gerade gesagt hast.

00:22:23: Jetzt haben wir so ein bisschen über die Chatbots gesprochen und du hast grad schon nochmal den Begriff Agents in den Mund genommen.

00:22:28: Wir haben sie ein bisschen noch gesagt da gehen wir noch mal kurz drauf ein.

00:22:31: also Agent sind dann die Mitarbeiter kann man so sagen die das Ziel dann selbstständig verfolgen.

00:22:36: Du hast dir, schau dir das Repo an, fixe den Code mach alles proper dass es halt ohne einen Error durchläuft zu nach dem Motto Kann Man So Sagen Ungefähr.

00:22:46: oder wie würdest du beschreiben so ein Agent?

00:22:49: Ja doch, kann man denke ich so mitgehen.

00:22:51: Ich sehe LLMs und die Agents immer gerne als kleine Azubis weil das ungefähr den Wissensstand auch widerspiegelt eben mit dem Basiswissen dass es da ist was sich so erwarten darf im zweiten dritten Lehrjahr.

00:23:08: Das heißt ich darf nicht erwarten das ist jetzt ein Senior der alles für mich schreibt.

00:23:13: Ich muss klar beschreiben können, was will ich haben?

00:23:16: Wo muss es geändert werden?

00:23:19: und auch so ein Basisregelset mit wo darf überhaupt etwas geändert wird.

00:23:23: Wie darf er arbeiten uns soweit also so ein bisschen wie ich eben Azubis in der Ausbildung an die Hand nehmen unser Projekt ran für genau das gleiche Modell wenn nicht einfach bei meinen Agents an beziehungsweise beim einen Agent.

00:23:38: Wenn wir jetzt beim Single Agent Newscast sind Der dann eben So ein kleines memory file bekommen da hat er seine Gedanken und seine Regeln mit drin.

00:23:48: Das ist nicht groß, maximal achtzig Zeilen es bei mir immer so die Regel was drin sein darf.

00:23:54: Und genau dann kann der im Hintergrund arbeiten eben bei mir auch lokal.

00:24:00: das ist wunderbar.

00:24:01: Es gibt auch viele Agents die ja Claude und Codex von unseren zwei größten Unternehmen aktuell die dann eben über die API, über den Server das Ganze berechnen machen und dann bei einem Lokal auf dem Rechner das ganze schreiben.

00:24:19: Die haben natürlich mehr Rechenleistung dahinter sind in manchen Stellen würde ich sagen auch intelligenter.

00:24:25: Die Frage ist brauche ich einen intelligenten Azubi oder brauche ein Azubis der meine Arbeit gut macht?

00:24:32: Weil wenn intelligenter Azubii immer meinen Code umschreibt, dann geht mir das auch irgendwann auf die Nerven.

00:24:36: Das hatte ich auch schon!

00:24:39: Also gut, da muss man differenzieren bei den Agents.

00:24:42: Also hat auch immer dann passendes Modell natürlich für die Aufgaben und der Trend geht ja dann so Richtung digitales Team.

00:24:48: ich habe mehrere Agents die miteinander kommunizieren und ihre eigenen Stärken mitbringen Und die schließe ich zusammen.

00:24:55: und ich hab letztens auch gelesen dass So ein Agent Multi-Agent System eben dann auch mit weniger Tokens bessere Ergebnisse liefert als würde man jetzt nur einen einzelnen Agent befeuern.

00:25:06: also ... geben sich Synergien anscheinend, also es ist wohl die Zukunft dass es in die Richtung geht.

00:25:12: Das hört man auch sage ich mal so aus dem Feld.

00:25:14: würdest du das bestätigen Robert?

00:25:16: Geht's in die richtung für manche use cases?

00:25:19: Es geht auf jeden Fall in die Richtungen.

00:25:21: Ich bin mir bis heute nicht sicher ob Token die richtige Einheit zum Messen sind weil Token eben das Modell für die Preisabrechnung und natürlich token pro Sekunde.

00:25:32: wie schnell kann ich Text generieren wobei man da auch ganz klar Wenn man in die Politik schaut, nur weil jemand sehr schnell reden kann kommt da nicht gerade das Richtige dabei raus.

00:25:42: Und genauso bei Latch-Lengelschmottes also meine gerade lokalen sind jetzt nicht ultra schnell.

00:25:47: ich lass sie länger laufen und länger nachdenken in diesem Sinne und dann kommen auch gute Sachen dabei raus.

00:25:55: und das funktioniert ziemlich gut dadurch dass sich aufteilen kann.

00:25:58: Ich habe einen der ist für Analyse zuständig Fehler suche Schreibt dann darüber einen Bericht, der andere ist dafür da.

00:26:06: Der ist richtig gut für Koden eben vortrainiert.

00:26:09: Der nimmt an diesen Back-Report und macht die ganzen Code Änderungen sauber und ordentlich.

00:26:18: Und dann gibt es vielleicht noch ein Tester, der ist besonders gut im Test schreiben.

00:26:21: Er guckt sich nicht an wie ist das im Code geschrieben sondern wie solls funktionieren?

00:26:25: Schreibt Test und meldet dann zurück hier und da funktioniert's.

00:26:29: Durch diese Spezialisierung Die in einem ganz normalen Team auch kann ich stärken und schwächen, wunderbar optimieren.

00:26:37: Und miteinander Synergien bilden.

00:26:41: Super!

00:26:41: Also mir gefällt vor allem der Aspekt mit der Souveränität dass du da echt weder Kosten noch Mühen gescheut hast das ganze mal zu Hause abzubilden und damit natürlich auch einen tollen Ansatz bietet.

00:26:53: jetzt auch für die Hörer was man sich darunter vorstellen kann.

00:26:56: wir oft reden immer Leute darüber aber Man versteht das nicht, ich hab's verstanden Robert was du da machst und wenn es da mal Fragen gibt dann kann man sich doch bestimmt mal an dich wenden.

00:27:06: Und vielleicht den einen oder anderen Tipp erhaschen?

00:27:08: Oder wie man jetzt als Entwickler vielleicht der gerade keinen Job hat, vielleicht da doch den ein oder anderen tipp abholt oder

00:27:15: auf jeden Fall bin über mastodon linked in diese ganzen anderen Social Media die rumschwören bereichbar.

00:27:24: email ist natürlich auch immer super.

00:27:26: Man kann auf meiner Website auch alles finden, auch meine ganzen Vorträge.

00:27:30: Vorträge gibt es ja demnächst auch wieder auf der Hacker-Kiste.

00:27:33: Absolut!

00:27:35: Schaut unbedingt mal bei Robert auf der Homepage vorbei – ich habe gesehen du machst auch viel Kunstfotografie, korrekt?

00:27:41: Fotografie.

00:27:43: Ich erinnere mich, muss man wieder draufgucken und deine Bilder haben mir sehr gut gefallen.

00:27:46: Also hier Robert, nicht Multi-Edge, multi Talent, nicht nur Software sondern auch drum herum was eben den Menschen ausmacht

00:27:56: Bleibt neugierig.

00:27:57: Ja, bleibt neugirig.

00:27:58: genau Das ist es.

00:28:01: das sind die Auswirkungen.

00:28:02: also wir es verändert sich Es wird digitaler in manchen Bereichen wo halt jetzt eben sage ich mal die Effizienzvorteile generiert werden erst des Jobbild verändern sich ein bisschen.

00:28:13: Man sollte AI Fluent werden wie man so sagt.

00:28:17: man sollte verstehen was da passiert.

00:28:18: darum ist es ganze.

00:28:19: vielleicht sind Buzzwords und eine Menge theoretisches Gerede heute in der Folge gewesen, aber es ist doch wichtig.

00:28:27: Weil auch die Berufe immer mehr natürlich in die Richtung gehen und das eine extra Qualifikation ist, die man braucht um da auch, sag ich mal sich weiterzuentwickeln können wie du auch gesagt hast persönliche Produktivität, aber auch man kann die Tools natürlich nutzen auch im berufen die nicht digitalisiert sind um dort Lösungen zu finden ... kennen genug Leute, die zwanzig Jahre in der Branche leben und sie ständig über das selbe aufregen.

00:28:51: Hey nutzt doch die Tourismar und findet eine Lösung!

00:28:54: Findet Lösungen für die Probleme?

00:28:55: Dann ist uns allen irgendwie geholfen.

00:28:57: Vielleicht ist jetzt der Call to Action... Ich mache das schon den ganzen Tag.

00:29:01: Ich suche den ganzen Tageslösungen für Probleme also nicht nur mit ChatGPT oder irgendwelche Language Mods sondern auch mit meinem Hirn in der Regel aber genau gut.

00:29:12: Robert vielen vielen Dank für deinen tollen Background zum Thema large language Modelle und ich denke, da kommt einiges noch die nächste Zeit.

00:29:21: Und vielleicht noch zum kurzer Teaser?

00:29:23: Wir haben ja jetzt hier auch wieder den Podcast so ein bisschen in geregelte Bahnen gebracht.

00:29:27: Darum seht ihr auch anhand der Historie das war jetzt eine Folge nicht jedes Jahr eines sondern es kommen wieder mehr genau und nicht immer nur der Robert oder Nikolas Sondern es kommen auch wieder neue Gäste und altbekannte Gästen da.

00:29:40: stay tuned wie man so schön sagt.

00:29:43: Genau!

00:29:43: An dieser Stelle Vielen Dank, dass du auch wieder dabei warst.

00:29:46: Und wenn dir der Podcast gefallen hat dann lass uns gerne Abo oder ein Like eine Bewertung oder gerne auch einen Link im Kommentar da und wir sehen uns oder wir hören uns in dem Fall beim nächsten Mal!

00:29:57: Bis dann tschö

00:29:59: tschau.