Digitale Souveränität 2.0: Wie Menschen mit Open Source und Agents gewinnen

00:00:13: Wir nehmen halt tatsächlich eine Live-Podcastfolge auf.

00:00:15: Das heißt, wir haben hier diverse Spuren über die Mikros im Nachgang im Schnitt.

00:00:20: D.h.,

00:00:20: die ersten dreißig Minuten sind so ein bisschen Panel-Diskussion.

00:00:23: Wir beleuchten das Thema Digitale Souveränität zwei Punkt Null.

00:00:26: Das heisst warum zwei Punkt null?

00:00:28: Wir haben letztes Jahr auf der Hackerkiste schon mal das erste Mal ne Live-Podcastfolger aufgenommen.

00:00:33: Das war am Abend wo eigentlich die Energie schon raus war und trotzdem war es mega cool!

00:00:38: Und da sind wir so n bisschen abgetaucht.

00:00:40: nur noch einmal kurz als Rahmen... eher in die Tiefe, also wirklich bits and bytes.

00:00:46: Was bedeutet Souveränität Richtung Chipproduktion und so weiter?

00:00:50: Also digitale Souveräenität.

00:00:51: nochmal zusammengefasst, die Kontrolle behalten!

00:00:53: So jetzt erstmal zum Setup.

00:00:56: wie gesagt jederzeit gibt es die Möglichkeit wenn ihr euch einbringen möchtet.

00:01:00: wir haben ein viertes Mikro sozusagen bei Easy, die uns heute unterstützt und Easy geht dann gerne zu euch, gebt euch das Mikro Fragen stellen, kommentieren etc.

00:01:12: am besten per Handzeichen.

00:01:13: So

00:01:14: noch eine Instruktion wir haben ein paar Folien mitgebracht weil es glaube ich immer ganz gut ist ein bisschen zu visualisieren.

00:01:20: Ich werde jetzt nicht alles vorlesen was drauf steht ich habe heute auch keine Brille dabei.

00:01:24: aber der Punkt ist ihr könnt dann eben auch mitmachen.

00:01:29: also wir haben auch ein paar fragen mit darauf.

00:01:31: das werdet ihr gleich sehen.

00:01:33: nur so als Anleitung heißt ihr müsst solltet bitte die hand heben.

00:01:36: wenn so ne wie viel nutzen?

00:01:38: das kommt ja Weil.

00:01:40: dann können ich noch mal sagen, Sophie haben es genutzt und auch die Hörer danach.

00:01:43: Weil der Podcast auf allen Plattformen im Nachgang veröffentlicht wird.

00:01:47: also wir sind jetzt glaube ich bei der über neunzigsten Folge.

00:01:50: das heißt auch noch als letzter Disclaimer Wir gehen davon aus alles was jemand sagen möchte dürfen wir auch veröffentlichen.

00:01:56: Und wenn's nicht so sein wollte oder man im nachgang denkt Oh Gott!

00:01:59: Was habe ich da jetzt gesagt?

00:02:00: Das gehört nicht zu gut Können wir es natürlich rausschneiden.

00:02:03: Dann kommt einfach auf uns zu Okay

00:02:05: So

00:02:06: Gut.

00:02:07: Ansonsten schwieriges Thema Digitale Souveränität.

00:02:10: dann mache ich jetzt einfach mal den Einstieg.

00:02:12: Also die Message auch wir, wie Menschen ja mit Open Source und Agents gewinnen das ist so die Zielstellung.

00:02:20: Wir wollen irgendwo alle der Gesellschaft was zurückgeben und da müssen wir irgendwie etwas Positives damit bewirken.

00:02:24: Das versuchen wir heute in der Folge rauszuarbeiten, dass zu unserer Zielstellung.

00:02:28: Wie gesagt wir sind zu dritt Burn for IT JP Daniel und Ich Und wir haben auf der ersten Folie Die wir im Nachgang natürlich auch für die Hörer die jetzt remote vielleicht schon zuhören veröffentlichen.

00:02:40: Noch mal unsere Folgen kurz mitgebracht, worüber haben wir so berichtet in letzter Zeit also breite Spektrum Menschen und IT?

00:02:46: Also wir hatten auch interessante Gäste wie den Cyberkriminaldirektor Kast Maiwirt an Bord aber auch so Themen wie einfach LLMs verstehen oder die Maske fallen lassen was bedeutet das Authentizität im Alltag zu zeigen und dass ist oft nicht so einfach.

00:03:03: und denke ich darum werden wir heute Publikum, da wieder spannende Themen herausarbeiten.

00:03:08: und jetzt gucken wir erstmal was läuft denn gerade in den Medien zum Thema digitaler Souveränität?

00:03:13: Und da haben wir natürlich einiges in den Schlagzeilen.

00:03:15: Ich möchte das einfach mal so wirken lassen.

00:03:18: also auch in der Politik ist das Thema natürlich Agents-Large Language Modelle Open Source sehr vertreten und wir sind uns alle glaube ich noch nicht so einig und bleiben oft auch hängen und sind zu wenig pragmatisch.

00:03:32: Ja, also das ist einfach sowas was wir gerade mitnehmen auch aus dem Medien.

00:03:35: Da wollen jetzt gar nicht werden die Sachen sind so wie sie sind und wir möchten alle etwas besser machen ja?

00:03:40: Also deswegen auch sollte man sich den Technologien und den Werkzeugen widmen.

00:03:44: Wir haben eine riesige Chance in unserem Zeitalter Industrie vier Punkt Null etc.

00:03:48: viele Open Source Tools, die wir einfach runterladen können.

00:03:51: Das Internet ist wirklich offen geblieben Und wir haben die Möglichkeit Die Sachen auszuprobieren Mit einer gewissen Handhands on Mentalität.

00:03:59: Das ist, glaube ich auch das was die Heckerkiste ausstrahlt.

00:04:01: Und darum sind wir auch mega happy dass wir das heute mit euch machen dürfen.

00:04:05: und jetzt kommen noch mal auf das letzte Thema des.

00:04:09: Wir hatten nämlich woran knüpft der Podcast letztendlich an?

00:04:12: An Die Letzte Folge.

00:04:14: und da hatten wir den Aufhänger also zwanzigster Zehnt oder zweitausendfünfundzwanzig Erinnert euch da war irgendwas Also irgend so ein Dienst wo ganz viele Leute drauf gebaut haben hat einfach gesagt Ich mach nicht mehr.

00:04:27: ja Ja, da waren die lustigsten Konsequenzen.

00:04:30: Also das zeigt auch wie abhängig wir von den manchen Themen sind aber auch wie selbst schuld wir sind nämlich wer stellt sich ein smart bet in Schlafzimmer dass dann irgendwie einen vielleicht tutet?

00:04:41: genau also auch da das haben wir festgestellt das letzte mal Wir sind sehr abhängige und es hat gewisse Gründe.

00:04:47: Und jetzt kommen ja so ein bisschen zum hauptal.

00:04:49: und auch wo tp und dania jetzt so ein bischen im ersten Schritt ihre sicht einbringen Nämlich Genau, kommen wir gleich zum Hauptteil.

00:04:57: und jetzt erst noch die Frage wie ich gesagt habe.

00:04:59: Also auch in Deutschland nutzen wir natürlich KI mittlerweile sehr intensiv.

00:05:04: Und da gibt es natürlich Zahlen, die weltweit sind.

00:05:07: Die wollte ich jetzt nicht nennen.

00:05:08: Wir kommen gleich mal auf die Umfrage aber rund einer von einhundertsechzig Menschen auf der Welt hat eine Subscription by Claude Bay was auch immer Und das ist extrem wenig.

00:05:20: Wir sind noch nicht in der Marktdurchdringung und KI ist eigentlich noch ganz am Anfang, auch wenn wir denken, das Hype-Thema ist schon extrem durchgestartet aber da kommt noch eine Menge.

00:05:29: Jetzt wollen wir ins Publikum gucken und uns mal fragen wie viel nutzt es denn bei uns hier auf der Hackerkiste?

00:05:36: Anzeichen wer nutzt KI!

00:05:39: Das sind hundert Prozent oder das war die Erwartungshaltung.

00:05:41: Ach so,

00:05:42: ja fast.

00:05:42: Ja okay gut, wir drangen noch unseren Teil dazu bei.

00:05:45: Also es war unsere Erwartungshaltung, wenn wir in Deutschland schauen ab sechzehn Jahre laut neuesten Umfragen.

00:05:51: Traue keiner Statistik wie das ist die man nicht selbst gefälscht hat genau aber ungefähr die Hälfte aller absehzehnjährigen nutzen irgendwie KI und macht Sinn.

00:06:00: also wir demografischer Wandeln zu deutscher sind natürlich auch eine Herausforderung.

00:06:04: Aber ja gut.

00:06:06: zweiter Punkt wer zahlt für KI?

00:06:08: Hände hoch was sagen wir ungefähr?

00:06:11: Das sind dreizig Prozent dreißig Prozent vierzig Prozent.

00:06:15: Also im Vergleich zum weltweiten Vergleich sind wir absolute Vorreiter hier auf der Heckerkiste.

00:06:19: Das heißt, dreiunddreißig Prozent versus Null Komma Null Eins irgendwie so.

00:06:26: So heisst in Deutschland dreizehn Prozent?

00:06:29: Ja okay!

00:06:31: Jetzt kommen wir zum interessanten Teil weil da kommen wir zu der Hacker Mentalität auch und dem Thema wie wir vielleicht auch diesem Kontrollzwang und der Souveränität wieder gerecht werden können ist Das Thema wer betreibt selbst KI.

00:06:46: Hände hoch!

00:06:47: Wie flammen wir da?

00:06:48: Es wird weniger, natürlich wird es weniger.

00:06:51: Das sind würde ich mal sagen zehn Prozent.

00:06:55: Sechs sieben Handmeldungen sowas.

00:06:56: Siebzig Leute das immer.

00:06:57: Ja genau Fragezeichen gibt's keine wirklichen Statistiken.

00:07:01: also müssen wir noch herausfinden wie sich die nächsten Jahre entwickelt und ich hoffe wir tragen alle unseren Teil dazu bei weil das ist aus unserer Sicht auch ein Weg Richtung Souveränität selbst zu betreiben aber auch nicht der einzige Weg.

00:07:12: gut Danke für die Teilnahme an der Umfrage.

00:07:17: Jetzt gucken wir uns mal die Leitplanken, der heutigen Folge quasi an.

00:07:21: Plattformen, Vertrauen und Kultur.

00:07:23: Das haben wir so ein bisschen identifiziert im Vorfeld und auch ein paar Fragen dazu mitgebracht.

00:07:28: Cipi wenn du dir das mal anguckst hier Richtung Plattform was hält uns davon ab unser eigenes Tooling aufzubauen?

00:07:34: Also gerade eben warum machen wir uns so abhängig?

00:07:36: und was ist da so der Showstop aus deiner Sicht?

00:07:40: Warum wir unsere Abhängigkeit machen?

00:07:43: Mit Sicherheit, Gewohnheit.

00:07:45: Wir wollen Sachen erst mal testen wir wollen Sachen einfacher machen und wir wollen vor allen Dingen um eine gewisse Geschwindigkeit hinzubekommen ins Doing erstmal kommen.

00:07:55: das was uns ja oft irgendwie zugesagt wird oder nachgesagt wird ist wir overingenieren hier in Deutschland.

00:08:01: wie gehen nicht mit Achtzig Prozent Produkten auf dem Markt sondern nur mit hundert Prozent In vielen Produkten, das dann so ist in die letzten zwanzig Prozent.

00:08:09: Die längsten, die schwierigsten oder die am am härtesten Zerreichenden.

00:08:13: also was wir hier machen ist eigentlich okay?

00:08:15: Wir wollen jetzt mal loslegen!

00:08:16: Wir wollen etwas kennenlernen und so ist es auch.

00:08:19: ich vergleiche das ganz gerne bei mir.

00:08:21: wenn wenn Ich anfangen Und ich bin...ich liebe es Lego zu bauen.

00:08:26: Ich liebe es generell zu basteln, zu puzzlen oder sonstiges und gerade beim Lego ist es so ich lese mir nicht die Anleitung durch Erstmal beim Chat.

00:08:34: Ich gucke an, was für Teile sind drin und dann fange ich mal an zu bauen.

00:08:36: Ja, ich guck mir nur die Seite an und baue die Teile, die drinnen sind zusammen.

00:08:40: Ich mach das halt anders!

00:08:42: Und das ist mein Ansatz.

00:08:44: Ich fange an zu Bauen... ...und dann sehe ich okay, ich habe mich verbaut, gucke ich mal nach?

00:08:49: Okay weiß ich wo ich mich verbauert hab wieder zurückbauen, wieder aufbauen.

00:08:53: Wieder zurückbauten, wiederaufbauen.

00:08:55: und das ist ein iterative Prozess den Ich mir als kleines Kind angeeignet habe.

00:08:59: und so gehe ich mit Toolzummen.

00:09:00: Das heißt, sich fangen an ein Tool kennenzulernen indem ich teste.

00:09:05: Ein paar Fragen stelle... Ich vergleichte es dann mit anderen Tools.

00:09:08: Ich habe angefangen mit ChatGPT was wahrscheinlich die meisten von uns getan haben.

00:09:12: Hab Fragen gestellt, hab mal ein paar Dokumente mit reingeworfen komplett blauäugig.

00:09:16: Habe mir über Souveränität gar keine Gedanken gemacht?

00:09:19: Und hab dann gebaut!

00:09:21: Hab rausgeguckt was passiert.

00:09:23: Dann habe ich mal mir die ersten Apps bauen lassen.

00:09:26: Ich hab seit ein paar Jahren angefangen Golf zu spielen und war zu geizig für eine Golf App zu bezahlen.

00:09:32: Also habe ich gesagt, komm' ich vibecode mir meine Golf App!

00:09:35: Und dann kommen irgendwann die Regularien nämlich okay wie kriege ich denn jetzt meine ganzen GPS Koordinaten in die Golf App?

00:09:40: Wie funktioniert das eigentlich?

00:09:42: also ich habe die KI komplett laufen lassen... ...und nichts ist passiert.

00:09:46: Dann habe ich festgestellt ok wo läuft es ganz eigentlich?

00:09:49: und was passiert mit meinen Daten?

00:09:50: und dann bin ich erst dahinter gekommen hey Vielleicht kann ich das ja selbst betreiben, weil dann habe ich die Hoheit über die Daten.

00:09:57: Dann kann ich auch meine Fotos integrieren, weil in jedem Foto ist eine GPS-Koordinate.

00:10:02: Die kann ich da nutzen um eben die Abstände zwischen Abschlag und Loch in der Golf-App zu nutzen oder sonstiges Und hab angefangen mich da reinzugraben.

00:10:11: Es hat aber immens viel Zeit gekostet Wirklich immens viel zeit bis ich mein Toolstack überhaupt mal so vorbereitet habe.

00:10:17: vor allen Dingen mit keiner Grafikkarte Ist ja auch schwierig eine zu bekommen

00:10:21: halbwegs zu

00:10:22: zu fernen Preisen oder Konditionen.

00:10:25: Und dann bin ich wieder einen Schritt zurückgegangen, habe gesagt okay warum startest du nicht so?

00:10:33: Wer ist der deutsche Weg jetzt so zu starten und sagen hey ne bevor wir überhaupt irgendwie starten müssen wir es erstmal vollkommen durchdenken.

00:10:41: Oder ist das vielleicht eher der internationaler oder vielleicht eher amerikanische Weg loszugehen zu testen, zu bauen Und dann einfach zu sehen, was passiert und die Regularien nachher sich Gedanken drüberzumachen.

00:10:55: Daniel wenn du jetzt mal auf das Gesagte von Chipi diese Mentalität man testet natürlich erst einmal über large language Models Software as a Service eignet sich das Wissen an weiß noch gar nicht dass man Souveränität verliert und vielleicht seine Daten verkauft.

00:11:10: wie siehst Du das mit dem Thema Vertrauen?

00:11:12: Was bewegt Dich dazu?

00:11:14: es ist sicher das Testen zum Beispiel den Profoff Concept zu machen Solange das in einem Lab passiert, was abgeschottet ist, ist überhaupt kein Thema.

00:11:24: Aber die Schwierigkeit ist halt.

00:11:26: wenn ich das Ganze größer sehe und der App wächst, was auch immer ich entwickel wo auch immer KI mit dabei ist dann muss ich halt gucken welche Daten gebe ich der KI?

00:11:39: Ich habe bei mir auf Arbeit einen Vertriebskollegen gehabt er einfach ein Problem hatte gesagt ich hab hier eine Kundenausschreibung Riesendokument.

00:11:49: Ich weiß gar nicht, wer von uns das kann.

00:11:52: So!

00:11:52: Ich würde das jetzt eigentlich gerne der KI geben weil die KI kann matchen.

00:11:58: was wird an Skill gebraucht mit unserer Mitarbeiter-Datenbank?

00:12:02: wo drin steht Wer hat welchen Skill?

00:12:04: Aber ich kann es nicht reinwerfen Weil ich dann die Kundendaten der KI gebe und die KI... Ich weiß nicht was sie damit macht.

00:12:11: Was mache ich jetzt?

00:12:12: Ja und im Endeffekt hat man nur die Variante entweder nimmt man komplette Daten raus alles DSGVO-Daten in irgendeiner Form sind oder man wirft das Ganze in eine lokale KI, die wiederum abgeschottet ist.

00:12:28: Das heißt eigentlich hast du null Vertrauen und generell selbst wenn es privat gehostet ist, das Modell ist vielleicht open weight aber weißt du wirklich was passiert?

00:12:40: Genau.

00:12:41: also ich muss halt sicherstellen dass nichts ablesen kann.

00:12:43: Es gibt schöne Beispiele.

00:12:46: waren jetzt vor paar Wochen erst ein paar Forscher, die mit einer KI gemeinsam im Endeffekt an der neuen Technologie geforscht haben und das hat eine Konkurrenz mitbekommen dass sie daran forschen.

00:13:00: Und die haben dieselbe KI gefragt, ein Public Model, haben die gefragt und das Modell hat von den einen Forschern gelernt wie es funktioniert und den anderen Forschern erklärt wie's funktioniert.

00:13:11: Das ist natürlich ein Riesenthema.

00:13:13: Es wissen was abwandert wo die einen Forscher das der KI beibringen, wie es funktioniert und die anderen davon profitieren.

00:13:20: Das geht natürlich nicht!

00:13:22: Das muss verhindert werden am Ende.

00:13:25: Gut ich glaube jetzt gehen wir mal so durch alle drei Bereiche mal durch.

00:13:27: Ich möchte das Thema Kultur jetzt nochmal ein bisschen beleuchten Und ich glaub was uns auch in vielen Podcast-Folgen bewusst geworden ist Wir sind einfach Gewohnheitstiere.

00:13:36: Wir sind Menschen, wir machen immer die gleichen Dinge.

00:13:39: Wir wollen es möglichst einfach haben und darum ist auch der Ansatz also dieser natürliche Ansatz.

00:13:47: Ich

00:13:48: prompte ja da jetzt mal was und gehe mal mit der Lösung ins Rennen und denke hinterfrags nicht.

00:13:52: Also ich bin vielleicht auch gewohnhaltstier, ja?

00:13:55: Und vertraut darauf was rauskommt und macht es immer wieder und immer wieder.

00:13:59: Da gibt's auch eine Harvard-Studie dazu.

00:14:02: irgendwann haben wir auch keinen Gehirn mehr.

00:14:04: also das ist halt auch so ein Thema.

00:14:06: Das kritische Denken am Ende des Tages ist halt einfach auch wieder ein Kulturthema.

00:14:10: habe wirklich das Bewusstsein, die Sachen nochmal zu challengen oder nehme ich es einfach für bare Münze.

00:14:16: Ja und was ich damit noch sagen will ist wenn ich am Ende des Tages irgendwie damit leben kann ja aber das ist auch das Souveränitätsthema.

00:14:25: Ich habe meine Souveranität dann schon längst abgegeben und ich werde sie auch nie wieder erlangen können.

00:14:29: also und die Frage ist auch wie ändern wir eben diese Gewohnheiten?

00:14:33: Und Ende des Tages bringen wir auch die energie auf überhaupt das tooling einzusetzen also das tooling dass man vielleicht entdeckt.

00:14:44: Und vielleicht magst du da den ball noch mal aufnehmen?

00:14:47: Vielleicht bevor wir den ball aufnehmen und da wir ja in der schönen situation sind, dass wir publikum haben und live podcast Mal ein zwei fragen noch gerne mit handzeichen wer von euch.

00:14:58: Coded tatsächlich mit einem kaetool?

00:15:00: also wer von euch nutzten kaetools?

00:15:03: benutzt die claudia?

00:15:04: wer nutzt Codex oder sonstiges und arbeitet damit täglich.

00:15:08: Okay, das ist ungefähr das was ich erwartet habe!

00:15:10: Und wer nutzt jetzt

00:15:11: die Haie

00:15:12: anstatt Google?

00:15:14: Also wer schmeißt seine Frage, die er hat zum Beispiel ich suche mir einen neuen Keramik-Grill frage ich jetzt google und sage hey Ich würde gern bericht finden über ein keramik grill oder schicke ich das in irgendeinen AI Chatbot?

00:15:30: Es ist auch aufspannend weil ich hab mich dabei ertappt vor keine ahnung Anfang des Jahres dass ich eigentlich alles nur noch in TCBT reingeballert habe, was ich irgendwie recherchieren wollte.

00:15:41: Und dann ist mir mal aufgefallen erstens es ist ein Riesentext vor allem und er probiert immer wieder etwas rein zu interpretieren.

00:15:47: das heißt du musst ihm schon genauer Vorgaben machen.

00:15:49: Genauer vorgaben die wir übrigens auch brauchen wenn wir eine Plattform halbwegs Souverän betreiben wollen oder generell Souveränen betreiben und die gibt's mit Nissan Dora was uns allen bewusst ist ja das sind vielleicht Stolperstein am Anfang Aber ich habe alles reingeschmissen, dann kam irgendwie tausende Outputs raus und im Endeffekt habe ich mehr Zeit damit gebraucht mit meinem Tool zu argumentieren.

00:16:11: Als ich in Wirklichkeit gebrauchte um zu recherchieren oder mir

00:16:14: selbst

00:16:15: Stiftung-Warentest Text durchzulesen die ja eigentlich früher gang und geben waren wenn du irgendwas kaufen wolltest hast mal geguckt okay stiftung warntest Keine Ahnung irgendwelche Reviews.

00:16:28: Jetzt nicht unbedingt von Influencern, das ist ja auch gestiegen wieder und das Thema.

00:16:32: aber du hast jetzt angeguckt, du hast gelesen, du warst recherchiert und hast dann eine bewusste Kaufentscheidung getroffen die du getroffen hast.

00:16:39: Mittlerweile trifft man Kaufentsscheidungen auf Basis von Referenzen von KI.

00:16:44: Das heißt wir nutzen im Endeffekt die KI als besseres Google.

00:16:48: am Anfang was für mich Perplexity.

00:16:51: Das habe ich dann aber gekündigt, weil es nicht ganz so funktioniert hat wie ich mir das erhofft hab und dann war's irgendwann JETZYBETY.

00:16:57: Ja im Ende des Tages was du sagst man hat nen News Case und ist wirklich LNM jetzt die richtige Lösung?

00:17:03: oder genau kann man das überhaupt noch abwägen?

00:17:06: vertraut man da drauf?

00:17:08: Und ja wo du gerade gesagt hast mit ja dann stellt das ja dann quasi schon für mich.

00:17:15: also da reden wir vielleicht auch schon über Agentic AI Dass ich sage, ich denke gar nicht mehr drüber nach.

00:17:19: Ich habe irgendwie eine Liste fürs Jahr, such mir die günstigsten Preise raus, gebe das mit und dann bestellen wir das antizyklisch etc.

00:17:28: Am Ende des Tages... Was lagen?

00:17:29: Genau genau.

00:17:32: Mobile Klimaanlagen.

00:17:33: Ich hab viel zu spät dieses Jahr wieder gekauft im altbau.

00:17:36: Es war turbo heiß.

00:17:38: es war unfassbar heiß.

00:17:39: wenn dieser Altbauwender einmal Temperatur aufnehmen keine Chance.

00:17:43: Und dann habe ich halt geguckt.

00:17:44: Ich war gerade beim Kunden, die haben gesprochen hey das gibt da so ein tolles Modell von Midea mit Außengeräte und allem.

00:17:52: Das kann man auch ganz günstig kaufen.

00:17:54: Ich hab es nicht mehr gefunden.

00:17:55: was habe ich gemacht?

00:17:56: Erst mal ein bisschen recherchiert geguckt.

00:17:58: Dann habe ich mir einen Bot geschrieben der auf Basis von Chachibiti des Internet scraped und dann hat er einfach mir die besten Preise rausgefunden bis ich festgestellt habe heute gibt's hier von heisse sogar eine Webseite.

00:18:09: also

00:18:09: dafür werden diese Tools missbraucht Und dadurch werden wir faul.

00:18:13: Musste gerade noch mein passendes Zitat rausholen, wenn wir unsere Werkzeuge nicht bewusst nutzen benutzen und uns am Ende die Werkzeugel uns.

00:18:22: Ja

00:18:23: also es ist glaube ich der Punkt den wir so ein bisschen darstellen.

00:18:26: Es ist eine Gewohnheitssache und das ist eine Plattform Sache.

00:18:30: Also wir haben gewisses Tooling dass wir verwenden können Wenn wir das Bewusstsein haben und am Ende des Tages Haben wir das Vertrauen da drin?

00:18:37: Können wir das vertrauen überhaupt noch haben?

00:18:40: Hängt es immer an dem Use Case?

00:18:43: Ich nenne mein Beispiel von mir.

00:18:45: Also ich bin auch komplett gehypt vom Agentec AI-Thema, ja also ich sehe, ich kann mir ein Team an Agents aufbauen.

00:18:52: die haben eine gewisse Persönlichkeit den kann ich Skills mitgeben.

00:18:55: Die kann ich per nativer AI Integration verbinden oder die haben ihre eigene VM eine virtuelle Maschine in eigenen Computer.

00:19:02: jeder Agent kann seine eigenen Kommands ausführen lernt von meinen Prompts.

00:19:07: Ich kann den hin zeigen wo ich will natürlich die plattform die ich anbinde.

00:19:11: Ich gebe meine zugangsdaten weiter.

00:19:13: sind die Zugangstarten?

00:19:14: in diesem Modell oder in diesem System gibt es ja genug Open Source Tolls können wir noch kurz drauf eingehen im nachgang?

00:19:20: aber was passiert?

00:19:22: wirklich keine Ahnung also was passiert, wirklich darum für mich ist alles unsicher in dem Bereich wenn ich sag ich nehme irgendwas Public also ob's ein Claude ist Ob's ein Chatty bt ist was auch immer Grogg Bord Im Hintergrund.

00:19:34: Aber ich will ausprobieren.

00:19:35: ich hab use cases Ich vertraue ihm nicht, aber ich fange trotzdem an die Plattform mal zu evaluieren.

00:19:41: Und am Ende des Tages, wenn... ...ich die Zeit hätte, würde ich es vielleicht auch privat machen.

00:19:46: Aber das ist genau das Thema!

00:19:47: Was hält uns davon ab?

00:19:49: Regularien oder die Angst davor, nichts zu verstehen was der Outcome is'.

00:19:54: Wir hatten's heute Morgen glaube ich in der Keynote.

00:19:57: Wer soll denn in fünf Jahren überhaupt noch in der Lage sein als Senior irgendwie kurz zu reviewen?

00:20:04: Wenn ich jetzt als Unwissender und ich Nehmen jetzt mal jemand aus dem Familienkreis der, der zu mir kam und gesagt hat hier.

00:20:13: Wie soll ich ihn?

00:20:14: Ich würde gern mit tpt arbeiten wie soll ich das machen?

00:20:17: ist okay was hast du für newscase?

00:20:19: erst wisst er noch nicht so genau.

00:20:20: ok dann versuch doch mal mit zone modell zu erarbeiten was denn in use case für dich sein kann.

00:20:28: schreibt mit ihm sprich mit ihm gib ihm mit was du brauchst.

00:20:32: da ist eine höhe weil ich muss ja selber jemandem den Ich kann ihn auch nicht ansehen.

00:20:37: Ja, ich gebe von mir Sachen Preis, bekomme aber nichts zurück und im Endeffekt versuche da ja zu analysieren was ich versuche ihm

00:20:45: mitzugeben.".

00:20:46: Ich glaube das ist eine Hürde dass wir als Menschen oder vielleicht ist es auch Teil unserer Mentalität.

00:20:53: Das kann ich nicht belegen.

00:20:56: Ich ertappe mich oft selbst dabei Dass wir Angst haben Respekt haben davor dass wir nicht wissen, was das Outcome ist und den das Outcom nicht bewerten können.

00:21:07: Und vor allen Dingen die Wissen, was dann am Ende wirklich im Hintergrund passiert?

00:21:12: Und die Plattformen, die unten drunter liegt gerade wenn wir jetzt über Compliance Themen sprechen, ist halt ein entscheidender Faktor weil am Ende haben wir eine Hülle an Tools und zwar eine Riesenhöhle an Tools.

00:21:25: ja Wir können gleich mal auf ein paar Tools eingehen aber wo fange ich denn jetzt an?

00:21:30: womit arbeite ich?

00:21:31: Suche mir ein Blog raus, der das vielleicht mal durchgebaut habt.

00:21:35: Baust nach, stellt es nach, versuche meine eigenen Ideen damit zu entwickeln.

00:21:38: also wo ist der Startpunkt?

00:21:40: Und eine Plattform kann dir diesen Startpunkt abnehmen indem sie einfach für dich Entscheidungen trifft.

00:21:46: Du hast ne Anfrage die eine Recherche an Frage isst.

00:21:49: Die Plattform entscheidet für Dich Mit welchem Tool recherchier ich?

00:21:54: Du hast eine Code Review.

00:21:55: mit welchem tool wird die Code Review gemacht?

00:21:57: Und am Ende bist du nur noch Konsument und musst dir über diese Themen keine Fragen stellen, weil die Plattform das automatisch für dich machen kann.

00:22:05: Und dann sind wir an dem Punkt wo wir sagen hey!

00:22:08: Die Plattform muss nach regularien NIST Dora whatever aufgebaut sein.

00:22:13: Das integrieren wir von Anfang an mit in die Plattform Anstatt es nachzulagern und reinzuballern.

00:22:19: Der Konsument kann konsumieren.

00:22:21: Dann haben wir Geschwindigkeit, da müssen wir auch die Angst nicht haben wie nur das Vertrauen aufbringen müssen in die Plattform, die vielleicht lokal bei meinem Arbeitgeber gehostet wird oder vielleicht in einem komplamenten Szenario aufgebaut wurde und wir können loslegen.

00:22:38: Aber was uns hindert?

00:22:39: In Respekt vor Unvorhersehbarkeiten, Angst vor Unsäb- ähm... vor unvor hersehbarekeiten und vielleicht auch die Angst gar nicht zu wissen, was da als Outcome ist und dass man es vielleicht nicht bewerten kann.

00:22:55: Ja, die Plattform hilft ja halt auch gerade dadurch dass sie compliant ist.

00:23:01: So Themen, die halt relevant sind einfach automatisch mitzumachen.

00:23:05: also gerade für Compliance brauchen wir immer eine Form von Verschlüsselung.

00:23:09: Wir müssen halt sicherzustellen das Daten die irgendwo abgelegt werden egal ob Nutzdaten für die KI von mir aus die da drauf zugreift oder die in der KI gerade verarbeitet werden, also in der Vektor-Datenbank stehen.

00:23:24: Die im Memory auf der CPU von der KI laufen, dass das alles verschlüsselt ist so da die Zugriffe entsprechend auch sicher sind.

00:23:32: Dass man nicht hingehen kann und da was rausholen kann an relevanten Daten.

00:23:38: Und am Ende sind die ganzen Regularien eher so gestrickt eine Guardrail haben, die uns in die Richtung führt wo wir auf einem sicheren Terrain sind.

00:23:50: Und wenn wir die Regularien ignorieren dann springen wir quasi über unsere Bande hinweg und hoffen halt dass der Boden da noch gerade ist.

00:23:59: ja also wenn ich bei der Autobahn irgendwo die Böschung runterfahre dann wird es wahrscheinlich genauso gut laufen wie mit so einer AI-Lösung... Ich bin

00:24:09: mir nicht sicher mit deinem Auto und deinen Sitzen können's klappen!

00:24:14: Mein Auto ist tiefer gelegt.

00:24:15: Ich komme die Böschung gar nicht runter.

00:24:19: Die Idee ist halt schon, dass man sich damit auseinandersetzt... Man muss es ja nicht verstehen!

00:24:25: Man kann ja die KI nutzen und fragen, pass auf ich möchte hier was machen.

00:24:30: Erklär mir mal für den Use Case Dora, erklär mir das Zwo, erkläre mir DSGVO.

00:24:36: Wo ist das relevant?

00:24:37: Wo muss ich aufpassen?

00:24:38: Was sind die Fallstrecke, die ich beachten muss?

00:24:42: Wo muss ich vielleicht an den Kryptchen denken?

00:24:45: Wo muss sich vielleicht an Zuggriffe denken, sicherstellen dass nur die richtigen Leute an dir Informationen kommen.

00:24:52: Und dann sind wir vielleicht einen Punkt wo die KI dir eine Textwall von dreihundert Seiten ausspuckt du da auch wieder durchhalten musst und...

00:25:03: Ja man kann immerhin gehen erklär's mir als wäre ich fünf her.

00:25:06: aber dann ist halt der Content auch eher überschauer klein.

00:25:11: Man muss halt Man muss halt schon sich durch die Textfolie im Zweifel ein bisschen durchwühlen und Regularien sind, halt nun mal von Natur aus Textwände.

00:25:20: Aber das ist halt wichtig!

00:25:22: Ja deshalb von Anfang an mit rein.

00:25:25: Direkt beim Entwickeln von Plattformen direkt mit rein?

00:25:28: Beim Brainstorm im Endeffekt schon an die Regulation.

00:25:31: Das dauert

00:25:31: vielleicht einen Tick länger bis die Plattform fertig ist und nutzbar ist.

00:25:35: aber im Nachgang das alles einzuziehen, sich darauf zu verlassen dass es eingezogen ist dauert und kostet mehr.

00:25:43: Ich habe viele Kundenumgebungen gesehen, die tolle Ideen hatten, die daran gescheitert sind am Ende vom Proof of Concept in Produktion zu gehen weil die Regulation einfach nicht mehr implementierbar waren, weil es einfach das Budget nicht hergegeben hat, weil's zu komplex war und die ganze Funktionalität kaputt gemacht hätte, hätten je von Anfang an das mit dazugenommen wäre es halt viel einfacher gewesen.

00:26:06: Super!

00:26:07: Dann schauen wir doch mal pragmatisch auf den Toolstack.

00:26:10: Ich glaube, ihr beide habt mehr experimentiert mit Private AI und habt eigene Plattformen gebaut.

00:26:17: Ich würde euch dann mal das Wort übergeben... Ich mach

00:26:18: nur meine Steuer

00:26:19: so!

00:26:21: Ja klar, ich mein wir können ja mal zurück geben ins Publikum.

00:26:27: was ist euch da nicht bekannt?

00:26:30: oder wem sind die ganzen offenen Modelle bekannt?

00:26:33: Mit denen man arbeiten kann?

00:26:35: Und das ist keine allumfassende Liste also

00:26:39: Beispielen und ergänzt es gerne.

00:26:40: Also wir können ja mal langsam in die Diskussion gehen, um das als Vorlage nehmen ein Werkzeugkasten am Ende des Tages.

00:26:47: Wir haben es gesagt gebe ich meine Souveränität von Anfang an ab nutze ich nur JetGPT hinterfrage ich's nicht.

00:26:52: bin ich nicht human in der Loop für ich das auslassig ausführen?

00:26:56: was kommt?

00:26:58: Hinterfrage ich.

00:26:59: die Regulation für Privatanwender für kleine Unternehmen für Großunternehmen kommt auf Juristiktion auf Land drauf an Aber am Ende des Tages, wenn ich anfange zu basteln.

00:27:12: Wo kann ich anfangen?

00:27:13: Was macht meine Idee?

00:27:14: einen Aufschlag?

00:27:15: Welches Tool?

00:27:16: wo würdest du anfangen?

00:27:17: ?

00:27:18: Ich würde wahrscheinlich mit Ulama anfangen.

00:27:22: Einfaches Tool um mal eben zum Beispiel den Mistral als europäische KI-Lösung zu deployen und so gucken wie das ist.

00:27:31: Wie läuft es auf meinem Notebook?

00:27:32: Ich brauche keine Server dazu.

00:27:35: Einfach mal deployen.

00:27:36: Das läuft im Hintergrund auf meinem Notebook, nutzt die Ressourcen, die verfügbar sind.

00:27:40: Braucht dann so lange wie es braucht und das läuft gefühlt auf einer Kartoffel und ist dann halt entsprechend langsam.

00:27:48: Ich mache mir mein erstes Gedanken über den Use Case und entscheide dann womit ich hingehe?

00:27:53: Ja dann nochmal eine Ebene drüber.

00:27:55: was sind so die Use Cases die du siehst?

00:27:57: also ich vielleicht noch einmal kurz das Beispiel von mir.

00:27:59: dieser use case mit agentic ai ist tatsächlich für ein Podcast gewesen für unseren podcast Mal Mit einem Postfach auch E-Mails zu verschicken, Zusammenfassungen an die Gäste

00:28:10: etc.,

00:28:10: wo man schon in der Grauzone ist.

00:28:13: Aber was ist so dein?

00:28:16: Wo würdest du anfangen?

00:28:18: Tatsächlich das, was mich am meisten Zeit kostet weil ich versuche schon wiederkehrende Aufgaben wegzuoptimieren.

00:28:26: also habe ich angefangen und mache meine Steuer über mein lokales LLM Habe ich mir einen kleinen Stack aufgebaut, da werden die Dokumente hochgeladen.

00:28:33: Die werden geteckt.

00:28:34: Ich habe mir ein paar Filter gebaut um das zu machen und... ...jeden Screenshot den ich mache jedes Foto was ich mache, was ich stecke wird automatisch hoch geladen.

00:28:43: Ich würde mich am Ende des Jahres auf einem Knopf drücken und bekomme eine Ausgabe die ich einfach in Visa eintragen kann wenn fertig.

00:28:49: Wo läuft denn der Server?

00:28:51: Der läuft lokal auf meinem Mac!

00:28:53: Okay also hundert Prozent souverän.

00:28:56: Das was sich absehen kann.

00:28:57: ist es souveräne?

00:28:58: ja Ist

00:28:58: der Mac souverén?

00:29:00: Der Mac ist zumindest in der Datenkontrolle unter mir.

00:29:05: Was ist dein Newscase?

00:29:09: Als Preseller musste ich regelmäßig Präsentationen halten und früher habe ich, wenn ich eine Woche Schulungen gegeben hab fünf Tage

00:29:16: pro

00:29:17: Tag eine Woche Slides gebaut.

00:29:20: Das ist so ein Wert der sich irgendwie ergeben hat.

00:29:23: das funktioniert ganz gut für die meisten Schulungen.

00:29:27: Ich will die Zeit einfach nicht investieren für den Workshop, den ich einmal halte von zwei Tagen irgendwie zwei Wochen investieren um Slides zu bauen.

00:29:36: Also gehe ich hin, skizziere mir meine Slides werfe das auf meine kleine KI.

00:29:42: lasst ihr drüber rödeln und probier halt immer mal lokal andere Modelle aus und schau halt was grad gut geht und guck welche Modelle wir taugen.

00:29:53: Das Schöne ist halt Corporate Design Vorlage reinwerfen, kann meine Skizzen rein werfen, die Infos reinwärfen.

00:30:02: Kann sagen hier kommt zieht Corporate design drüber und Die Folien sehen hinterher halt aus als hätte es Marketing gemacht ist halt wirklich schick.

00:30:10: Und da ich den Content reinwerfe funktioniert das auch.

00:30:15: Nachteil daran ist natürlich auch die KI rödelt da dran die arbeitet und gerade wenn sie lokal läuft ist es nenn ... einen Thema, wo ich dann manchmal auch ein bisschen ungeduldig bin.

00:30:27: Also ich mein... ... Cutting Edge und Videografik-Karten sind fast unbezahlbar geworden.

00:30:34: Das heißt wenn man wirklich die neuesten Modelle einsetzen möchte, die nach ausreichenden Größe,... ...dann ist eine inflationäre Situation.

00:30:43: Kann man fast sagen also es wird immer teurer.

00:30:47: Die Modelle werden aber besser.

00:30:49: Aber die Modelle die man nimmt Welche nimm, wo kommen die her?

00:30:53: Welche...

00:30:54: Das sind halt die großen Companies, die im Endeffekt die Modelle trainieren.

00:30:57: Du kannst auch ein eigenes Modell anfangen zu trainieren!

00:30:59: Nur auf deinen Use-Case sind weg, aber die Zeit, die dahinter steht und die Daten, die du erst mal sammeln musst, sind dann obligend dir.

00:31:06: Vielleicht

00:31:08: wollen wir jetzt mal ins Publikum gucken.

00:31:11: Was sind denn so die Use- Cases, die euch bewegen?

00:31:13: Wo zieht ihr wirklich einen Return on Invest, Return on Investment so

00:31:17: gedacht?!

00:31:18: Ihr habt irgendwie ein Ziel.

00:31:20: ihr investiert gewiss viel Zeit rein und seht auch wirklich in den Outcome und könnt sagen hey ich hab zum Beispiel mir eine App Wipe gekotet die wirklich einen Umsatz macht.

00:31:28: wenn ich mal meine Arbeitszeit dich da reingesteckt habe ja es ist Weiterbildung klar aber was sind so die US Cases wo er sagt hey das bringt wirklich etwas.

00:31:37: Wenn jetzt mal nachdenkt und Idealerweise noch, ihr habt sie wirklich in eurer eigenen privaten Umgebung gehostet.

00:31:42: Aber das sind jetzt zwei Bedingungen ist fast unerfüllbar.

00:31:45: Es muss nicht in der eigenen privierten Umgebungszeit sein.

00:31:48: Es geht erst mal... Wer von euch hat sich ein Use Case ausgedacht mit da angefangen dran zu entwickeln?

00:31:54: Ob es jetzt lokal ist, ob's jetzt mit den gängigen Tools ist, mit der Claudia, mit Codex oder was auch immer ihr nutzt.

00:32:03: Hi!

00:32:05: Ich nutze KI momentan und hab einige Use Cases im Bereich Projekt Management, weil ich aus einer Entwicklerrolle

00:32:11: rein gerutscht

00:32:12: bin und dass da nicht ganz die Finger von lassen kann.

00:32:16: Darum ist das was wo ich momentan relativ viel mitmache.

00:32:19: Im Leben zu bin ich ja noch Führungskraft für ein paar Leute und ich nutze es.

00:32:21: Ich habe angefangen mit so Meeting Briefings.

00:32:24: also ich gucke meinen Kalender oder lasse die KI mein Kalender gucken und sage ich hab jetzt mit dem A nexten Termin.

00:32:29: was steht denn so an?

00:32:31: Und dann generiert er mir innerhalb von zwei Minuten einen Sheet und ich gehe nicht umvorbereitet in den One on one oder so.

00:32:36: Ich habe einen größeren Kundentermin und weiß, da hatten wir doch letztens irgendeinen Thema mit XY.

00:32:42: Auch da kriege ich dann eine Zusammenfassung was da aktuell ist oder auch vielleicht Themen die hinten runter gefallen sind wo in der kleine Erinnerung kommt.

00:32:50: und das spinnt sich aber weiter damit weil da gibt's ja tausend Dokumente die man noch generieren kann und muss oder Budget-Vorcasts.

00:32:56: und hast du nicht gesehen wo du vorher Tausend Exelisten hattest?

00:32:59: Und aus einem Million Jira Tickets die Sachen rauslesen musst es auch.

00:33:01: sowas geht super super gut wenn man kein geiles Projekt Management Tooling hat dass man da selber irgendwie angreift und die Zeit fressen so ein bisschen weg automatisiert.

00:33:11: Also das auf jeden Fall in Return, wie sieht es dann aus?

00:33:14: Hast du dir Gedanken gemacht indem ihr Ökosystem über Datensicherheit?

00:33:17: ist es vielleicht schon abgenommen in deinem Unternehmen oder sagst du einfach hoch?

00:33:23: Also ich nutze unser Unternehmensinterner KI-Gedöns und verlass mich darauf, dass das Datensichertstechnisch abgesignet ist.

00:33:32: Die Daten an sich also... Ich arbeite da ganz stupide, also gerade für diese Meeting Briefing mit MD-Files die bei mir auf der Platte liegen und die ich mir in dem Obsidium dann selber angucken kann oder editieren kann.

00:33:43: Und hab versucht das möglichst einfach zu halten an der Stelle.

00:33:46: Und versuch das nicht irgendwo anders liegen zu haben.

00:33:49: aber ich nutze da Claude.

00:33:50: Also Claude ist das Tool das wir im Unternehmen nutzen und das habe ich dafür hergenommen.

00:33:54: Was ist dein Tooling was du vom Unternehmen gestellt bekommst um damit sowas zu machen?

00:34:02: Wir sind da bei einem Anbieter, der nennt sich Week-Requestee und haben dann quasi Token basierte Abrechnungen von... Und können da beliebigste Moderne benutzen die da halt angeboten werden.

00:34:13: Die sind relativ schnell, da die neuesten Tools, die neusten Modelle eben anzubieten und Internetunterstich vom Pricing her.

00:34:19: Klar Kost verdient ja Geld mit!

00:34:21: Eben!

00:34:24: Aber das ist genau also die meisten standardmäßig irgendeinen Claude Opus oder sowas.

00:34:31: Also was günstiges.

00:34:33: also da brauche ich nicht mega krasse Planungsleistung, sondern reichen wir eigentlich für so eine.

00:34:38: lesen mir die letzten zwei mds für den vom Mitarbeiter Gespräch durch und sag mir was sind aktuelle Themen?

00:34:43: Da brauchte ich kein mächtiges.

00:34:45: das geht wahrscheinlich sogar mit dem lokalen nrm.

00:34:48: Wahrscheinlich

00:34:49: bist du dann auch gewillt noch mehr zu experimentieren und das mal komplett zs zu bauen.

00:34:56: Was Kommt drauf an, also jetzt bei diesem Meeting Briefing Tool?

00:35:02: das ist so einfach und stupide.

00:35:04: Das reicht mir.

00:35:05: Jetzt bei diesen ganzen Projektmanagement Sachen da schon ein tatsächliches Tuning daraus entstanden bzw dass habe ich von meinem Vorgänger eigentlich tatsächlich übernommen der aus Jira Tickets Leastar Reports generiert, Forecasts generiert wann das das Budget aufgebraucht solche Sachen.

00:35:20: Das ist natürlich auch klassisch.

00:35:21: mit Cloud entstand man das läuft lokal und zieht sich die Daten aus bestehenden Datenquellen.

00:35:28: Da sind wir schon ziemlich weit, das ist schon fast.

00:35:31: Also da gehen die Features auch nie außen die Verbesserungen.

00:35:35: Das geht dann schon irgendwie in so eine Richtung von einem professionellen Projektmanagement-Tool.

00:35:39: aber

00:35:40: da kauft man sich vielleicht doch lieber hinsichtlich Regulatorie.

00:35:43: und hast du nicht gesehen ein richtiges Tool einen irgendwann?

00:35:46: Also das ist momentan eher so ne Behelfsbrücke.

00:35:48: Das wäre halt auch meine nächste Frage.

00:35:50: also wie kannst Du es sicherstellen dass in Deiner Lösung das regulatorisch, egal ob jetzt DSGVO oder... Aber

00:35:56: muss das als Nutzer sicherstellen?

00:35:58: Weil am Ende hängt da ja ein Unternehmen hinten dran was die Sicherstellung generieren muss und nicht der Nutzer selbst.

00:36:05: Wie stellt das Unternehmen fest dass die Lösung am Ende regulatorisch compliant ist?

00:36:12: Naja genau ich sag mal es gibt eine große Duckelziffer und ich habe viele unter dem gesehen die denken sie sind compliant definitiv und am ende des Tages immer der Mensch dahinter welche Daten er natürlich auch in das System reinbringt, vor allem wenn wir eine Tenancy in dem Unternehmen zum Beispiel haben.

00:36:28: Das ist ein gewisser Teil des Unternehmens, dass nicht davon die einzige Brücke ist.

00:36:31: vielleicht... naja genau aber gut!

00:36:38: Ich finde es eine spannende Frage wie ein Unternehmen sicherstellt jetzt gegenüber Entropic oder OpenAI und den chinesischen Anbietern im Big Deep Sieg?

00:36:47: Und was ich mir schon bisschen fragt Bei Microsoft der fünfundsechzig meine Daten habe oder bei Google im Workspace, dann hat man gegenüber den Unternehmen einen Vertrauen.

00:36:59: Offensichtlich sind alle Daten drin und das Vehikel ist im Prinzip immer das gleiche.

00:37:04: also ich hab halt in der EU Datenschutzgrundverordnung da kann ich einfach ausschließen mit Tom Stralala es gibt diese Pondance mit den Amerikanern kann man jetzt halten davon was man will.

00:37:14: am Ende ist aber die Frage wie viel Vertrauen bring ich dem Unternehmen gegen?

00:37:18: Was wir schon viel sehen, man hat das Vertrauen zu Microsoft zum Beispiel und sagt irgendwie in drei fünfeinsechzig ist alles drin oder bei Google ist alles drinnen.

00:37:27: Und im Prinzip ist doch die Frage dann irgendwie vertraut zur Open AI oder eine Entropic genauso weil die Grundlagen sind da genau die gleichen.

00:37:36: also gibt es diese dpa's die ich halt hab mit den Amerikanern und Die frage haben wir uns auch massiv gestellt und sind dann aber ehrlich gesagt irgendwann eingeknickt, weil er gesagt haben Lord ist halt das mächtigste Werkzeug.

00:37:47: Und wenn wir das mäftigste Werkzeuge nicht nutzen?

00:37:49: Wir haben selber Grafikarten im rechten Zentrum, wir haben eine gewisse Idee was die können und ich würde halt plädieren immer zu sagen also wenn ich die Daten irgendwo eher schon hergegeben habe und ich hab ein gewisses Vertrauen aufgegeben, wenn man so will, dann glaube ich muss mal fast durchziehen sonst wird man halt irgendwie abgehängt oder?

00:38:07: Die Frage ist ja auch wie sehr vertraut man Microsoft?

00:38:12: Weil nur weil meine Daten bei Microsoft liegen, das ist der eine Vertrag wo drin steht dass Microsoft die Daten nicht anguckt vielleicht.

00:38:19: Oder die Daten die die KI am Ende verarbeitet.

00:38:22: Das ist möglicherweise ein anderer Vertrag und dann muss man aber auch überlegen vertraue ich dem Vertrag?

00:38:29: Also ich will jetzt hier nicht kätzlerisch sein oder so Aber dieser Gedanke dahinter reicht mir eine Unterschrift auf dem Stück Papier dafür aus zu sagen Ich vertraue dem Unternehmen meine Daten an.

00:38:43: Oder sind meine Daten für mich so kritisch?

00:38:46: Ist das für mich zu produktionsrelevant, für meinen Unternehmen um die Daten lieber komplett lokal zu halten und das komplett auf eigenen GPUs selber laufen zu lassen?

00:38:56: Ich glaube es ist genau das Thema irgendwie.

00:38:58: Man muss halt abwägen.

00:38:59: also wenn ich wirklich was habe wo ich sage dass mein absolutes Asset und wenn das irgendjemand rausfinden sollte dann keine Ahnung ist die Firma weg.

00:39:05: Dann gehe ich total mit Lokaler KI oder vielleicht gar keiner KI.

00:39:08: Ich glaube die Realität ist aber, dass halt neunundneinzig Prozent der Unternehmen, neun und neuns Prozent der Informationen genau das eben nicht sind.

00:39:15: Und dass wir uns noch häufig ein bisschen im Weg stehen... ...und ich bin absoluter Ferienfächter von Lokaler KI.

00:39:21: und das eben genau dann einzusetzen wenn es Sinn macht.

00:39:24: Aber diese grundsätzliches Gapsis, wenn man halt, wenn ich jetzt mit Entropic einen Vertrag habe und die sagen mir Wir verwenden deine Daten nicht für das Training muss ich doch irgendwie drauf vertrauen, oder?

00:39:36: Weil ansonsten... Also klar.

00:39:37: Ich kann gegenüber Microsoft auch sagen im Zweifel wenn der Geheimdienst in den USA sagt irgendwie greife auf die Daten zu dann wird es den Amerikanern egal sein was da in dem Vertrag steht.

00:39:47: aber die Frage ist halt ist das wirklich die Gefahr die wir da jetzt irgendwie beschützen müssten oder ist das vielleicht egal?

00:39:54: Ich möchte da jetzt kein politisches Fass aufmachen.

00:39:56: ne Das kann ganz schnell in die Richtung abdriften Aber... Was hast

00:40:00: du mal?

00:40:01: Der

00:40:02: Die Frage, die du gestellt hast ist total valide.

00:40:06: Aber warum vertrauen wir jetzt an Tropic weniger als beispielsweise... Ich bin mal hoch, schwarz digits bringt eine KI-Plattform raus eigenes Modell oder sonstiges?

00:40:17: Also warum vertrauen wir an Topic weniger als jetzt Schwarz digits?

00:40:22: Oder warum nutzen wir an tropic statt Mistral?

00:40:27: Warum tun wir das?

00:40:28: Ist es Gewohnheit, ich möchte das beste Modell testen und probieren.

00:40:32: Wir gehen in jedem Fall immer einen Vertrag ein.

00:40:36: So ist es einfach, die Frage ist nur welchen Pragmatismus legen wir an den Tag?

00:40:40: Wir machen

00:40:41: so viele

00:40:41: Risikobewertungen in unserem Alltag.

00:40:44: Keine Ahnung wie viel Risikobewertung wir machen.

00:40:46: Gehe ich jetzt über die Straße oder warte ich vielleicht noch...

00:40:48: ah ne da kommt eine Auto!

00:40:50: Wie weit ist..

00:40:51: nee ich warte dann gehe ich doch lieber zur Ampel.

00:40:53: und wenn du das alles mal aufrechnest der Mut oder der Pragmatismus fehlt uns in vieler Hinsicht um Geschwindigkeit die wir haben können aufzunehmen.

00:41:04: Und das ist der Punkt, den wir am Anfang vielleicht ein bisschen angerissen haben, Compliance.

00:41:09: Wer hinderten uns daran, die Compliance von Anfang an mitzudenken?

00:41:12: Wenn wir den Speed am Anfang nicht haben, weil irgendjemand Druck machen sagt ja wir müssen jetzt schnell was liefern!

00:41:18: Okay schnell wissen wir alle was passiert.

00:41:19: hast du mal fünf Minuten?

00:41:21: klar habe ich fünf Minuten aber keine drei Stunden.

00:41:23: was dann der Outcome isst.

00:41:24: Aber wenn du es vom Anfangen mit rein baust in deine Plattform und diese tult's auch weil die denutzt indem du sie monitorst in dem du gescheit weißt was sind die kosten überhaupt die anfall dann verlieren wir den speed bei der erstellung der plattform gewinnen aber beim usage weil das niemals nach nachbauen muss und du musst dir keine gedanke darüber machen.

00:41:46: also eins möchte ich noch kommentieren mit dem ja wenn es wirklich wichtige sachen sind dann überleg ich mir zweimal.

00:41:52: aber dann überlege ich mir zwei mal ob ich überhaupt mein handy mitnehmen.

00:41:55: also keine ahnung.

00:41:57: Ich glaube, wir haben eh schon sehr viel einen Souveränität abgegeben und mit dem Thema können wir Souveräenität wieder zurückgewinnen.

00:42:04: Mit Open Source und Agents definitiv.

00:42:07: aber ich glaub da ist dieser schmale Grad.

00:42:11: was kann wo kann ich mich absichern?

00:42:13: Wo kann ich die Guardrails schaffen, die Regularien einhalten trotz unserer Paranoid?

00:42:18: Wir sind Paranoids schon fast geworden.

00:42:22: Aber wer will auch haften?

00:42:24: also das ist der andere Punkt.

00:42:27: Ich stelle mir zweimal die Frage, was ich überhaupt an Datenpreis gebe wenn ich es nicht richtig weiß.

00:42:32: Schwierige, schwierige Thematik und genauso auch im öffentlichen Sektor.

00:42:36: Wir haben sehr vieles illus in Deutschland also das sind wir uns bewusst auch in klarweit schon ein öffentlicher Sektors.

00:42:42: Auch da will natürlich keiner den ersten Schritt gehen und haften weil es ist so ein Thema einfach.

00:42:47: Keiner will der Schuldiger sein ja?

00:42:48: Also am Ende des Tages trotzdem Mut zu haben die ersten Schritte zu gehen aber irgendwo Ja, wie du sagst.

00:42:55: Man macht den ganzen Tag in der Risikoabwägung und am Ende des Tages ist es einfach sich drüber zu unterhalten mit einer Community nicht alles reinzuballen in irgendeinen LLM und da zu denken das ist ja der heilige Gral oder?

00:43:07: Es ist wichtig vor allen Dingen bei solchen Themen sich auszutauschen mit anderen die vielleicht schon mal einen Schritt in die gleiche Richtung gemacht haben mit einem anderen Tool vielleicht aber die Erfahrung gesammelt haben und dafür ist halt so eine Veranstaltung wie die Hackerkiste super.

00:43:22: Darum vielen, vielen Dank für eure Kommentare und euren Anteilnahme.

00:43:27: Bis zum nächsten Mal!

00:43:28: Vielen Dank!

00:43:29: Danke!