users lounge Cover

users lounge

Der Podcast für mehr IT-Sicherheit

Since 09/2023 72 Episoden

#69 ChatGPT, Claude, Gemini & Co.

Welche KI ist die Richtige?

22.05.2026 64 min

Zusammenfassung & Show Notes

Wir sprechen über aktuelle KI-Plattformen wie ChatGPT, Claude, Gemini und weitere spezialisierte Modelle. Wir beleuchten die unterschiedlichen Stärken, Einsatzbereiche und Risiken moderner KI-Systeme und diskutieren, warum sich die Modelle zunehmend auf bestimmte Aufgaben spezialisieren. Dabei gehen wir auf Themen wie Datenschutz, Datenverarbeitung, Abhängigkeiten von Anbietern, regulatorische Anforderungen und die Integration von KI in bestehende Arbeitsprozesse ein. Außerdem sprechen wir über Chancen und Gefahren generativer KI – von effizienterer Dokumentation bis hin zu Sicherheitsrisiken, automatisierten Schwachstellenanalysen und täuschend echten KI-generierten Inhalten.

Key Topics

Abhängigkeit von KI-Systemen
Datenschutz und Verträge bei KI-Nutzung
Vergleich der KI-Modelle Claude, Gemini und ChatGPT
Risiken und Chancen der KI-Entwicklung
Regulatorische Herausforderungen und Normen

Transkript

René

00:00:56

Ja, und so würde ich sagen, Michael, herzlich Willkommen, herzlich Willkommen in die Runde.

Michael

00:01:01

Moin René, ich grüße dich. Hi.

René

00:01:03

Hi. Ja, jetzt, da sind wir wieder. Gerade erstmal kurz einen Faden wiederfinden. Ne, wir haben heute ja, ich glaube, das ist ein extrem interessantes Thema. Viele haben irgendwie da mit Berührung, oder? Ich würde mal behaupten, mittlerweile so 95 Prozent. Es gibt natürlich noch einige Verweigerer, aber am Ende des Tages, irgendwie wird jeder in Berührung damit sein. Aber vorab, Michael, hast du vom tollen Ausfall der Denik gehört?

Michael

00:01:40

Ich habe davon gehört, ich habe aber zum Glück nichts davon aktiv mitbekommen. Grüß dich, René, hi. Also, wie gesagt, bei mir war ich, das war auch irgendwie, war es nachts oder war es sonst irgendwas? Also, ich muss dir jetzt ganz ehrlich sagen, ich habe jetzt keine Probleme gehabt, irgendwas zu erreichen oder keine Ausfälle gehabt. Lass mal was gewesen sein, ja.

René

00:02:02

Ja, lass mal was gewesen sein. Für viele war das nicht so klein. Nein, aber am Ende des Tages ist halt wirklich, das fing irgendwann nachmittags an und ja, so wie es halt auch schon bei DünDNS oder sonst was war, wenn die DNS-Einträge dahinter nicht funktionieren. Denik, kurz zur Erklärung, das ist der Registrator quasi von allen deutschen DE-Domains. Wenn die DNS-Einträge dahinter nicht mehr funktionieren, dann kann man sich vorstellen, werden sehr viele Domains betroffen sein. Es waren nicht alle betroffen, aber schon einige und wir sprechen dann ja nicht nur rein über die Websites, sondern über die Mails, über selbst SaaS-Lösungen oder VPN, alles was irgendwie damit zu tun hat. Und das hat schon einiges an Problemen gebracht. Klar, es gibt immer Workarounds, aber ja, da waren schon einige Ausfälle zu verzeichnen. Das ist definitiv so. Und da sieht man halt auch, wie abhängig man dann doch von anderen Stellen ist. Egal, wie unabhängig man sich hält oder für wie unabhängig man sich hält, ist es trotzdem, dass man irgendwo immer eine gewisse Abhängigkeit hat, wenn man nicht nur einen Rechner hat, wo alles drauf ist und den immer mit sich führt.

Michael

00:03:22

Ja, ich glaube, dass das Thema mal wieder vorsichtig bewusst gemacht hat, dass man eben immer in einer Abhängigkeit ist, dass dieser Wunschtraum, den ja viele haben, worüber wir ja auch in den letzten Podcasts schon mal gesprochen haben, unabhängig zu sein im Sinne von, ja, ich selbstbestimmt, selbstbewusst, meine Daten, meine Systeme, mein Kram, das hat halt alles Grenzen. Weil wenn du das runterbrechen willst, bist du halt wieder bei deinem 3,86er mit Diskettenlaufwerk im Wohnzimmer, der keinen Anschluss nach draußen hat. Und selbst da bist du abhängig davon, dass irgendeiner dir Disketten herstellt. Also Spaß beiseite, du hast halt einfach wirklich Abhängigkeit. Die sind mal mehr, mal weniger, aber für die Risikobetrachtung und für den Spaß und für das Spiel kannst du das jetzt wieder mit in dein Risikomanagement aufnehmen und hast ein Risiko mehr, was du betrachten darfst, wenn du es nicht vorher schon gemacht hast.

René

00:04:20

Ja, genau. Ja, deswegen, also da, man sieht halt, dass das eigentlich, also da hast du gerade gesagt, klar, um die Abhängigkeit oder das Risiko ein bisschen zu bewerten, das zeigt halt auch einfach, dass viele Unternehmen in gewisse Bereiche investieren. Also ich sag mal, Firewalls haben wir zuvor gar nicht allzu lange Zeit drüber gesprochen, in Backups, in Hochverfügbarkeit, in Security. Also es gibt ja so viele Bereiche, wo man dann auch hinten raus, weil diese Themen auch dann vielleicht sichtbarer sind oder weil Leute wie wir die einfach auch immer wieder sichtbarer machen, dadurch, dass wir sie ansprechen. Aber am Ende des Tages gibt es auch einfach Bereiche, auf die hat man selber keinen Einfluss. Genau. Und das ist halt an der Stelle zum Beispiel der Fall gewesen. Ja, so viel dazu. Da würde ich das Thema gerne auch deckeln wollen, aber dazu kann es halt kommen.

Michael

00:05:19

Ja, aber Thema, jetzt mache ich wieder so einen schönen Übergang. Thema kein Einfluss zum Thema, was ärgert den Micha zum Thema, was wir heute haben? Kein Einfluss. Microsoft 365, habe ich mich gerade wieder drüber geärgert, zwingt mich oder versucht mich immer mehr in den Co-Pilot rein zu zwingen, hat jetzt auch auf der auf der Admin-Ebene wieder tolle Sachen gemacht, die wunderschön aussehen, die jetzt wieder den Co-Pilot an erster Stelle springen. Sieht jetzt aus, als würdest du Cloud oder Chat-GPT öffnen, wenn du auf die Admin-Konsole willst. Rüber zu dem Thema. Lass uns mal über Clouds beziehungsweise lass uns mal über KI-Systeme reden. Lass uns da mal ein Update fahren und lass da mal einen Schnack drüber halten.

René

00:06:01

Ja, genau. Also halte ich auf jeden Fall für ein super spannendes Thema, weil mittlerweile gibt es ja wirklich sehr viele unterschiedliche Anbieter. Und von daher kann man mal einfach drüber sprechen, welche KI-Lösungen jetzt momentan am Markt hauptsächlich verbreitet sind. Wofür sind sie da? Weil mittlerweile sind die Sprachmodelle oder die Modelle generell nicht mehr einfach für alles da, sondern sie sind schon sehr speziell geworden teilweise. Und dann sind sie in dem Bereich meist auch dann besser, als wenn sie so ein Allrounder sind. Und darauf gehen wir einfach mal komplett ein.

Michael

00:06:38

Ja, das ist ja auch was, was wir glaube ich, wir haben schon mal einen Podcast drüber gemacht, wo wir darüber schon gesprochen haben und gesagt haben, in Zukunft wird es schon so sein, dass die Systeme immer mehr sich spezialisieren und dass sich herauskristallisieren wird, welches System kann ich für was am besten nutzen und was erfüllt meinen Zweck am besten und wo fühle ich mich wohl. Ja, das hat sich schon tierisch verändert. Leitet mich ein zu der Frage, René, mit was arbeitest du im Moment überwiegend, am liebsten oder ausschließlich?

René

00:07:12

Ne, ausschließlich ganz sicher nicht. Aber ja, ich muss schon sagen, gerade als LLM sind wir dann doch noch bei OpenAI. Da muss ich auch sagen, das hat aber eher auch mit dem Hintergrund, also wir wollen wechseln, das hat einfach, habe ich glaube ich schon mal erzählt, gerade diese Verträge, die da im Hintergrund geschlossen wurden mit dem Pentagon und sonst irgendwas, die gefallen mir ehrlich gesagt nicht. Also sprich, dass alle Daten, die da reinfließen, auch sofort für militärische Zwecke oder für das Pentagon genutzt werden können. Das ist was, wo ich sage, okay, das widerspricht mir ein wenig. Am Ende des Tages sind wir aber noch nicht an der Stelle, dass wir sagen, okay, wir haben ein perfektes anderes Tool, weil Claude zum Beispiel steht im, so ein bisschen, ich will jetzt gar nicht so viel vorweg nehmen, aber Claude ist dann ein Thema. Claude hat aber leider bei einem Update seinen kompletten Quellcode mit rausgeschickt, was dann ein Sicherheitsthema sein kann. Das ist halt immer genau das Thema und da tun wir uns gerade ein bisschen schwer, da das Optimale zu finden. Wir wissen aber auch sehr wohl, wie man mit einem LLM umgeht und was man da reinfüttert und was eben auch nicht. Und dementsprechend nutzen wir momentan noch ChatGPT, was wirklich so gerade das LLM angeht.

Michael

00:08:39

Okay, du hast doch gesagt, du nutzt unterschiedlich oder nicht überwiegend oder überwiegend ChatGPT. Also hast du parallel noch was sonst zum Angebot? Also weil du sagst, du nutzt nicht nur ausschließlich, das fand ich schon, weil ich nutze ausschließlich ein System, komme ich gleich zu. Und deswegen fand ich gerade spannend, ob du vielleicht was gefunden hast, was ich noch nicht gefunden habe. Deswegen frage ich.

René

00:09:04

Ja, das kommt ja immer darauf an, was man alles so macht. Und ich sage mal, wenn man jetzt gerade so in die Bildgenerierung geht, Bildgenerierung, da, ich glaube, also da können alle schön hinterherziehen. Auch ChatGPT hat ja jetzt noch mal ein großes Update bekommen. Ist auch wirklich besser geworden, ist aber kein Optimum. Da gibt es dann eher so mit Journey, finde ich da schon echt gut. Da dient es echt stark in dem Bereich. Kennen selber Tools auch mit einer KI dahinter, wo Bilder generiert werden können. Dann, wenn man Sprachmodelle zum Beispiel nutzt, dann gibt es da noch Eleven, wie heißt das? Eleven Labs?

Michael

00:09:47

Ich meine, Eleven Labs heißt es. Seven Eleven wäre eine Supermarktkette.

René

00:09:55

Ich meine, Eleven Labs heißt es. Die Sache ist die. Klar, wir haben uns damit beschäftigt. Das hat aber eher damit zu tun, dass wir sagen, wir hätten gerne eine Telefon-KI für bestimmte Bereiche. Das haben wir auch gemacht und es funktioniert auch wohl. Man muss aber immer sehen, wie authentisch willig bleiben und wie darf es dann computertechnisch klingen. Als IT-Unternehmen, okay, kann ich jetzt sagen, ey, wie nutzen wir dann?

Michael

00:10:30

Wenn da keine computergenerierte Stimme anerkannt ist, wo denn, an welcher Stelle denn dann?

René

00:10:36

Ja, kann man so sehen, aber wir setzen viel auf das Persönliche. Deswegen ist es dann jetzt so, dass wir gesagt haben, okay, wir beschäftigen uns damit. Wir sind da in ein paar Tests drin, aber es ist auch nichts, wo wir jetzt sagen, okay, das ist es jetzt.

Michael

00:10:50

Also ich muss dir ganz ehrlich sagen, ich bin jetzt seit vier Monaten, vier, fünf Monaten komplett bei Cloud gelandet. Funktioniert wunderbar. Ich mache aber auch nur Textgenerierung. Also ich habe mit Bild gar nichts zu tun und ich finde halt einfach, den Funktionsumfang und die Qualität der Ausgaben bei Cloud unfassbar gut. Im Vergleich zu JGPT, was wir vorher hatten oder auch Google Gemini, was wir mal im Test drin hatten. Die Qualität ist wesentlich besser. Das ist unfassbar gut. Also wenn ich überlege, was vorher an Kontrollen ich nochmal machen muss, also was man generell sagen muss, wir sind ja beide, du bist viel in der Compliance und in der regulatorischen und normativen Seite unterwegs. Was ich noch nicht gefunden habe, auch das gleich Spoiler vorweg, ich habe noch kein System gefunden, wo ich sagen kann, ich schmeiße was rein und ich verlasse mich auf die Ausgaben, die rauskommen und ich kann das Ding ungeprüft wechseln. Da werden wir auch noch lange, du lachst auch schon, das ist bei der IT garantiert.

René

00:11:59

Das wird noch ewig dauern.

Michael

00:12:00

Das wird noch ewig, in drei Tagen dauern. Aber, das ist aber mit so viel gut und schlecht, wie es sein mag, wenn ich die Sachen durchlese, die ich im Moment bei Cloud rauskriege, sind die im Vergleich zu JGPT vor einem Jahr oder was, umwelten besser. Das heißt, die Fehleransätze, die ich da rausfische, werden weniger und die Qualität der Umsetzung wird besser. Wo du früher bei OpenAI vor einem Jahr noch irgendwie dich überhaupt nicht darauf verlassen konntest, dass irgendwelche Paragraphen, irgendwelche Artikel, irgendwelche Unterabschnitte, irgendwas wirklich passt, die hat einfach Kraut und Rüben zusammen geworfen, kannst du jetzt bei Cloud, wenn du es durchliest und machst Querchecks, schon erkennen, dass es gut ist. Das heißt nicht, dass die das jetzt alleine können und dass du keine Kontrollfunktion mehr hast. Das heißt, das Brain, was kontrolliert wird, werden wir hoffentlich noch Jahre brauchen. Das sind sicher die Jobs, aber die Qualität der Urtexterstellung ist so gut geworden, dass du da inzwischen wesentlich besser durchlesen und wesentlich schneller und effektiver mit durcharbeiten kannst. Das habe ich gemerkt.

René

00:13:12

Ja, Michael, ich glaube, das ist aber auch davon abhängig, was du halt wirklich machst. Du arbeitest ja viel mit langen Dokumenten, mit Rechtstexten, mit Compliance und so. Da bietet sich das dann eher an. Cloud ist ja eine sehr genaue Plattform, die aber wenig kreativ ist. Das ist auch richtig so an der Stelle. Und wir zum Beispiel, ja, ich meine klar, wenn wir jetzt irgendwie Marketing oder sonst was damit machen, dann bist du natürlich anders unterwegs. Und dann brauchst du auch kreative Texte, die du aber natürlich immer noch gegenlesen musst.

Michael

00:13:49

Keine Frage.

René

00:13:51

Da soll kein Schrott drin sein. Man muss ja auch einfach Sprachmodelle an der Stelle auch überhaupt erst mal verstehen. Also ein LLM, wir sprechen bei KI immer von einer künstlichen Intelligenz. Man muss sich aber vor Augen führen, wie sowas funktioniert. Es ist nicht so, dass sich da im Hintergrund ein Gehirn baut, was dann quasi einfach frei antwortet, weil es dann verstanden hat, worum es geht. So ist es ja nicht. Ein LLM funktioniert ja so, dass es dir, also während es die Antworten generiert, ist es so, es erscheint ein, passiert halt ganz schnell, aber wenn ein Wort erscheint, dann denkt es immer nur erst mal an das nächste Wort. Jetzt klar, die neueren Modelle, die sind dann, dass sie schon ein bisschen weiter im Voraus denken, aber es ist eigentlich eher die größte Übereinstimmung wird gefunden. Immer wieder auf das, was davor steht. Und deswegen, das ist ja keine, es ist natürlich irgendwie ein Stück weit Intelligenz, aber es ist keine Intelligenz, wie man sich ein Gehirn vorzustellen hat. Also es funktioniert einfach anders.

Michael

00:14:51

Genau, das ist vielleicht schlau, aber nicht intelligent, wenn ich es vielleicht so machen will. Du machst halt ein Matching auf den Diskurs, also machst halt einfach Wahrscheinlichkeitsberechnungen, welche Wahrscheinlichkeit folgt, was hätte ich gerne und guckst danach einfach, indem wir entsprechend die Eingabe und die Ausgabe miteinander, also indem du die Eingabe analysierst und gibst daraus was raus.

René

00:15:11

Genau. Und dann erkennt man auch, warum Modelle entsprechend bezahlt werden wollen. Ich meine, klar, wenn ich jetzt mir einen Chat-GPT buche, dann habe ich natürlich, was weiß ich, meine Subscription für x Euro. Wenn ich aber eine Schnittstelle hintendran setze, dann wird ja per Token abgerechnet. Und die Token stehen ja für eine gewisse Anzahl an Zeichen. So, jetzt versteht man dann im Zusammenhang, wie diese Zeichen auch sind, warum das so gemacht wird, weil eben die Antworten auch so generiert werden.

Michael

00:15:45

Aber wo du gerade auf Preise und Tarife gehst, lass uns das noch mal kurz ansprechen, weil ich das ziemlich wichtig finde. Wir sind eben ganz kurz nur dran gestreift, ist, was sich auch gezeigt hat und du hast ja eben selbst gesagt, du fühlst dich da nicht wohl bei einem Anbieter, wenn die Daten nach Amerika entkramen, hast du nicht gesehen. Und ich merke halt in der Praxis auch noch den relativ sorglosen Umgang mit KI-Systemen und den Daten, die da dran liegen.

René

00:16:16

Ja, es ist ja nur ein Chat irgendwo.

Michael

00:16:18

Es ist ja nur ein Chat und ich finde es saukritisch aktuell, noch mit irgendwelchen kostenlosen Systemen zu arbeiten. Du zahlst entweder mit Geld oder mit Daten. Und selbst wenn du Geld einwirfst, bist du noch nicht safe an der Stelle, sondern du musst dir die AGBs, also die Servicebedingungen, du musst dir das durchlesen, du musst die Dinge konfigurieren. Ähnlich wie du Microsoft, wenn du es im Auslieferzustand auch nicht DSGVO oder nicht sauber konform hast. Du musst die Datenregion wählen, du musst das wählen, du musst die Funktionen abschalten. Jetzt haben sie wieder das Thema, das Co-Pilot. Jetzt haben sie Änderungen drunter, weil ihr da drunter wieder ein anderes LLM legt, was dann doch wieder raus aus der EU-Boundary rausgeht. Aber ich will mich gar nicht vertiefen, aber auch da musst du immer wieder gucken, was ist. Das heißt, du musst deinen Tarif weise wählen und du musst dir bewusst sein, dass die KI-Funktionen und die KI-Funktionalität im beruflichen Umfeld eben nicht geschenkt da ist, sondern das kostet Geld. Das ist ganz klassisch. Du wirst bei Claude, geht es halt auch erst ab dem Teams-Account. Das ist ein bisschen blöd, wenn du ein Einzelkämpfer bist. Ja, was willst du, weil ein Teams-Account hat mindestens fünf Seats und die fünf Seats müssen auch die gleichen Domänen vom Unternehmen haben. Das heißt, kannst du nicht sagen, mit meinem Kumpel komm, ich teile mir mal das über sowas, sondern das ist halt so, aber du brauchst halt einfach mindestens bei Claude zum Beispiel den Teams-Account, um die Möglichkeit zu haben, auf dem Papier vertraglich die Daten sicher zu haben, Trainingsdaten ausgeschlossen zu haben und entsprechende Regelungen zu haben. Das finde ich ist eine super wichtige Sache und das ist wichtig und das muss jedes Unternehmen haben. Co-Pilot ist das erst ab der, wir haben es schon mal gesagt, glaube ich, erst ab der 23-Euro-Lizenz. Den Co-Pilot, der standardmäßig bei deinem Microsoft 365-Account kostenlos mit dabei ist, hat nichts damit zu tun, dass er vernünftig eingesetzt werden kann. Bestätige mir das gerne nochmal und auch OpenAI hat Tarife, die halt auch erst ab dem Zeitpunkt gewisse Funktionen bieten. Da muss bitte jeder darauf achten. Das ist eine super wichtige Sache.

René

00:18:40

Richtig und was ich auf jeden Fall empfehlen würde, ist, dass man sich recht flexibel noch aufstellt. Also wenn man sich jetzt für eine KI entscheidet, dass man dann jetzt nicht einfach sagt, okay, ich schütte alles rein und wenn ich irgendwann mal wechseln würde, hätte ich ein Problem, weil dann verheiratet man sich wieder an der Stelle. Stichwort Abhängigkeit, das ist einfach so. Also man muss sich schon so flexibel aufstellen, dass man sagt, okay, da ist jetzt ein besseres Produkt, gerade KI. Wir stehen ja, ich will nicht sagen ganz am Anfang, aber es entwickelt sich ja noch ganz weit und dementsprechend kann sich heute noch gar nicht festlegen, dass es das für die nächsten zehn Jahre ist.

Michael

00:19:17

Genau, ich würde nicht länger wie ein Jahr im Voraus planen aktuell. Richtig. Also auch das, ich würde da nicht weiter und ich würde dann schon überlegen, wenn ich jetzt ganz klassisches Information-Sicherheitsthema, wenn ich in die Cloud reingehe, mache ich mir Gedanken, wie ich wieder rauskomme und würde mir jetzt schon irgendwie Gedanken machen, was werfe ich rein, inwieweit verkaufe ich meine Seele an das Ding, weil ich ein relativ hohes Risiko habe oder eine relativ hohe Wahrscheinlichkeit habe, dass es in einem Jahr sich die Technologie so geändert hat, dass ich halt eben gerne ein anderes LLM hinten dran hätte. Und das muss man sich einfach bewusst sein.

René

00:19:50

Ja und vor allem, ich meine, jeder wird jetzt immer mehr damit arbeiten. Es ist ja an der einen oder anderen Stelle einfach eine Erleichterung. Was aber, also was ich finde, was man auch berücksichtigen muss, umso länger man in so einem Tool drin bleibt, also bei einem Anbieter, umso besser ist das Modell natürlich auf mich angepasst und gibt ja auch die Ergebnisse, die ich brauche oder mir wünsche. Und dann macht es das umso schwerer im Nachhinein nochmal zu wechseln.

Michael

00:20:20

Die Abhängigkeit wird höher, die Droge, du wirst halt einfach, du willst dich halt einfach immer schwerer davon lösen. Aber zum Thema Daten und Verträge will ich nochmal ganz kurz zurück, weil ich das wirklich wichtig finde, weil ich jetzt auch bewusst das Gegenargument bringen kann und ja gerade auch noch eine Story erzähle zum Gegenargument. Es bringt dir natürlich nichts, wenn du in deinem Unternehmen das super safe und super Kram hast und dich darum kümmerst und die höchsten Verträge hast. Wir haben ja Daten, die fliegen. Also konkretes Beispiel, ich habe eine Schulungsplattform, beziehungsweise ich habe ein Schulungskonzept entwickelt, habe mit dem Kunden das abgestimmt, habe sieben Schulungen gemacht, alles fix und fertig, schön bei mir, sauber, alles in Ordnung. Auch Geld dahinter, Zeit dahinter, wirklich wichtig. Dem Kunden die Daten, die PowerPoints beziehungsweise die Keynotes gegeben, sage ich hier, guck dir drüber, sag kurz Bescheid, dann können wir mit dem Ding go live gehen, können alles machen. Nach einer Stunde kam die Aussage, ich habe mal alle deine Dinge durch Co-Pilot gejagt, sieht ja richtig gut aus. Also wo ich hin will ist, du hast natürlich die Geschichte, das ist wie im Datenschutz auch, du hast aber natürlich die Geschichte, dass du sagst, warum soll ich mir jetzt hier mit irgendwelchen Verträgen und irgendwelchen Regulierungen und irgendwelchen höherwertigen Tarifen und mehr Kosten in meinem Unternehmen mir noch Gedanken über eine Datenhaltung machen, in dem Moment, wo ich es in die Welt sprede oder in dem Moment, wo ich es irgendeinem Dritten gebe, der knallt das halt einfach rein. Also ich glaube auch, wenn ich meinen Namen jetzt in eine KI eingeben würde oder wenn ich irgendwas anderes in die KI eingeben würde, die lernt. Also da gibt es so viele Leute, die da Daten reinschmeißen, also die Illusion, dass meine Daten meine Daten bleiben und dass das alles im geschlossenen Habitat bleibt und ich niemals ein Teil einer Trainingsdaten oder sowas werde, das kannst du dir, glaube ich, so ein Stück weit, ist das eine Illusion, genauso wie die Unabhängigkeit im Daten-, im IT-Kontext, wie wir ihn zum Anfang hatten, aber du solltest für dich, weil du verantwortlich bist in deinem Unternehmen für die Verarbeitung von den Daten, musst du natürlich trotzdem regulatorisch auf der sicheren Seite sein, weil du das nicht beeinflussen kannst, du kannst nicht beeinflussen, was irgendwelche Dritte mit deinem Datenkram machen, aber du für dich im Unternehmen, wenn du damit arbeitest, musst du nachweisen können, dass du auf der sicheren Seite bist. Was ich aber auch gut so finde und richtig so finde, weil wenn alles offen wäre und alles vollkommen egal wäre, hätten wir ein totales Chaos inzwischen.

René

00:22:52

Ja, immer erst mal vor der eigenen Haustür kehren.

Michael

00:22:54

Genau, genau, das passt, glaube ich.

René

00:22:56

Kurz runtergebrochen.

Michael

00:22:57

Ja, aber war ganz lustig, nach dem Motto, ich setze mich da irgendwie eine Woche hin, mache Schulungskonzepte, mache alles fertig, jo, juckt das mal über die Kuhpeile. Es ist, mach dir keine Gedanken, es ist auch heute inzwischen so, so blöd, wie es klingt, frag doch mal eine Chat-CPT, ich meine, das ist ein heißes Thema, aber wir können es ja sehr neutral machen, frag doch mal eine Chat-CPT, ob die schon mal eine ISO 9001 gelesen hat oder eine ISO 9001 gesehen hat. Die gibt dir Informationen und die Informationen, die aus der Chat-CPT rauskommen, sind schon gar nicht so weit weg von der Realität. Ja, das heißt, so Unternehmen wie die DIN Media, die die Normen für teuer Geld verkaufen, auch vollkommen in Ordnung und Kram ist, aber auch das wird immer kritischer, weil natürlich hat schon, natürlich ist es verboten, natürlich sagt die Media, nein, nicht zur Nutzung in und den ganzen Kram mit drin oder jedes andere Unternehmen sagt, macht das nicht, aber natürlich macht es irgendjemand. Das macht nicht nur irgendjemand nur irgendwie so einmal auf der Welt, sondern das machen garantiert Hunderte oder Tausende, die es einfach reinknallen, ja, die ganze Sache wird kumuliert und dann hast du natürlich in den Trainingsdaten am Ende irgendwann diese komplette Norm drin. Ja, oder wie war es denn mit Liedern? Mit Liedern hatten wir doch jetzt, da ging das, glaube ich, schon ein Vierteljahr durch das Thema. Ich glaube, beim Krönemeyersong oder irgend sowas, dass die KI gesagt hat, dass KI, dass du die KI prompten kannst, erzeuge mir einen Titel, der sich anhört wie und am Ende kam ein Science-Art-Titel raus, weil der natürlich in den Trainingsdaten drin war, wo es dann nachher auch Klagewellen gab. Und warum sind die Trainingsdaten in der KI drin und wie sieht es mit Urheberrecht aus? Du wirst es nicht vermeiden können, dass irgendjemand auf der Welt Daten in eine KI reinwirft, die da einfach nicht reingehören. Es ist vollkommen illusorisch zu denken, dass das nicht so ist.

René

00:24:45

Habe ich tatsächlich nichts mitgekriegt von dem Fall jetzt, aber ich sage mal so, es gibt ja auch KI tatsächlich für Musikstücke und da kannst du ja sogar sagen, ey, mach mir mal ein Lied in dem und dem Stil, soll sich ungefähr so anhören, Künstler ist was weiß ich wer. Ja, dann kriegst du dann einen Titel raus, der sich genauso anhört. Es ist nicht schön, weil dann irgendwo dieses Künstlerische oder dieses auch geistige Eigentum einfach verschwindet auf Dauer, vieles zumindest. Also ich will jetzt nicht sagen, wenn du Patente hast oder so, ist nochmal eine Sache. Aber ansonsten, also dieses Erfinderische oder so, das verschwindet halt oder verschwimmt ineinander, weil halt alle dann auf alle Daten ja so ziemlich Zugriff haben. Macht es an der einen oder anderen Stelle einfach kompliziert.

Michael

00:25:39

Ja, und immer wieder zurück auf, mach dir sichere Gedanken um deine KI. Du gibst dem KI-Ding ja immer mehr Zugriff auf deine Daten und deine Informationen. Du solltest das vertraglich, also wenigstens vertraglich sicher haben. Ob das dann nachher wirklich einer den Stecker aus dem Kabel rauszieht, ob das nach Amerika geht, um es mal billig zu machen oder nicht, das kriegst du nicht bei. Aber wenigstens kannst du es vertraglich machen, du kannst dich kontrollieren, ist der Stecker gezogen oder nicht. Aber du gibst dir den immer mehr drauf. Wenn ich überlege, Claude hat einen super Connector zu Confluence und Chira zum Beispiel. Das funktioniert unfassbar gut. Aber einen Teufel würde ich tun und würde das in irgendwelchen kostenlosen Demo-Versionen irgendwie zur Verfügung stellen, wenn ich nicht wenigstens vertraglich auf der sicheren Seite wäre. Was ja bei allen Verträgen am Ende da ist. Wir müssen uns ja auf die Vertragsgrundlage erst mal verlassen, dass es in Ordnung ist. Und das passt dann halt auch. Und gehen wir kurz rüber auf das, wenn wir über das Thema KI sprechen. Was ist denn auf dem Diensthandy? Wenn auf dem Diensthandy bei Android ein Gemini läuft oder ein Apple AI, ob das wirklich künstliche Intelligenz ist, können wir nochmal drüber reden, aber die werden auch irgendwann mal besser. Aber auch das sind natürlich Systeme, die abgreifen. Wenn du so ein Ding, Zugriff auf Kalender, Kontakte, E-Mails und sowas gehst oder Mails lesen für Zusammenfassung. Vergess die Illusion. Mal weg, wenn du irgendwas hast und lässt dir irgendeine Mail zusammenverkassen. Vergess mal die Illusion, dass das lokal bleibt. Apple hat den Ansatz, Apple vertreibt den Ansatz. Das ist wohl alles noch da. Bzw. eigenes KI-System, eigenes Server. Eigenes Thema, können wir nochmal drüber gehen. Aber verlass dich doch erstmal, zumindest bleiben wir mal bei Windows oder Android oder bei anderen Systemen, verlass dich doch nicht darauf, dass das lokal verarbeitet wird. Natürlich geht der E-Mail deiner E-Mail irgendwohin, wird verarbeitet und kommt wieder zurück an dein System.

René

00:27:35

Am Ende des Tages, wenn man jetzt mal wirklich zurückguckt, erinnert mich ein bisschen an, als es mit Online-Speichern anfing. Ja, genau. OneDrive, Dropbox, WeTransfer. Über was sprechen wir denn da? Also das ist ja genau das. Und ob ich jetzt wirklich eine fertige Datei schicke oder nur noch den Inhalt analysieren lasse, das Ergebnis ist das gleiche. Genau. Also das ist halt schwierig. Keine Ahnung.

Michael

00:28:07

Aber wie gesagt, ich finde, es ist halt ein super cooles, komplexes Thema. Ich könnte mir ganz ehrlich, auch das ganz offen, mein Chatbot, mein LLM läuft täglich mit. Auch da nochmal, weil ich ziemlich tief in der Cloud-Welt drin bin. Das kostet halt auch Geld. Wir haben ja eben gesagt, du musst dir bewusst sein, dass das Ding Geld kostet. Da gehen halt jeden Monat Dollars raus. Und gerade Cloud hat eine Volumenbeschränkung. Das heißt, du hast Stundenvolumen, Tagesvolumen, Wochenvolumen. Wenn die voll sind, sind die einfach voll. Dann musst du nachkaufen und dann kaufst du nochmal nach. Das kostet also wirklich richtig Geld im Vergleich zu einer kostenlosen. Aber du hast halt auch, was man auch sagen kann, je besser und selektiver du dir dein Modell wählst, was du haben willst, umso effektiver kommst du mit den Dingern klar. Und, das ist im beruflichen Kontext wieder unterwegs, umso effektiver kannst du Geld verdienen. Bzw. umso effektiver kannst du betreuen und umso effektiver kannst du arbeiten. Und das ist halt einfach ein Mehrwert, den du halt einfach anerkennen musst, dass der Geld kosten darf. Das ist so das Ding, was ich als Message mitgeben will, was ich super wichtig finde.

René

00:29:19

Also, wenn ich jetzt wirklich mal so... 10 Jahre ist vielleicht ein bisschen zu hoch gegriffen. Sagen wir mal so 10 Jahre. Wenn ich jetzt einfach zurückgucke, wie haben denn solche Sachen ausgesehen bei uns? Also, wir haben ja auch gewisse Dinge ausgearbeitet. Keine Ahnung, wo wir gesagt haben, okay, wir machen Tests, da orientieren wir uns an. Meinetwegen der ISO 27001. Oder wir orientieren uns an... Was gibt es da alles? Da gibt es ja auf jeden Fall genug. Und das haben wir halt ausgearbeitet. Das heißt, wir haben uns die Dokumente, also die Normen genommen und haben dann das, was wir darstellen wollten, das haben wir dann damit gegenübergelegt, das in Einklang gebracht. Und zwar alles von Hand. Da ist ja so viel Zeit reingeflossen. Wenn man heute sagt, okay, das ist das, was wir uns vorstellen, und jetzt bringt das mal in Einklang mit der 27001, klar, man muss das nochmal prüfen. Aber ich habe das Dokument auch innerhalb von ein paar Minuten. Also damit wollte ich nur einmal... Michael, ich weiß. Aber mir geht es einfach nur darum, man sieht dann, das, was du gerade gesagt hast mit der Effektivität, das muss man für sich natürlich dann einfach in dem Vordergrund mitstellen.

Michael

00:30:34

Und ich finde halt gerade in der Effektivität, wofür ich es nutze, also ich prüfe primär alles nochmal durch, aber ich setze mich hier nicht mehr hin und überlege mir, wie fange ich jetzt an, wie höre ich jetzt auf, wie baue ich einen Satz oder wie baue ich den Abschnitt zusammen, wie beschreibe ich das korrekt, wie fülle ich das, wie greife ich es an, sondern du kriegst einen super tollen Startpunkt, wo du einfach sagst, pass auf, ich brauche eine Richtlinie zu, lass mal was zusammenschreiben, folgende Inhalte hätte ich gerne drinne, das fertig und dann kannst du da, dann hast du schon mal einen Start und dann kannst du auf dem aufbauen, kannst das fertig prompten. Ich finde die Zeit, die Zeit ist es nicht mal mehr, also wenn ich die gleiche Zeit reinstecke, kann ich, dann habe ich halt eine wesentlich höhere Qualität der Ausgabe, die da drinne ist. Also ich gewinne nicht wirklich, ich schüttel es jetzt nicht einfach aus den Händen raus und bin fertig damit, sondern ich stecke da auch schon Zeit rein, wie ich vorher auch reingesteckt habe, aber einfach anders, weil in dieses einfache Wegtexten eben keine Zeit mehr reingeht, sondern es geht jetzt in die Zeit ins Feintuning rein, ins Abstimmen von Paragraphen, in wirklich nochmal Ausarbeiten von Kleinigkeiten, dass es wirklich sauber ist, ins Prompten so rein, dass es so ist, wie ich es haben will. Ich finde die Ausgabequalität ist wesentlich besser geworden, muss ich dir ganz ehrlich sagen, weil es umfangreicher geworden ist. Früher hast du gesagt, ich habe nicht so viel Bock zu schreiben, auch technische Dokumentation, Handbücher, lass mal ein paar Bullet Points machen, lass das mal hier machen, lass das mal kurz und knapp machen, was soll ich jetzt Romane verfassen? Heute sagst du einfach, mach es mal und dann kriegst du was runtergeschrieben und dann sagst du, das passt, das funktioniert, setz das nochmal an, pass das nochmal an, lass da nochmal was bauen, mach aus dem Abschnitt bitte nochmal ein paar Bullet Points draus, da hätte ich gerne nochmal eine Texterweiterung, erkläre bitte nochmal, warum das so ist und dann macht das Flup und dann ist es gut, weil ich bin keiner, ich weiß nicht wie du, aber ich bin keiner, der furchtbar gerne lange Texte schreibt, ich springe gerne Informationen auf Papier, ich übermittel gerne meine Message, aber ich schreibe nicht gerne Romane und das funktioniert, das ist der Sweet Spot bei mir für die KI-Nutzung, also für mich ganz besonders, ich kriege die Romane jetzt in dem Umfang, wie ich sie gerne hätte, einfach mundgerecht so serviert, dass ich sie kontrollieren und nur noch anpassen muss und das finde ich, ist halt eine mega Nummer bei mir.

René

00:32:52

Ja, genau. So, das ist glaube ich klar geworden, dann lass uns doch nochmal auf ein paar andere Anbieter eingehen, die wir jetzt heute zum Beispiel noch nicht groß genannt haben. Als erstes würde ich nochmal Gemini nennen, das ist ja das Modell von Google. Bei Google, der Gemini ist sehr, sehr stark geworden, das muss man schon sagen, die haben echt zugelegt, ich muss aber auch sagen, ich persönlich bin mit dem Ergebnis nicht glücklich oder mit den Ergebnissen, ist aber auch immer eine subjektive Einschätzung, kommt wieder darauf an, was man will, was man braucht, dementsprechend, also für mich ist es nicht das Passende, aber am Ende des Tages, Google hat eine ganz klare Stärke gegenüber den anderen, das ist das gesamte Ökosystem, das muss man einfach so sehen, weil Google hat ja nicht dann einfach nur die KI, sondern die haben die Suche, die haben Android, die haben Chrome, die haben Maps, die haben YouTube, die haben Workspace, die haben Cloud, die haben eigentlich alles, man kann von der Pike auf damit starten und hätte dann alles in einem Kosmos drin und das ist glaube ich deren große Stärke.

Michael

00:34:03

Deswegen freue ich mich auf Gemini, wenn es zu Apple Intelligence kommt, wenn endlich mal Apple aus dem Quark kommt und das Ding mal wirklich ans Laufen kommt, die mal die neue Serie an den Start bringen, die wollen ja auf Gemini gehen mit dem Wunderbau und da freue ich mich privat glaube ich ziemlich mega cool drauf. Ich kann mir noch nicht vorstellen, im Moment, Stand heute, weiß ich noch nicht oder kann ich mir nicht vorstellen, dass das Cloud irgendwann mal ersetzen wird, aber du hast recht, das ist die Integration, das wäre auch die Integration, wo ich da drauf bin, wobei auch das, du merkst, ganz kurz, Cloud hat eine Chrome Anbindung, du kannst also inzwischen Cloud ein Plugin installieren in deinem Chrome drinnen, sodass der deinen Browser mitlesen kann.

René

00:34:49

Ja gut, das gibt es bei JGPT auch. So freaky.

Michael

00:34:55

Also ich habe mal mitgespielt, das ist verrückt. Aber das ist halt auch ein Teil der Integration, wie du es eben schon gesagt hast.

René

00:35:03

JGPT kannst du ja mittlerweile Zugriff auf dein ganzes macOS geben, dann kann der alles, was du am Rechner machst, mitlesen, also das ist schon ob ich das will, ich wollte gerade sagen, und nicht.

Michael

00:35:18

Also auch da gilt es, den Sweet Spot zu finden, zwischen was möchte ich integriert haben, wo möchte ich integrieren, das ist, glaube ich, ein tolles Thema, weil Microsoft geht ja einfach stumpf durch alles durch, also Microsoft sagt ja einfach, du willst das überall haben und du findest das richtig gut und ich genieße das im Moment noch, ich habe im Moment noch so die Sachen, dass ich über Konnektoren klar definiert sagen kann, welche Zugriffe mein LLM hat, in welchem Umfang auf mein Ökosystem und auf meine angebundenen Apps und Anwendungen. Das muss man halt auch für sich im Unternehmen risikopassiert sagen, das ist, mach mal alles, gib mal JGPT voll Zugriff auf alles drauf.

René

00:36:00

Genau. Ja, das ist halt viele, und das war ja auch bei Cloud und so, wenn man jetzt wahrscheinlich jüngere Leute fragen würde, dann würden die sagen, wieso, wovor hast du Angst? Mach einfach, weil es ist ja normal. Das sehe ich aber an dieser Stelle tatsächlich noch ein bisschen anders wie Cloud. Cloud kann ich ja noch steuern, das heißt, ich kann mir auch eine eigene Cloud besorgen, ich kann mir aber schwer ein ganz eigenes LLM aufbauen. Klar geht das, aber das ist jetzt nicht out of the box irgendwie möglich. Das ist halt das, was ich meine. Dementsprechend, das ist schon nicht ohne, also da sollte man sich ganz klar Gedanken machen und da auch weiterhin auch wirklich Abschottung an einer oder anderen Stelle ganz klar betreiben.

Michael

00:36:50

Ja. So, und aber auch bei Cloud schon, auch das noch mal ganz kurz. Bei Cloud hat man früher naja, wenn ich die Daten dann nicht mehr haben will, dann nehme ich sie mal wieder raus. Das kann ich bei KI nicht, also wenn ich sie einmal in der KI drin habe, kriege ich sie nicht mehr raus. Wenn ich sie aber auf die Cloud lege und ich lösche mir die Cloud, dann sind sie weg. Bei mir sind sie dann weg.

René

00:37:11

Genau.

Michael

00:37:12

Ich sehe sie dann nicht mehr, richtig. Ja, aber nicht mehr sehen heißt nicht, dass sie weg sind. Also auch das da, das muss man auch sich bewusst sein. Das war bei der Cloud, das ist alles schon ähnlich. Aber ja, wir sind da anders getriggert. Wenn ich überlege, wie es bei uns, ja, wir sind so die Cloud Generation, wo es mit dem ganzen Kram losgeht. Wie man das erste Mal von dem Kram gehört hat und wir das erste Mal angefangen haben, mitgehe ich, lege ich irgendwelche Daten von mir in irgendwelche Cloud-Systeme von anderen. Ja, das ist genau das gleiche Thema.

René

00:37:43

Genau, und dann fing es ja erst mal mit dem Datentransfer zu Kunden oder zu Partnern halt an. Und dann irgendwann, ja, hat es sich gedreht. Aber das liegt auch einfach daran, dass dahinter das Vertragswerk dann anders geworden ist, dass die Sicherungen oder Sicherheiten anders gefahren werden können. Das an der Stelle, glaube ich, in der breiten Masse stehen wir bei LLM oder generell bei KI-Systemen nicht. Es gibt schon Dinge, aber die großen Anbieter, da ist es momentan noch nicht so, dass es sich, also dass wir da sehr viel Impact drauf haben, wie die Daten behandelt werden oder wie auch immer. Was ich ganz witzig finde, fällt mir gerade ein, wir führen ja auch immer wieder mal Bewerbungsgespräche und auf eine Position haben wir tatsächlich, ich will nicht sagen eins zu eins, aber Bewerbungen bekommen, die sehr, sehr ähnlich sind. Und zwar gleich fünf Stück, die fast im Wortklang gleich waren. Und man konnte auch anhand des Textes sehen, welche KI diese geschrieben hat. Und im Gespräch habe ich dann tatsächlich auch gesagt, so, ja, also ich kann ja sehen, du kannst mit JetJPT arbeiten, ist ja schon mal eine gute Sache. Ja, ja, geht. Ich sage, ja, das konnte ich am Text sehen. Auch das, wenn JetJPT hat auch manchmal halt genau diesen Fehler, dass dann, wenn du so einen Absatz hast, dass der erste Buchstabe, also da ist ein Leerzeichen vorm ersten Buchstaben, ja, der wurde auch genau so dieser Fehler halt mit ins Dokument kopiert. Also, da sieht man halt, ja, man sollte vielleicht nochmal lesen.

Michael

00:39:20

Ja, aber man sieht auch jetzt an der Stelle schon, dass die Akzeptanz, das merke ich ja gerade bei dir, dass die Akzeptanz eine andere geworden ist. Vor einem halben oder vor einem Dreivierteljahr oder vor einem Jahr hat man, wenn man so bei der allgemeinen Kontext das KI generiert, das kann nicht stimmen, was soll denn der Schwachsinn? Ist da kein Mensch mehr dahinter, der was schreibt? Sind die schon zu faul, ihren eigenen Text selbst zu schreiben? Was soll denn der Kram? Bewerber, die sowas machen, nehmen wir gar nicht an. Oder egal, was auch immer. Oder hier, der LinkedIn-Post ist ja gar nicht von dir, der ist von der KI. Also, ich mag mich täuschen, aber diese Töne werden leiser beziehungsweise sind verschwunden. Und wir haben vor einem Jahr schon, und mein Mindset war vor einem Jahr schon, es kommt doch auf den Inhalt des Textes an und ob der Verfasser oder der Veröffentlicher des Textes hinter dem steht, was da drinsteht. Und ob das am Ende vom Tag in Handschrift mit einer Füllfeder auf Papyrus geschrieben ist oder ob es durch die KI gejagt wurde, juckt doch keinen, solange der Inhalt in Ordnung ist, stimmt und vernünftig ist und so ist, dass man dahinterstehen kann. Und ich glaube, diese Akzeptanz wird, Gott sei Dank, immer besser.

René

00:40:29

Ja, also ich persönlich, ich finde da ist Form und sowas interessanter und dass da halt auch richtige Sachen drinstehen. Am Ende des Tages ist es ja sogar, wie du sagst, man könnte jetzt natürlich sagen, ey, warum machst du dir die Mühe nicht und schreibst es selber? Andersherum finde ich aber, also wir als IT-Unternehmen, natürlich nutzen wir eine KI. Und wenn ich auf der anderen Seite jemanden habe, der damit schon umgehen kann, ist es natürlich ein Riesenvorteil. Klar, ich glaube jetzt nicht, dass das natürlich bis in die Tiefe durchdacht ist, wie man das nutzt, aber am Ende des Tages ist es halt kein Neuland mehr. Das ist ja keine verkehrte Sache. Ich wollte eigentlich nur damit sagen, das ist halt, die jüngere Generation ist da sowieso schon drin, weil sie es einfach nicht anders kennenlernt und die anderen, die werden es, also was heißt die anderen? Es gibt ja sehr, sehr wenig, die sich wirklich vollkommen davor sträuben und die werden irgendwann auch da mit rein müssen, weil sie sonst einfach überholt werden. Ganz einfach.

Michael

00:41:32

Und die, die sich sträuben, die KI zu nutzen, deren Daten liegen unter Garantie durch irgendeinen Dritten trotzdem in irgendeiner KI drin. Also, mach dir keine Gedanken. Ich sage mal, blödes, Krankenkassen kann ich jetzt nicht nehmen, aber wenn du irgendwelche öffentliche Einrichtungen hast oder wenn du bei irgendwelchen Versicherungen bist oder bei irgendwas, glaub doch nicht, dass die alle nicht irgendwo an irgendeiner Stelle irgendeiner was laufen hat. Vergess es. Du kannst dich für dich, kannst du dich da komplett gegen verweigern, aber das wird nicht verhindern, dass nicht irgendwann mal ein Datensatz von dir durch eine KI geläuft. Ob sie trainiert wird oder nicht, das ist ein anderes Thema, kommt drauf an, wie gut die Verträge sind und wie gut das konstruiert ist. Aber, dass du eine Verarbeitung deiner Daten durch ein LLM hast, da sind wahrscheinlich alle schon mal durch. In irgendeinem Kontext von irgendeinem Dritten, wenn nicht selbst.

René

00:42:32

Ja, gut, dass du gar nicht so nah auf die Krankenkassen eingegangen bist. So, weiter im Text. Ich glaube, wir haben ja auch gerade schon am Rande darüber gesprochen, dieses, was es ein bisschen gefährlich macht, ist halt, wenn man nicht mal mehr erkennt, dass eine KI dahinter ist. Das, was ich sagte mit, es ist schon, du kannst macOS komplett einsehbar machen oder auch ein Gemini oder Copilot ist ein Paradebeispiel dafür unter Windows. Dass du es nicht mehr wahrnimmst, dass du dich gerade in diesem Bereich aufhältst, dass es jetzt gerade kritisch ist, was du da reinschreibst, das macht es natürlich ein bisschen gefährlich. Also, dass man da wirklich diesen Unterschied nicht mehr erkennt, was ist jetzt gerade lokal bei mir und was geht jetzt gerade wirklich nach draußen. Das ist, glaube ich, nicht so gut.

Michael

00:43:23

Auch wieder was, was gegen einen vollintegrierten Ansatz spricht, weil wenn du eine App hast oder wenn du einen Browser hast, das machst du bewusst auf und promptest bewusst in einem Browserfenster oder in einer App was rein und hast eben nicht den Vollzuggriff und das verschwimmt nicht. Richtig.

René

00:43:41

Das kann, ich sage mal so, auf der einen Seite kann das natürlich Vorteile haben, dass es auch vollintegriert ist, weil du dann Prozesse voll automatisieren kannst, aber am Ende des Tages muss man das immer mit dem Risiko abwägen.

Michael

00:43:54

Das ist halt wichtig. Das ist eine super wichtige Sache. Und wo du gerade oft nicht erkennen bist, wichtig ist auch die Bilder, die inzwischen generiert werden. Du kriegst das halt einfach. Vergesse es, wenn du versuchst, noch heute irgendwie so ein Kram zu machen. Die Spielereien mit, der hat ja sechs Finger oder der hat drei Augen oder das erkennst du, der hat zwei Nasen oder was weiß der Teufel, noch eins oder das Haus steht ja total krumm und schief. Das ist nahezu vorbei. Wir hatten jetzt von einem Bekannten für einen Spaß mal, er hat es noch als Spaß erfunden, ich habe nachher auch drüber lachen können, aber er hat dann mal ein Foto vom brennenden Hühnerhaus geschickt. Und hat gesagt, heute Abend gibt es halbe Hähnchen. Vergess es! Am Handy, aufgesucht mit allem Kram, der erste Moment, ich habe den angerufen und gesagt, Alter, was ist los? Da lachte der nur und sagt, er wäre jetzt gerade mal KI am ausprobieren. Wo ich hin will ist, du merkst es nicht mehr. Du musst echt aufpassen, was du noch glauben kannst, was du nicht glauben kannst. Dafür hat, lass uns ganz kurz einen Stab in die Regulatorik machen, dafür hat die KI-Verordnung in Artikel 50 die Transparenzpflichten für Anbieter. Das heißt, es soll jetzt kommen oder es ist jetzt da oder es gibt die Regelung, die jetzt bald in Kraft treten, dass du halt entsprechend KI generierte Bilder kennzeichnen musst, aber auch nur in gewissen, also KI generierte Inhalte, aber auch nur in gewissem Kontext bei gewissen Personen. Das ist nicht im Privaten drin, das trifft nicht zu, wenn du das im kleineren Kreis machst, sondern es geht eher darum, wenn du redaktionell tätig bist und sowas. Das wird die Welt nicht retten, weil der, der mit bösen Absichten ein KI-Bild faket, garantiert nicht irgendwo unten drunter reinschreibt, Achtung, das ist kein KI generiertes Bild, sondern der will ja genau damit gerade auffallen. Das heißt, das wird uns am Ende vom Tag auch nicht retten, sondern es wird uns nur nochmal ein bisschen Regulatorik bescheren, aber wohin ist, ist halt der Blick für die Bilder von den Leuten, die sie sich angucken, du musst da skeptisch draufgehen und du musst halt wirklich nachfragen und musst dich absichern, ob das, was du da jetzt wirklich siehst, auch wirklich das ist, was du siehst oder ob irgendeiner sich wieder einen lustigen Schabernack erlaubt hat, entweder für den Spaß oder um irgendwie Bösewillen zu streuen. Das ist halt einfach durch.

René

00:46:18

Ja, also auch gerade jetzt die bei OpenAI wurde ja, habe ich ja gerade gesagt oder vorhin, dass ja ein neues Bild Generierungsmodell jetzt erschienen ist und da ist es auch so, vorher war es halt immer so, wenn man nach Dingen gefragt hat, also keine Ahnung, wenn du irgendwie urheberrechtlich geschützte Sachen oder sowas umgenerieren wolltest, dann hat er dich auf das Urheberrecht quasi hingewiesen und hat es nicht gemacht. Jetzt kannst du das durch geschickte Fragestellungen umgehen und dann funktioniert das auch und die Dinger, die sehen wirklich original aus und das ist wirklich, dann es macht es ja immer schwieriger. Also wenn du die Metainformationen aus diesen Bildern nicht hast, keine Chance. Das ist halt, ja. So, dann wir haben da natürlich auch ein Ding, das ist jetzt gerade in Diskussion gekommen, jetzt vor kurzem, ein deutsches Unternehmen hat sich jetzt mit einem kanadischen zusammengetan und die entwickeln jetzt gerade ja, ich sag mal, auch eine KI und das soll halt so die europäische Hoffnung dann quasi sein, wo wir uns so ein bisschen gegenüber den USA, China und so weiter halt aufstellen können, da wo man jetzt im Moment Bedenken hat, dass man da eben genau da eine europäische Lösung hat. Gut, warum wir von Europa sprechen, wenn wir Kanada mit reinnehmen, weiß ich nicht, aber es ist auf jeden Fall ein Thema, das soll halt wirklich da ein bisschen stärken können, also gerade diese Abhängigkeit von diesen, von den anderen Anbietern, wie gesagt, USA, China und so weiter soll das da so ein bisschen senken. Ja, da merkt man aber auch, wie spät sind wir eigentlich damit wieder dran, das ist auch so ein typisches Beispiel für das, wie es dann leider in Europa die letzten Jahre funktioniert, hätte viel früher sein können. Wahrscheinlich jetzt aus politischer Sicht ist es jetzt gerade so ein bisschen jetzt noch mal dringender geworden.

Michael

00:48:40

Ich habe vor vier Monaten, glaube ich, vier, fünf Monaten, habe ich mit Nestral mal gespielt und habe einen Probeaccount gehabt und habe mal zwei, drei Monate damit verbracht. Für mich persönlich war es nichts im direkten Vergleich zu anderen Systemen, aber ja, es ist ein Anfang, man kann denen mal eine Chance und Gelegenheit geben und rein damit. Wobei ich jetzt aber auch, wir haben jetzt so viel über KI-Systeme gesprochen, wir haben das letzte Mal den Podcast noch gehabt, glaube ich, haben wir schon über Microsoft wieder gesprochen und Abhängigkeiten und Kram und hast ja gesehen, ich muss dir ganz ehrlich sagen, so schön, wie ich das finde und so viel Spaß, wie ich mit diesen ganzen KI-Systemen habe und so einfach wie das macht, sehe ich für mich persönlich, und das muss man mal gucken im Kontext, ich sehe ja keine Abhängigkeit. Wenn ich morgen sage, rutscht mir alle den Buckel und dann mache ich halt nichts mehr und das ist mir das dann, also in einer Abhängigkeit von einem KI-System sich zu begeben, da musst du echt gucken, was du für ein Business Case hast und was wirklich deine Abhängigkeit widerspiegelt. Ich kann nur für mich sprechen und wahrscheinlich bei euch auch, ihr könnt meinen Job, oder Gott sei Dank und sehr, sehr gerne mache ich meinen Job auch mit null KIs, das ist ein Gutschen, was ich habe, um die Arbeit zu erleichtern oder die Arbeit zu optimieren und zu machen, aber es ist keine Abhängigkeit, oder?

René

00:49:55

Ich wollte gerade sagen, so muss man es ja auch verstehen, natürlich kann es das eine oder andere erleichtern, aber am Ende des Tages ist es, und das ist, glaube ich, das Wichtigste, was man da verstehen muss, es ist kein Ersatz für meine Arbeitsleistung, sondern es ist ein Assistent. Also der arbeitet mir zu, aber er ersetzt nicht meine Arbeit. Das ist, denke ich, das, was man da einfach sehen muss. Ich bin mal gespannt, also gerade dieses Aleph Alpha, so heißt das Unternehmen, das war ein deutsches Unternehmen, das wurde jetzt aus Kanada halt übernommen, also von einem Start-up, und die wollen jetzt auch nochmal nach vorne gehen. Da müssen wir halt mal gucken, wie sich das entwickelt, da gibt es halt noch nichts zum Test, wo wir wirklich, also das ist dann nicht Mistril, Mistril gibt es natürlich auch, das ist jetzt aber auch nochmal ein Test, da müssen wir jetzt mal gucken, wie sich das entwickelt, was dabei rauskommt. So, wenn wir jetzt mal über all diese Modelle sprechen, ich finde, eins muss noch fallen, einfach, weil wir auch mal über die Gegenseite da sprechen müssen, und zwar ist das aus dem Grund, weil das halt die Kehrseite von so einer KI, die uns natürlich viel unterstützen kann, ist das die Kehrseite davon, und zwar ist es Entropic. Entropic ist eine KI, die hauptsächlich dafür genutzt werden kann, Schwachstellen zu identifizieren, also ich kann sie auf Netzwerke loslassen, ich kann sie auf Infrastruktur einfach loslassen, und sie sucht Schwachstellen raus. Das ist extrem gefährlich, weil das natürlich die Türen für alle möglichen aufmacht, man muss aber dazu sagen, Entropic ist nicht frei zur Nutzung, das heißt, private Endanwender schon mal gar nicht, Unternehmen auch nur die, ich glaube, die 20 Größten, ob ich das jetzt gut finde, dass jetzt Microsoft und was weiß ich alle darauf Zugriff haben, der Rest aber nicht, halte ich mal auch für, also ich lasse das mal offen, da beantworte ich mal nicht, aber am Ende des Tages sieht man halt, also der Anbieter sagt selber, das Tool ist so gefährlich, dass wir es nicht veröffentlichen können, also einfach frei zur Nutzung geben.

Michael

00:52:25

Erstmal, du sprichst von Mythos, vom Anbieter Entropic, nur dass wir da ganz kurz gerade zu mir sprechen, dass LLM heißt, nur dass wir das ganz gerade haben, aber ich finde es ein interessantes Thema, dass du das noch reinspielst und dass wir darüber noch kurz ansprechen. Die Frage ist doch folgendes, wenn du das Ding öffentlich machen würdest, dann hast du ja wieder Waffengleichheit. Also die Sache ist doch die, ich würde, es ist doch viel eher gut, wenn das öffentlich wäre, dass die Softwareanbieter mal aus dem Quark kommen und damit erstmal ihre eigene Software abscannen und gucken und ihre Schwachstellen zumachen, bevor es irgendein Dritter macht. Also der Druck dafür, sichere, also ich bleib zu provokant, der Druck dafür, sichere Softwaren zu programmieren und bessere Schwachstellen-Scans vor Releases zu machen, wird doch nur höher und mit so einem Tool hätten sie das richtige Werkzeug zur Unterstützung an der Hand, als jetzt zu sagen, naja, wir sind uns da so ein bisschen unsicher mit der Programmierung, aber wir geben es mal raus, es wird schon keiner finden und sich dann zu beschweren, wenn irgendwo so eine, nenn es mal eine Macht oder ein Tool an die Hand gegeben wird, wo eben Dritte Sicherheitslücken sehr schnell identifiziert kriegen. Ich finde es eher auf der Programmierer-Seite gut und wichtig sowas zu haben. Wir reden jetzt gar nicht über Apps, die in Deutschland von der Bundesregierung oder von anderen freigegeben werden oder von der Gesundheitsakte oder sonstigen Sachen, wo einfach wirklich grobe Bugs schon am Anfang immer mal drin waren, dass du keine KI brauchst, sondern da reicht einfach mal eine halbe Stunde, aber... Sehr deutlich. Ich bleib provokant. Ja, es muss ja auch mal provozieren und polarisieren, aber ich finde, ich finde, dass solche Tools sicherlich gefährlich sind und sicherlich Gefahr bürgen, aber ich sehe aus diesem Ding... Hey, ich komme aus der 9001 Risiken und Chancen. Ich sehe halt da auch die Chance, Dinge besser zu machen in einem relativ automatisierten Modus, um für die Hersteller die Möglichkeit zu haben, einfach besser zu werden. Das ist immer ein Katz-und-Maus-Spiel. Weißt du, was ich meine?

René

00:54:42

Michael, an der Stelle gebe ich dir recht. Das stimmt. Wenn das immer nur so genutzt wird, wie du es gerade darstellst. Die Befürchtung, die ich oftmals habe, und ich kenne Antivirenhersteller, die selbst Viren entwickelt haben und die verbreitet haben, damit sie sagen können, wir sind der einzige, der sie erkennt. Ist ja klar. Normal, das sind ja meine Viren. Aber genau das ist ja das Problem. Wenn ich jetzt also... Wenn wir mal einfach die Berichte über Schwachstellen lesen, dann ist es ganz oft so, dass zum Beispiel Google häufig Schwachstellen bei Apple identifiziert. Jetzt könnte ich ja sagen, und böse Absicht unterstellen, das Tool ist ja nicht nur zum Identifizieren von Schwachstellen, sondern es greift diese Schwachstellen ja auch an. Automatisiert auch. So, jetzt könnte ich ja böse Absicht unterstellen und sagen, wer sagt mir denn, dass die das jetzt nicht nutzen, um den Konkurrenten anzugreifen. Ich weiß, die sind alle gleich groß, haben alle gleichzeitig Zugriff auf diese Tools, aber es gibt Unternehmen, die nicht in diese Top 20 fallen. Die sind vielleicht leicht drunter und dann könnte man ja was dagegen tun. Ich will niemandem was unterstellen und ich weiß, eigentlich sollte die Welt nicht so funktionieren. Aber sollte, hilft uns nicht.

Michael

00:56:02

Deswegen bin ich ja dafür, das Ding einfach, ich bleib provokativ, ich bin dafür, das Ding einfach rauszuballern und frei zugänglich zu machen und dann guck mal, was passiert.

René

00:56:12

Ja, das würde ich nicht machen.

Michael

00:56:13

Und dann hast du, sicherlich hast du Softwareanbieter dabei, die crashen. Das wird passieren, aber dann hast du zwei Möglichkeiten. Entweder der Softwareanbieter kümmert sich selbst proaktiv darum und sieht zu, dass seine Schwachstellen zugehen und nutzt das Tool selbst, um sich selbst mal kritisch zu hinterfragen, oder es ist vielleicht einfach nicht dein Softwareanbieter, den du gerne haben willst, wenn du drei Datenpannen mit ihm hattest. Kannst du so sehen, verstehe ich. Ich bleib provokativ und gehe auf den Weg der natürlichen Selektionen des Aussiebens an dieser Stelle.

René

00:56:45

Ja, nee, ich nicht. Also das tue ich tatsächlich nicht, weil dafür haben wir zu viel kritische Infrastruktur, die eben genauso angreifbar ist und dieses Tool ist nicht, okay, ich versuche es mal und es klappt nicht, dann höre ich auf.

Michael

00:56:58

Aber wenn die Softwaresysteme in den kritischen Infrastrukturen, wenn diese Hersteller dieses Tool nicht ebenfalls nutzen, um vorab sofort durchzuscannen und zu machen und ihre Schwachstellen zu schließen, ja, dann sind die doch selber schuld. Dann ist das Ding und nicht geeignete Software für eine kritische Infrastruktur.

René

00:57:19

Aber es gibt einen Zeitpunkt, wo es veröffentlicht werden würde. Das wäre dann für alle so. Und dann musst du den Zeitpunkt treffen und der erste sein, der seine eigene Infrastruktur sichert.

Michael

00:57:30

Das ist das Kritische an der Sache ist, wie veröffentliche und wer greift zuerst an. Also wer ist erst die Katze und wer macht erst das Kätzchen, wer macht erst das Mäuschen. Ich bin ja bei allen Sachen dabei und ich weiß auch, dass das bei mir, dass ich das jetzt mal mit kritisch und polarisierend rausschiebe. Dennoch glaube ich, dass das Tool, wenn es wieder jeder hat, ist wieder Waffengleichheit da. Dann ist wieder Chancengleichheit da. Die Anbieter und die Anbieter müssen in die Puschen kommen. Die Anbieter können sich nicht rausreden mit dann verbiete ich halt das Tool, was theoretisch aufdeckt, was ich für Bugs in der Software habe. Software ist verbuggt. Das ist schon immer so gewesen, wird immer so bleiben. Reden wir gar nicht von Microsoft. Es ist schon immer, dass es nachgreift. Das ist schon immer so, dass Schwachstellen mal kommen. Es ist normal. Das ist halt einfach so. Aber der Hersteller muss die Möglichkeit haben, mit sehr guten Modellen und mit sehr guten Möglichkeiten, die wir jetzt durch KI kriegen, entsprechend nachsteuern zu können und automatisierte Scans bei sich laufen lassen zu können und ein bisschen besser zu sein, wie eben die, die versuchen einzudringen. Und das ist die Pflicht von den Herstellern, da aufzurüsten und zu erkennen, dass KI ein neuer Angriffsvektor ist, den sie vorher nicht hatten. Und erst recht kritische Infrastruktursysteme.

René

00:58:49

Ja, also ich gebe dir auch recht. Ja, kann man öffentlich machen, aber nicht alles zum gleichen Zeitpunkt. Wenn du dann den Herstellern sagst, ich meine, am Ende des Tages, wir brauchen uns nichts vormachen. Dieses Tool ist natürlich dazu entwickelt, um damit Geld zu verdienen. Aber dann sollten sie allen Softwareanbietern die Möglichkeit geben, das Tool auf sie selber anwenden zu können, um Schwachstellen zu identifizieren, sie schließen zu können. Meinetwegen nehmen die Summe X dafür, damit die da einen Vorabzugriff kriegen, bevor es dann alle eine Möglichkeit haben.

Michael

00:59:17

Aber René, das Thema ist doch an sich durch. Das Ding wurde Microsoft und Groß... Ich merke immer, wenn ich Microsoft sage, meine ich nur große IT-Unternehmen pauschal. Das ist für mich ein Gattungsbegriff. Entschuldigung. Also, es wurde doch großen Unternehmen zur Verfügung gestellt und diese großen Unternehmen wurden schon attackiert und die LLM und das Modell schon abgegriffen von Leuten, die es eben greifen wollten. Du verstehst, was ich meine. Also es ist schon lange so, dass es, nennst mal vorsichtig unter der Hand, schon so langsam eine schleichende Verbreitung hat. Du kannst das nicht verhindern. Das stimmt.

René

00:59:51

Aber es ist schon noch was anderes, wenn jetzt... Ich hätte jetzt fast Max Mustermann gesagt, aber den gibt es hier bei uns in der Nähe tatsächlich, deswegen sage ich es nicht. Aber wenn jetzt jeder die Möglichkeit hätte, zu Hause dieses Tool anzuwenden, dann ist das ja... Das ist richtig. Dann ist es noch mal um ein Vielfaches schlimmer. Ich verstehe das, aber das sind dann immer so spezialisierte eher, die da richtig Bock drauf haben, wer privat einfach nur ein bisschen rumklicken will und dann ein Domain eingibt und sagt, hier greif mal an und schau mal, was kommt. Das ist natürlich doof.

Michael

01:00:23

Ja, da bin ich jetzt wieder bei dir. Das stimmt.

René

01:00:28

Warum ich das Thema nur angeschnitten habe, man sieht halt, KI lässt sich in vielerlei Hinsicht nutzen. Und man muss halt zu den Vorteilen, die es bringt, muss man auch ganz oft Risiken bewerten oder dagegenlegen und einfach dann schauen, wie man damit umgeht. Ich finde halt, Mythos ist einfach ein Teil, der dazugehört zu dieser ganzen Wahrheit. Das ist zwar nichts, was wir selber jetzt nutzen können, aber am Ende des Tages kann es nachher auch auf mein Unternehmen eine riesen Auswirkung haben, weil ich dafür sorgen muss, dass diese Schwachstellen ja nicht ausgenutzt werden, sonst verliere ich noch mehr als das, was ich sowieso in ChatGBT reinschreibe. Und das ist halt schon ein Punkt. Sehr gut. Ja, Michael, was hast du noch zum Guten zu geben?

Michael

01:01:17

Ich hätte gesagt, lass mal Deckel zumachen. Wir sind schon wieder eine Stunde dran. Wir könnten wahrscheinlich noch fünf Stunden drüber diskutieren und Wettenthemen finden. Aber lass uns einen Deckel hinter die Folge machen. Eine Stunde reicht.

René

01:01:32

Ja. Das unterschreibe ich so. Ich hätte jetzt vielleicht noch ein, zwei, drei andere Tools, aber die unterscheiden sich nicht so weit. Wir haben ja jetzt über einige unterschiedliche Modelle gesprochen. Klar, die haben alle irgendwo ihre Stärken und Schwächen. Ich glaube aber, die namenhaftesten haben wir jetzt genannt, auch die, die jetzt gerade vielleicht auch vom Thema her am aktuellsten sind. Und von daher glaube ich, haben wir das Wichtigste gesagt. Ich sage es nur noch mal, die Auswahl einer KI ist ganz sicher daran zu richten, was brauche ich und was bietet mir die KI? Wir hatten ja vorhin festgestellt, gerade so ein Claude, meinetwegen, ist sehr genau, sehr gut, wenn wir in Daten oder auch in Rechtstexten arbeiten. Ein Chat-GPT ist sicherlich so ein Allrounder, mit dem man schon viel hinbekommt. Nichts zu 100% perfekt, aber solange man damit arbeiten kann und einem auch bewusst ist, dass es aber in jedem LLM, dass da auch Fehler entstehen könnten, man die bitte noch mal kontrollieren muss, dann ist das alles in Ordnung. Von daher macht euch da ein eigenes Bild von, guckt, was ihr braucht und was diese KI bieten kann. Und wenn ihr sonst Fragen habt zu den unterschiedlichen Modellen, also wenn ihr da irgendetwas Spezielles wissen wollt, dann gerne her damit. Dann sehen wir zu, dass wir euch das beantworten können. Michael wahrscheinlich eher aus der Erfahrung heraus logischerweise oder eben aus der regulatorischen Sicht auch und bei mir vielleicht eher technisch oder auch was die Nutzung angeht. Das wäre es eigentlich runtergebrochen. Ich würde es damit beschließen wollen, Michael, wenn du da nichts weiter beizutragen hast, würde ich sagen, vielen Dank in die Runde. Ich wünsche euch ein schönes Wochenende. Wir hören uns in 14 Tagen wieder und besten Dank Michael. Bis dahin.

Michael

01:03:35

Sehr gerne. Auch von mir Grüße in die Runde. Grüße aus Wetzlar. Habt eine gute Zeit. Bis zum nächsten Mal.

Feedback geben

Dir gefällt der Podcast und Du möchtest das mal loswerden? Du hast Tipps für neue Themen oder magst über den Inhalt bestimmter Folgen diskutieren? Dann wähle im Formular die jeweilige Episode aus und schreib uns eine Nachricht. Vielen Dank für Dein Feedback!

★★★★★

Gefällt Dir die Show?
Bewerte sie jetzt auf Apple Podcasts

2026 - René Geppert & Michael Kornmann

Hosted by LetsCast.fm
Deinen eigenen Podcast erstellen