users lounge Cover

users lounge

Der Podcast für mehr IT-Sicherheit
Since 09/2023 80 Episoden

#80 Darf KI Entscheidungen treffen, die Menschen betreffen?

Wenn Algorithmen plötzlich Verantwortung übernehmen.

23.10.2026 71 min

Zusammenfassung & Show Notes

Darf KI eigenständig über Menschen entscheiden – oder muss am Ende immer ein Mensch das letzte Wort haben? Wir diskutieren die Grenzen zwischen KI-Empfehlungen und automatisierten Entscheidungen, mögliche Diskriminierung und die Frage der Verantwortung. Anhand konkreter Praxisbeispiele hinterfragen wir, wie viel Entscheidungsfreiheit wir KI wirklich geben sollten.

Darf KI Entscheidungen treffen, die Menschen betreffen? Und wer trägt die Verantwortung, wenn sie falsch entscheidet?

KI kann Bewerbungen analysieren, Kunden bewerten, Entscheidungen vorbereiten und zunehmend auch eigenständig handeln. Doch nur weil sie dazu technisch in der Lage ist, bedeutet das noch lange nicht, dass wir ihr diese Verantwortung überlassen sollten.

René und Michael diskutieren, wo die Grenze zwischen einer hilfreichen KI-Empfehlung und einer tatsächlichen Entscheidung verläuft. Denn auch wenn ein Mensch am Ende noch auf „Bestätigen“ klickt, stellt sich die Frage, ob er die Entscheidung wirklich selbst getroffen oder lediglich einen KI-Vorschlag übernommen hat.

Am Beispiel der Bewerberauswahl sprechen wir über Objektivität, Diskriminierung, Datenschutz und die Grenzen algorithmischer Bewertungen. Kann KI fairer entscheiden als ein Mensch? Oder übernimmt sie lediglich die Vorurteile und Auswahlkriterien, die wir ihr vorgeben?

Anschließend geht es um die Verantwortung innerhalb eines Unternehmens. Welche Entscheidungen dürfen automatisiert werden? Wann ist eine menschliche Prüfung unverzichtbar? Und wer muss die Konsequenzen tragen, wenn eine KI einen Fehler macht?

Besonders praxisnah wird es bei konkreten Entscheidungsfällen: Darf KI IT-Sicherheitstickets priorisieren, Bewerber ablehnen, Kunden Rabatte gewähren, Vertragsverlängerungen verweigern oder einen möglichen Datenabfluss automatisch stoppen? Auch die automatisierte Bearbeitung von Kundenbeschwerden und Erstattungen steht zur Diskussion.

Dabei wird deutlich, dass nicht jede Entscheidung gleich kritisch ist. Während automatisierte Schutzmaßnahmen durchaus sinnvoll sein können, erfordern Entscheidungen mit unmittelbaren Auswirkungen auf Menschen, Kundenbeziehungen oder wirtschaftliche Interessen deutlich mehr Kontrolle.

Die zentrale Streitfrage: Wie viel Verantwortung sind wir bereit, einer KI zu übertragen – und wie viel müssen wir selbst behalten?

Denn entscheidend ist nicht allein, was KI technisch kann, sondern welche Entscheidungen wir ihr bewusst überlassen wollen.





Für mehr Inhalte besucht die users lounge bei Instagram, Facebook, LinkedIn, YouTube & TikTok oder im Web.

Für Themen rund um IT meldet euch bei ServeCom über Instagram, Facebook, LinkedIn, YouTube & TikTok oder im Web.
Für Beratung rund um Datenschutz und Informationssicherheit meldet euch bei der QS Kornmann über LinkedIn oder im Web.

Transkript

Michael
00:00:59
Guten Morgen Urlauber! Hi!
René
00:01:01
Ja, moin Michael!
Michael
00:01:03
Moin!
René
00:01:04
Ja, leider nicht mehr Urlauber.
Michael
00:01:07
Urlauber gewesen zu sein, ja. Urlaub gehabt zu haben, ja.
René
00:01:12
Ja, war schön. Ja, genau.
Michael
00:01:16
Lass uns zum Thema kommen, René. Du hast wieder ein Thema mitgebracht.
René
00:01:21
Ja, wir beide haben ja festgestellt, wir haben schon so lange nicht mehr über KI gesprochen.
Michael
00:01:26
Ja, schon ewig nicht mehr.
René
00:01:28
Dann wäre es heute doch mal wieder an der Zeit, darüber zu sprechen. Dementsprechend, ja, die Frage für heute wäre, darf KI Entscheidungen treffen, die Menschen betreffen?
Michael
00:01:38
Ja, wir werden die nächsten Themen mal wieder nicht mehr so KI-lastig machen, aber wir fanden das Thema eben interessant, um die Nummer nochmal abzurunden. Und ich glaube, die Folge, wenn der Titel schon ist, darf KI Entscheidungen treffen, könnte es passieren. Wir werden ein bisschen ins Philosophische abdriften. Aber hier geht es einfach nur nochmal darum, dass wir uns unterhalten. Und mit den ganzen KI-Folgen, die wir jetzt hatten, was ist denn jetzt das Endeffekt auf dem Ding? Macht es jetzt wirklich Sinn, irgendwo auf den Knopf zu drücken und dem Ding einfach blind zu vertrauen? Und wie weit sollte ich im Thema KI-Nutzung gehen? Und was sollte ich vielleicht besser nicht tun? Das wäre so der Fahrplan, den wir heute haben.
René
00:02:16
Genau. Und es geht heute ganz speziell ja nicht darum, einfach nur zu sagen, okay, die KI hat jetzt was erstellt und blaste ich das jetzt einfach, ich sage mal so ungefiltert raus. Das wäre ja KI-Kennzeichnung und was weiß ich, meinetwegen bei Social Media. Aber es geht ja jetzt speziell darum, ob die KI halt wirklich Entscheidungen treffen darf, die Menschen betrifft. Und jetzt, wenn wir mal so einen Einstieg nehmen, Michael, stell dir einfach vor, du suchst einen neuen Mitarbeiter, die neue Mitarbeiterin und bekommst 150 Bewerbungen und die KI analysiert das, also all die Unterlagen, die dann da so reinkommen, alle Informationen und sortiert dann 140 Bewerber aus, sodass du nur noch mit den besten 10 sprichst. Wäre das zulässig? Das wäre jetzt schon mal so ein...
Michael
00:03:15
Wir fangen schon an, ins Philosophische ganz am Anfang einzutreiben, weil die Frage ist ja erstens mal zulässig, wäre ja Hochrisiko-KI, aber da wollen wir ja heute mal so nicht so ins Detail mit draufgehen, sondern eher in die Sache reingehen mit, würde ich es denn tun und macht es Sinn? Und das ist so eine Sache, wo ich sage, ich würde mir auf jeden Fall nicht von der KI 140 Bewerber raussischen lassen. Also definitiv würde ich jetzt nicht hingehen und ich würde es auch keinem empfehlen, einfach 150... Die Datenschutzhülle geht auf. Mal eben schnell 150 komplette Bewerbungsunterlagen in eine KI zu droppen und zu sagen, gib mir die 10 Besten raus, alles ist weg. Weil ich kann mir schon vorstellen, dass allein der Prompt dazu mit finde mir mal die Top 10 sehr wahrscheinlich ein großer Prozentsatz der Zuhörer sich selbst eingestehen muss oder scheitern wird, am richtigen Prompt überhaupt auf die 10 zu kommen. Wieso? Du kannst auch einfach sagen, gib mir die 10 Besten. Ja, aber die 10 Besten wovon? Das ist aber genau die Sache, die 10 Besten wovon? Und was sind die Kriterien, um diese rauszufischen? Das heißt, ich glaube, also ich bin fest davon überzeugt, dass der Aufwand, den Prompt so zu erstellen, dass ich wirklich die 10 Besten kriegen würde, würde ich die Datenschutzhülle aufmachen und 150 Bewerbungen da rein droppen. Ich glaube, in der Zeit habe ich 150 Bewerbungen selbst durchgeguckt oder wie siehst du das?
René
00:04:47
Na ja gut, jetzt könnte man argumentieren, wenn ich diesen Auswahlprozess immer wieder habe, dann kann es mir trotzdem Zeit sparen.
Michael
00:04:55
Hast du ja nicht, weil du hast ja immer schon unterschiedliche Positionen.
René
00:04:59
Vielleicht suche ich ja immer die gleichen Positionen oder ich ergänze nur noch, also ich nehme den gleichen Prompt und tausche nur einen gewissen Teil aus, sei es drum. Nehmen wir mal an, was wäre denn? Also grundsätzlich, ich gebe dir recht, also am Ende des Tages sollte sowas auch aus meiner Sicht wahrscheinlich noch ein Mensch entscheiden. Aber was wäre, wenn wir jetzt davon ausgehen würden, dass die KI nachweislich weniger Fehler in der Bewertung macht als die Person, der Personalausstand heute? Mal angenommen, es wäre so, was wäre denn dann?
Michael
00:05:34
Na ja, also erstmal sind wir uns einig, dass auch ein Personaler sehr wahrscheinlich Fehler machen kann und auch beim Personaler sehr wahrscheinlich Befindlichkeiten und Dinge mit einspielen und auch der braucht, wir haben eben so vom Prompt von der KI gesprochen, auch der braucht irgendein Prompt, sprich irgendeine Bewertungskriterien um zu entscheiden, ist es jetzt ein Top Tenner oder ist es kein Top Ten. Nichtsdestotrotz würde ich auf gar keinen Fall der KI an dieser Stelle folgen, weil es gehört, es ist wie beim Fußball und beim Abseits, es gehört dieses Menschlichen und es gehört diese Fehlerquelle Mensch ist wesentlich sanfter als wenn du in das KI-Thema reingehst. Ganz davon abgesehen, dass wenn du in das KI-Thema reingehst, kurz das rechtliche Kram, das ist volle Granate Profiling, das ist Hochrisiko-KI, bis du dir das abgesichert hast und bis du das an irgendeiner Art und Weise legitim hast, dass du das laufen lassen kannst, knicket und am Ende hast du die Entscheidungsfindung sowieso wieder bei dir, weil der letzte Entscheidungsding die KI nicht treffen darf. Das heißt, selbst dieses 100-Auswahlverfahren, was wir gerade fiktiv durchspielen, ist datenschutzrechtlich und KI-rechtlich eine ganz heiße Kiste. Jetzt kommen die Nächsten wieder, also du kannst mit allen Dingen, kannst du spielen, du könntest jetzt zum Beispiel sagen, gut, ich nehme die 150 Dinge, die anonymisiere ich und gehe mit 150 anonymisierten Daten durch die Gegend und hole mir nachher, wenn ich sie fertig ausgewertet habe, aus der Anonymisierung hole ich mir die Top-10-Dinge wieder zurück über irgendeine ID oder über irgendwas, was ich drüber cluster, aber das wird in der Praxis alles nicht wirklich so funktionieren, dass ein Datenschützer glücklich ist.
René
00:07:19
Nein, also das ganz sicher nicht. Ich würde jetzt auch mal so ein bisschen die Datenschutzbrille zur Seite legen.
Michael
00:07:24
Ich weiß, die ist extrem wichtig an der Stelle, das weiß ich. Aber sehr gerne, sonst können wir aufhören.
René
00:07:31
Ja, nein, aber Datenschutz ist natürlich wichtig. Mir geht es aber jetzt grundsätzlich einfach nur darum, was wirklich inhaltlich dabei passiert oder ähnliches. Also ich glaube, wir können so ein bisschen zumindest den Punkt abhaken, dass eine KI-Entscheidung grundsätzlich schlechter ist als eine menschliche. Das würde ich so erstmal auf jeden Fall nicht unterschreiben, dass sie grundsätzlich schlechter ist. Aber wenn wir jetzt mal einfach nur, wir haben ja gerade gesagt, entweder hast du halt eine KI oder du hast halt einen Menschen. Vertrauen wir einem Menschen automatisch mehr? Also jede Person, jeder Mensch hat ja irgendwo sein Mindset. Es ist ja immer so ein bisschen eine subjektive Bewertung und man findet ja, vielleicht ist man auch an der einen oder anderen Stelle voreingenommen, wie auch immer. Vertrauen wir diesem Menschen mehr als einer KI und wenn ja, warum?
Michael
00:08:33
Echt philosophische Folgekreude. Also ich finde, es ist eine zweischneidige Sache und es kommt auch immer darauf an, was die tun. Also jeder hat von uns wahrscheinlich schon das Spiel gespielt oder jeder kann es ja mal gerne ausprobieren. Überleg dir selbst mal eine Lösung von einem Problem und schmeiß das in eine KI rein. Die würde dir niemals sagen, jawohl, hast du schön gemacht, tolles Ergebnis, mach das genau so, würde ich es auch tun. Sondern die KI würde dir immer an irgendeiner Stelle versuchen, was anderes zu machen. Das heißt, wenn du sagst, vertraue ich dem, vertraue ich dem, nimmst du das Ergebnis aus einer KI, vertraust der, gibst das einem Menschen. Zum Gegenprüfen würde er sagen, ich würde da schon was ein Stückchen anders machen und ich finde es nicht 100% in Ordnung. Nimm aber umgekehrt das Ergebnis, was ein Mensch ausgearbeitet hat, wärst du in der KI zu Gegenprüfung und die würde dir genau das gleiche sagen. Also du musst an irgendeiner Stelle, musst du dein Layer haben und musst deine Sache haben, wann vertraue ich welcher Position und wann ist für mich ein Trust Level erreicht, wo ich sage, das passt, mach ich einen Haken dran. Ich verrenne mich nicht, weil wenn du diese beiden Spiele gegeneinander ausspielst, sitzt du wahrscheinlich 10 Tage an der kleinsten Lösung, weil immer irgendeiner noch irgendeine Idee hat, was vielleicht anders funktionieren kann. Das macht es nicht besser und nicht schlechter, das ist hoffentlich sehr wahrscheinlich, aber das macht es anders. Das heißt, wo vertraue ich wem, wäre für mich eine Sache, wo es drauf ankommt. Wenn es eine offene Sache ist, also so ein offenes Ding ist, würde ich sagen, vertraue ich gerne dem Menschen mehr. Wenn es aber jetzt so eine, sag mal, du knallst eine Excel-Tabelle mit 1500 Zeilen und 38 Spalten und sagst, such mir mal die größten Zahlen raus, sortier mir mal das von A nach Z, mach mal dies, mach mal das, das wird sehr wahrscheinlich im Trust Level bei einer KI besser aufgehoben sein, weil es was Systematisches ist, was weglaufen kann. Das ist nichts Offenes, wo du interpretieren musst, wo du Hören einschalten musst, sondern bei so generischen Dingen ist wahrscheinlich oder bin ich fest davon überzeugt, die KI derjenigen, wo ich eher sagen würde, jawohl, das Ergebnis bin ich so, dass ich sage, vertraue ich, oder?
René
00:10:43
Ja, sicherlich. Also sobald Muster drin sind, also das, was eine KI wirklich lernen kann, da ist sie sicherlich stärker. Das muss man einfach sagen. Das kann ein Mensch sicherlich auch, aber er macht halt an der einen oder anderen Stelle, aus welchen Gründen auch immer, irgendwann auch mal einen Fehler. Das gehört dazu und das ist in Ordnung. Das wird eine KI nicht machen. Ich sage ja, es ging ja mehr um dieses subjektive Entscheiden. Ich glaube, da ist eine KI schon, dass sie objektiver ist. Aber wie du schon sagst, ist natürlich immer der Blickwinkel. Klar hat eine KI einen anderen Blickwinkel wie ein Mensch. Ich glaube, am Ende des Tages, wenn du jetzt einen Mitarbeiter suchst, der muss ja auch zu dir passen und nicht zur KI. Dann ist es ja manchmal schon wahrscheinlich besser, wenn man selber nochmal einen Blick drauf wirft und sagt, okay, das passt mit meinen Werten lieber ein oder es gibt das wieder, was ich wirklich suche. Wie auch immer.
Michael
00:11:45
Ich würde nochmal am Anfang kommen, ich würde mir auf keinen Fall von 150 Bewerbungen, lass den Datenschutz weg, mir von 150 Bewerbungen die Top 10s geben lassen. Auch egal, wie gut der Prompt ist oder wie sonst irgendwas ist. Weil ich glaube, hier geht es um Menschen und das ist definitiv eine Sache, die ich selbst machen würde. Oder eine Sache, wo ich Menschen draufsetzen würde. Da wäre für mich, wir waren ja gerade bei Vertrauen, dann wäre bei mir, wenn ein Mitarbeiter kommt und sagt, ich habe die 150 Bewerbungen durchgeguckt, der rechte Stapel sind die Top 10, da mache ich da eher einen Haken dran, als wenn die KI sagt, pass auf, das sind die Top 10 Ergebnisse, definitiv.
René
00:12:28
Ja. Unterschreibe ich so. Würde es einen Unterschied machen, wenn die KI etwas empfiehlt oder tatsächlich entscheidet? Macht das für dich einen Unterschied? Weil am Ende des Tages, da sitzt ja jemand vor, fragt die KI etwas und sie empfiehlt meinetwegen etwas. Entscheiden kann sie es wahrscheinlich nicht, weil am Ende des Tages muss ich ja immer noch, wobei müsste ich nicht, aber wahrscheinlich schreibe ich dann noch eine Mail, frage nach einem Termin, wie auch immer.
Michael
00:13:01
Wie weit sind wir noch an dieser Stelle? Zwischen Empfehlen und Entscheiden, glaube ich, sind wir im Oktober 2026, wo wir diesen Podcast aufzeichnen, an einer relativ engen Schnittstelle. Weil durch Schnittstellen, durch APs, durch MCPs, durch Bind mal Outlook in die KI ein, gib mal der KI Zugriff auf SharePoint etc. Wie weit sind wir denn schon noch von der Empfehlung zur Entscheidung weg? Weil wenn du das ja konsequent durchspielst, wir bleiben bei dem Bewerbungsbeispiel, finde ich eigentlich ganz cool, wo man sich dran abarbeiten kann, das wäre ja das Einfachste dann zu sagen, guck dir die 150 an und schreib den 140, die du aussiebst, gleich Absagen und die anderen 10 schreib gleich eine Einladung zur Bewertung und gib denen noch einen Link auf irgendeine Buchungsplattform, wo sie sich direkt das Bewerbungsgespräch einbuchen. Das wäre ja dann der nächste konsequenter Schritt und das wäre für mich die KI entscheidet. Das wäre Level 3.
René
00:14:10
Ich sehe auch die Schwelle zwischen Empfehlen und Entscheiden sehr, sehr gering. Und das ist halt ein bisschen schwierig.
Michael
00:14:20
Die wird geringer, weil es die Technik eben mehr, weil das Wachstum und die Evolution von KI-Systemen eben so rasend schnell sind. Vor drei Jahren oder was, hat sich darüber noch keiner Gedanken gemacht, das war eine klare Sache. Du hast eine KI, die gibt dir irgendwas raus, aber das ist halt nur eine Empfehlung, weil am Ende entscheiden, sprich die Mail senden, musst du auf jeden Fall noch selber. Nur das verschwimmt halt immer mehr.
René
00:14:43
Ja, genau so ist es. Und wenn man jetzt mal, ich will jetzt nicht sagen, dass der Arbeitsalltag ist oder dass das ganz oft schon so ist, sondern jetzt mal einfach so als Frage raus, würde ein Geschäftsführer tatsächlich merken, wenn Mitarbeiter KI-Empfehlungen, ich sage jetzt ganz bewusst Empfehlungen, nur noch abnicken? Sie als das eigene quasi nutzen? Also gar nicht mehr darüber nachdenken, ist das richtig oder so, sondern sie würden einfach dieser Empfehlung folgen?
Michael
00:15:22
Also ich glaube, das ist im Moment ein Zeitgeist, dass im Moment ganz, ganz viele KI-Empfehlungen in menschliche Entscheidungen einfach eins zu eins übernommen werden. Ich glaube, das ist ganz oft. Wie oft ich das Gefühl habe, auch gerade jetzt aus meiner Beratungsseite aus, wir kommen gleich wieder ins Menschen rein, wie oft ich das Gefühl habe, dass die E-Mails, die mir jetzt hier vorgelegt werden, das kann sich eigentlich kein Mensch mehr mit einem gesunden Menschenverstand vorher durchgelesen und korrigiert haben, sondern er hat bewusst die Entscheidung getroffen, also die Entscheidung, ich sende diese Mail mit dem Inhalt, den er wahrscheinlich aus einem LLM rauscopy-pasted hat. Für mich ist der Unterschied zwischen Empfehlen und Entscheiden, die KI empfiehlt dir einen E-Mail-Entwurf. KI sagt, pass auf, dem Kunden würde ich jetzt gerne oder nach dem Vorfall würde ich empfehlen, dem Kunden das und das zu schreiben. Und dann ist es ja die bewusste Entscheidung des Menschen, copy-paste ich das eins zu eins ins Outlook und sage senden, oder lese ich drüber und verändere gegebenenfalls auch Inhalte. Sondern der Entscheidungsknopf ist der Sendenknopf im Outlook und die Empfehlung ist der Output aus der KI. Und da habe ich immer mehr das Gefühl, dass ganz, ganz viele KI-Empfehlungen zu Human-Entscheidungen rübergemünzt werden. Und ich glaube auch, dass Geschäftsführer, je nachdem wie hoch das Tempo ist im Unternehmen und wie stark die Sorgfalt ist, das dann auch einfach abdecken.
René
00:17:15
Ja, deswegen die Frage. Da zielt es ja genau hin. Jetzt, weil wir ja gerade zwischen Empfehlungen und Entscheidungen so ein bisschen hin und her gepanelt sind oder immer wieder drauf herumbalanciert sind, wo beginnt eine echte Entscheidung? Wenn wir jetzt mal so für diesen Bereich, wenn eine KI meine Mails sortiert, entscheidet sie ja eigentlich schon bereits. Das ist ja dann keine Empfehlung mehr, sondern eine Entscheidung. Oder warum sollte das was anderes sein, wenn sie dann Bewerbungen sortiert? Vielleicht nicht direkt löscht, aber sie sortiert mir das vor. Das ist ja eigentlich dann schon das Gleiche, oder nicht? Das ist keine endgültige Entscheidung, aber sie entscheidet sich ja trotzdem für etwas.
Michael
00:18:08
Ja, aber sie empfiehlt dir die Entscheidung. Also sie empfiehlt dir quasi eine Entscheidung zu treffen. Aber du musst das als Mensch hinterfragen, ausprobieren und darf nicht stumpf die Empfehlung in eine Entscheidung rübermachen. Weil sonst bist du keine Kontrollinstanz mehr. Du kannst nicht einfach sagen, die KI empfiehlt 140 Mitarbeiter und 140 Bewerbern abzusagen. Ja, alles klar, einmal Sammel-Mail raus, ab dafür. In dem Moment triffst du zwar die Entscheidung, aber du hast die Kontrolle nicht gemacht, die du eigentlich machen musst. Und was wichtig ist, nämlich den Output und die Empfehlung der KI vernünftig, logisch zu überdenken bzw. zu verifizieren. Und das ist der ganz wichtige Punkt, wo der Mensch noch drin ist. Erst recht bei Bewerbung. Deswegen ganz am Anfang hätte ich gesagt, niemals 150 Bewerbungen da rein und niemals 140 Absagen automatisiert aus der KI raussenden lassen.
René
00:19:09
Ja, also ich glaube, du kannst auch die KI-Nutzung irgendwie so ein bisschen in drei Stufen unterteilen. Und zwar einmal wirklich die Unterstützung. Das ist so die Stufe 1. Ich glaube, das ist wirklich das Einfachste. KI fasst zum Beispiel die Bewerbung zusammen, markiert verdächtige Vorgänge und der Mensch prüft halt die Information. Das ist so die niederschwelligste Nutzung der KI. Dann Stufe 2 ist die Empfehlung, da wo wir gerade so schon mal kurz drüber gesprochen haben. Also KI erstellt schon mal eine Reihenfolge, wie auch immer, wo sie wirklich sagt, okay, ich empfehle dir jetzt an dieser Stelle so und so mit dem Bewerber umzugehen oder mit der Bewerberin. Der Mensch trifft dann nur noch formal die Entscheidung. Und die dritte Stufe logischerweise die KI entscheidet. Also wie du es schon gesagt hast, lehnt Bewerbung ab, sperrt Konten, verweigert eine Dienstleistung oder was weiß ich und das ohne menschliche Freigabe. Ich glaube, bestes Beispiel dafür ist ja, Amazon war ja dafür auch so am Pranger gestellt, wo sie wirklich Kündigungen per KI ausgesprochen haben, ohne dass jemals jemand davon gehört hat, außer die Person, die gekündigt wurde. Das ist halt genau das. So und wenn wir jetzt mal sehen, ist jetzt die Stufe 2 wirklich viel besser als 3, also sprich die Empfehlung viel besser als das Entscheiden. Natürlich gibt es ja den Unterschied, das haben wir ja gerade rausgestellt, aber ist es am Ende des Tages, wenn die Menschen mittlerweile etwas eher dazu neigen, zu sagen, naja, das passt schon so, ist dann Stufe 2 wirklich besser als 3?
Michael
00:20:49
Ja, weil ich den Glauben noch in die Menschheit habe, das passt schon so. Im Ansatz ein Blick auf den Output da ist, das ich nochmal kontrollieren kann. Wobei ich auch weiß, dass es in vielen Stellen einfach nicht mehr getan wird. Eine Entscheidung, wie ich das ja eben erklärt habe, da kommt ein Output, eine Empfehlung raus, die wird einfach stumpf übernommen.
René
00:21:16
Deswegen, das ist halt das, was ich damit meine, also dieser Unterschied zwischen den beiden, also zwischen der Empfehlung und der Entscheidung.
Michael
00:21:24
Ja, aber wenn wir bei den Bewerbern sind, dann lass uns kurz im Gleichnis bleiben, glaube ich. Wenn wir sagen, Stufe 1, hatten wir eben gesagt, Stufe 1 war Unterstützung. Das heißt, schmeiß immer wieder, lassen Sie den Datenschutz außen vor, schmeiß 150 Bewerbungen in die KI und sag, erstell mir mal eine Excel-Liste, aufgegliedert Vorname, Nachname, Ort, sortier mir das nach Fähigkeiten, die Sie haben und sortier mir das nach Berufsausbildung. Das sage ich jetzt einfach mal. Das heißt, in dem Ding, wo es Unterstützung ist, kriege ich einfach eine Excel-Tabelle und priorisiert, wo 150 Datensätze drin sind, sodass ich durchscrollen kann. Dann hat mich die KI unterstützt beim Sortieren. Dann sage ich in Stufe 2, empfehle mir mal die 10 Besten davon. Das heißt, die KI würde an dieser Stelle die Excel-Liste aufbauen, indem sie einfach oben die Top 10 nach oben macht, markiert die grün und sagt, das wäre dein Highlight. Das heißt, in der Empfehlung würde aus den 150 Datensätzen oben 10 Stück, also würden 10 Stück markiert sein, wo sie mir empfiehlt, die würden nach meiner KI-Meinung am besten auf deinen Job passen. Bei einer KI-Entscheidet käme ja überhaupt kein Datensatz raus mit 150, wo 10 Stück priorisiert sind, sondern bei einer Entscheidung wären es ja schon nur noch 10 Datensätze in deinem Excel drin. Die würde die 140 komplett ignorieren und würde sie dir gar nicht mehr anbieten und dir eine Chance geben, darüber rüber zu gucken. Ich glaube, da wäre ich so gedanklich bei dem Gleichnis zwischen Unterstützen, Empfehlen und Entscheiden.
René
00:22:54
Ja, das stimmt. Ja, ganz sicher. Da hast du einen guten Punkt getroffen. Da gibt es gut wieder. Wie gesagt, so sollte es sein. So, so möchte ich sagen.
Michael
00:23:13
In meiner Welt wäre das so.
René
00:23:17
Ja, ich sage ja, so sollte es sein. Aber wenn man es nur durchbestätigt, dann hat es keinen Sinn. Das ist aber genau das. Ist so eine Entscheidung dann wirklich noch menschlich, wenn in 99 Prozent der Fälle eine Mitarbeiterin, ein Mitarbeiter einfach auf bestätigen klickt oder das Ergebnis übernimmt? Ist es dann wirklich noch eine menschliche Entscheidung? Das ist ja ähnlich wie, nehmen wir mal Social Media. Wenn ich die Caption von einer KI schreiben lasse, ich gucke da kurz drauf, sage ja alles klar, hau raus. Ist es dann noch eine menschliche Entscheidung oder macht es sich der Mensch einfach so einfach, sieht nach einem guten Text aus, weg? Es ist ja eigentlich. Ja, okay.
Michael
00:24:04
Was ist denn eigentlich? Ich habe eine relativ klare Meinung.
René
00:24:08
Es ist ja eigentlich von der KI. Ich habe halt hinten raus nur gesagt, ja, okay, ich bin einverstanden, es zu senden. Aber ich habe ja... Top, top, top, das war deine Entscheidung. Ja, aber du weißt, was ich meine. Ich weiß genau, was du meinst. An dem Ergebnis ändert es nichts, ob ich den Klicken oder die KI. Natürlich bin ich dazu angehalten, es zu prüfen. Aber tue ich das oder tut es jemand? Das ist ja die Frage dahinter.
Michael
00:24:35
Das ist die Verantwortung desjenigen, der auf den Senden-Button drückt. Keine Frage. Das ist die Verantwortung derjenigen, der es in der Welt veröffentlicht. Das ist die Verantwortung von dem, der Bewerbungseinladung und Bewerbungsabsagen sendet. Der ist in der Verantwortung, das gewissenhaft zu machen. KI-Verordnung, Kenntnisse, Umgang, Risiko, Schulung, Unternehmen. Da spielt das ganze Ding rein. In dem Moment, wo der Mensch, was häufig leider auch schon mal gesehen wird, wie wir das eben gesagt haben, einfach eins zu eins den Internet nimmt und spreadet den raus und gibt vielleicht gedanklich die Verantwortung an die KI ab, dass sie sagt, die KI hat mir das jetzt rausgegeben, damit bin ich fein und schicke das raus. Wenn da was zurückkommt und da was in die Binsen geht, wer ist denn verantwortlich? Garantiert nicht die KI. Garantiert wird der Mitarbeiter, der das in die Welt gesendet hat, nicht sagen können, die KI hat gesagt, das wird nicht funktionieren. Das heißt, derjenige, der es in die Welt sendet, also derjenige, der es rausgibt, der das publiziert, nennt es, wie du willst, die letzte Instanz, bevor es rausgeht. Das ist immer der, der den Hut auf hat und immer den, den ich mir greifen werde, wenn irgendwas in die Binsen geht. Ganz klar.
René
00:25:57
Ja gut, klar, wenn jetzt was schief geht, hast du absolut recht, dann ist es der Mensch. Für mich geht es halt einfach nur darum, ein Mensch, der einfach nur die KI bestätigt, der ist doch keine Kontrollinstanz mehr. Du weißt ganz genau, worauf ich hinaus will. Ich weiß nicht, wie ich es ausdrücken soll, weil am Ende des Tages, wir sprechen natürlich jetzt in der Theorie und in der Theorie ist natürlich der Optimalfall so, wie du es sagst. Da ist jemand, der das wirklich prüft und das genau durchgeht und das mit Sinn und Verstand macht. Aber ich glaube, dass durch die KI diese Schwelle oder diese Hürde einfach komplett verschwimmt und deswegen die Ergebnisse eigentlich die gleichen sind, nur dass der eine oder der andere draufklickt.
Michael
00:26:48
Ja, und das Schlimme, das kommt noch dazu, wenn der Gegenüber, der die Mail kriegt, die einfach nur noch wieder in seine KI reinknallt und sagt, er stellt mir mal eine Antwort und schickt den dann raus. Dann unterhalten sich auf einmal zwei KI-Systeme miteinander, wo der Mensch nur noch im Prinzip der Übersetzer ist und der Sender der E-Mail ist. Deswegen ist es so wichtig, dass du den menschlichen Faktor mit dazukriegst bei allen Themen und erst recht bei Personalthemen. Das ist der menschliche Faktor, dass da wirklich einer drüber... Das ist die Verantwortung von jedem, das ist ein Appell nach draußen. Jeder, der einen KI textet, ich mache das auch. Ich erstelle auch Texte mit KI. Heutzutage macht das jeder. Auch E-Mail-Vorlagen mit KI, das mache ich alles. Das macht wahrscheinlich viele von euch, ist auch vollkommen in Ordnung. Aber das Durchlesen und jawohl, damit gehe ich fein. Das muss vorm Senden passieren. Wenn ich 140 Bewerber absage, muss ich mir die 140 Personen die Akten wenigstens kurz drüber geflogen haben und muss gesagt haben, jawohl taucht wirklich nichts. Jawohl ist wirklich nicht geeignet. Und dann raus, raus, raus. Dann kann das gerne im E-Mail-Text so ein Standardfloskel sein, den ich mir von der KI erzeuge. Komplett cool. Aber ich muss fein sein mit dem, womit ich nach draußen gehe. Das ist meine feste Überzeugung und mein fester Ansatz. Und das wird auch noch jahrelang so bleiben. Weil auch ganz egal, welche KI es ist, es wird besser. Wenn ich überlege, was wir vor 2 Jahren für prompte Ergebnisse hatten und was ich inzwischen für prompte, es wird besser. Aber die driften immer noch ab. Die machen immer noch Völlefanz. Die erzählen immer noch nicht das, was du willst. Die verstehen dich immer noch nicht ganz. Du musst das rausgeben, vorher prüfen. Sonst geht es in die Binsen. Und die, die es nicht machen, sind selber schuld. Die werden irgendwann krachzen.
René
00:28:53
Irgendwann wird der Punkt mal kommen. Ich mache noch mal kurz einen Rundumschlag. Beim Praxisbeispiel genau deswegen, warum wir jetzt so intensiv darüber sprechen. Wenn wir jetzt Praxisbeispiele nehmen. Du bist jetzt im IT-Wesen unterwegs. Du hast ein KI-System, das priorisiert täglich für dich 500 Support-Tickets. Oder 100 Support-Tickets. Und die Techniker arbeiten jetzt diese Liste ab. Dahinter fragt ja keiner die Reihenfolge. Die KI hat das so vorgegeben. Zum einen kann man sich jetzt fragen, ist das jetzt noch eine Empfehlung? Oder ist es dann auch schon eine Entscheidung über die Reihenfolge, wenn sie blind befolgt wird? Es ist dann ja eine Entscheidung aus meiner Sicht. Da entscheidet die KI ja irgendwo ein Stück weit darüber, welcher Kunde jetzt zuerst Hilfe bekommt. Da ist aus meiner Sicht eine Entscheidung getroffen. Das ist jetzt recht einfach oder harmlos, wenn wir jetzt über Tickets sprechen. Aber wenn wir jetzt wirklich auf das Thema von vorher zurückkommen, muss man ja wirklich sehen, wenn am anderen Ende ein Mensch steht, dessen berufliche Zukunft davon zum Beispiel abhängt, weil ich die Bewerbung eben nicht lese, sondern durch die KI jage, dann ist das glaube ich eine ganz andere Situation. Deswegen kommen wir jetzt nochmal auf dieses Bewerberthema zurück. Wir hatten ja gerade das Beispiel 150 Mitarbeiter, 150 Bewerbungen, 140 werden ausgesiebt, die besten 10 werden nur eingeladen. Jetzt könnte ich natürlich aus technischer Perspektive oder vielleicht auch rein wirtschaftlich sagen, ich habe eine extreme Zeitersparnis, es sind einheitliche Bewertungskriterien, keine Frage, die muss ich natürlich festlegen, aber sie werden einheitlich sein, auch wenn die Ergebnisse schlecht sind. Sie sind dann schlecht einheitlich. Dann ist es weniger die Subjektive, diese menschliche Willkür, die irgendwo so ein bisschen dahinter steckt. Dann lassen sich Bewerbungen auch systematisch ein Stück weit vergleichen. Und eine KI kann vielleicht anhand dessen, wie es geschrieben ist, oder wie es dann dargestellt ist in den Bewerbungen, auch gewisse Fähigkeiten erkennen, die ein Mensch übersehen würde. Das könnte man jetzt sagen. So, jetzt würde ich dich aber mal genau nochmal konkret und jetzt nehmen wir den Datenschutz und Informationssicherheit wirklich mal zur Hand. Was spricht dagegen? Unabhängig von den Punkten, die wir gerade jetzt schon mal besprochen haben, sondern wirklich, was würdest du jetzt aus Datenschutz und Informationssicherheitssicht dazu sagen?
Michael
00:31:50
Du bist beim Datenschutz halt schon voll im Profiling drin, weil du eine Analyse machst und lässt dir die Top Ten geben. Und Profiling, Datenschutz, lass die Finger weg. Wenn du in der KI-Verordnung drin bist, bist du bei Personalauswahl, bist du im Hochrisiko-KI-System. Lass die Finger weg. Das geht alles unter besonderen Herausforderungen mit einem gewissen Aufwand. Du musst wissen, wie die KI funktioniert. Kannst du im Real Life nicht bringen. Du hast das Problem, dass du, wenn du sehr wahrscheinlich zum amerikanischen KI-Anbieter draufgehst, jetzt kannst du sagen, es ist Privacy Shield da. Ja, aber musst du dir immer wieder die Frage stellen, ist das auch für HR, also für Personaldaten, überhaupt zertifiziert oder ist es nicht zertifiziert? Viele sind für Personaldaten schon gar nicht zertifiziert, sondern das sieht nur gut aus auf den ersten Blick, ist auch alles cool, aber Personal nicht. Dann kommst du in den ganzen Trainingsdaten-Scheiß rein, du kommst in den Auftragsverarbeitungskram rein. Das heißt, du musst in diesem organisatorischen Kram, um das Ding rechtlich rund zu kriegen, eine KI zu dir ins Unternehmen, wir nennen es mal vorsichtig zu biegen, dass du mit einem einigermaßen guten Gewissen du den Kram da reinknallen kannst, bis auf eine halbwegs rechtlich sichere Seite. Das ist ein Aufwand und ein Prozess mit einer Datenschutzfolgeabschätzung, mit einem Tier wahrscheinlich, das lasst die Finger weg. Das muss in einem vernünftigen Aufwand stehen. Wenn du ein großer Personaldienstleister bist, dann hast du auch schon wieder umfangreiche Verarbeitung, aber für kleine Unternehmen und 150 Bewerbungen einmal durch die KI rein, würde ich auf gar keinen Fall die Empfehlung geben, da das Datenschutzfass und das IT-Fass aufzumachen, um es rechtlich sicher zu haben. Also nicht 100% sicher, sondern sicherer zu haben. Du machst da echt ein Töpfchen auf, weil am Ende bist du als Unternehmen verantwortlich für die Verarbeitung der Daten, die du kriegst. Und du kriegst halt die Daten deiner Bewerber und da stehen halt schon persönliche Dinge drin. Da stehen auch vielleicht schon mal drin, ob gesundheitliche Einschränkungen drin sind. Da sind Lebensläufe drin, das ist umfangreich. Und wenn du das einfach in eine KI reinknallst, dir ohne darüber vorher vernünftig Gedanken gemacht zu haben, um die KI, nennen wir mal die KI, sicher zu haben, machst du halt einfach das Tor zur Hölle auf und das will kein Unternehmen am Ende vom Tag haben. Das sieht zwar immer nach so einem schnellen Erfolg aus und gib dir, hey, wir droppen mal 150 da rein, Stunde später haben wir das Ergebnis, aber in Wirklichkeit passiert da ganz, ganz viel, was du eigentlich nicht willst und was dir so viel Arbeit macht, das von dunkelrot auf vielleicht hellgelb zu bringen, um mal mit Ampelfarben zu reden, dass du sagst, der Aufwand ist mir überhaupt nicht wert, das zu machen.
René
00:34:40
Jetzt mal eine Frage. Wenn eine KI objektiver auswählen kann wie ein Mensch? Ja.
Michael
00:34:49
Wir gehen jetzt wieder weg vom Datenschutz.
René
00:34:52
Nein, nein, nein, das nicht. Aber jetzt mal so, also der Datenschutz, okay, für die Frage spielt der jetzt vielleicht keine Rolle, aber an sich, wenn eine KI objektiver bewerten kann als ein Mensch, wäre es dann nicht irgendwie auch unfair, auf KI zu verzichten? Jetzt mal so als ganz provokante Frage in den Raum.
Michael
00:35:15
Also bin ich wieder nicht bei Personal, weil ich bin ja nicht bei Personal, ich habe auch schon Personalauswahl gemacht, es ist aber schon ein paar Jahre her, dass ich Bewerbungsunterlagen mir oft für Heft angeguckt habe oder PDF für PDF durchgescrollt habe. Du brauchst, ich weiß gar nicht, wie man das nennt, du brauchst das Fingerchen an der ganzen Sache. Wenn du das nur mit den nackten Zahlen oder den nackten Dingern darunter machst, vielleicht hast du da einen Profi dabei, der einfach keinen Bock hat, einen stilistischen, schönen Lebenslauf zu machen. Der läuft durch so eine KI halt einfach, fällt da hinten runter nach dem Motto, Anforderungen der Lebenslaufung. Also du verstehst, wo ich hin will. Ich glaube, dass der menschliche Faktor bei sowas viel fairer ist, als eine objektive Auswertung von irgendwelchen Sachen zu machen, weil du bewertest das ja auf Bewerbungsunterlagen. Und so eine Bewerbungsunterlage kann halt auch nicht perfekt sein. Das habe ich auch schon gehabt, dass du dir einfach Bewerbungsunterlagen angeguckt hast und hast gesagt, theoretisch würde er durchs Raster fallen, aber irgendwas lad mal ein. Und das waren super Leute, die haben wir auch schon eingestellt. Das passt dann halt einfach. Jetzt sind wir wieder beim Profiling. Das fällt halt einfach durch so eine KI, die objektiv da durchmacht, fallen solche Leute einfach durchs Raster.
René
00:36:46
Ja, ich finde Paradebeispiel, ich gebe dir da vollkommen recht, ich finde Paradebeispiel dafür ist, wenn du jetzt meine Wegen, keine Ahnung, du würdest jetzt über Jahre ganz oft irgendwie Leute mit den passenden Abschlüssen einstellen. Nehmen wir mal an bei uns jetzt, wir würden jetzt über Jahre immer wieder, ich sage mal, von Hand die Bewerbung prüfen. So, und dann würden wir logischerweise dann eine Entscheidung treffen. Stellen diese Leute ein und sagen dann, okay, ist alles cool, funktioniert super. So, dann würden wir irgendwann auf eine KI umsteigen. Tun wir nicht, aber würden wir jetzt in diesem Fall. So, dann wäre es ja so, die KI weiß erstens nichts von meinen Erfolgen, das könnte ich ihr aber sagen, würde sie dann wissen, okay, in den letzten Jahren wurden halt immer Leute mit entsprechenden Abschlüssen eingestellt. Dann würde sie die Bewerbung auch dementsprechend bewerben. So, wenn ich jetzt aber jemanden habe, der meinetwegen Quereinsteiger ist, der richtig stark ist, aber die KI würde diese Person ja schwach einstufen, weil sie nicht die Kriterien erfüllt, die ich bisher da reingefüttert habe. Und sie wird auch nie lernen können, dass dieser eine Punkt für mich ein ausschlaggebender Faktor wäre, mal zu sagen, ey, komm, wir versuchen es mal. Das wird sie nicht lernen können, weil das ja immer eine Einzelentscheidung ist. Und das kann ich ihr nicht systematisch geben, damit sie es später anwenden kann. Das ist halt genau dieser menschliche Punkt daran.
Michael
00:38:21
Ja, und das ist das, wo ich am Anfang gesagt habe, du wirst den Prompt nicht hinkriegen. Verstehst du, was ich meine? Genau diese Nuancen hast du schön ausgearbeitet. Das kriegst du nicht so durchgeprompt, wie du es gerne hättest. Allein die Firmenerfahrung, die letzten Bewerber, die wir eingestellt haben, kamen aus der Region, das war am besten. Und der und der ist richtig cool, obwohl er das und das nicht gelernt hat, aber von den Fähigkeiten war uns das noch ... Das kriegst du halt einfach in so einen Prompt nicht sauber rein. Also meine feste Überzeugung, jeder kann und darf mich da korrigieren. Aber ich glaube, dass genau das, und das ist ja eigentlich das, was du willst, du suchst ja das perfekte Match für dein Unternehmen, nicht nur auf dem Papier, sondern auch zwischen den Zeilen. Und dieses Zwischen-den-Zeilen-durch-was-Durchgehen und zu sagen, lad mal ein, lass mal kommen, oder lass wenigstens mal ein Teams mit ihm machen, oder mal telefonieren, das kriegst du nicht so durchgeprompt, dass es zufriedenstellend ist, weil das funktioniert nicht. Feste Überzeugung. Ja, wichtig.
René
00:39:32
Systematisch wird das alles möglich sein, aber sobald es wirklich auf Fingerspitzengefühl ankommt, dann wird es nicht gehen. Motivation kannst du zum Beispiel auch hier und da mal in so einem Schreiben lesen. Das kannst du auch erkennen im Text. Aber das Problem ist halt, wenn du mit diesen Personen nicht gesprochen hast, wie du gerade gesagt hast, du hast da jemanden, der vielleicht total stark ist, total Bock hat, ist aber vielleicht auf dem Papier ist jetzt falsch ausgedrückt. Nicht auf dem Papier, doch, irgendwie schon. Ich sag mal, in seinem Text kann man das nicht erkennen. Im Lebenslauf kannst du sowas nicht sehen, weil der ja sehr datenbasiert ist. Aber nehmen wir mal das Anschreiben. Da verzichten viele drauf, aber man kann in einem Anschreiben hier und da vielleicht Motivation erkennen. Das muss aber nicht der Fall sein. Das wirst du erst in einem Gespräch feststellen. Deswegen ist es dann natürlich unglücklich, wenn du solche Leute aussiebst schon vorab, ohne dass du am besten selber davon wusstest. Also das wird sie nicht lernen können. Das ist definitiv so.
Michael
00:40:39
Ich habe durchaus Unternehmen in meiner Beratung, die, nennen wir es mal, umfangreich mit Bewerbungen zu tun haben. Also die Zeiten, wo der Postbote einen braunen Umschlag bringt, vorne mit einem Fenster, und dann hast du dann da so eine Mappe drauf, die da irgendwo bei Otto Office, wo Bewerbung draufsteht, die so zweiseitig auffällt, wo auf der linken Seite dein Lebenslauf ist, mit einem Passbild oben eingeheftet in dem Format. In der Mitte hast du dein Bewerbungsschreiben und auf der rechten Seite die Referenzen. Die Zeiten sind ja rum. Das heißt, da kenne ich zumindest kaum noch etwas, dass so etwas reinkommt. Das meiste kommt dir entweder als Bewerbung digital rein oder es kommt auf irgendwelche Bewerbungsplattformen, wo die überhaupt keine Bewerbung schreiben, da komme ich her, mehr brauchen oder sonst etwas wollen, sondern die haben nur noch die Stelle, auf der sie sich bewerben, knallen unten die Referenzen rein und jagen das sowieso schon in ein System. Also das ist ja dann schon in einem digitalen System vorhanden, was aber dann nicht das Profiling draufmacht, sondern maximal oben eine Empfehlung gibt. Also maximal schon mal vorsiebt, je nachdem, und dann schon mal sagt, das könnte in die Richtung oder könnte in die Richtung gehen, aber niemals entscheidet.
René
00:41:56
Das ganze Spiel, jetzt haben wir sehr viel über Bewerber gesprochen, das Ganze kann man natürlich auch mit Kunden machen. Du kannst jetzt einen Kunden mit einem schlechteren Score, also der Score ergibt sich da meinetwegen aus Kaufhistorie, Zahlungseingänge und so weiter. Reklamation, Kommunikationsverhalten, keine Ahnung. Dann gibt es ja ganz viele Kriterien, die man vielleicht da ranziehen könnte. Die KI filtert das dann vor und ordnet dann meine Wegen die Kunden sofort in Kategorien ein und sagt, okay, der Kunde, das ist ein A-Kunde, der kriegt jetzt von uns bevorzugte Behandlung und ich habe einen C-Kunden, der bekommt eingeschränkte Serviceangebote. Mal angenommen. Ich glaube, so etwas passiert heutzutage schon häufiger, finde ich aber schwierig.
Michael
00:42:51
Aber das ist doch keine KI. Wir werden das echt philosophisch und wir driften vielleicht echt ein Stück ab vom Thema, aber das finde ich wichtig. Wir haben vor zehn Jahren oder vor 15 Jahren in unserem System schon bei Kunden und auch bei Dienstleistern eingetragen, wie gut sie waren, Schulnoten, System 1 bis 10, irgendwas. Und die haben nachher mit Logarithmus in der Software bewertet, wie hoch, was ist mein Top, die größten Umsatzkunden. Da brauchst du keine KI zu. Was willst du da für eine KI? Du filterst die Software nach Umsatz, dann hast du deine Top-Ten-Kunden. Über Reklamationen hast du deine Negativkunden drin. Über was weiß ich was. Das ist aber doch nicht KI, sondern das ist eine Software, die mit Logarithmus hinten dran und über eine Formel, über einen Filter, über irgendwas, die eine vernünftige Ergebnisse rausmacht. Das ist etwas ganz anderes, als wenn du es einfach stumpf in irgendeine KI reinknallst. Irgendwelche Kundenlisten komplett aus dem ERP-System oder CRM-System rauszuziehen und die Excel mit allen Finanzdaten, mit allem, was du hast, einfach stumpf in eine KI zu knallen und dann zu sagen, willst du mir deine Top-Ten-Kunden rausziehen. Das zeugt eher davon, dass sehr wahrscheinlich die verwendete Software nicht im vollen Umfang bereits genutzt wird, dass man eine KI braucht, um aus dem Ergebnis zu kommen. Gebagte These, sorry. Aber wahrscheinlich ist dann das Problem eher ein anderes, anstatt die Lösung mit KI zu wählen. Ja.
René
00:44:29
Das ist sicherlich so. Mir ging es jetzt nur darum, dass wir das Gleiche auch in anderen Bereichen haben können. Also von daher, ja. Dementsprechend, das passt. Was ich auch einfach schwierig finde, ist natürlich, einen Kunden als unwirtschaftlich zum Beispiel einzustufen, obwohl er es vielleicht auch nicht ist. Ich meine, du hast... Im schlechtesten Fall, wenn wir das mal ganz zu Ende spielen, nehmen wir mal an, die KI würde nachher entscheiden, welcher Kunde wirklich... Also komplett selbstständig entscheiden, welcher Kunde unwirtschaftlich ist und kündigt diesen am besten noch.
Michael
00:45:06
Das wäre natürlich der Worst-Case. Ja, das wäre der Worst-Case. Aber auch das siehst du über Filterfunktion. Rechnungsschreib, Rechnungsstellung, Zahlungseingang. Abgleich, größte Differenz. Da brauchst du keine KI zu. Sorry, das hast du vor 10 Jahren in stinknormalen Systemen schon gekonnt.
René
00:45:29
Ja, richtig. Aber an der Stelle finde ich das halt ein bisschen schwierig, dann auch wirklich die KI einzusetzen. So wie du sagst, das geht mit Systemen auch schon von Haus aus. Aber würdest du jetzt eine KI einsetzen und du hättest jetzt meinetwegen 30 Kunden, die sind jetzt alle irgendwie seit 30 Jahren deine Kunden und die sind meinetwegen etwas kleiner. Die zahlen immer gut, mit denen ist die Arbeit gut, das passt alles so weit. Und du hast einen Kunden, der sehr viel Umsatz macht, der auch gut ist, dann werden die unterschiedlich gewichtet. Aber das ist eigentlich ja theoretisch nicht richtig, denn auch die kleinen Kunden, mit denen ich gerne zusammenarbeite, wo die Zusammenarbeit gut funktioniert, die müssten eigentlich den gleichen Score kriegen. Auch wenn sie vielleicht nicht den gleichen Umsatz machen Aber am Ende des Tages wäre das ja die Fairness. Ich kann ja nicht von einem kleinen Kunden erwarten, zahlen so viel wie der große, damit du bei uns auch jetzt gut bewertet wirst.
Michael
00:46:28
Genau. Und deswegen brauchst du die menschliche Komponente da drin. Deswegen kann das nur ein Vorschlag sein und niemals eine Entscheidung. Genau. Kündige meine zehn Kunden mit den geringsten Umsätzen dieses Jahr. Nein und auf gar keinen Fall. Und auf gar keinen Fall in der Excel-Liste, wenn sie so sortiert ist, dann zusätzlich sagen, na gut, die werden es schon sein, die kegeln wir raus. Nein.
René
00:46:59
Jetzt haben wir, na ja, ich sag mal, schon sehr kritisch über KI gesprochen.
Michael
00:47:06
Kritisch über viele Dinge gesprochen, ja.
René
00:47:10
Aber da müssen wir jetzt auch mal ein bisschen nochmal von der anderen Seite darüber sprechen. Das heißt, Michael, wir sprechen halt ständig über Diskriminierung durch KI. Warum geht man eigentlich davon aus, dass Menschen gerechter entscheiden? Nehmen wir mal ein Beispiel. Zwei Personalverantwortliche, haben wir ja drüber gesprochen, über das Bewerberthema, da bleibe ich jetzt auch. Also zwei Personaler bewerten denselben Bewerber. Ja. Der eine findet ihn sympathisch, der andere nicht. Eine KI bewertet beide Male anhand derselben Kriterien. Was ist objektiver?
Michael
00:47:50
Genau das mit deinen zwei Menschen, weil genau da die Diskussion geht. Weil wenn du über das Thema Diskriminierung redest oder Gleichstellungs- oder was auch immer, dann würde ich auch in den Personalentscheidungen, und in der Praxis ist das ja tatsächlich auch so, Personalentscheidungen werden nicht in einem kleinen Kämmerchen von einer Person getroffen, in dem gleichen kleinen dunklen Raum, wo sonst auch einfach nur eine KI steht, sondern die werden ja schon mit einem Gremium oder mindestens mit zwei, und man stimmt sich ab und man tauscht sich aus. Und genau das ist das, was eben genau das Diskriminierung etc. pp. verhindern soll. Dass du einfach zwei Meinungen hast, gehst in den Dialog und triffst auf Basis dessen mit zwei Meinungen und zwei Dingen die kommende Entscheidung.
René
00:48:36
Okay, da haben wir uns gerade, glaube ich, ein bisschen missverstanden. Ich meine, du hast zwei unterschiedliche Unternehmen. Cooles Cornman, Surfcon. Wir haben beide den gleichen Bewerber. Du guckst dir den an, ich gucke mir den an. So, und wir haben beide ein unterschiedliches Bild von dieser Person. Das ist dann ja subjektiv. Objektiver entscheidet die KI? Auf gar keinen Fall.
Michael
00:49:01
Weil wir ja nicht den gleichen Prompt haben. Weil wir der KI ja gar nicht sagen, wie wir es haben wollen. Genau, das ist das, was wir vorhin festgestellt haben. Gott sei Dank. Es wäre ja schlimm, wenn wir den gleichen Prompt hätten.
René
00:49:17
Ja, genau. Das ist auf jeden Fall eine subjektive Geschichte. Das ist aber genau der Punkt, wo man klar für sich haben sollte, wann nutze ich denn eine KI? Das heißt, ich kann sie natürlich leichter an mich anpassen, aber sehr objektive Dinge, wie ich vorhin gesagt hatte, systematische Aufgaben und so weiter, wo muss dahinter stecken, wo eine klare Struktur drin ist, das kann eine KI mit Sicherheit deutlich besser als ein Mensch. Aber genau diese Dinge, wo es diese Feinheiten gibt, da ist sie eben vielleicht objektiver, aber das Subjektive brauche ich ja für mein Unternehmen an der Stelle. Das ist ja schon wichtig. Über Falschentscheidungen brauchen wir eigentlich gar nicht sprechen, weil das wäre jetzt noch ein Punkt gewesen. Du hast es aber vorhin schon angesprochen, also diese Falschentscheidung, die eine KI trifft. Wer haftet dafür? Es ist, denke ich, ziemlich logisch. Wir machen es trotzdem noch mal kurz. Wenn wir jetzt ein Szenario haben, Mitarbeiter nutzt jetzt eine freigegebene KI. Wir würden jetzt eine KI einsetzen zur Bewertung. Von irgendeiner Entscheidung, keine Ahnung, wird schon vorgefiltert und so weiter, ist alles durch. Die KI empfiehlt eine Maßnahme, die später zu einem erheblichen Schaden führt. Der Mitarbeiter sagt dann, die KI hat mir das empfohlen. Der Geschäftsführer sagt, aber dafür haben wir doch einen Experten eingestellt. Du hast es jetzt per KI gemacht. Wer ist denn jetzt verantwortlich? Der Chef.
Michael
00:50:50
Am Ende ist immer der Chef der dumm. Du kriegst die KI ja nicht verantwortlich. Was willst du denn machen? Willst du OpenAI oder Anthropic einen Antrag auf Regress stellen oder was? Oder auf Rückzahlung oder auf irgendwas? Da ist keiner für verantwortlich. Da kannst du auch nicht sagen, guck dir den Chatverlauf an. Es ist vollkommen egal.
René
00:51:17
Vergiss es. Du hast ja schon mal in einer der vergangenen Episoden gesagt, am Ende des Tages, wenn Schaden entsteht, wer zahlt denn dafür? Das klärt ja so ziemlich die Verantwortlichkeit. Genau das.
Michael
00:51:31
Das ist der Chef bzw. die Person, die für die Tätigkeit verantwortlich war in dem Unternehmen. Rückwärts, er kann sich nicht auf die KI rausreden, weil die KI wird es nicht bezahlen. Die bezahlt es.
René
00:51:50
Wenn man jetzt wirklich mal die Verantwortungsbereiche nehmen würde, die Geschäftsführung, die muss ja am Ende des Tages auch irgendwo, wenn du so eine KI-Richtlinie hast, darin solltest du schon mal klar darstellen, wofür die KI genutzt werden darf und wofür eben auch nicht. Das ist, glaube ich, schon mal ein Punkt. Und das wird abgesegnet durch die Geschäftsführung. Dann auf der anderen Seite hast du die IT. Ich meine, klar, du hast ja da die technische Implementierung. Erstmal, dass überhaupt bereitgestellt wird, dass die Möglichkeiten da sind und so weiter. Berechtigung, Sicherheit, Betrieb, keine Ahnung, gibt es ja ganz viele Dinge. Dann hast du die Fachabteilung. Das ist so die fachliche Bewertung, die so ein bisschen dahintersteckt. Und vor allem auch, wie diese Ergebnisse dann hinten raus verwendet werden. Dann hast du den Anbieter, der natürlich gar keine, der ist sicherlich nachher nicht derjenige, der haften wird. Aber das ist halt einer dieser Verantwortungsbereiche. Nehmen wir mal, Open AI, nehmen wir Cloud, ist völlig egal, wer dahintersteckt oder Entropic. Die haben nur produktbezogene Pflichten und dementsprechend Haftung. Aber das hat nichts mit meinem Ergebnis zu tun. Und du hast halt Datenschutz-Compliance. Spielt aber ein bisschen damit rein, wie ich gerade gesagt habe, man arbeitet das gemeinsam aus mit dem Datenschutz, mit den Richtlinien, die man da an der Stelle braucht. Aber am Ende des Tages haftbar ist eine Person.
Michael
00:53:33
Eine Person, aber Geschäftsführer. Das Unternehmen, genau.
René
00:53:38
Genau. Nur weil es diese Rollen gibt, heißt es nicht, dass diese Rollen halt auch wirklich alle verantwortlich oder haftbar gemacht werden können. Oder auch sollten am Ende des Tages. Ja, pass auf, wir machen noch mal ganz kurz, ich weiß, wir sind jetzt schon zu fortgeschrittener Zeit, aber eine Sache würde ich noch gerne machen. Und zwar ist es so, ich würde dir zehn Praxisbeispiele nennen und du sagst mir dann einfach, wofür du dich entscheiden würdest. Das heißt, du schätzt einmal ein, du sollst einschätzen, also das ist jetzt keine rechtliche Beratung. Du schätzt ein, wie du in welchem Fall entscheiden würdest oder was heißt entscheiden, also wie die KI eingesetzt werden darf. Erste ist, KI sortiert eingehende Support-Tickets nach Dringlichkeit.
Michael
00:54:45
Ja, würde ich sagen, darf sie eigenständig machen. Wenn wirklich was in die Binsen geht, Lernerfolg, Trainierungserfolg, wenn wirklich was in die Binsen geht, wird sich der Kunde schon melden, dann priorisieren wir den nach oben, machen Feintuning und fertig. Aber ein KI-Ticket, ein Support-Ticket nach Dringlichkeit, lass das die KI sortieren, hätte ich jetzt keinen Schmerz mit. Wobei du bist prädestiniert, du hast IT-Tickets, ihr sortiert ja auch nach Dringlichkeit. Das ist so, ja.
René
00:55:12
Man muss der KI beibringen, was jetzt wirklich dringend ist. Aber sobald das funktioniert, sehe ich das genauso. Sobald die Fälle die gleichen sind, dann ist es halt gleichzusetzen. Gut, nehmen wir den zweiten Punkt. KI lehnt Bewerbung automatisch ab. Eigenständig, also ja eigenständig, nur mit menschlicher Prüfung oder nein, keine KI-Entscheidung?
Michael
00:55:35
Das ist definitiv keine KI-Entscheidung. Das ist nichts, was ich der KI machen lassen würde. Sondern Bewerber lehne ich als Mensch ab.
René
00:55:47
Ja, das denke ich auch. Das sollten wir auf jeden Fall so halten. Das Menschliche wird sie nie bewerten können. Gut. KI sperrt verdächtige Benutzerkonten ohne Rückfrage.
Michael
00:56:03
Das ist ein tricky Thema. Das ist tricky. Damit kriegst du mich, glaube ich, jetzt. Weil wenn jetzt verdächtige Mails reinkommen, Spam-Filter etc., PP, also irgendeine KI, du musst dir eine KI vorgeschaltet haben, die eine Analyse macht, damit du eine KI hast, die die Entscheidung überhaupt auf Basis einer Datengrundlage da ist, auf Basis dessen du sowas machen kannst, ist wahrscheinlich der Fall, dass vom Security-Aspekt die Geschwindigkeit von der KI, was zu sperren wesentlich besser ist, als irgendwo eine Meldung in irgendeinem IT-Ticket, was vielleicht falsch priorisiert worden ist, sodass die Lücke noch irgendwie ein, zwei Stunden auf ist und da noch viel mehr passieren kann. Und wir reden ja hier über eine Sperrung und nicht über einen Zugriff geben. Das heißt, wir erhöhen ja eigentlich nur die Security durchs Entziehen. Und wäre es ein falsches Entziehen, ist es ein Komfortverlust für den User. Also das ist so ein Ding, da wäre ich irgendwo zwischen, also ich müsste jetzt wahrscheinlich, ich wäre da nicht bei einem Nein, lass die Finger weg, ich würde mir schwer tun mit mach mal alleine, du kriegst das schon hin, ich wäre da auf jeden Fall dabei, dass es nicht schlecht wäre, ein Mensch würde das nochmal prüfen, mit der Tendenz dazu, dass ich feststelle, dass wir wenige Faults positiv haben, dass ich dann das Ding auf eine Eigenständigkeit bringe, einfach um den Speed auf der Sache zu haben, dass ich sage, die KI knallt das Ding durch, lieber mal eins zu viel gesperrt, als eins zu wenig. Aber helft mir, da bin ich jetzt eher.
René
00:57:52
Ich glaube, da würde ich sogar einen Schritt weiter gehen als du. An der Stelle würde ich sagen, ja, KI gestützt, auch eigenständig, aber ich würde es aus der Perspektive sehen, wie schnell kann ich das Ganze wieder rückgängig machen. Jetzt mal weg vom Spam-Thema, ich habe ja jetzt bewusst nur von Benutzerkonten gesprochen, das kann ja in jederlei Hinsicht sein, nehmen wir mal an, ich habe einen VPN-User, der plötzlich verdächtige Aktivitäten hat, den würde ich doch eher sperren lassen. Klar, ich brauche dann eine Benachrichtigung, damit ich es nochmal prüfen kann im Nachgang, aber nehmen wir mal an, es ist Wochenende und so, was passiert ja immer außerhalb meiner Arbeits- oder Geschäftszeiten. Dann würde ich es schon so machen, wenn ich eine Benachrichtigung bekomme, kann ich damit sehr gut arbeiten, dann ist der erst mal gesperrt. Im schlechtesten Fall passiert mir was, der Mitarbeiter wird samstags gesperrt und muss bis montags warten. Das ist das Schlimmste, was mir passieren kann, aber ich habe keinen Sicherheitsvorfall. Das ist, glaube ich, schon der wichtige Punkt und dementsprechend das würde ich persönlich eigenständig machen lassen.
Michael
00:58:58
Ja, sind wir ähnlich.
René
00:59:01
So, dann KI entscheidet, welcher Kunde einen Rabatt erhält. Dafür braucht sie ja dann logischerweise sehr viele Daten vom Kunden.
Michael
00:59:10
Braucht sie auch den Datensatz Kunden wieder? Für mich wäre das keine KI-Entscheidung, weil hier geht es mir um Dollars im Unternehmen und noch entscheide ich, wen ich im Unternehmen einen Rabatt gebe. Je nachdem, was die für eine Datenbasis hat, je nachdem, was ich da für Rabattklassen freigebe als rechtwillig, das wird jetzt ein größeres Unternehmen, da guckt ja nicht jeder mehr auf irgendwelche Rechnungen drauf, sondern das läuft ja aus dem System raus und ich würde auf gar keinen Fall der KI sagen, mach mal Rabatte auf die Kunden drauf und ich habe da keine Kontrolle mehr drüber. Nein, das würde ich selber machen. Also das ist für mich keine KI-Entscheidung.
René
00:59:49
Das sehe ich auch so. Wir kommen da so ein bisschen in die Richtung, wie du es vorhin gesagt hast. Dafür gibt es Systeme, die dir das zum einen vorschlagen können anhand des Umsatzes oder Ähnlichem, wenn man das braucht. Würde ich aber nicht über eine KI laufen lassen und auch selbst, wenn diese Systeme dieses vorschlagen, ist es wirklich keine Intelligenz dahinter oder sonst irgendwas, sondern das System sagt dann, der Umsatz, es empfiehlt sich meinetwegen, diesen hier zu nehmen. Das muss ja nicht heißen, dass man es macht. Ist aber ähnlich bei einer KI. Man muss es nicht machen. Nein, aber ich würde da auch gar keine KI mit reinschalten, weil es geht ja wirklich um Kundendaten und das ist ja auch immer sowieso schon etwas schwierig. Ja. So, dann. KI bewertet die Leistung einzelner Mitarbeiter.
Michael
01:00:34
So, jetzt wird es hart. Darf sie ja gar nicht, weil im Unternehmen ein vernünftiger Datenschützer und ein KI-Beauftragter unterwegs ist. Wir machen kein Profiling. Das hat nichts mit KI zu tun. Ende. Aber auch da vorsichtig wieder. Das gehört auch zur Wahrheit mit dazu, glaube ich, dass man sich in einem Zeiterfassungstool oder in seiner Personalsoftware die Anzahl der Krankheitstage, der Überstunden und der Sachen angucken kann, ist ein anderes Thema. Dennoch, auch da wieder, jeder Datensatz, der vorliegt, braucht eine Rechtsgrundlage der Verarbeitung. Nur weil diese Daten in dieser Form vielleicht vorliegen, heißt das noch lange nicht, dass ich darüber ein Profiling oder irgendeine Leistungsbewertung machen darf. Aber, wie gesagt, zur Wahrheit gehört dazu, die Daten liegen halt in irgendeinem System sehr wahrscheinlich vor, aber auf gar keinen Fall von einem KI. Nein, no, weg. Nein, nein, nein. Nee, reden wir gar nicht drüber. Die Daten gehen nicht in eine KI rein.
René
01:01:44
Ja, sehe ich auch so. So, dann. KI verweigert einem Kunden eine Vertragsverlängerung.
Michael
01:01:52
Nein. Nein, nur mit menschlicher Prüfung. Also, das würde ich jetzt mal so machen. Also, keine KI-Entscheidung, sage ich jetzt mal. Das würde ich mir von der KI zeigen lassen. Da muss es ja Gründe für geben. Und das würde ich auf gar keinen Fall automatisiert von der KI machen lassen. Ich sage jedoch, wenn die KI einen Datensatz hat auf Basis dessen, die sagen kann, den würde ich mal auslaufen lassen, weil dann würde ich der KI schon ein Stück weit vertrauen, je nachdem, wie die Datenlage passt.
René
01:02:25
Ja, also ich sehe es auch so. Es muss die menschliche Prüfung geben. Ich meine, am Ende des Tages kann das auch nur im Sinne des Unternehmens sein. Was passiert denn, wenn die KI einfach immer sagt, du darfst nicht verlängern? Dann verliere ich alle meine Kunden. Das wäre ja hirnrissig, zu sagen, ja, mach mal.
Michael
01:02:43
Nein, nein, nein. Das ist eher wie beim Geldfluss oben. Das beeinflusst mein Unternehmen. Das lasse ich auf gar keinen Fall eigenverantwortlich machen von der KI. Genau.
René
01:02:54
KI erkennt einen möglichen Datenabfluss und unterbricht automatisch die Übertragung.
Michael
01:02:59
Ja, das darf sie.
René
01:03:02
Das ist das gleiche Thema, wie gerade mit dem Notzahlkonto.
Michael
01:03:04
Wenn der ISB kommt, hätte ich gesagt, der sollte sogar.
René
01:03:10
Ja, KI erstellt eine Rangliste der produktivsten Techniker jetzt, meinetwegen im Support.
Michael
01:03:17
Das Thema hatten wir auch gerade eben oben. Das ist das gleiche wie Leistungsbewerbung. Mach einen Haken dran. Nein.
René
01:03:26
KI bearbeitet Kundenbeschwerden und entscheidet selbst über Erstattung.
Michael
01:03:34
Da muss ich jetzt mal aus meiner kleinen Babbel ein Stückchen raus. Wenn ich der KI einen Rahmen der Erstattung geben kann und mich darauf verlassen kann, dass das funktioniert, kann ich mir damit natürlich sehr viel Arbeit sparen. Ich würde es auf gar keinen Fall 100 Prozent automatisiert durch die KI machen. Aber ich würde jetzt auch nicht sagen, dass es keine KI-Entscheidung ist und die Finger weglassen soll. Sondern wenn die KI vernünftig trainiert ist, hat Rahmenbedingungen und sich die Kunden beschweren und ich meinetwegen sage, wenn sich ein Kunde fünfmal im Monat beschwert, kriegt er 10 Prozent zurück. Das klar ist dann, möge größere Unternehmen, wir reden jetzt echt von Call-Sendern und größeren Dingen, dann würde ich das, glaube ich, durch eine KI nach einem halben Jahr menschliche Prüfung irgendwann auch in der Eigenständigkeit rübermünzen lassen. Weil der Impact der Mitarbeiter und der Aufwand der einzelnen Mitarbeiter daran zu setzen und das zu entscheiden, wahrscheinlich teurer ist als die 10 Prozent Erstattung. Also da bin ich so zwiegespalten. Das wäre jetzt nichts, wo ich Nein sagen würde.
René
01:04:45
Also ich sage mal so, ich würde es nicht machen. Also ich würde Nein daraus machen tatsächlich. Das hat aber andere Gründe. Ich kann dir folgen. Ich würde aber fast eher sagen, okay, ich will mich damit auseinandersetzen, weil das ja wichtig ist. Zum einen natürlich, wenn sich ein Kunde fünfmal im Monat beschwert, dann habe ich ja irgendein Problem. Entweder den Kunden oder es ist was dran an den Beschwerden und dann sollte ich mich damit befassen. Dass ich dann vielleicht einen Rabatt ausgebe, weil ich jetzt sage, okay, ich kann die Beschwerde nachvollziehen. Das ist keine Frage. Das kann natürlich sein. Aber am Ende des Tages finde ich, sollte man sich mit solchen Fällen befassen. Und wenn das nicht der Fall ist, dann muss ich mich vielleicht vom Kunden trennen. Aber auch sowas wird ich nicht KI unterstützt schaffen können.
Michael
01:05:36
Du denkst kleiner, wie ich denke. Ich bin gerade bei, darf ich Namen nennen?
René
01:05:42
Amazon hatte ich schon genannt.
Michael
01:05:44
Bei den Amazons, bei den Telekoms, bei den 1&1, bei den Microsofts dieser Welt. Ich unterstelle das jetzt einfach mal. Sollte einer zuhören, es würde mich tierisch interessieren, wie er es macht. Wenn für jedes Mal, wenn da irgendeiner eine Beschwerde-E-Mail reinkommt und das durcheskaliert und da echt ein Techniker dran sitzt, wenn die dem einmal im Monat 50 Euro Guthaben schicken oder schicken da mal 10% auf den Rechnungsbetrag versuchen, kriegen dann mal den Kunden ruhig, das ist für die wahrscheinlich zehnmal günstiger, als eine Riesenabteilung zu betreiben.
René
01:06:16
Bei so etwas kann ich das nachvollziehen.
Michael
01:06:19
Bei deiner Größe und unserer Größe bin ich vollkommen mit dabei. Wir kennen aber auch unsere Kunden noch. Und wir wissen, wenn ein Kunde sich beschwert, dann greife ich zum Telefonhörer und rede mit ihm und wir diskutieren das aus. Aber wenn du ein Unternehmen in der Größe hast, wo du wahrscheinlich deinen Kunden nicht mehr wirklich kennst, sondern in der Dimension bist, wo ich mich gerade befinde, dann wird das sehr wahrscheinlich... Ja, da hast du recht, wenn man so trennt... Dann musst du mal, sonst wird es teurer sein, das Personal zu beschäftigen, die am Ende wahrscheinlich dann auch eine Erstattung noch irgendwie geben müssen, um den Kunden zufriedenzuhalten, als ihm einfach stumpf über eine KI oder einen Logarithmus ein Ding zu geben und fertig.
René
01:07:02
Ja, da hast du recht. Also in der Größenordnung, da folge ich dir natürlich. Ich meine, klar, wenn du da ans Telefon gehst und du wirst einfach eine Stunde durchbeleidigt, damit du denen nachher irgendwie noch einen Rabatt geben kannst, ist das natürlich lächerlich. Dann kannst du natürlich KI machen. Dann gebe ich dir recht. Ja, damit wäre ich mit den Sachen durch.
Michael
01:07:26
Perfekt. Ja, die Stunde ist gerissen, René.
René
01:07:28
Michael. Ja, deswegen wollte ich es jetzt nicht zwingend sofort wählen.
Michael
01:07:34
Wieso immer, wieso oft?
René
01:07:37
Genau. Ja, also nur so als letzten Gedanken einmal am Schluss. Ich denke, die entscheidende Frage ist nicht, ob KI Entscheidungen treffen kann, weil das kann sie sehr wohl, sondern welche Entscheidungen wir wirklich überlassen oder welche Entscheidungen wir je überlassen wollen und welche Verantwortung wir dann hinten raus auch bereit dafür sind, ja, zu übernehmen. Für eine Entscheidung, die wir eben nicht treffen.
Michael
01:08:05
Oder zu übergeben. Das kannst du ja nehmen, wie du willst. Du kannst ja jetzt einmal sagen von der Sache her, ich übernehme die Verantwortung für das, was die KI rausgibt oder du sagst, ich übergebe die Verantwortung für einen Prozess in die KI, weil ich die Antwort eben nicht mehr prüfe. Also übernehmen, übergeben. Über die Haftung liegt das immer bei mir. Ich wollte es gerade sagen, der Depp ist du und ob du übernimmst oder übergibst, ist geschenkt.
René
01:08:33
Ja, ja, genau. Aber so ist es halt. Also ich glaube, das ist sehr wohl etwas, das kann man mitnehmen. Eine KI kann sehr viele Entscheidungen treffen, aber man muss sich der Verantwortung dahinter auch einfach bewusst sein.
Michael
01:08:48
Genau. Damit bin ich ausgelabert. Machen wir den Sack zu, René. Ich auch. Super. Vielen lieben Dank. Danke für wieder eine gute Stunde Diskussion. Die nächsten Folgen versuchen wir mal ohne KI. Und wir hören uns wieder. Danke fürs Zuhören. Ich sage dir schon mal danke, René. Euch allen Grüße aus Hüttenberg. Bis zum nächsten Mal. Die letzten Worte sind dir. Macht es gut.
René
01:09:20
Dir auch vielen Dank, Michael. Wir hören uns in zwei Wochen wieder. Und bis dahin macht es gut. Wenn ihr Fragen habt oder sonst was, immer gerne raus damit. Auf allen bekannten Kanälen immer mal eben rausschießen. Da können wir auch gucken, ob wir da noch mal Themen haben. Oder wie Michael schon gesagt hat, schreibt doch gerne mal irgendwo hin, wie ihr von der Telekom, Amazon oder sonst irgendwas mit Reklamationen und gegebenenfalls Rabatten umgeht.
Michael
01:09:51
Den Trick, wie oft wir mailen müssen, dass wir Rabatte kriegen.
René
01:09:56
Das würde mich auch interessieren. Das ist ein interessanter Punkt, wie ihr damit umgeht. Also auch da gerne mal einmal raus damit. Dann würde ich sagen, auch von mir. Alles Gute. Bis zum nächsten Mal. Tschau. Tschö.

Feedback geben

Dir gefällt der Podcast und Du möchtest das mal loswerden? Du hast Tipps für neue Themen oder magst über den Inhalt bestimmter Folgen diskutieren? Dann schreibe uns eine Nachricht. Vielen Dank für Dein Feedback!

Mit einem Klick auf "Nachricht absenden" erklärst Du Dich damit einverstanden, dass wir Deine Daten zum Zwecke der Beantwortung Deiner Anfrage verarbeiten dürfen. Die Verarbeitung und der Versand Deiner Anfrage an uns erfolgt über den Server unseres Podcast-Hosters LetsCast.fm. Eine Weitergabe an Dritte findet nicht statt. Hier kannst Du die Datenschutzerklärung & Widerrufshinweise einsehen.

★★★★★

Gefällt Dir die Show?
Bewerte sie jetzt auf Apple Podcasts

2026 - René Geppert & Michael Kornmann

Hosted by LetsCast.fm
Deinen eigenen Podcast erstellen