00:00:07: Hadi!

00:00:08: Schleen.

00:00:09: Was hältst du davon, wenn wir uns einen Praktikanten holen für den Podcast?

00:00:14: Jemand der uns Kaffee ins Studio bringt oder was?

00:00:16: Ich finde es ganz lustig dass du jetzt sofort an eine eher unverantwortungsvolle Aufgabe denkst die du unserem Praktikanter geben würdest.

00:00:23: also um jetzt im Bild zu bleiben kaffe ist wirklich ne sehr verantwortungs volle Aufgabe.

00:00:28: aber so Ernsthaft und wertschätzen gegenüber allen großartigen Praktikanten und Praktikantern, die ich in meinem Leben schon kennenlernen durfte.

00:00:34: Ich würde natürlich so jemanden sanft an Aufgaben heran führen und nicht sofort am Tag eins sagen Hallo hier ist ein Interview mit dem Bundeskanzler, möchtest du das vielleicht führen oder Fakten recherchieren?

00:00:46: Die hinterher unüberprüft Auf Sendung gehen?

00:00:49: Na

00:00:49: ja, klar.

00:00:50: Unüberprüft natürlich nicht aber vor recherchieren vielleicht schon Aber wir würden dann natürlich unsere journalistisch ausgebildeten Nasen schon auch noch mal drüber laufen lassen.

00:00:59: Also Verantwortung Ja aber hinterher noch drauf schauen.

00:01:03: das ist es wo du raus willst.

00:01:04: da könnte ich mich übrigens auch total damit anfangen.

00:01:08: Du bist staunend.

00:01:09: theoretisch könnten wir uns dafür sogar ganz kostengünstig einen KI-Agenten engagieren Und um die geht es jetzt heute auch in dieser Folge tatsächlich Agentic AI, die wederum noch einen Schritt weitergeht als zu diese klassische KI, die wir aktuell so im Alltag mittlerweile nutzen.

00:01:29: Nehme an, wir bleiben jetzt bei Agentik AI und nicht bei Praktikantik AI im Laufe dieser Folge.

00:01:35: Gut also wie soll uns ein KI-Agent dann einen Kaffee bringen?

00:01:38: Ich habe wirklich klare Vorstellungen.

00:01:39: Soll ich es dir kurz erklären oder würde das zu weit finden?

00:01:41: Nein

00:01:42: vielen Dank!

00:01:43: Also tatsächlich bräuchte ist ja dann natürlich einen KI-Agenten Roboter wiederum.

00:01:48: Ich bin nicht sicher ob wir den bewilligt bekommen beim BSI bloß weil du jetzt so faul bist in die Küche zu gehen und dir selber Kaffees zu machen.

00:01:56: Auch wie der Real Talk, was glaubst du hier einen Praktikanten und Praktikantern ich schon Kaffee gewacht habe weil ich will dass sie guten Kaffe trinken.

00:02:01: Aber wieder im Ernst so ein Recherche Agent also KI-Agent letztendlich der schon mal die Vorarbeit leistet vielleicht uns hilft interessante Themen zu identifizieren aus dem Wooster draußen Und dann vielleicht eins weiter geht Also so automatisiert Interessante Gäste kontaktiert, vielleicht sogar sagt haben sie da Zeit?

00:02:24: Der Haar hat derzeit.

00:02:25: Die Schlin hat erzeit so was in die Richtung geht, die denke nämlich an.

00:02:30: Da kann ich mich damit antworten.

00:02:32: Unseren Gast für diese Folge haben wir allerdings jetzt noch ganz menschlich und händisch selbst gefunden tatsächlich Benjamin Bechtloff.

00:02:40: Benjamin ist Projektleiter am Fraunhofer Institut für intelligente Analyse- und Informationssysteme Und der Vorstatt zum Thema Agentic AI.

00:02:49: Sein Forschungsschwerpunkt liegt auf der Frage, wie diese Agenten verantwortungsvoll sicher und wertschöpfend in Industrie- und Gesellschaft eingesetzt werden können?

00:03:00: Aber ich würde sagen bevor wir ins Gespräch mit ihm gehen wäre es vielleicht doch noch ganz hilfreich aufzudröseln was genau dieses Agentik AI ist und wie sich's eben von der KI aus unserem Alltag unterscheidet.

00:03:13: Hadi und bitte!

00:03:17: Was ist eigentlich Agentic AI?

00:03:21: KI-Modelle, die wir im Alltag nutzen funktionieren bislang meist wie ein Assistent auf Abruf.

00:03:26: Wir stellen zum Beispiel eine Frage das KI Modell gibt eine Antwort und damit ist der Vorgang abgeschlossen.

00:03:33: Agentik AI also agentische KI geht aber einen Schritt weiter.

00:03:38: sie liefert nicht nur eine Antwort sondern Sie kann durch Zugriff auf andere Systeme und Werkzeuge auch vorgegebene Ziele selbstständig verfolgen sehr ledigt also in mehreren Schritten komplexe Aufgaben.

00:03:51: Ein Beispiel wäre, buche mir eine komplette Reise nach Italien.

00:03:56: ein agentisches KI-Modell kann dann Flüge vergleichen Hotels prüfen Termine abgleichen und sofern es von der Nutzerin oder dem Nutzer dazu berechtigt wurde auch Buchungen vorbereiten oder sogar auslösen.

00:04:09: Der große Vorteil liegt in der Automatisierung komplexer Abläufe.

00:04:13: Aufgaben können dann schneller, effizienter und mit weniger Aufwand erledigt werden.

00:04:18: Gleichzeitig entstehen aber auch Risiken!

00:04:21: Wenn ein KI-Modell eigenständig handelt, können Fehler passieren – zum Beispiel falsche Buchungen oder unerwünschte Änderungen oder am Ende unnötige Kosten.

00:04:32: Zudem benötigen agentische KI-modelle häufig Zugriff auf sensible Daten etwa Kalender, E-Mails oder Konten kommunizieren mit anderen Systemen in unserem Beispiel etwa, um Flugdaten zu erfragen.

00:04:45: Das erhöht natürlich auch Angriffs- und Missbrauchsrisiken.

00:04:56: Benjamin herzlich willkommen!

00:04:57: Und vielen Dank dass du dir die Zeit für uns nimmst.

00:05:00: Sehr gerne, grüß dich.

00:05:02: Du hattest mir ja schon erzählt, du bist gerade umgezogen und hast dafür tatsächlich auch im Privatbereich Agentic AI genutzt.

00:05:10: Wie lief das ab?

00:05:11: Wofür hast du es da genutzen?

00:05:13: Ja, war natürlich ein kleines Experiment.

00:05:16: Genau ich bin kürzlich umgezogen auch vor dem Hintergrund, um mich beruflich intensiver mit dem Thema Gentig AI zu befassen.

00:05:23: Da dachte ich alles klar dann können die Agenten noch direkt mit anpacken zumindest digital.

00:05:27: ja es gibt solche Systeme die dann eben auch im Internet Browser laufen.

00:05:31: Ja dem habe ich dann sozusagen die Aufgabe gestellt für mich nach einem Umzugsunternehmen zu suchen was in einer entsprechenden Zeit eben in der Lage ist.

00:05:41: Sie haben mir mal ein Angebot zu machen für meinen Umzug.

00:05:45: War sehr, sehr spannend.

00:05:46: Ich habe dann sozusagen mein Tag weiter durchgeführt und war weiter in meinen Arbeitsaufgaben versunken.

00:05:52: Später klingelte dann mein Telefon und am anderen Ende meldete sich dann jemand vom Umzugsunternehmen, der mir die Frage gestellt hat ob die Anfrage von mir kommt?

00:06:04: Ob ich die Daten alle vollständig sind hat mich dann gebeten noch ein paar Fotos von meiner Wohnung zu machen, damit er das Angebot nochmal spezifizieren kann.

00:06:14: Das war für mich auf jeden Fall absoluter Wow-Moment wenn man so möchte weil ich gemerkt habe hey hier hat einen KI-Agent tatsächlich in meinem Alltag eine Aufgabe für mich übernommen ja einiges an Recherche durchgeführt bis zu einem Punkt wo dann auf einmal mein Telefon klingt

00:06:31: Über dann tatsächlich die Buchung ansteht.

00:06:33: aber das ist auch ein bisschen gruselig oder?

00:06:35: Haben das nicht auch komisch vor?

00:06:37: Es kam ja auf jeden Fall komisch vor.

00:06:40: Man muss vielleicht dazu sagen, wenn ich so was nutze sowohl privat als auch beruflich dann immer mit einer gewissen Vorsicht auch von dem Hintergrund meiner eigenen Daten das heißt benutze da eine Wegwerfhandynummer ne Wegwerfinmail-Adresse genau.

00:06:53: aber ich habe natürlich auch berufelig bedingt eine gewisse experimentelle Neugier Wenn Ich Sowas mache.

00:06:58: und Ja Das ist gruselig Auf der einen Seite Aber Vielleicht Auch Ein Stück weit die Zukunft

00:07:04: Spannend.

00:07:05: Siehst du das wirklich im Alltag von Menschen in Zukunft?

00:07:10: Privatpersonen.

00:07:11: Absolut, ich glaube da muss man grundlegend unterscheiden.

00:07:17: Es gibt bei jeder neuen Technologie immer die sogenannten Early Adopter also diese mit einer gewissen Begeisterung und auch eine gewisse Risikoaffinität an solche Technologien rangehen Und das sind dann die Personen, die dann die frühen Experimente machen.

00:07:34: Wir sehen aber durchaus den Schritt hin dazu dass solche Systeme nach und nach mehr auch im Alltag ankommen.

00:07:44: Genau ich habe dieses Beispiel gemacht.

00:07:46: man kann Agent.ai jetzt sozusagen in seinem Browser verwenden.

00:07:49: viele Leute nutzen eben ja solche Systemen wie ChatGBT wie Gemini wie Claude und auch das sind wenn man so möchte auch schon agentische Systeme.

00:07:58: Der erste Chatbot oder dass die erste Variante von ChatGBT hat einfach aus dem Modellheros geantwortet.

00:08:04: Mittlerweile, wenn ich die Frage stelle suche für eine Feier am Wochenende irgendwie noch ein schwarzes Hemd?

00:08:12: dann benutzt auch ChatGBTV mittlerweile Werkzeuge.

00:08:16: es fängt an zu planen es fangt eben abzuwägen was sind die Möglichkeiten um dieses Ziel dieser Aufgabe dann auch zu erledigen?

00:08:25: Und ja, das sind eben so Möglichkeiten wie auch Gentig AI dann nach und nach um Alltag ankommt.

00:08:32: Ich würde dennoch sagen dass wahrscheinlich insbesondere im wirtschaftlichen Sinne diese Systeme vielleicht sogar noch einen Schritt früher letzten Endes dem Menschen begegnen werden weil Unternehmen dann doch... dass das Ziel haben, eine gewisse Produktivität zu haben, Effizienzsteigerung zu erreichen.

00:08:53: Also

00:08:54: du siehst es schon auch eher so wie du sagst Wirtschaft im Handel vielleicht sogar also etwas das Unternehmen einbauen um vielleicht sogar Verbraucherinnen oder Verbrauchern den Einkauf zu erleichtern, als dass ich das jetzt zu Hause hier in meiner Küche mit dem Kühlschrank verwende.

00:09:13: Der für mich einen Kauf!

00:09:14: Sowohl als auch ja es ist sicherlich beides möglich.

00:09:19: Es gibt eben die Möglichkeit, dass man sich selber seinen eigenen persönlichen Assistenten baut.

00:09:26: Auch mit solchen Produkten wie GPD, Claw und Gemini aber auch so persönliche Open Source-Agenten wie Open Claw was ja Anfang des Jahres viel durch die Presse gegangen ist.

00:09:37: Das sind eben solche Systeme die vor allem so persönlicher Assistentin sind wo ich mir, ich möchte mal sagen, meinen eigenen Assistenten erstelle für die Aufgaben und Herausforderungen, die ich im Alltag habe dann wirklich sehr persönlich.

00:09:53: Und dann Agent TKI als Produkt eingebaut in unterschiedlichen Use Cases, in unterschiedliche Systeme.

00:10:03: Zum Beispiel beim online Shopping, zum Beispiel in der Kundenberatung.

00:10:08: Weil du OpenClaw gerade ansprichst das ist ja eine open-source Software die eine Grundlage sozusagen für diese persönlichen KI Assistenten oder Agenten in dem Fall sein kann.

00:10:21: Jetzt wird bei OpenClock aber trotzdem immer wieder vor mangelnder Sicherheit gewarnt.

00:10:26: Was macht denn da die Software so gefährlich?

00:10:29: Ich würde das Wort gefährlich ein bisschen relativieren.

00:10:34: Also kurze Einordnung, OpenClaw ist sozusagen ein Open Source KI-Agentensystem.

00:10:40: Das System läuft auf dem Rechner also ich kann es mir sozusagen im Internet runterziehen bei mir installieren und kann dann auch nachdem ich einen Sprachmodell also immer noch das KI Modell als solches ist da Dreh-und Angelpunkt und sozusagen dann das Gehirn des Systems ohne dass auch nichts läuft kann das System, wenn ich das dann installiert habe über ein Messenger, WhatsApp, Telegram oder auch Signal steuern und ja.

00:11:08: kann dann verschiedenste Aufgaben recht flexibel machen.

00:11:12: Also das System ist ein Stück weit auch in der Lage, je nachdem welche Berechtigung ich ihm dem System gebe wie es dann noch aufsetze mein kompletten Computer unter Umständen zu steuern und da stecken natürlich auch ein stückweit die Risiken.

00:11:26: grundlegend würde ich sagen Es ist so gefährlich wie es den letzten Endes auch aufgebaut ist wenn ich dem system nicht zu viel Autonomie gebe Dann kann man die Gefahr ein Stück weit managen.

00:11:40: Ja, ich wollte gerade sagen du hast ja vorhin schon erzählt dass so eine Wegwerf-E-Mail Adresse dann in dem Fall lieber verwendest?

00:11:47: Hast Du denn auch den Wegwerflaptop eigentlich?

00:11:49: Ich habe mir tatsächlich einen eigenen Computer gekauft weil es mir dann schon wichtig war das das System nicht auf all meine Daten zugreift.

00:11:58: Es gibt aber auch so... manchmal eher technisch gelagerte Risiken.

00:12:02: Also in dem Moment, wo das System zum Beispiel mit anderen Systemen interagiert im Internet sich austauscht vielleicht auch mit anderen KI-Agenten sich austauscht da gibt es so Möglichkeiten von Prompt Injections also sozusagen versteckte Anweisungen die in meinem KI-System gefüttert werden mit dem Ziel Schaden anzurichten das System ein Stück weit umzukrommten oder Daten zu exfiltrieren.

00:12:26: Gibt aber auch Risiken, die daraus entstehen, die ja wenn ich dem System auch zu viele Berechtigungen gebe... Ich habe in der Presse und den Social Media auch von solchen Fällen gehört wo Menschen dem Mut hatten dem System Zugriff auf Zahlungsmittel zu geben und dann kamen die eine oder andere Rechnung.

00:12:45: ich glaube davon ist definitiv abzuraten.

00:12:49: Aber weil du gerade gesagt hast, die Agenten, die KI-Agenten tauschen sich gegenseitig auch aus.

00:12:55: Anfang des Jahres ging ja mit Moldbook ein erstes Internetforum für KI-Agenden an den Start.

00:13:02: Was hat es denn damit auf sich?

00:13:03: Ist das tatsächlich wie so ein Social Media-Netzwerk, Social Network nur für KI Agenten?

00:13:11: Wenn man so möchte – ja!

00:13:12: Also inspiriert ist MoldBook von dem sozialen Netzwerk Reddit dass das eine reine Plattform ist, wo sich KIA-Agenten austauschen.

00:13:23: Die Menschen sind in dem Social Network tatsächlich nur die Beobachter und es ist natürlich durch die Presse gegangen weil dann relativ schnell verschiedenste Beiträge kamen wie KIA Agentengrunden, Religionen tauschen sich über ihre Besitzer aus sozusagen.

00:13:46: Das war natürlich sehr, sehr spannend und hat für große Schlagzeilen gesagt.

00:13:49: Was mein Mensch neulich wieder für eine Reise buchen wollte?

00:13:53: Genau!

00:13:54: Es wurde sozusagen ein bisschen gelästert und das hat natürlich für einen Stück weit auch berechtigterweise für Unbehagen gesorgt.

00:14:03: Ich glaube man kann das aus nach heutigen Perspektiven auch ein Stück weit entzaubern.

00:14:08: Also vieles davon ist von Menschen gesteuert Denn hinter jedem Karriergenden steckt immer noch ein Promt Und den musste man schreiben und man konnte auch in verschiedenen Forschungen mittlerweile feststellen, dass hier sozusagen ein menschlicher Fingerabdruck zu sehen ist.

00:14:26: Die Frage die wir uns dann auch stellen oder die ich mir dann noch stelle wie wertvoll ist das tatsächlich für die Forschung?

00:14:33: Also der eine oder andere hat gesagt, dass es sozusagen ein erstes großes Feldlabor wo sich KI-Systeme untereinander austauschen um das Verhalten vieler Agenten dann eben zugleich auch zu beobachten, zu schauen wie sie sich koordinieren.

00:14:49: Was man tatsächlich lernt ist dass Modelle vielleicht auch einfach nur Trainingsmuster nachspielen.

00:14:56: bei all der Aufregungen um die Gründung von KI-Religionen sehe ich da eher das Nacharm menschlicher Muster dessen wie Menschen sich auf Social Media verhalten.

00:15:09: Aber ja, wenn man sich das aus wissenschaftlicher Perspektive anschaut ist es eben kaum unterscheidbar was dann wirklich vom Agenten, was auch von Menschen stammt.

00:15:18: Jetzt hast du schon angesprochen Es kommt immer auf den Zugriff an.

00:15:22: Wir waren gerade bei Zahlungsmitteln.

00:15:25: Also angenommen, wir hatten vorhin das Beispiel einer Reise.

00:15:29: Angenommen ich würde jetzt meinen Agenten darauf ansetzen mir eine wunderschöne Urlaubsreise zu buchen dann muss sich mein Zahlungsmittel im Grunde schon zur Verfügung stellen.

00:15:41: Jetzt sucht sich die DKI oder der Agent in dem Fall raus ja?

00:15:47: Die Schleen macht jetzt einen schönen Urlaub auf Gran Canaria und bezahlt folgendes Hotel.

00:15:53: Und das wird auch schon mal alles gebucht, jetzt bin ich aber nicht zufrieden damit was der Agent da gemacht hat.

00:15:59: Wie ist es denn dann mit dieser Zahlung?

00:16:01: Mit dieser Buchung?

00:16:03: Im Grunde steckt dahinter ja die Frage wer haftet bei Fehlern?

00:16:07: Am Ende des Tages haftet schon immer noch der Betreiber.

00:16:10: also wenn das mein eigener persönlicher Agent ist den ich dazu befähigt habe mit meiner Kreditkarte durchs Internet zu ziehen tatsächlich meine eigene Verantwortung.

00:16:21: Es ist auch nicht zu empfehlen, zumindest im aktuellen Stand der Technik.

00:16:27: Das würde ich ganz klar sagen.

00:16:28: es empfiehlt sich bei allen Aktionen die irgendwie eine Echtwelt-Konsequenz haben.

00:16:34: Die eine Art von Transaktion bedingt hier sozusagen den Human in the Loop zu haben als Mensch selber noch mal mindestens auf Annahme zu drücken, wenn der Vorschlag kommt diese Reise zu buchen.

00:16:50: Um die Kontrolle zu behalten einfach?

00:16:54: Über die Auswirkungen.

00:16:56: und ja letzten Endes gilt das für mich als Privatperson.

00:17:00: Das gilt aber auch für Unternehmen.

00:17:02: D.h.,

00:17:03: wenn ein Unternehmen so ein System auf seiner Website einsetzt dann muss es sich darüber eben klaren sein dass ist für den Output des Systems verantworten muss und...

00:17:14: Also es ist am Ende des Tages im Grunde trotzdem der Praktikant.

00:17:18: Es ist kein ausgebildeter Mitarbeiter, so darf man's als Unternehmen nicht verstehen sondern es ist ein Praktikanter den man eine Aufgabe gegeben hat aber am Schluss sollte dann doch noch mal jemand drauf schauen.

00:17:30: Ja also es ist definitiv ein sehr sehr sehr feger Praktikat aber gerade bei bei Aktionen mit einer großen Konsequenz.

00:17:41: Wir reden da eben von so Art Risikoklassifizierung auch ein Stück weit, das machen wir auch wenn wir solche Systeme für Unternehmen entwickeln.

00:17:48: dann schauen wir uns an welche Art von Aktion kann, welche Konsequent haben.

00:17:53: wie teuer ist ein potentieller Schaden der eben bei einer Fehleinschätzung viel Aktion dann auch entsteht und da kann man vielleicht in verschiedenen Kategorien auch denken Und es kommt ein Stück weit auch auf die eigene Risikoaffinität an.

00:18:10: Die Konsequenz, eine E-Mail an die falsche Person zu schicken ist vielleicht unangenehm hat aber sicherlich nicht dieselbe Konsequent wie wenn hier ne Reise für viele tausend Euro gebucht wird.

00:18:26: und ich denke auch ein Stückweit werden in den nächsten Jahren ja auch die Technik definitiv abgesichert Und die Forschung auch deutlich besser, aber letzten Endes ist schon zu empfehlen vor tatsächlichen Aktionen immer noch mal darauf zu schauen.

00:18:48: Viele technische Entwicklungen auch im Netz sind ja im Grunde daraus entstanden durch Menschen wie dich, Early Adopter die damit einfach mal rum spielen.

00:18:59: Die vielleicht auch gewisse Risiken eingehen.

00:19:02: Wie siehst du dann da so den zeitlichen Rahmen?

00:19:04: Also danke erstmal alle Early Adoptor aber wann kommt es zu uns.

00:19:09: Ich würde sagen, man braucht ihn nicht von Jahren zu reden.

00:19:11: Wahrscheinlich auch nicht vom Monaten.

00:19:13: also jeder der solche Systeme wie ChatGBT oder Claude benutzt.

00:19:17: Der verwendet auch schon agentische Systeme und ich denke wir reden hier von wenigen Monaten.

00:19:24: meine persönliche These ist dass du der ganz große Durchbruch dann kommt wenn solche Systemen auf dem Smartphone tatsächlich nutzbar sind.

00:19:34: Jetzt hast Du aber ja auch schon gesagt Eigentlich sicherheitstechnisch sind wir noch nicht so weit.

00:19:39: Also die Early Adopter können damit umgehen, du benutzt einen Wegwerfrechner, um das zu nutzen und auch Enferpik hat ja zuletzt Schlagzeilen gemacht – Du hast es gerade genannt mit der Forderung nach einer weltweiten Pause in der KI-Entwicklung.

00:19:58: Was würdest du jetzt sagen?

00:19:58: Geht das alles ein bisschen zu schnell?

00:20:01: Ich würde sagen, der Stand der Technik schreitet wirklich sehr, fort und vielleicht auch schneller als die Gesellschaft, vielleicht auch die Regulation solcher Systeme da auch hinterher kommt.

00:20:16: Die

00:20:17: technologischen Zyklen haben sich massiv verkürzt – auch vor dem Hintergrund dass solche Systeme im Bereich der Softwareentwicklung eingesetzt werden können.

00:20:27: Vor dem Hinterwund würde ich schon sagen das es Sinn machen könnte mal kurz innezuhalten und sich zu überlegen, okay was ist denn Sinn und Zweck des Ganzen?

00:20:38: Und wer profitiert letzten Endes davon?

00:20:40: welche Risiken kann das haben.

00:20:42: Aber wenn wir über Risiken von Agent Gai sprechen und auch das Tempo dann muss man schon noch sagen dass es sehr vielschichtig letzten Enden ist.

00:20:53: also wir reden hier von der System- und Technik Ebene.

00:20:58: Wir haben eben schon mal das Thema Prompt Injection angesprochen, das Thema Datensouveränität und die Konsequenz von Fehlhandlungen.

00:21:05: Das sind natürlich irgendwie kaskatierende Fehler, die aus dem System heraus entstehen.

00:21:14: Dann gibt es auch die Sorge – ich glaube sie schwingt so ein Stück weit bei Enthropic mit -, dass diese Modelle einfach zu potent geworden ist.

00:21:24: oder so potent, also gerade im Cyber Security Bereich eine Potenz erreicht haben.

00:21:31: Dass sie in der Lage sind Sicherheitslücken in nahezu jedem System zu finden und der Gedanke warum zum Beispiel auch als Shropic mit ihrem neuesten Modell Stärksmodell Mythos gesagt hat okay das wird jetzt nicht mal morgen auf die Öffentlichkeit losgelassen sondern wir müssen jetzt vor allem erstmal den Unternehmen Zugriff darauf geben, die Teil der kritischen Infrastruktur sind damit sie diese Sicherheitslücken bei sich selber finden und dann auch erst mal schließen können.

00:22:03: Und ja das ist so ein Aspekt wenn man da noch ein Stück weit weiter denkt.

00:22:09: Dann habe ich eben auch darüber gesprochen dass diese Systeme in der Lage sind viele Aufgaben zu übernehmen.

00:22:20: Das heißt, wir reden ja von einem recht hohen Automatisierungspotenzial zuerst vielleicht erst in der Bürowelt.

00:22:29: Also wenn so ein System nahezu jede Aufgabe auf einem gewissen Niveau auf meinem Computer durchführen kann dann kann man sich auch überlegen was das für mögliche Auswirkungen auf den Arbeitsmarkt haben kann.

00:22:42: In den nächsten Jahren wird das Thema Physical AI also Robotik fortschreiten.

00:22:48: Das heißt, während wir jetzt ein großes Automatisierungspotenzial gerade in der digitalen Welt haben wird das in der physischen Welt ebenso fortschreiten.

00:22:59: Dann räumt endlich der Roboter meine Spülmaschine aus?

00:23:03: Dann räume der Robota die Spül-Maschine aus übernimmt vielleicht auch in der Logistik Halle das Sortieren von Paketen.

00:23:10: Haushaltsrobotec ist sicherlich ja auch ein Thema was dann in den nächsten Jahren kommen wird.

00:23:18: Und wir merken, wenn man so diese Themen zusammennimmt dann hat das Schritt für Schritt weitere Folgen und Effekte.

00:23:27: Das sind natürlich auch Fragen die mich in meiner Arbeit beschäftigen, die mir schon mal die eine oder andere Stunde Schlaf gekostet haben.

00:23:38: Ja, die Auswirkungen auf den Arbeitsmarkt ist das eine.

00:23:41: Ich glaube psychologisch ist es auch eine sehr relevante Frage und ich glaube viele Menschen gehen nicht nur zur Arbeit um Geld zu verdienen sondern eben auch um für sich eine Identität zu haben ihren Selbstwert darüber zu definieren der dann ein Stück weit an der Arbeit hängt das Gefühl gebraucht zu werden Das sind schon elementare Risiken die aus dieser Gesamttransformation fortschreiten.

00:24:09: Und am Ende des Tages muss man sich schon die Frage stellen, ist diese Transformation ein Selbstzweck?

00:24:15: Ist KI ein Selbstzeck?

00:24:18: Also nicht die Technik per se ist ja das Ziel wenn man so möchte sondern es muss ja schon der Nutzen für Mensch und Gesellschaft ein Stück weit garantiert sein und ich denke darauf muss sich dann konzentriert werden in den nächsten Schritten bei der Entwicklung solcher Systeme.

00:24:34: Du hast jetzt gesagt, es dauert nicht mehr lange bis das Ganze hier auf unseren Smartphones tatsächlich aktiv genutzt wird.

00:24:41: Auch wenn's im Hintergrund schon so ein bisschen genutst wird.

00:24:43: aktuell aber... Kannst du uns vielleicht so ein paar kleine Tipps geben, wenn uns die Agentic AI begegnet?

00:24:53: Worauf sollten wir achten oder woran merken wir überhaupt dass die Agentsic AI gerade für uns arbeitet.

00:25:00: Dass wir sie tatsächlich schon nutzen?

00:25:03: also ich habe mir jetzt schon mal gemerkt Wegwerf Handy auf jeden Fall besorgen.

00:25:08: Wegwerflaptop schonmal bereit legen für sowas.

00:25:11: aber wie ist es denn in der Nutzung für?

00:25:15: Vielleicht, um mal auf dein Aspekt vorerst einzugehen.

00:25:18: Man muss nicht unbedingt einen Wegwerf-Laptop oder PC besorgen.

00:25:21: Es gibt auch so Möglichkeiten das in einer sicheren Umgebung so eine Art Sandbox auf seinem Gerät laufen zu lassen.

00:25:28: Das ist definitiv zu empfehlen.

00:25:30: Sandbox ist immer ein bisschen der Spielkasten, der Sandkasten indem man ein bisschen ausprobieren darf bevor man die ganz große Burg baut?

00:25:38: Genau und da gibt es eben technische Möglichkeiten dass so ein Agent dann nicht direkt Zugriff auf den gesamten Computer hat und sozusagen die Konsequenzen in der Sandbox dann auch stattfinden.

00:25:50: Ich würde sagen letzten Endes ist mir eigentlich eine Sache sehr, sehr wichtig.

00:25:54: also wenn man das verwendet, dann sollte man schon immer noch schauen dass man selber im Loop bleibt und dass man sich mit dem Thema beschäftigt.

00:26:06: denn es ist glaube ich schon wichtig zu überblicken und zu verstehen Was passiert denn?

00:26:12: Also wenn so eine KI einfach mal einen halben Tag arbeitet, dann ist das schon sehr, sehr schwer.

00:26:18: Das alles zu nachzuvollziehen und zu überblicken.

00:26:21: aber ich glaube es ist schon in unserem eigenen Interesse dass man immer noch selber im Thema bleibt Und das ist auch schon wichtig.

00:26:30: Ja das würde ich für dich als ein der der wichtigsten Aspekte hier tatsächlich auch nennen

00:26:35: Nicht jeden Quatsch glauben und den Rechenweg nachvollziehen.

00:26:39: Genau das ist der Punkt.

00:26:42: Ja und letztendlich, wenn ich mit meinen Freunden darüber spreche und sage eigentlich in erster Linie ist das total wichtig sich überhaupt erstmal mit der Thematik zu befassen.

00:26:53: Also ja probier einfach mal aus aber nicht ohne Sinn und Verstand sondern beachte einfach die wichtigsten Regeln

00:27:06: um...

00:27:08: hier keinen Schaden dann letzten Endes auch für die selber anzurichten.

00:27:12: Aber das ist Thema Relevantes, es ist auch der Frage, dementsprechend sollte sich glaube ich jeder mal damit

00:27:18: befassen.".

00:27:18: Auch die achtzigjährige Nachbarin?

00:27:20: Nein!

00:27:23: Ich denke schon.

00:27:25: Letzten Endes kommt's immer darauf an was ist mein Ziel und meine Aufgabe.

00:27:30: Wir hatten ja auch schon mal im Vorgespräch darüber gesprochen.

00:27:32: wenn wir gerade im Bereich Handel oder Online Shopping darüber sprechen Es ist kein Selbstflag.

00:27:39: Also der eine hat Spaß daran und will einfach am letzten Endes das Ziel haben, also dass das T-Shirt letztendlich auf dem Tisch haben und hat keine Lust auf den Prozess und lagert solche Aufgaben dann gerne an KI Agenten aus.

00:27:53: aber dann gibt es natürlich auch Leute die einfach Spaß am Prozess gehen selber gerne einkaufen oder so.

00:28:00: vollkommen in Ordnung.

00:28:02: Aber ja, es wird ein relevantes Thema und man sollte sich schon damit befassen.

00:28:07: Benjamin ganz herzlichen Dank dir!

00:28:09: Was für ein spannendes Gespräch sehr interessant.

00:28:12: ich bin gespannt wann's auf meinem Smartphone tatsächlich ankommt und ich anfange die blöden Aufgaben an den Agenten weiterzugeben.

00:28:22: Super gerne hat mir sehr viel Spaß gemacht danke schön.

00:28:29: Also ich nehme aus eurem Gespräch Schlin eine Message mit, die wir schon oft hier hatten in Update verfügbar nämlich Ganz simpel, up to date bleiben.

00:28:37: Wissen was passiert in dieser komischen Maschine die so magische Dinge für uns erledigt auf die wir irgendwie total stehen aber wissen was in der Box so rund geht das kann uns niemand abnehmen.

00:28:51: Das ist tatsächlich so, ja wir hatten das schon öfter hier im Podcast.

00:28:54: Also wer sich mit den Grundlagen auskennt der ist auf jeden Fall schon mal eher geschützt als jemand der einfach total den Überblick verloren hat und nicht mehr mitkriegt gerade eben weil diese Entwicklung so schnell geht wie Benjamin ja auch gesagt hat.

00:29:06: Das ist ja eh klar.

00:29:07: also ich würde sagen dass setzen wir mal auf jeden fall auf die eins unserer Checkliste

00:29:13: Die ewige Checkliste.

00:29:14: Und rum spielen mit diesen Tools, da macht das natürlich grundsätzlich Bock!

00:29:20: Also es ist einfach wirklich eine total interessante gute Vorstellung und es lädt dazu ein aber dass man's in einem sicheren Rahmen machen soll also wirklich nur so viel Daten rüberschiebt so viele Berechtigungen frei gibt wie nötig und auch so'n Thema was wir das öfteren hatten hier ein Update verfügbar vielleicht nicht die gleiche E-Mail Adresse für alle Konten und Accounts verwenden.

00:29:44: Das könnte mit so einem Genetic AI Tool vielleicht noch ein bisschen schiefer gehen, also es ohnehin schon manchmal...

00:29:50: Ja ja ja ja, Hardy!

00:29:52: Ich habe mir das jetzt tatsächlich zu Herzen genommen was du immer und immer wieder sagst und ich hab' jetzt auch mal zwei drei neue E-mailadressen mir zugelegt.

00:30:03: eine davon ist tatsächlich eine sogenannte Wegwerf-E-Mails Adresse um genau solche rumspielen einfach mal auszuprobieren, mit denen kann ich da auch mal so ein paar nicht ganz so gesicherte Dinge im Netz ausprobieren.

00:30:16: Das finde ich natürlich super!

00:30:17: Lass dir von einem Early-Adopter der Wegwerfadresse, seit wir es hier im Podcast davon haben praktiziert sagen man wirft die leider nicht weg.

00:30:25: Die bleiben einfach immer am Leben.

00:30:28: Okay dann brauchen wir aber noch unseren dritten Punkt auf der Checkliste und der sollte auf jeden Fall auch sein... Lass mal den KI-Agenten noch nichts Kriegsentscheiden, das alleine ausmachen und buchen.

00:30:40: Also bevor der KI-Agent uns den Kaffee tatsächlich kochen darf soll er vielleicht auch erst einmal ein Tee machen.

00:30:47: oder zum Vorkosten?

00:30:49: Und am Ende der Recherche oder Buchungskette sollte dann doch immer noch einen Mensch zur Kontrolle sitzen und den letzten Schritt tun nachdem er den Rechenweg der KI aber auch geprüft hat.

00:31:01: Das klingt alles erstmal so'n bisschen mühsam.

00:31:03: tatsächlich sicherheitsrelevant?

00:31:05: Ja, ja.

00:31:06: Weil am Ende die Kontrolle und das Verständnis sollten wir Menschen immer behalten auch gerade bei solchen hoch automatisierten Systemen weil wir letztlich auch die Verantwortung haben.

00:31:17: also da schließt sich der Kreis irgendwie selbst informiert bleiben wissen was es tut und nicht blind vertrauen.

00:31:24: So ist das.

00:31:26: Wir haben zu diesem Thema übrigens noch einige weiterführende Links vom Fraunhofer-Institut und natürlich auch dem BSI für euch in die Show Notes gestellt, wie jedes Mal!

00:31:35: Und es war's dann auch mit unserer Folge neunundsechzig von Update verfügbar – alle Informationen zum Umgang mit Agentic AI und sonstigen raketenwissenschaftlich generierten Tools kriegt ihr, wie Schling gesagt hat auf der Seite des BSI und bei uns in den Show Notes.

00:31:52: Da packen wir euch auch ein paar coole Tipps für richtig guten Kaffee rein.

00:32:00: Oh, da

00:32:00: praktikanten Ausschreibungen!

00:32:02: Sag mal was hast du jetzt von Dingen mit den Leuten die gerade ihre ersten Füße in diesen zynischen Medienbetrieb setzen?

00:32:11: Tatsächlich ist das ja nicht so, eigentlich sind sie ja die Stütze unserer Gesellschaft weil nur die halten die ganzen Läden am Laufen.

00:32:18: Mehr Informationen wie wir mit Agentic AI verantwortungsvoll umgehen hat Schlin schon gesagt, die kriegt ihr auf der Seite des BSI und bei uns in den Show notes.

00:32:27: Und wir können uns Kommentare hinterlassen ob da auch mal... ein paar Tipps für richtig guten Kaffee rein sollen.

00:32:32: Ja gut, Hadi!

00:32:33: Da musst du dich dann allerdings drum kümmern um diese Kommentare solange wir noch keine Praktikantinnen und keinen Praktikannten haben.

00:32:38: Ich bin dabei

00:32:39: Folgt uns bitte unbedingt auch auf Instagram, auf Mastodon, auf TikTok oder YouTube Für mehr Infos zu allen sicherheitsrelevanten Fragen im Netz Und abonniert unbedingt diesen Podcast damit ihr ja auch keine neue Folge verpassen könnt.

00:32:55: Wir sagen tchau und bis zum nächsten Update

00:32:57: Bis zum nächsten update.