MCP erklärt: Wie KI an echte Prozesse andockt

00:00:00: Wo ist meine Bestellung?

00:00:02: Diese Frage landet in Unternehmen immer noch ziemlich häufig bei Menschen, die daraufhin ein zweites Fenster öffnen und manuell im ERP-System nachsehen.

00:00:09: Ein Chatbot kann auf so eine Frage freundlich antworten aber er könnte sie nicht richtig beantworten.

00:00:15: Und genau da liegt der Unterschied zwischen KI, die Auskunft gibt und KI, Die auch wirklich etwas tut.

00:00:21: Mein heutiger Gast arbeitet genau an diesem Thema.

00:00:24: Er hat den Kulana MCPSolver entwickelt und möchte dieses Problem lösen.

00:00:28: Was Colana MCP ist und welche Use Cases es dafür gibt, das bespreche ich heute mit meinem Gast Paul Wieland, AI-Engineer bei der DataDynamic AG.

00:00:43: Paul herzlich willkommen!

00:00:44: Hi Marc, vielen Dank für die Einladung.

00:00:47: Ja sehr gern und ich würde sagen wir fangen einfach mal ganz vorne an.

00:00:50: was genau machst du denn bei uns in der Gruppe?

00:00:52: Und woran arbeitest Du gerade?

00:00:54: Ich bin beider Data Dynamic als Werkstudent im Bereich AI Engineering letzten Monaten mit der Entwicklung von Kulana MCP beschäftigt.

00:01:07: Werkstudent klingt ja so, als ob du noch relativ unerfahren bist in Anführungszeichen aber du bist da schon ziemlich lang bei uns in der Gruppe oder?

00:01:13: Du hast ja schon einige Funktionen durchlaufen.

00:01:16: Genau um und bei sieben Jahre von Werkstudien über Vollzeit bei der MRC und jetzt wieder zurück zum Werkstudium bei der DDRG.

00:01:27: Und jetzt arbeitest du wie du vom Anfang schon gesagt hast am Kulada MCP.

00:01:32: Was genau bedeutet denn MCP?

00:01:34: für die, die das nicht wissen?

00:01:36: MCP steht für Model-Kontext-Protokoll und vereinfacht formuliert.

00:01:42: Das kann man sich als ein großen Werkzeugkoffer vorstellen in dem viele verschiedene Werkzeuge liegen können.

00:01:53: Ein MCP-Sauber kann zum Beispiel an einen LLM angeknüpft werden und dadurch kann Erweitertes Wissen zugreifen.

00:02:05: Okay, und was ist das Problem an klassischen Chatbots?

00:02:08: Also warum reicht es nicht wenn Bot zum Beispiel meine Frage beantworten kann?

00:02:13: In der Regel hilft dieses zusätzliche Wissen genauer Fragen beantwortet zu können, zusätzlichen Informationen ranzuholen und MCP Server ermöglichen es auch Aktion ausführen zu können.

00:02:32: Also nicht nur ein Frage-Antwort, sondern auch dann mit Aktionen die über die MCP-Tools ausgeführt werden können.

00:02:42: Okay und wie genau kann ich mir das vorstellen?

00:02:44: Ich hatte mir ja mal eine Keynote davon zu euch angehört zu diesem ganzen Thema.

00:02:49: Sag mal ob das stimmt oder nicht oder auf die Richtung wie ich mir dass vorstelle richtig ist.

00:02:52: also könnte man sagen so einen MCPserver ist praktisch wie das USB C Kabel.

00:02:58: Das früher gab es für alle Sachen unterschiedliche Kabel Und dann gab es ja irgendwann so einen bestimmten Standard und man könnte sagen, so ein MCP Server ist der Standard.

00:03:07: Aber alles was man daran jetzt anschließt das ist dann das praktisch was du entwickelst oder?

00:03:13: Genau.

00:03:14: also im Grunde kann man das durchaus so formulieren und mit Golaner MCP hat man halt komplett selbst in der Hand welche Tools denn auf diesem MCP server veröffentlicht werden.

00:03:28: Und was waren die ersten Use Cases, wo ihr gesagt habt?

00:03:31: Da können wir das anbinden und versuchen.

00:03:34: Bei der DDRG ist der Use Case hochgekommen, dass wir gerne mit den großen Mengen andaten, die ja in einem Business Center, im ERP-System verarbeitet werden und auch rumliegen, Beträge, die anfallen Zeit versetzt erst gebucht werden war eine Idee ein Vorkasting zu machen.

00:04:08: Da ist dann bei rumgekommen dass wir es mit dem MCP Server ermöglicht haben das man zum Beispiel das Vorkastung der zur erwartenden Erträge für Q-Drei XXVI sage ich jetzt mal basierend auf allen vorherigen Quartalen aus.

00:04:27: Dann schnappt sich im Grunde genommen, rennt das LLM los.

00:04:31: Findet im MCP Server die entsprechenden Tools, die wir über die Atmenoberfläche veröffentlicht haben, macht die Abfragen entsprechend korrekt, analysiert die ganzen Daten und schreibt dann ein

00:04:45: Forecasting.".

00:04:47: Und es gab sicherlich nicht alles im ersten Versuch perfekt geklappt?

00:04:51: Was waren so typische Probleme und Stallbarsteine, die auf dem Weg

00:04:54: hatte?".

00:04:55: Eine der großen Herausforderungen war ... zu ermöglichen, dass man im laufenden MCP-Server es schafft die MCP Tools dynamisch zu veröffentlichen und zurückzunehmen zum bearbeiten.

00:05:13: Denn ein LLM was an einen MCP Server angebunden ist braucht ja Kontext für diese Tools.

00:05:23: sonst reicht nicht das das LLm nur die Toolbeschreibung hat.

00:05:30: Und deswegen ist es entsprechend wichtig, zu jedem NCP-Tool auch ein Promptinweis mitzugeben und es ist uns quasi nicht möglich direkt im ersten Wurf den Promptinnweis so präzise zu schreiben dass das LLM auch in jedem Fall bei jeder Anfrage das Tool richtig verwendet um dann den MCP Server nicht erst unterfahren zu müssen, wieder hoch fahren zu müssen.

00:05:53: Sondern im laufenden Betrieb es schafft die MCP-Tools zu aktualisieren neu zu veröffentlichen und zurückzuholen wenn das der falsche Endpunkt oder ähnliches war.

00:06:02: Das war durchaus eine der großen Herausforderungen.

00:06:06: Es ist ja ganz spannend.

00:06:07: also das ist ja am Ende des Tages alles ein bisschen wie so ein Werkzeugkasten und du beschreibst ja am ende die Werkzeuge die benutzt werden sollen.

00:06:16: Das ist auch tatsächlich dann so ein bisschen geht's ja fast ins Redaktionelle Das ist ja das, wo ich eigentlich herkomme und so.

00:06:21: Also was sind da die Sachen auf die man besonders achten muss?

00:06:24: Weil es gibt ja BC hat ja Tausende von Anknüpfungspunkte irgendwie, worauf man zugreifen kann.

00:06:31: Wie stellst du jetzt sicher, dass du die Sache so formulierst, dass auch wirklich nur die richtigen Werkzeuge zum Einsatz kommen?

00:06:39: Dass steuern wir über den Promptenweis der an jedem MCP-Tool hängt – und das ist in meinen Augen mit das wichtigste Feld Werkzeug, wenn wir bei der Analogie bleiben.

00:06:52: Denn entweder funktioniert es oder es funktioniert nicht und in dem Sinne ist es wichtig den Promptinweis so spezifisch wie es auch nur geht zu beschreiben.

00:07:04: ich habe mir dann ein Template überlegt indem dann grob die Abschnitte drin sind was macht das Tool?

00:07:13: Wie ist es zu verwenden?

00:07:16: Was kann mit dem Pool nicht gemacht werden?

00:07:19: welche Fragen können zum Beispiel nicht beantwortet werden und welche Stolpersteine gibt es?

00:07:25: Dadurch, dass wir um den User-Input bearbeiten zu können, fragen wir viele Daten ab.

00:07:32: Und in BC in den Tabellen die Tabellen sind irre groß und je mehr Zeilen du abfragst ist so länger dauert auch die Abfrage geschafft, indem ich im Promptinweis gestieben habe, hol dir nur so viele Daten wieder brauchst.

00:07:52: Vereinfacht formuliert um die Frage beantworten zu

00:07:55: können.".

00:07:56: Es

00:07:56: klingt glaube ich im ersten Schritt ziemlich einfach.

00:07:59: So einfach diesen MCP Server dazwischenzuschalten und dann funktioniert das alles.

00:08:03: aber wenn wir jetzt zum Beispiel auch mal auf das Thema Sicherheit gucken wie stellt ihr denn zum Beispiel sicher dass wenn ich mich beim Chatbot, also bei einem LLM-Melde zum Beispiel anrufe?

00:08:16: oder sagen wir per Chat und ich sage hallo.

00:08:18: Ich bin Marc Lang.

00:08:18: Ich möchte meine Retoure gerne zurückschicken oder meine Bestellung gerne zurutschicken.

00:08:23: So dann antwortet mir der Chat und wie stellt ihr jetzt sicher das nicht z.B.

00:08:26: irgendjemand anders einfach sicher als ich ausgibt?

00:08:29: Und jetzt irgendwas zurück schicken möchte?

00:08:32: Eine Möglichkeit ist dass man das anhand von Pflichtfeldern in den NCP Tools macht.

00:08:42: Das heißt, dass du nicht nur deinen Vollnamen mit angeben musst wenn du eine Ritur machen möchtest.

00:08:49: Nicht nur deine Adresse Prostleitzahlstraße statt sondern zum Beispiel auch noch dein Geburtsdatum oder ähnliches.

00:08:56: Das heisst über diese Pflichtfelder lässt sich in gewisser Maße eine Authentifizierung herstellen das Du auch derjenige bist der die Bestellung getätigt hat und auch die Riture bestellen

00:09:08: darf.

00:09:09: Wenn wir das einmal komplett durchspielen, also kannst du einmal beschreiben so wirklich von der Sekunde.

00:09:12: Das sagen jetzt mal ist es ein Anruf, wo jemand eine Riture anmelden möchte bis zum Ende.

00:09:17: Also speziell was passiert in diesen paar Sekunden im System wenn dieser Anrufe passiert?

00:09:24: Im System passiert am Grund genommen dass der User-Input sei Sprache, sei es Text vom LLM entgegengenommen wird, analysiert wird und das LLm weiß ja, dass es Zugriff auf den MCP-Salvat, auf Gulaner MCP Und auf dem liegen ja die veröffentlichten MCP-Tools.

00:09:43: Anhand der Frage oder des Inputs wird dann entsprechend das richtige Tool vom LLM ausgewählt und dann ist in den Infos des MCP Tools, sag ich mal auch beschrieben was gemacht werden muss um das Tool verwenden zu können.

00:10:03: Das heißt dann sieht das LLm zum Beispiel a oben.

00:10:08: überhaupt das Tool verwenden zu können, brauche ich den Namen.

00:10:11: Brauche ich das Geburtsdatum?

00:10:13: Die Adresse

00:10:14: etc.,

00:10:14: etc.

00:10:16: Und dann kommt das LLM mit den Rückfragen.

00:10:19: Hey!

00:10:19: Ich helfe dir gerne.

00:10:20: Ich brauch aber deinen Namen.

00:10:21: Ah, ich brauche auch noch dein

00:10:22: Geburzdatum.".

00:10:23: Dann ist es so möglich die Abfrage oder die Aktion, die mit dem MCP-Tool verfolgt wird, auch zu erledigen.

00:10:31: Angenommen heute oder morgen kommt Unternehmens zu dir und sagt Das will ich auch.

00:10:35: Was wäre deine erste Gegenfrage, die du stellen würdest?

00:10:39: welche Use Cases, weil ein Use Case ist entsprechend wichtig.

00:10:45: Klar du kannst auch eine MCP Server mit sehr allgemeinen Tools zur Verfügung stellen um generische Fragen beantworten zu können.

00:10:56: aber die MCP Tools die in so einem MCP-Server, einen kleinen MCP veröffentlicht werden diese sind sehr use case getrieben und sehr usecase spezifisch um dann zum Beispiel über ein Chat Webshop ... es dem User zu ermöglichen, die Rettore zu machen und dann am Ende auch das ... ... Retourenlabel per Mail zu bekommen.

00:11:14: Also ist es für mich sehr wichtig klare Use Cases zu formulieren um daraus dann auch herauskristallisieren zu können welche Infos brauchen wir eigentlich wann in welchem Tool und welche Aktion müssen wir ausführen damit wir zum Ziel kommen?

00:11:30: Okay!

00:11:30: Und was passiert wenn's jetzt zb in zwei oder drei Jahren ein neues Modell gibt?

00:11:36: Muss man dann alles wieder neu bauen?

00:11:38: oder wie läuft das denn ab?

00:11:41: Du musst es nicht neu bauen.

00:11:43: Der MCP Server, der ist nicht an ein Sprachmodell gebunden.

00:11:48: Die Voraussetzung ist einfach dass das LLM oder der Kleint MCP kompatibel ist und welches LLm hinter dem MCP-Klein steckt.

00:11:58: Das kannst du

00:11:59: austauschen!

00:12:00: Wenn du einen Geschäftsführer erklären müsstest warum dieses Tool wichtig ist für dein Unternehmen Was würdest du dann sagen?

00:12:34: Tools vom MCP-Server von Kulana MCP erledigt werden können, sei es eine Rettore anzulegen um dann am Ende das Rettorenlabel per MIE zu beschickt zu bekommen wie's bei der MRC in Kooperation mit Lampenwelt war oder zum Beispiel sei es über ein Chatbot über das Telefon, die Rückgabe eines Meet-Autos.

00:13:00: Wir haben ja jetzt viel über KI geredet und die möglichen Einsatzfelder davon.

00:13:04: gibt es denn auch Bereiche oder Prozesse wo du sagen würdest da ist KI noch nicht so weit?

00:13:09: Oder gibt es überhaupt Prozessen die nicht durch KI abgebildet werden können?

00:13:14: Die Frage lässt sich nicht mit einem klaren Ja oder Nein beantworten.

00:13:17: ich denke dass immer sehr Use Case und Prozess spezifisch ist um sich dann anschauen zu müssen.

00:13:25: ist es feasible dass wir dort etwas mit KI machen, aber was nach wie vor eine große Herausforderung ist zum Beispiel mit der KI und LLMs zu rechnen.

00:13:40: Also die terministische Operation zu erledigen weil so ein LM im Grunde basiert ja auf Wahrscheinlichkeiten und Rechnen ist immer noch eine große Unser allererster Use-Case bei der DDRG mit den Prognosen, der funktioniert.

00:14:03: Weil ich zusätzliche Funktionen bereitstelle die Analyse für das LLM vereinfachen und die aggregierten Werte schon mit Lieferin und diese dann analysiert werden.

00:14:15: Ich habe es dann auch probiert einfach das Llm rechnen zu lassen.

00:14:20: Es hat sich sehr viel verrechnet, den Faden verloren.

00:14:25: die kommen im JSON Format.

00:14:28: Das ist im Grunde genommen eine ganz lange Datei mit allen angefragten Daten und da hat das LLM die Herausforderung, dass Stück für Stück durchzugehen und jede Zahl aufzusummieren.

00:14:40: Das funktioniert zum Beispiel nicht.

00:14:43: aber ob jetzt grundsätzlich es use cases gibt, die nicht realisierbar sind mit einem MCP Server, das hängt vom use case ab und in welchem Umfeld man sich bewegt.

00:14:59: Also wie sieht zum Beispiel die Hosting-Struktur aus?

00:15:02: Haben wir ein lokales LLM, läuft das bei uns alles auf den eigenen Servern?

00:15:08: dann kann man auch mit sensibleren Daten arbeiten.

00:15:13: aber hast du z.B.

00:15:16: Plattform an Forebeck angebunden?

00:15:18: Dann muss man sich im Hinblick auf den Datenschutz auch Gedanken machen welche Daten denn überhaupt über die Tools abgefragt werden dürfen Welche nicht?

00:15:27: Und eine abschließende Frage noch, also Kulana MCP ist ja dein Baby sozusagen.

00:15:33: Woran arbeitest du jetzt als nächstes wie geht es weiter mit dem Projekt?

00:15:36: Es war für mich das erste große Projekt was ich selbstständig quasi in allen Rollen eines Teams gestaltet und mitgemacht und entwickelt habe und da hab' ich auch letztens Alex drüber gesprochen, es ist diese klassische Achtzig-Zanzig-Regel.

00:15:54: Die ersten Achtzig Prozent schaffst du sehr schnell aber die letzten Zanzig Prozent um das Kulana MCP von einem produktivreifen Prototypen tatsächlich zu einem produktive reifend Produkt zu kriegen.

00:16:09: Diese letzten Zanzig Prozent dauern in den meisten Fällen länger als die ersten Aachzig Prozent und da habe ich mich jetzt in den vergangenen Wochen sehr intensiv damit beschäftigt, das ganze Produkt rund um den NCP-Server robust zu kriegen.

00:16:25: Das heißt kleine Bucks, kleine Fehler und Ungereimtheiten im Atmenportal oder dann auch in dem Bild in Chat auszubessern oder Bucks im Backend dass der MCP Server auch zuverlässig läuft und robust ist.

00:16:44: da habe ich viel Zeit jetzt investiert, um das zu einem tatsächlichen Produkt zu kriegen.

00:16:52: Und jetzt zum Beispiel auf der K-Fünf mit dem Use Case von der MRC und Lampenwelt.

00:16:59: da haben wir es rechtzeitig geschafft oder habe ich es rechtzeitig geschafft dass das Kulana MCP als Produkt fertig ist und wie er's...und die MRC es dann geschafft hat auch das als Produkt vorzustellen was mit dem Kulala MCP eigentlich alles möglich ist.

00:17:16: Wir werden noch einiges davon hören.

00:17:18: Auf jeden Fall!

00:17:19: Sehr schön, sehr cool.

00:17:20: Dann sind wir auch schon am Ende angekommen von der heutigen Folge.

00:17:24: Ich danke dir für deine Zeit und für die, die es nicht wissen, die den Videopodcast gucken und nicht nur die Audio-Spur eigentlich ist das hier verkehrte Welt.

00:17:33: normalerweise trägt Paul immer die Cappy und ich nicht aber ich habe ihm versprochen wenn er hier mitmacht dann gibt's eine Kulana-Cappy.

00:17:41: Paul seht so was deiner Aufgabe erfüllt.

00:17:44: Äh, die Cavies werden gemacht.

00:17:45: Ich freu

00:17:45: mich auf die Cap endlich!

00:17:47: Danke, danke dass ich Teil des Podcasts sein durfte.

00:17:50: Sehr viel Spaß gemacht.

00:17:51: Ja hat

00:17:51: mich sehr gefreut.

00:17:52: vielen Dank und wir hören uns das nächste mal wieder bei Corshift.

00:17:57: Danke fürs Zuhören und auf Wiedersehen.