Experten-Talk – Copilot Studio – Wer kontrolliert eigentlich die KI?
Shownotes
In diesem Experten-Talk sprechen wir über den Einsatz autonomer KI-Agenten mit Microsoft Copilot Studio im Unternehmensumfeld.
• Autonome Agenten in der Praxis: Warum geschäftskritische Prozesse klare Regeln, Kontrolle und Governance benötigen
• Kosten im Blick behalten: Welche Auswirkungen Sprachmodelle, Sitzungen und wiederholte Interaktionen auf Wirtschaftlichkeit und Ressourcen haben können
• Generative Orchestration und klassische Steuerung: Wann KI-Agenten selbstständig agieren können und wann deterministische Prozesse die bessere Wahl sind
• Dataverse als Grundlage: Warum strukturierte Daten für zuverlässige Ergebnisse oft wichtiger sind als unstrukturierte Dokumentensammlungen
• RAG und Berechtigungskonzepte: Wie Unternehmenswissen kontrolliert bereitgestellt werden kann, ohne sensible Daten für globale Modelle freizugeben
• Schrittweise Einführung autonomer Agenten: Warum viele Unternehmen zunächst mit klar definierten Anwendungsfällen starten und KI-Agenten kontrolliert weiterentwickeln
Weiterführende Informationen
Diese Episode basiert auf unserem ausführlichen Fachbeitrag.
Den vollständigen Artikel finden Sie hier:
Transkript anzeigen
00:00:00: Stell dir mal vor, du hast gerade dieses massive ja eigentlich richtig coole IT-Projekt ausgerollt.
00:00:07: Dein brandneuer hochmoderner KI-Kollege ist live.
00:00:11: er soll Dokumente durchsuchen Urlaubsanträge ausfüllen und im Grunde die Effizienz deiner Abteilung einfach durch die Decke gehen lassen.
00:00:18: Der Traum eines jeden IT-Liters sozusagen?
00:00:21: Genau!
00:00:21: Aber dann also nach wenigen Wochen meldet sich plötzlich das Controlling bei dir Und die sind gar nicht glücklich.
00:00:27: Oh, das kenn ich!
00:00:28: Dein neues System verbrennt das IT-Budget mit einer Geschwindigkeit, die wirklich niemand auf dem Schirm hatte.
00:00:34: und der absolut absurdeste Grund dafür...
00:00:36: Jetzt kommt!
00:00:37: ...ist dass deine Mitarbeiter deutsch sprechen?
00:00:39: Ja, Wahnsinn
00:00:40: oder?!
00:00:40: Aber willkommen in der sogenannten Dachfalle!
00:00:43: Richtig – und genau das ist das Thema unserer heutigen Analyse.
00:00:46: Schön, dass ihr wieder dabei seid bei unserem heutigen DeepDive.
00:00:49: Hallo zusammen!
00:00:50: Aus den sechsundzwanzig von Volker Bundtrock.
00:00:53: Ein sehr spannender Artikel
00:00:54: Absolut.
00:00:55: Der Titel lautet Copilot Studio im Enterprise-Einsatz, Kosten, Compliance und Kontrolle im Griff.
00:01:02: Und Buntrock legt da wirklich die Lupe auf die Microsoft Architektur.
00:01:06: Genau er dekonstruiert das sozusagen komplett!
00:01:09: Weil Microsoft und die anderen Tech-Giganten, die vermarkten diese autonomen KI-Agenten ja gerne mit diesen Hochglanzbroschüren.
00:01:16: Alles reibungslos – alles fast magisch!
00:01:18: Ja in den Demos sieht das immer perfekt aus.
00:01:21: Eben.
00:01:21: Aber wenn diese generativen Modelle dann ohne strikte Leitplanken auf reale europäische Unternehmensstrukturen treffen?
00:01:28: Dann kollabiert das Ganze.
00:01:29: Exakt.
00:01:30: Die Wirtschaftlichkeit ist dann völlig dahin
00:01:32: Und unsere Mission in dieser gemeinsamen Erkundung heute ist es, diesen KI-Hype ein bisschen zu entzaubern.
00:01:39: Für dich der darf vielleicht gerade zuhört und sich fragt wie behalt ich da eigentlich die Kontrolle bevor mir die Kosten um die Ohren fliegen?
00:01:46: Um das Problem wirklich an der Wurzel zu greifen müssen wir uns vielleicht erst mal ansehen was sich technologisch eigentlich verändert hat.
00:01:53: Also warum reden wir gerade jetzt so intensiv über Copalde Studio?
00:01:57: Ja, hol uns da mal ab.
00:01:58: Wir reden hier halt nicht mehr über diese alten Shadbots von vor fünf Jahren
00:02:02: Diese glorifizierten FAQ-Suchmaschinen wo man eh nie die richtige Antwort bekommen hat.
00:02:07: Genau die!
00:02:08: Die sind Geschichte.
00:02:09: Wir erleben da grade einen echten Paradigmenwechsel.
00:02:13: Bisher basierte ja alles auf Portalen, also das klassische Intranet oder irgendwelche Powerpages.
00:02:18: Man musste sich als Nutzer quasi alles selbst zusammensuchen.
00:02:21: Richtig!
00:02:22: Du musstest durch verschachtelte Menüs navigieren, Listen filtern und dir die Infos selbst im Kopf zusammengesetzt.
00:02:29: Die ganze kognitive Last
00:02:30: lag komplett bei dir.
00:02:32: Genau – und das ändert sich jetzt fundamental.
00:02:35: Wir wechseln sozusagen vom Suchen zum Findenlassen.
00:02:39: Weißt du, ich stelle mir das immer so vor.
00:02:41: Früher war das wie eine riesige völlig unübersichtliche Bibliothek!
00:02:44: Du rennst von Regal zu Regal, suchst die richtige Abteilung, das richtige Buch und dann noch die richtige Seite.
00:02:51: Genau
00:02:52: Und heute hast du mit dem KI-Agenten quasi deinen persönlichen Bibliotika am Eingang stehen.
00:02:57: Der kennt dich der weiß was du machst und schlägt dir sofort die exakte Seite auf.
00:03:02: Das ist ne super Analogie.
00:03:04: Und das funktioniert auch so gut wegen dieser tiefen Integration ins Microsoft-Ökosystem.
00:03:08: Ah, okay!
00:03:09: Also weil alles zusammenhängt?
00:03:11: Exakt – der Agent nutzt im Hintergrund EntraID.
00:03:15: Er weiß also wer du bist und in welcher Abteilung du arbeitest….
00:03:18: … er muss mich nicht erst nach meinem Namen oder meiner Personalnummer fragen.
00:03:23: Richtig die Authentifizierung läuft lautlos mit... ...und er zieht sein Wissen dann direkt aus SharePoint oder dem Dataverse.
00:03:31: Und er liest halt nicht nur Er handelt auch.
00:03:34: Das ist der spannende Teil, finde ich?
00:03:36: Ja!
00:03:37: Über Power Automate löst der Agent direkt Prozesse aus – er kann also für dich einen Urlaubsantrag stellen oder einen Hardware-Defekt ins Ticketsystem einbuchen.
00:03:48: Das klingt natürlich erst mal nach der absoluten Automatisierungsütopie…
00:03:52: Ist es auch wenn das
00:03:53: funktioniert?!
00:03:54: Aber jetzt kommen wir zum großen ABER, oder?
00:03:56: Bundtrock warnt ja davor dass genau hier die Falle zuschnappt.
00:04:01: Weil wir diese alte Mentalität, dieses Klick- und Portaldenken einfach blind auf die KI-Welt übertragen.
00:04:08: Und die Kostenstrukturen von Co-Pilot Studio verzeihen das nicht!
00:04:12: Lass uns das mal auftröseln – wie wird da eigentlich abgerechnet?
00:04:16: Also die Abrechnung basiert primär auf sogenannten Buildsessions also abgerechneten Sitzungen
00:04:22: Okay… und wann fängt so eine Session an?
00:04:24: Sobald du dem Agenten die erste Nachricht schreibst dann ist diese Session offen Und sie bleibt aktiv für maximal vierundzwanzig Stunden, oder?
00:04:32: Oder was ist das Limit?
00:04:33: Oder bis zweihundert Turns erreicht sind.
00:04:36: Ein Turn ist quasi ein Hin und Her.
00:04:37: also eine Nachricht von dir und einer Antwort der Maschine.
00:04:40: Okay, das klingt jetzt erstmal nach relativ viel!
00:04:43: Zweihundert Nachrichten am Tag schreibe ich ja nicht mal meinen besten Freunden.
00:04:47: Das denkst du Aber im Business-Kontext klären wir Dinge oft extrem asynchron.
00:04:52: Wie meinst Du das?
00:04:53: Stell Dir vor, du klärst einen komplexen Prozess.
00:04:55: Du fragst den Agenten am Dienstag-Nachmittag was, dann wartest du auf einem Mail vom Lieferanten.
00:05:00: Ah ich ahne worauf das hinausläuft?
00:05:02: Genau!
00:05:03: Die Mail kommt erst am Mittwoch, du machst es Chatfenste wieder auf um die Info einzutragen.
00:05:08: zack...die vierundzwanzig Stunden sind vorbei
00:05:10: Und das System startet eine komplett neue Session, die wieder voll abgerechnet wird.
00:05:16: Richtig!
00:05:17: Die Kosten für ein und dieselbe Aufgabe verdoppeln sich nur weil dein Arbeitsfluss über diese unsichtbare vierund zwanzig Stundengrenze gerutscht ist.
00:05:25: Wahnsinn!
00:05:26: Und das ist ja nur die Spitze des Eisbergs, wenn ich Bundtrock richtig verstehe.
00:05:29: Der eigentliche Kostentreiber passiert ja tief im Maschinenraum.
00:05:33: Ganz genau – Das läuft über die sogenannten AI-Builder Credits.
00:05:37: Das ist der wirkliche finanzielle Hebel.
00:05:39: Erklär das mal für jemanden, der jetzt nicht jeden Tag Azure Rechnungen prüft.
00:05:42: Also jedes Mal, wenn der Agent eine generative Antwort formuliert.
00:05:46: durch suchterjahr die angebundenen Wissensquellen...
00:05:48: ...also die ganzen PDF's und Handbücher, die man da hochgeladen hat?
00:05:51: Ja
00:05:52: Und wenn das System jetzt so konfiguriert ist, dass es bei jeder noch so trivialen Frage hunderte Seiten durchscannen und interpretieren muss – dann verbrennt das diese Credits quasi in Echtzeit.
00:06:04: Und hier schließt sich der Kreis zu unserem Intro.
00:06:07: Hier schnappt die Dachfalle zu.
00:06:09: Exakt!
00:06:11: Bunddruck nennt das die Tokeninflation im deutschsprachigen Raum.
00:06:15: Warte mal, lass uns das kurz greifbar machen.
00:06:19: Nur weil meine Mitarbeiter in München oder Wien sitzen, wird mein IT-Budget gesprengt?
00:06:23: Warum?
00:06:24: Weil Sprachmodelle Texte nicht wie wir als ganze Wörter lesen.
00:06:28: Sie zerlegen Sprache in grundlegende sementische Bausteine.
00:06:31: die Tokens und die zugrunde liegenden Modelle also die Dictionaries sind historisch und strukturell massiv auf die englische Sprache optimiert.
00:06:41: Englisch ist für die Maschine extrem effizient,
00:06:44: weil es weniger von diesen Tokens braucht.
00:06:46: Genau ein einfaches englisches Konzept ist oft nur ein oder zwei Token lang aber die deutsche Sprache liebt
00:06:53: ihre Schachtelsätze und Bandwurmwörter.
00:06:56: Oh ja!
00:06:56: Nimm mal das Wort Arbeitsunfähigkeitsbescheinigung Ein
00:07:00: Klassiker.
00:07:01: Das existiert so in der Form oft gar nicht.
00:07:03: im Kernvokabular des Modells Der Token-Eiser muss dieses eine Wort in fünf, sechs oder noch mehr Einzelteile zerlegen.
00:07:10: Und da die Rechenleistung und damit ja letztlich die Azure-Rechnung streng pro Token abgerechnet wird, zahlen wir für jede deutsche Anfrage quasi einen Aufpreis.
00:07:22: Und dann kommt ja noch der Realität in unserem Büros dazu.
00:07:25: Stimmt!
00:07:25: Wir sprechen ja kein druckreifes Goethe-Deutsch am Arbeitsplatz.
00:07:28: Eben, stell dir vor ein Mitarbeiter in Zürich tippt seine Anfrage mit Schweizerdeutschen Nuancen ein oder in Österreich wird diese typische Verwaltungssprache genutzt.
00:07:37: Da stößt dieses amerikanisch geprägte Modell dann völlig an seine semanthischen Grenzen.
00:07:42: Richtig und was macht das Modell wenn es nicht sicher ist?
00:07:45: Es fragt nach
00:07:47: Ah und das sind diese Turns von denen wir vorhin gesprochen haben.
00:07:50: Genau Wenn der Agent den Dialekt nicht versteht, generierte eine Rückfrage.
00:07:55: Du antwortest?
00:07:56: Er ist immer noch unsicher, fragt nochmal!
00:07:58: Und diese Schleifen treiben die Zweihundert Törngrenze künstlich nach oben, verbrauchen Tokens und leeren das Budget.
00:08:05: Es ist ein Teufelskreis – und das Risiko für eine unkontrollierte Schatten-IT ist hier einfach gigantisch.
00:08:11: Bundrock hat da ja ein sehr eindrückliches Beispiel.
00:08:14: Stell dir vor, einen hochmotivierter Werkstudent baut am Freitagabend schnell einen eigentlich simplen HR-Bott um neuen Mitarbeitern zu helfen.
00:08:22: Eine Superinitiative?
00:08:24: Eigentlich!
00:08:25: Eigentlich Ja... Er bindet dann unbedarf zu einem zweihundertseitiges deutsches Compliance Handbuch ein.
00:08:30: Am Montag nutzen zwanzig Leute den BOT Das System verfängt sich in diesen Übersetzungs und Rückfrageschleifen
00:08:37: Und am Dienstagmorgen ist das Azure Budget für das komplette Quartal restlos aufgebraucht.
00:08:42: Echt krass!
00:08:44: Das heißt, wenn du solche Systeme verantwortest, du betreibst da ohne Strick des Monitoring eigentlich finanziellen Blindflug oder?
00:08:51: Absolut!
00:08:52: Wirtschaftlichkeit entsteht hier nicht einfach dadurch dass die Technologie da ist – sie entsteht durch harte Governance.
00:08:58: Du brauchst feste Quotas also Limits auf Umgebungsebene im Dataverse.
00:09:03: Die Leitplanken müssen also stehen bevor überhaupt der erste Nutzer Hallo tippt.
00:09:08: So ist es, aber jetzt kommt ja der nächste Wiegespruch.
00:09:11: Wenn dieses System so schnell, so teuer und unberechenbar werden kann dann müssten Entwickler doch eigentlich die absolute Kontrolle darüber haben wie der Agent reagiert.
00:09:22: Das sollte man meinen Ja Aber das neue Co-Pilot Studio Interface tut ja genau das Gegenteil.
00:09:28: Microsoft preist es als den neuen Standard an, diese Generative Orchestration...
00:09:33: Ja, das verkaufen sie als den ultimativen Durchbruch!
00:09:36: Das musst du uns erklären – der Entwickler soll da keine klaren Triggerphrasen mehr programmieren sondern nur noch beschreiben was der Agent tun soll.
00:09:44: Das klingt für Enterprise Software doch nach nem Albtraum…
00:09:47: Ist es auch?
00:09:48: In der klassischen Softwareentwicklung ist alles deterministisch.
00:09:52: Du definierst als Entwickler eine harte Regel.
00:09:55: Wenn X passiert, mache Y-Zelon Klar!
00:09:58: Wer Nutzer tippt Passwort zu rücksetzen, dann starte den Prozess.
00:10:01: Passwort Reset.
00:10:02: Genau Das liefert immer dasselbe garantierte Ergebnis.
00:10:06: Aber diese neue generative Orchestrierung reist das alles ein.
00:10:11: Die KI liest jetzt den Input gleich den Semantisch mit dem verfügbaren Topics ab also den Aufgabenbereichen und entscheidet dann völlig autonom, welchen Prozess sich startet.
00:10:22: Warte das System entscheidet selbst?
00:10:25: Ja!
00:10:25: Die Kontrolle wandert in die Blackbox des Sprachmodells.
00:10:29: Ich habe deine Analogie, die mir sofort in den Kopf kam als ich das gelesen habe.
00:10:33: Das ist so, als würdest du in einen Taxi steigen und dem Fahrer keine genaue Adresse mehr geben.
00:10:38: Oh, das ist ein guter Vergleich.
00:10:39: Anstatt zu sagen bring mich in die Goethe Straße fünf sagst du dem Taxifahrer einfach nur noch den Vibe deines Ziels.
00:10:46: Bringen Sie mich irgendwo hin, wo die Architektur modern ist und es guten Kaffee gibt?
00:10:51: Ja.
00:10:51: Und für eine kreative Wochenentur durch die Stadt ist das vielleicht super spannend!
00:10:55: Aber im Business-Kontext – da willst du zu deinem Vorstandsmeeting und landest stattdessen in irgendeinem Hippencafé am anderen Ende der Stadt.
00:11:04: Die Präzision ist einfach komplett weg!
00:11:07: Und genau das passiert bei Copilates Studio, wenn du das nicht im Griff hast – vor allem eben in Kombination mit der Tokenproblematik bei deutschen Texten
00:11:14: Dann interpretiert die KI einen deutschen Fachbegriff falsch und springt mitten im Prozess ein völlig anderes Topic?
00:11:21: Genau Und der Entwickler wird da zum machtlosen Beifahrer degradiert.
00:11:24: Du kannst die Logik gar nicht mehr reparieren, weil du nicht mehr siehst warum die KI diese Entscheidung getroffen hat.
00:11:29: Aber Wundtrock zeigt in seiner Analyse ja einen Ausweg auf Wobei wenn man ehrlich ist das klingt schon fast wie ein Heck.
00:11:36: Es ist definitiv ein Workaround, der aber bitter nötig ist.
00:11:38: Man muss sich da tief in die Einstellungen des Agenten graben und diese generative Orchestration aktiv abschalten.
00:11:44: Man muss das wunderbare neue Feature deaktivieren.
00:11:48: Ja!
00:11:48: Um das System in den sogenannten Classic Mode zurück zu zwingen.
00:11:52: Und was bringt mir das?
00:11:54: Erst dann gibt dir die Plattform diese Werkzeuge für die Classic Orchestration wieder frei.
00:11:59: Du kannst dann wieder manuelle, harte Trigger-Bedingungen programmieren.
00:12:02: Wir geben dem Auto also quasi seinen Lenkrad zurück?
00:12:06: Exakt.
00:12:06: und dieser hybride Ansatz, den Buntrock Das skizziert der ist eigentlich der Goldstandard für kritische Enterprise Anwendungen.
00:12:14: Dieser hybride Ansatz in der Praxis aus.
00:12:16: Du
00:12:16: kombinierst das Beste aus beiden Welten, alles was geschäftskritisch ist, das zwingst du in deterministischer harte Trigger
00:12:23: Also sowas wie Bestellungen auslösen Passwörter zu rücksetzen.
00:12:27: Genau da darf nichts schiefgehen.
00:12:30: Diese Logik muss zu Hundert Prozent beweisbar funktionieren.
00:12:34: und diese generative Freiheit dieses Interpretieren Das lässt nur dazu wo kleine Fehler keine Katastrophe sind
00:12:43: Wenn der Mitarbeiter fragt, wie lang die Kernerbeitszeit am Freitag ist.
00:12:46: Richtig!
00:12:47: Da ist es nicht schlimm wenn der Agent mal kurz nachdenken muss oder vielleicht eine leichte Ungenauigkeit drin hat.
00:12:54: Okay das leuchtet ein.
00:12:56: wir haben jetzt also die Architektur und die Kosten durch diesen Classic Mode wieder unter Kontrolle aber die beste Steuerung bringt mir ja nichts wenn das Futter also die Daten die ich der KI gebe mühl sind.
00:13:06: Absolut Die KI is nur so gut wie ihre Datenbasis Und Bundrock warnt ja explizit davor, da einfach unstrukturierte Klauspeicher ranzuhängen.
00:13:16: Also nicht einfach alle PDF-Archive der letzten zehn Jahre hochladen und sagen mach mal?
00:13:21: Bitte nicht!
00:13:22: Diese unstrukturierten Daten also diese Ozeane aus Fleece Text das ist der primäre Auslöser für Halluzinationen.
00:13:30: Warum?
00:13:32: Stell dir vor du hast da tausend Seiten Text und das Modell sucht nach der Kündigungsfrist für einen ganz bestimmten Vertragstyp.
00:13:39: Dann fängt die KI an, probabilistisch zu raten.
00:13:43: Sie kombiniert Wörter, die statistisch oft zusammenvorkommen.
00:13:47: Ah und dann erfindet sie einfach eine Frist, die extrem plausibel klingt aber völlig falsch ist?
00:13:52: Ganz genau!
00:13:53: Und im Business ist das tödlich.
00:13:55: Die Lösung ist hier das Dataverse oder?
00:13:57: Ja Das Dataverse ist der absolute Schlüssel.
00:14:00: Es ist nicht einfach nur eine Datenbank, sondern eine stark strukturierte sementische Schicht.
00:14:05: Was heißt das konkret für die KI?
00:14:07: Du zwingst die Daten in relationale Tabellen Mit ganz klar definierten Spalten.
00:14:14: Die KI muss nicht raten was eine Zahl bedeutet.
00:14:18: Die Struktur sagt ihr eindeutig!
00:14:20: Das hier ist ein Euro-Betrag für das dritte Quartal.
00:14:24: Das ist dann dieses Single Source of Truth, von der immer alle sprechen.
00:14:28: Wenn ich Preislisten abfrage, brauche ich eine Fehlerquote von null.
00:14:31: Exakt!
00:14:33: Und das Dataverse löst gleichzeitig auch das wahrscheinlich größte Sicherheitsproblem – das Information-Legage.
00:14:39: Ah ok, erklär das mal….
00:14:41: Das ist für dich als Zuhörer jetzt extrem wichtig wenn ihr mit sensiblen Daten handiert.
00:14:46: Naja stell dir vor du gibts der KI einfach Zugriff auf das gesamte Firmen SharePoint Und ein Praktikant fragt den Agenten ganz naiv nach der nächsten Umstrukturierung.
00:14:56: Und der Agent fasst freundlich die streng geheimen Vorstandsnotizen zusammen?
00:15:00: Ein Albtraum!
00:15:02: Genau und Co-Pilot Studio verhindert das durch die tiefe Integration von RBRC, also Roll Based Access Control.
00:15:11: Das Sicherheitsmodell wirkt bis auf die einzelne Datenzeile hinunter.
00:15:15: D.h.,
00:15:16: der Agent weiß wer fragt und drosselt sein Wissen entsprechend?
00:15:20: Richtig Der Agent nimmt bei jeder Anfrage im Hintergrund die Identität des Nutzers an.
00:15:26: Wenn dein Praktikant keine Berechtigung hat, diese Gehalts-Tabelle zu sehen dann existiert diese Tabelle für die KI in diesem Moment gar nicht.
00:15:33: Sie kann also nichts ausplaudern was sie gar nicht erst sehen darf?
00:15:36: Ganz genau!
00:15:37: Da drängt sich mir aber unweigerlich dieser eine große Frage auf Die Frage, die in jedem Compliance Meeting als Erstes gestellt wird
00:15:45: Ich ahne es schon
00:15:46: Wenn ich meine sensibelsten Patente, meine Verträge und Kundendaten in diese Microsoft-Architektur einspeise, saugt Microsoft das dann alles ab um ihr weltweites Basismodell schlauer zu machen?
00:15:58: Diese Sorge ist der Blocker Nummer Eins.
00:16:01: Aber Bundtrock und die Architektu beruhigen.
00:16:03: hier sehr klar!
00:16:05: Das Zauberwort heißt RAG.
00:16:09: Richtig – dass RAG Verfahren trennt, dass Sprachverständnis strickt vom Faktenwissen.
00:16:14: Wie kann ich mir das vorstellen?
00:16:16: Wenn du eine Anfrage stellst, sucht das System erstmal in deinen Daten im Dataverse nach den Treffern.
00:16:22: Diese Textfragmente werden dann als temporärer Kontext an das Sprachmodell geschickt zusammen mit deiner Frage.
00:16:28: Also das Modell bekommt nur diesen kleinen Schnipsel, den es gerade braucht.
00:16:32: Genau Die KI liest diesen Kontext im Arbeitsspeicher, formuliert dir eine saubere Antwort und liefert sie aus.
00:16:38: Und unmittelbar danach...
00:16:39: ...wird das alles wieder gelöscht?
00:16:41: Exakt!
00:16:42: Der Speicherbereich wird gelehrt.
00:16:43: Es findet kein Feintuning oder Training der Basismodelle mit deinen Daten statt.
00:16:48: Deine Vertrauensgrenze, dein Tenant, wird nicht verlassen.
00:16:51: Okay
00:16:52: Das ist ein massiver Pluspunkt für die Compliance.
00:16:55: Aber was mache ich wenn die KI trotz RAG- und Dataverse mal Unsinn redet?
00:17:01: Bundtrock warnt ja davor, dann einfach den Prompt anzupassen.
00:17:05: Ja und das ist ein ganz wichtiger Punkt dieses ständige Prompt-Engineering Das ist im Enterpriseumfeld oft völlig der falsche Hebel.
00:17:14: Warum?
00:17:15: Man denkt doch immer man muss einfach besser mit der KI reden.
00:17:18: Wenn der Agent einen Begriff falsch interpretiert Dann liegt der Fehler fast immer in der Datenstruktur nicht dem Prompt.
00:17:24: Also nicht ewig an der Frage rum Doktern
00:17:27: Richtig.
00:17:27: Man schaut in die Analytics, sieht wo der Prozess gebrochen ist und dann optimiert man die Metadaten im Dataverse.
00:17:33: Man fügt Synonyme ein oder strukturiert das Quell PDF sauberer.
00:17:38: Man heilt also die Datenbasis nicht als Symptom.
00:17:42: Sehr klug!
00:17:43: Es ist der einzige Weg deskaliert
00:17:45: Also wenn wir es alles mal zusammennehmen Togeninflation, dieser versteckte Classic Mode die strengen Sicherheitsrollen und das strukturierte Dataverse.
00:17:54: Das ist definitiv kein Tool dass man mal eben an einem Freitag Nachmittag für die ganze Firma freischaltet.
00:18:00: Um Gottes Willen nein!
00:18:01: Das führt direkt ins Chaos.
00:18:03: Aber
00:18:03: wie macht man es dann richtig?
00:18:05: Wie orchestriere ich diesen Rollout ohne dass mir die Kosten oder die Compliance um die Ohren fliegen?
00:18:10: Dafür liefert die Quelle eine sehr pragmatische drei Phasen Roadmap Und dies methodisch wirklich brillant, weil sie eben nicht mit dieser generativen Magie anfränkt sondern mit purer Kontrolle.
00:18:21: Lass uns da mal durchgehen!
00:18:22: Phase eins.
00:18:23: Phase Eins nennt er die kontrollierte Basis.
00:18:26: Du nimmst den nur die Top Ten der häufigsten Standardanfragen vor und die baust du ausschließlich mit manuellen deterministischen Triggern im Classic Mode.
00:18:35: Das
00:18:35: heißt DKI darf hier noch gar nicht frei denken.
00:18:38: Generative Antworten bleiben komplett aus
00:18:41: Komplett deaktiviert.
00:18:42: Okay, und was ist der strategische Wert davon?
00:18:45: Das klingt ja erst mal nach einem Rückschritt.
00:18:47: Der Wert ist Messbarkeit!
00:18:49: Du etablierst eine Kontrollgruppe du siehst unter realen Bedingungen.
00:18:53: wie wird das System angenommen?
00:18:55: läuft die Authentifizierung sauber?
00:18:57: und vor allem wo pendeln sich die Basis-Lizenzkosten ein bevor du das Risiko dieser explodierenden Tokens aufmachst?
00:19:04: Ah verstehe und erst wenn dieses Fundament statistisch wirklich belastbar ist dann gehen wir in Phase zwei.
00:19:10: Genau Phase zwei ist dann die generative Erweiterung.
00:19:15: Jetzt schaltest du diese generativen Suchfunktionen für ganz ausgewählte Handbücher zu.
00:19:19: Die KI wird also zum Fallback, wenn die harten Trigger aus Phase eins nicht greifen darf sie im Handbuch nachschauen.
00:19:26: Richtig!
00:19:28: Und weil Du die Kosten aus Phase Eins kennst kannst Du jetzt exakt messen wie stark Deine AI-Bilder Credits in die Höhe schießen und Du kannst den Monitoring genau prüfen wo das Modell vielleicht doch noch haluziniert.
00:19:39: Das ist klassische, stark strukturiere Softwareentwicklung.
00:19:42: Kein wildes Rumprobieren!
00:19:44: Und Phase drei ist dann der Moment wo wir die Bremsen lösen.
00:19:57: Aber eben erst jetzt, wo Identität, Datenstruktur und Kostenlimits komplett zementiert sind.
00:20:06: Wer glaubt KI im Business sei immer intuitiv und organisch, der wird spätestens bei der ersten Rechnung eines Besseren belehrt.
00:20:13: Struktur schlägt hier immer Intuition.
00:20:15: Wahnsinn!
00:20:17: Lass uns diese massiven Erkenntnisse für dich da draußen mal kurz zusammenziehen.
00:20:22: Wenn du in der Dachregion Deutschland-Österreich Schweiz mit Co-Pilot Studio arbeitest musst du diese unsichtbare Mechanik einfach kennen
00:20:30: Absolut.
00:20:30: Das System verarbeitet deutsche Fachsprache und Dialekte architektonisch ineffizient, das führt zu tocken Inflationen und treibt deine Session-Kosten in die Höhe.
00:20:40: Vertraue nicht blind auf dieses Marketing der generativen Orchestrierung sondern zwinge das System wo nötig in den Classic Mode
00:20:47: Und pack deine Daten ins Dataverse.
00:20:49: keine unstrukturierten PDFs wenn es um harte Fakten geht.
00:20:52: Genau Bevor wir diese Analyse heute abschließen, möchte ich dir – der das hier gerade hört – noch einen Gedanken mitgeben.
00:20:59: Ein Gedanke, der weit über die technische Implementierung hinausgeht!
00:21:03: Da bin ich jetzt gespannt...
00:21:04: Wir verbringen im
00:21:05: Jahr-Zw.a.,
00:21:08: Hunderte von Entwicklerstunden damit hochmoderne neuronale Netze künstlich wieder einzuschränken.
00:21:17: Wir zwingen sie in starre klassische Modi weil Sie an unseren Dialekten an unserer menschlichen Mehrdeutigkeit und Ungenauigkeit völlig verzweifeln.
00:21:30: Wenn wir diese Maschinen immer noch auf harte Trigger reduzieren müssen, um sie im Büro sicher zu nutzen – bedeutet das dann vielleicht dass wir Menschen uns in Zukunft anpassen müssen?
00:21:42: Werden wir lernen müssen
00:21:43: viel
00:21:43: maschineller, viel präziser und deterministischer zu kommunizieren um in der digitalen Arbeitswelt von morgen überhaupt noch verstanden zu werden?
00:21:52: Das ist eine verdammt gute Frage.
00:21:54: Die Technologie formt uns, nicht nur wir die Technologie!
00:21:57: In diesem Sinne bleibt kritisch, plane deine Architekturen mit Bedacht und nimm diesen Gedanken mal mit in dein nächstes Projektmeeting.
00:22:06: Danke dass ihr heute bei unserer Erkundung dabei wart.
00:22:09: Vielen Dank fürs Zuhören auf Wiedersehen.
Neuer Kommentar