Die Geschichte von Microsoft 365 Copilot scheint eine Geschichte voller Missverständnisse zu sein. Ich möchte heute ein bisschen Aufklärungsarbeit leisten und habe Redebedarf. Your Copilot der Podcast, der hilft, die künstliche Intelligenz in der Microsoft 365 Welt zu verstehen und produktiv anzuwenden. Mit eurem Copiloten Michael Greth. Ja Hallo, herzlich willkommen zur 4. Ausgabe von yourcopilot. Schön, dass ihr mit dabei seid an den Empfangsgeräten und ich habe es ja im Intro schon kurz angekündigt. Wir wollen heute nahtlos die letzte Ausgabe des Podcasts anknüpfen, wo ich ja das Thema hatte. Microsoft 365 Copeile zwischen Begeisterung und Ernüchterung und hatte da schon gesagt, wir müssen an bestimmten Dingen noch mal etwas tiefer auf einzelne Aspekte des Ganzen eingehen und das möchte ich gerne heute machen, nämlich daran versuchen euch zu helfen. Microsoft 365 Copilot besser zu verstehen und auch zu ein paar Ideen zu bekommen wir euch mit. Ja, den Buddy so n bisschen anfreunden könnt, wie ihr da auf den richtigen Weg kommt, das ist nicht ganz einfach. Ich habe mich als ich hab ja als Vorbereitung tatsächlich in diesem Monat Februar. Diverse Videos mir angeschaut auf youtube, die von recht kompetenten Menschen mittlerweile verbreitet werden und da wo nicht nur Unsinn geredet wird, sondern sich tatsächlich auch tiefer geht mit einzelnen Aspekten beschäftigt wird, wo Erfahrungsberichte gepostet werden. Man kann daraus sehr viel lernen. Kann ich jedem nur empfehlen. Man liegt natürlich auch dort Videos, wo man auch von normalerweise halbwegs seriösen Quellen, wo man sagen muss recher. Ist etwas, was eigentlich unablässig ist, um gute Qualität zu liefern, aber gut, dieses Fass will ich jetzt hier nicht aufmachen, sondern ich will einfach meine Erfahrung sagen. Ich hab auch an einigen Teamsmeetings und Webinaren teilgenommen. Und da ist immer interessant zu sehen, was so Anfragen kommen. Und das erdet unser ein, also mich insbesondere auch immer wieder, weil ich stecke natürlich mittlerweile schon so tief drin, auch in diesem ganzen Chat GPT. Thema und natürlich auch im Copilot. Dass man viele Dinge einfach für ja mittlerweile selbstverständlich nimmt, oder? Ja OK weiß ich, hab ich nämlich abgefunden, die aber dann als Fragen in Chats oder in FAQS kommen, wo man dann einfach sagt, ja stimmt, das muss man auch noch mal richtig erklären, gut, und das ist der Ansatz des heutigen Podcasts, dass ich das einfach mal mit euch schrittweise aufarbeiten will und euch aus meiner Sicht heraus sagen will, wie man das ganze. Angehen sollte, damit man auch hier einen guten Einstieg bekommt. Fangen wir mal an mit der Nummer 1 und ich glaub das ist das Wichtigste was man zum Microsoft 365 Coupile sagen sollte. Als allererstes mit Microsoft 365 Copilot bekommt ihr das Thema große Sprachmodelle Large Language Modelle, also diese Interaktion mit der IT über Sprache in euren Microsoft 365 Tenant eingebaut. Mit der Positiven, mit dem positiven Nebeneffekt, dass ihr das einen Anforderungen Compliance Security Privacy komplett mitintegriert bekommt. Denn der Microsoft 365 Copilot integriert sich komplett in diese Microsoft 365 Infrastruktur, nutzt diese Infrastruktur um euch zu ermöglichen, dass ihr mit euren Unternehmensdaten sicher Compliance und Privacy orientiert arbeiten könnt, ohne und keine Angst haben müsst, dass da irgendetwas. Negatives mit passiert, um es mal sehr platt zu sagen. Das ist erstmal etwas, das Microsoft hier diese Plattform ausrollt und ich glaube, das ist gar nicht so einfach diese Plattform auszurollen, um auch diese ganzen Anforderungen dann tatsächlich auch zu erfüllen und dahinter zu stehen, dass dann zum Beispiel auch dieses Copyright Commitment, von dem her schon gehört habt, auch entsprechend erfüllt werden kann, dass man nämlich, wenn man Kobalt richtig eingerichtet. Hat und mit ihm arbeitet und aufgrund der Ergebnisse oder der Arbeit damit irgendwann mal in Rechtsstreit verwickelt wird und den verliert und Geld zahlen muss, dass Microsoft dann entsprechend einspringt und das übernimmt, weil sie sagen unsere Technologie, wenn die richtig eingerichtet. Dann macht die das richtig und wenn nicht, dann stehen wir dafür gerade so. Damit kommen wir gleich zum. Aber Punkt bei bei dem ersten Punkt nämlich aber das Ganze mit dieser Plattform gilt einfach nur dann, wenn ihr auch diese Plattform richtig eingerichtet habt in eurem Tablet. Das ist sozusagen die Voraussetzung und was heißt richtig eingerichtet nun, dafür gibt es ja mittlerweile diverse Anleitungen, haben wir beim letzten Mal auch schon. Besprochen, was es da gibt. Auf Microsoft Learn findet ihr was man machen soll. Es gibt mittlerweile auch schon gute Videos auf Microsoft Mechanics, beispielsweise vom Jeremy Chapman, der schrittweise auseinandersetzt und es gab auch schon Webinare dazu, was man machen muss. Die erste gute Nachricht ist, ihr müsst bei diesen Voraussetzungen im Prinzip nicht bei 0 anfangen, denn ich vermute mal jeder der von euch sich damit beschäftigt Microsoft 365 Copilot soll ich den Einsetzen oder nicht ist auf Microsoft 365 ja dann. Vermute ich mal. Haben dann noch mal andere Voraussetzungen, aber normalerweise habt ihr bereits einen eingerichteten m 365 Tennet und da habt ihr natürlich schon eure Policies eingerichtet. Ihr habt eure Benutzer eingerichtet, ihr habt eure Zugriffsrechte eingerichtet, ihr habt eure Strukturen aufgebaut und so weiter auch dafür gibt es ja ausführliche Best Practice, wie man so einen kennen inhaltlich aufbaut, strukturiert, damit er auch alle gesetzlichen, Privatsphärenmöglichkeiten sicherheitsrelevanten Aspekte erfüllt. So, darauf setzt der Microsoft 365 Copilot auf und kommt noch mit ein paar zusätzlichen Anforderungen. Version könnt ihr nutzen, in welchem Update Ring müsst ihr drin sein, was funktioniert, was muss eingeschaltet sein, damit es überhaupt funktioniert und so weiter und sofort. Das sind dann kopal spezifische Anpassungen, die ihr noch machen müsst. Was man auf jeden Fall machen muss ist, man muss beide Punkte einfach mal durchchecken. Also diese Überprüfung des Microsoft 365 Tennis, ob ihr den so eingerichtet habt, dass tatsächlich sag mal auch jetzt schon alle eure Sicherheitsanforderungen erfüllt werden, also dass wenn jemand nach irgendwelchen Dingen sucht, dass ihr nur das findet was er braucht und nicht plötzlich Zugriff hat auf ich sag mal vertrauliche Gehaltsinformationen, das wäre jetzt schon schlecht, das wird durch eine Kopale auch nicht besser und würde in diesem Fall auffallen. Also diese Überprüfung wäre. Einfach etwas, das man in diesem Zusammenhang auf jeden Fall machen sollte, kann nicht schaden. So wie mit dem Backup. Man macht immer jede Woche ein Backup und sagt, Boah, das ist super, ich habe jede Woche mein Backup und dann passiert irgendwas und dann stelle ich fest, ich muss aus dem letzten Backup einen restore machen und es funktioniert nicht, weil niemand überprüft hat ob diese Backups tatsächlich auch funktionieren und genauso ist es eigentlich auch mit eurer Installation in Microsoft 365 mit dem ganzen Setup funktioniert das eigentlich so, dass ihr mit dem Ergebnis, mit dem eure Mitarbeiter arbeiten könnt zufrieden sein, dass es Compliance, Security, Privacy alles das erfüllt. Das kann man jetzt mit den Cobalt Installation einfach mal überprüfen und dann gucken wir noch mal. Was sind die entsprechenden Anforderungen, die der Kophalle zusätzlich stellt und setzt sie dann entsprechend um? Und deshalb ist es auch eben keine gute Idee, einfach mal im Copilot irgendwie zu sagen, Ach komm, wir machen mal 2 Lizenzen und gucken mal, was jetzt passiert, weil dann im Hintergrund diese ganzen Infrastruktur, auf die wir gleich noch mal zu sprechen kommen, sozusagen installiert, angeworfen wird. Und wenn man damit schlechten Daten und schlechten Konfigurationen arbeitet, dann gilt der alte Spruch misst rein, misst raus, dann habt ihr eben auch schlechte oder nicht sichere oder nicht compliante Ergebnisse, wenn eure Plattform nicht installiert ist. So mit anderen Worten, das erste Vorteil Microsoft ist, dass Microsoft diese Plattform erst mal in der ganzen Microsoft 365 Infrastruktur ausrollt und dass ihr, bevor ihr damit tatsächlich anfängt zu arbeiten, euch mit den Voraussetzungen beschäftigt habt und guckt, ob die bei euch im Unternehmen erfüllt sind, entsprechende Anpassungen Vornehmt und euren Tennis sozusagen Ready macht, dass ihr dann auf den Knopf drücken könnt. So, jetzt schalten wir den ein und jetzt gucken wir mal, wie wir damit arbeiten können, das ist das erste. Was man definitiv verstanden hat und bei der ganzen Diskussion Begeisterung oder Enttäuschung ist das eher was in die Richtung Begeisterung läuft, weil einfach mal diese Infrastruktur ausgebaut und das ist nicht einfach die zu installieren. So das zweite, was man dann verstehen muss und was ja auch einfach noch mal umsetzen müsst, ist, dass wenn ihr dann den Microsoft 365 Copilot in eurem Tenet aktiviert, ihr nicht einen Copilot bekommt, sondern wir kommt. Ich glaube mittlerweile 8 oder 9 Copilots, denn es gibt einmal diesen ganz klassischen m 365 Chat, das ist die klassische Chat Applikation wie wir sie aus Chat gbt aus Bing Chat Enterprise oder Copolit Chat kennen, einfach eine Eingabezeile und ich kann mit den Informationen die ich habe dann komplett chatten. Das ist eines. Aber dann gibt es halt den Copilot in den jeweiligen Apps, die derzeit unterstützt werden, also in Word, in Excel, in powerpoint, in Outlook, in onenote, in Whiteboard, in Loops, in Teams, und ich glaube, ich habe jetzt nichts vergessen, das heißt, ihr habt mit 8 verschiedenen, derzeit mit 8 verschiedenen Copials zu tun, wenn ihr darüber hinaus noch andere. Applikationen aus der Microsoft 365 oder Microsoft Plattform nutzt, dann könnt ihr es mit bis zu 160 Copiloten. Zu tun haben, denn letztlich ist Copilot mittlerweile überall in Microsoft drin und 160 war im Webinar was ich letzte Woche gehört hab, so die der aktuelle Zählerstand. Ja, also kopei muss man sich immer angucken, was ist das für n Kopalet mit welchem? Applikation arbeitet der und was kann ich damit tun? So was heißt das jetzt diese App orientierten Copiloten machen wir uns das mal anhand von dem Copilot in Word klar, also in der. Dokumentation zum Copale, die ja auf learn.microsoft.com findet, gibt es ne schöne Tabelle, in der gezeigt wird, was die Features der einzelnen Co Piloten in den Apps so bieten. Nach dem Motto, Es heißt dort auch Microsoft 365 Apps, zum Beispiel Word, Excel, Powerpoint, Outlook, Teams, schleifen, Loops arbeiten mit Kopale zusammen und Benutzer im Kontext ihrer Arbeit zu unterstützen und im Kontext ihrer Arbeit ist genau das was hier wichtig ist. Ist das heißt, der Kophalle in Wörth macht dann zum Beispiel folgendes, er unterstützt euch beim Entwurf von Dokumenten, generieren von Text mit und ohne Formatierung in neuen oder vorhandenen Dokumenten. Word Dateien können auch zum Erden von Daten verwendet werden, ich kann also auch eine Word Datei in eine andere Word Datei einbinden und sagen hol mir mal hier Informationen raus und packe die bei mir mit rein, das ist eine Funktion die der Word Cooper unterstützt, das Zweite ist Chat erstellen Sie Inhalte fassen Sie zusammenstellen Sie fragen zu Ihrem Dokument und führen Sie einfache Befehle über Chat aus, das ist zweite Funktion, die dieser Copilot in Word kann. Und wenn ihr Word öffnet, wo der Cobalt aktiviert ist, dann habt ihr entweder die Möglichkeit, in dem Dokument über das kleine Icon vom Copilot direkt im Dokument. Quasi ein Eingabefenster zu haben, wo ihr euren prompt formulieren könnt. Und dann bekommt ihr das Ergebnis direkt ins Word Dokument eingespielt oder ihr könnt die Seitenleiste aufmachen und habt dort das Eingabefenster, wo ihr dann mit dem Copilot arbeiten könnt. Ja, aber das, was ihr mit diesem Copilot machen können, sind im Grunde genommen alles, was so mit Textgenerierung zu tun hat. Fragen zum Text stellen zusammenfassend mit dem Text stellen und ausarbeiten, da ist kein guter Platz um ne Frage zu powerpoint zu stellen, da ist keine Frage, kein guter Platz um eine Frage zu stellen, was habe ich letzte Woche beim Kunden XY gemacht, dafür ist dieser Copilot nicht gedacht und das macht er auch noch nicht, ob der das in Zukunft mal machen wird. Sei mal dahingestellt, wissen wir nicht, aber das ist etwas, was man einfach sich hier, ich sag mal was man wirklich klar gemacht haben muss, das ist anders, als wenn ihr, sagen wir mit Chpt, aber da habt ihr eine Eingabezeile und kommuniziert über diese eine Zeile mit allem, was ihr dann mit diesem Modell machen wollt, hier in Word im Copilot habt ihr bestimmte Aufgaben, die Applikationsabhängig sind oder darauf bezogen sind und könnt das damit machen und dann. Auch zu ich sag mal leidlichen Ergebnissen. Da sind wir dann an dem Punkt wie gut ist jetzt dieser Copilot in Word und da muss man sagen, sind wir halt noch an einer frühen Version 1.01.5 oder ich weiß nicht in der Größenordnung. Man kann damit schon einiges machen. Man muss dann aber auch seine Prompts damit entsprechend generieren. Man unterliegt dort auch einigen Restriktionen. Also es geht zum Beispiel über die Größe, der Anteil der Anzahl der Wörter, die man so im Dokument mit eingeben kann. Das führt auch öfter bei Zusammenfassungen, dass bestimmte Dinge einfach mal stecken bleiben. Das ist auch noch nicht so ganz richtig gelöst. Aber man kann durchaus auch gute Dokumente damit erstellen, wenn man sich bei den Prompts ein bisschen Mühe gibt und wenn man halt in so einem, ja in diesem Kontext bleibt, ja, also Texte generieren, Formatierungen vorgeben, zusammenfassen, strukturieren, das kann er ganz gut und auch chatten mit dem Dokument geht ganz gut, aber definitiv, und das gehe ich dann in die Richtung Ernüchterung. Ist halt, sagen wir. Anfangslevel da, da ist sicherlich noch viel Luft nach oben, um das Ganze noch besser zu machen. Aber wollen wir mal sagen, ihr könnt hier eben auch mit euren eigenen Dokumenten im Unternehmenskontext sicher kommunizieren, ne und ich glaube auch aus den Erfahrungsberichten, die ich jetzt auch online gelesen habe von denjenigen, die sich schon länger mit dem Co Pale beschäftigen, die zum Beispiel in diesem Early Adopter Programm mit drin waren und die dann auch mal jetzt schon mal das ein oder andere darüber berichtet haben, ja sie sagen auch, man muss sich daran gewöhnen, aber man kann damit schon arbeiten, ob das der Riesen Produktivitätssprung an der Stelle ist? Derzeit mag man noch dahingestellt sein lassen. Und das gilt jetzt für jede andere Applikation genauso eben auch im Powerpoint und powerpoint. Oder in Outlook, da könnt ihr halt mit E-Mails arbeiten, was ich sag mal n großer ja ein großer Renner ist, ist halt die Integration in Teams, insbesondere die Zusammenfassung von Teams, Besprechung als auch die Zusammenfassung von Team Chat um dann über sie Glück zu kommen. Das ist etwas was von viel genutzt worden, das hat Teams bezogen, das könnt ihr halt super gut in in den Teams Copilot machen, dass sie sagen können okay fassen wir mal. Das Meeting zusammen gib mir mal die Nodes heraus, gib mir mal die Aufgaben heraus. Ich kann Fragen ans Meeting stellen, das funktioniert schon sehr gut, wobei man immer noch mal sagen muss, auch für den Microsoft 365 Copilot gilt alles was da rauskommt sind im Prinzip Entwürfe, guckt da rein, überprüft das Ganze, ist das richtig ist das funktioniert das richtig? Ist das richtig zusammengefasst worden, fehlt da noch was? Das muss man immer überprüfen das. Das Gute wiederum daran ist, dass der Copilette Microsoft 63 euch vielfach dabei unterstützt, diese Prüfung durchführen zu können. Ja, also wenn ihr zum Beispiel Microsoft 365 Chat seid und sagt, gib mir doch mal ne Information darüber, was ich mit meinem Kunden XY in den letzten 2 Wochen gemacht habe, dann werdet ihr als Antwort bekommen okay da waren die 3 E-Mails, da waren hier die 2 Dokumente, da war hier der Chat und da war hier zum Beispiel die Meetingsaufzeichnung und das war was wir gemacht haben und. Und dann ne Textzusammenfassung. Also würd ich sagen, also mit dem. Kunden X habt ihr am 7.12. In dieser E-Mail darüber gesprochen und am 7.7. Darüber und so weiter und sofort. Kriegt also ne Textil Zusammenfassung und zu jedem dieser einzelnen Fundstücke die er da hat, gibt es ne kleine Fußnote und die wird unter dem Chat aufgelistet und da kriegt ihr da 12345678 die entsprechenden Fußnoten aufgelistet und die verlinkten gleich zu der jeweiligen Fundstelle, also zu der E-Mail zu dem Dokument, was. Copilot als Referenz angeführt hat. Insofern habt ihr dann eine relativ einfache Möglichkeit, das zu überprüfen, weil guckt euch den Text an, der rauskommt, klickt auf den Link, schaut den Link rein, ah, stimmt das OK, stimmt das nicht, ah, ist was vergessen worden pack ich noch was hinzu und könnt damit arbeiten das ist etwas was natürlich auch die Überprüfungsfunktion wesentlich vereinfacht, weil ihr eben den Bezug zu den Quellen habt. So also noch mal kurz zusammengefasst. Es gibt nicht den Cupale, es gibt Applikations Zentrierte Copilots, also für jede, für jede Applikation gibt es seine eigene Copeile, der sich unterschiedlich verhält, der bestimmte Aufgaben hat, der auf bestimmte Aufgaben, die im Kontext der jeweiligen Applikation. Bestehen optimiert ist und insofern heißt es, je nachdem was ihr machen wollt, habt ihr entsprechenden Set von Prompts, den ihr da nur verwenden könnt und daran müsst ihr euch gewöhnen. Wie man damit arbeitet. Wir sind in Zukunft aussehen wird, die Entwicklung geht so schnell, da ist nach oben alles offen, aber das ist das wie man am besten sich mit dem Cro Pilot jetzt arbeiten kann und als zusätzlichen Tipp gebe ich immer noch, dass es hilft schon mal strukturiert und kontextbasiert zu arbeiten, also dem Copilot bei seinen Anfragen auch immer ein bisschen Kontext und mehr Inhalt und mitzugeben damit er einfach besser. Mit euren Daten umgehen kann und auch besser weiß, was ihr eigentlich erwartet und dementsprechend eure Informationen. Aufbereiten könnte. Schritt für Schritt ist auch immer ne gute Sache, also nicht in ein prompt alles reinpacken und erwarten, dass dann sofort die komplette Antwort rauskommt, sondern sich überlegen, OK, fass mir erstmal das zusammen und dann im zweiten Schritt. Erstellen wir mal daraus die und die Unterabschnitte oder organisiert das anders, dass man das wirklich Schritt für Schritt macht in dieser Art und Weise, aber das ist so n bisschen prompting erlernen, das kriegt man, ich sag mal auch dann raus, wenn man tatsächlich mit dem Copilot arbeitet, und da lässt sie auch leider nicht so ohne weiteres 1 zu 1 prompting Erfahrung von Jetgpt oder so weiter übertragen, weil gerade in die Applikation das doch noch ein bisschen anders ist. Aber wie gesagt, Microsoft hat ja auch in seinen Dokumentationen schon ein paar gute Anleitungen drin, wie man prompt ausarbeitet. Aber meine Erfahrung ist, ihr müsst es tatsächlich ausprobieren und so ein Gefühl dafür bekommen, wie das Ganze funktioniert. Da habe ich mir gedacht, ich erzähle euch noch mal oder besonders, wir klären noch mal, wie eigentlich der Kobalt jetzt tatsächlich funktioniert. Also wir haben jetzt gesehen, dass die Plattform ist da, die ist konfiguriert, die ist sicherheitstechnisch eingestellt, wir haben den Copilot in 8 verschiedenen. Varianten sowie arbeitet der denn jetzt eigentlich tatsächlich? Und das ist auch wichtig, dass man das einmal verstanden hat, dafür gibt es ne gute Anleitung und ihr werdet diese Grafik vermutlich auf diversen Veranstaltungen immer wieder gesehen habt, das ist die Microsoft COPD für Microsoft 365 Architecture früher war Device, mittlerweile ist die Schwarz die Folie, ich würde die schwarze Folie empfehlen, weil die ist ein bisschen hübsch ausgearbeitet, da ist in der Mitte das copided Logo drin und dann sind da verschiedene Elemente drin, aus denen. Diese Architektur besteht. Und die will ich mit euch jetzt einmal durchgehen, um euch noch mal so n paar Hinweise zu geben, was man von dieser Architektur verstanden haben sollte, damit man auch mit dem Kobalt richtig umgehen kann. Ja, also das Erste, wenn ihr und diese Grafik hab ich in den Show Notes verlinkt, also wenn ihr sie nicht habt, die gibt es auf learnmicrosoft.com in dem Abschnitt über die Dokumentation für Microsoft Copilot für Microsoft 365 heißt die und da findet ihr Glaube ich mittlerweile über 100 Seiten, die auch dokumentiert die Voraussetzung und so weiter und sofort eine Quelle, die ihr unbedingt. Legen solltet. Ich habe sie verlinkt, auch in den Shownotes so also gucken wir uns diese Grafik an. Das Erste, wenn man darauf schaut ist was einem auffällt ist diese gestrichelte Linie, die um alle diese kleinen Elemente rumläuft und oben drüber steht Microsoft 365 Service Boundary und das ist genau das was sie am Anfang gesagt haben, Punkt 1. Das ist nämlich die sichere Umgebung, das alles ist in eurer Sicherung Umgebung angeschlossen, mit der ihr mit euren Daten arbeiten könnt, das ist nochmal die Visualisierung davon. So der Coup. Die Architektur besteht aus einigen Elementen, teilweise sind die Elemente schon in Microsoft 365 implementiert, sind sowieso schon da, andere sind kommen jetzt hinzu. In der Mitte steht die sogenannte Orchestrierung Engine, ich sag mal, das ist quasi. Der Manager, der im Hintergrund läuft und die ganzen Abläufe dort steuert, die wir uns gleich n bisschen anschauen. Dann gibt es einmal das Large Language Modell was im Hintergrund arbeitet, das ist so n Standardmodell. Ich bin mir nicht ganz sicher ob das schon GPT 4 oder auch GPT 35 ist. Laut Dokumentation könnte das auch 4 sein, aber ich hab da leider keine direkte Auskunft, jedenfalls ist ein Standardmodell was da im Hintergrund läuft, das wird nicht speziell für euch trainiert, sondern das hat einfach nur diese Standard Funktion. Die ja auch dann eben je nachdem 35 oder 4 kennt und entsprechend damit arbeiten könnt. Dann spielt eine Rolle der Microsoft Craft, den haben wir ja sowieso in Microsoft 365, darüber werden ja schon die ganzen Security Verknüpfungen und die Keywords und all sowas in Microsoft 365 gemanagt, damit eure Suche und die Suchergebnisse entsprechend funktionieren, darauf greift der Kophalle zurück und dann hat er noch ein zusätzlich oder bzw zusätzliche Modelle eingebaut. Gut, das sind so. Also Microsoft schreibt dazu, der sogenannte Semantik Index, das semantische Index, und sagt, es sind dort mehrere Large Language Modelle, die auf den Graph aufsetzen um Benutzeranfragen zu interpretieren und ausgefeilte, aussagekräftige und mehrsprachige Antworten zu erzeugen. Mit anderen Worten laufen dahinter auch nochmal zusätzliche Modelle bei diesem Semantic Index. Der es ermöglicht, einen inhaltliches Verständnis eures Contents zu erzeugen. Was ist das wiederum mal ganz einfach drauf gesagt, ihr stellt im Microsoft 365 Chat die Anfrage sag mir mal was ich mit dem Kunden Meier in den letzten 3 Wochen gemacht hab und schick den jetzt an dieses Modell rein. Wenn er das als Suche in sharepoint ausführt, also in der Microsoft 365 Suche ausführt, weiß nicht ob er da die richtigen Ergebnisse bekommen wird. Denn was heißt eigentlich letzte Woche? Gut, das könnte man auch vielleicht einfrieren, was heißt was hab ich gemacht ne? Der semantische Index kann aber verstehen, was gemacht heißt und was letzte Woche ist und was ich oder was wir damit gemacht haben. Ja, wenn du sagst, was habe ich gemacht, dann weißt du gemacht, das heißt im Prinzip. Was können wir Dokumente dafür zustand? Was können für E-Mails dazu passen und setzt das dann eben um in ich guck mal nach was gibt es für E-Mails, was gibt es für Dokumente, was steht in onenote, gibt es da irgendwas, was jetzt auf diesen Kunden bezogen ist, was in das Zeitfenster reinpasst? Und wenn ich sage, was habe ich mit dem Kunden gemacht, dann ist das so was, wo sind diese Interaktionen, die auch mit mir verknüpft sind, und wenn ich sage, was haben wir denn gemacht, dann geht es vielleicht ein bisschen übergreifend darüber, weil er sagt, Na, wir ist jetzt nicht nur ich, der die Dokumente oder die E-Mails geschrieben hat, vielleicht brauchen wir auch noch was, die andere Kollegen damit geschrieben haben oder die Arbeiter. Semantische Verständnis dieser Verständnis des der Anfrage und das umzusetzen in die richtigen Quellen, in die richtigen Dokumente, in die richtigen Antworten aus dem Microsoft mit dem der Semantik Index arbeitet, das ist halt. Der eigentlich die Kernfunktion, die dieses sprach. Macht. Und wie ist das jetzt eingebaut? Also gehen wir noch mal zu unserer Anfrage, die ich jetzt im Chat gestellt habe. Was habe ich letzte Woche mit dem Kunden XXY gemacht? Dann. Habt ihr praktisch im Chat dieses dieses prompt geschrieben? Das ist ja schon euer prompt und dieses prompt wird jetzt nicht 1 zu 1 an das Large ranget Modell durchgeleitet und dann von da aus wieder zurück gekippt, so wie man es jetzt bei Chat GPT kennen würde. Sondern es geht durch die sogenannten grounding Prozesse, das Preprocessing und das Post Processing. Und im Pre Processing wird halt dieses prompt genommen und wird dann an den Semantic Index geschickt, an den und der guckt jetzt mal nach und sagt OK wie ist schon grad gesagt hab was heißt jetzt letzten 2 Wochen was heißt jetzt was habe ich gemacht das heißt überhaupt gemacht und setzt quasi jetzt diese Information zusammen, sucht die Dokumente raus, sucht vielleicht noch weitere Informationen raus und reichert damit euer prompt an und baut quasi ein neues prompt was dann kombiniert ist aus eurer Anfrage plus den relevanten recherchierten Ergebnissen aus dem Semantic Index über den Microsoft Graph aus euren Dokumenten, aus eurem Content und schickt dann dieses modifizierte erweiterte prompt raus an das Large Language Modell. Und dieses Large Language Modell nimmt sich dann dieses Mega prompt dieses richtig mit kontextinhalten Bezug, Anfrage und so weiter alles aufgeführt wird, nimmt sich dieses prompt aber. Es dann ab und schickt die Antwort zurück, die das Large Modell jetzt entsprechend generieren will. Also wie heißt mit dem Kunden hast du das und das und das und das und das und dieses E-Mail und das hat er gemacht, das was da zurückkommt kommt dann aus diesem Large English Modell und das geht jetzt auch nicht 1 zu 1 zurück an euch in die Applikation sondern es geht in das sogenannte Post Processing. Und dann wird eben noch mal geguckt. OK, die Informationen, die jetzt hier aus dem Large Language Modell anhand des erweiterten Prompts zurückkommen, sind denn die Information ist denn der Benutzer berechtigt, all diese Informationen zu sehen, stand da auf irgendeiner Information zum Beispiel n Label drauf? Was hieß vertraulich? Da muss ich die gesamte Antwort jetzt auch als vertraulich kennzeichnen. Stand denn da zum Beispiel drin? Dass irgendwas nicht nicht ethical ist oder ähnliches. Also da folgt ne entsprechende Nachbearbeitung. Des Ergebnisses, ob das diesen ganzen Richtlinien Security Privacy. Und Governance entspricht und dementsprechend wird das noch mal angepasst und erst wenn das fertig ist, dann wird das Ergebnis dieses noch mal überarbeitete Ergebnis genommen und zurück an die Applikation geschickt und dann kommt das Ergebnis in eurem Chat an und ihr seht dann eben, was ihr mit dem Kunden in den letzten 2 Wochen gemacht habt. Entsprechend auf diese Auswertung. Diesen Prozess, den muss man einfach mal verstanden haben. Dass eben nicht das prompt, was ihr schreibt, 1 zu 1 weitergeleitet wird. Dass das Semantic Index da eine Rolle spielt, der dieses Verständnis schafft und dass die Security Privacy Governance. Alles was dazu gehört, halt über die entsprechende Post Processing durch den Copilit in Microsoft 365 erfolgt. Und da gehört dann auch zum Beispiel bestimmte Dinge, dass man eben so n bisschen Verständnis haben muss. Wo liegen eigentlich meine Dokumente? Ja, es gibt ja im Microsoft Graph den User Level Index und den Tenant Level Index, je nachdem das sind unterschiedlich, sind dort eure Informationen gespeichert und je nachdem wie schnell dort auch der Index upgedatet wird. Hat auch der Code dann erst den Zugriff darauf? Typisches Beispiel was ich habe, ich arbeite an der Word Datei, habe die abgespeichert, habe Änderungen gemacht, gehe in den Chat rein und frage jetzt. Den Frage jetzt dieses Dokument im Chat ab, weil ich eine Zusammenfassung haben will und dann bekomme ich die Änderung noch nicht, weil die einfach noch nicht verarbeitet worden sind. Da kann es teilweise Zeitverzögerung geben, habe ich auch öfter gehabt, neues Dokument erstellt. Abgespeichert dann in was ich n Chat oder n Word reingegangen, weil ich aufgrund dieses Dokuments jetzt doch mal ne Zusammenfassung machen wollte oder zum Beispiel Folien in Powerpoint erstellen lassen wollte, findet er einfach noch nicht. Der braucht dann erstmal bis dieses im Hintergrund verarbeitet worden ist. Und das ist jetzt auch wieder abhängig. Natürlich, wieso die Updatezeiten eingestellt sind, wie weiß ich was? Mir einfach angewöhnt, wenn ich irgendwie so n Dokument hochlehe will damit arbeiten. Ich geh erstmal n Kaffee trinken und komm dann wieder zurück und guck mal ob das dann schon referenziert ist. Ja, auch eine häufig gestellt wurde. Ja, der hat es gar nicht gefunden, ist gar nicht mit drin. Hängt auch davon ab, wie schnell der Index darauf reagiert hat. Ja, also wie gesagt, das könnt ihr auch noch mal ausführlicher dann in der Learndokumentation nachlesen, wie dieser Semantic Index funktioniert und wie der gesamte Ablauf des Copilots in Microsoft 365 funktioniert. Das sollte man verstanden haben, weil man dann einfach auch wie gesagt, ich rege mich jetzt nicht mehr auf, dass ich das Dokument nicht sofort finde, weil ich weiß, es braucht erstmal eine Zeit bis es verarbeitet worden ist und dann komme ich ein bisschen später nach. Das ist halt das, wo man mit dran sozusagen erstmal mit Leben muss und somit arbeitet. Ob sich das irgendwann mal ändert und der andere soll ich weiß nicht ob das so sein wird, weil es braucht halt seine Zeit bis das gemacht und auch diese ganzen Prüfungsvorgänge brauchen eine Zeit bis die überhaupt abgearbeitet sind. Gut also, das ist der Samantic Index, das ist der Copilot 365 Durchlauf und. Als Fazit davon, wie gesagt, arbeitet, versteht. Dass die Copiloten Applikationsabhängig funktionieren, Aufgabenbezogen auf die Applikation sozusagen. Funktionieren und das ja auch nur die Fragen, die praktisch in der Applikation sinnvoll sind, vernünftig beantwortet bekommt. Das ist etwas, denkt daran, wie der ganze Ablauf ist und wenn er dafür so ein allgemeines Verständnis entwickelt hat, kann man auch ganz anders mit diesem Copiloten umgehen, weil man einfach auch gleich in der richtigen Applikation drin ist und auch an der richtigen Stelle damit arbeitet. So fassen wir mal kurz zusammen. Also ich hoffe ich hab euch n halbwegs. Verständnis dafür vermitteln können, wie das ganze System funktioniert. Noch mal ganz kurz zusammengefasst, ganz wichtig Microsoft 365 Co Product rollt diese Sprachmodellplattform bei euch im Tennant aus, zweitens, ihr müsst entsprechend euren Tennen vorbereiten, damit der Co Pilot auch vernünftig, sprich Secure Compliance Governance mäßig und Ethical mit euren Daten umgehen könnt. Ihr könnt in Eurem Tennant mit euren Daten sicher kommunizieren und auswerten, das könnt ihr mit anderen Systemen nicht machen. Es gibt nicht ein Copilot, es gibt 8 Copilots jeder Kopie ist für eine spezielle Aufgabe vorgesehen, dementsprechend muss man mit dem auch anders kommunizieren und kann auch nicht Anfragen stellen, die einfach in diesem Kontext nicht sinnvoll sind, dann kriegt man auch keine sinnvollen Antworten. Prompting ist eine gute Sache, die man. Einfach lernen muss auch Appspezifisch sich aneignen muss. Ihr solltet einmal den Ablauf verstanden haben, wie die Architektur funktioniert, was der Semantic Index macht, wie euer prompt da durchgeleitet wird und wie es auch noch verändert und angepasst wird und was daraufhin euer Ergebnis als Ergebnis herauskommt. Und immer überprüfen. Ihr bekommt die Quellen angezeigt, könnt dort nachschlagen, könnt sehen, ob das alles richtig ist, ob vollständig ist. Prüfen ist immer ganz wichtig, weil ihr solltet gerade auch in dieser Anfangsphase auf das, was der Kopern daraus schmeißt, nicht blind vertrauen, definitiv nicht. Ihr könnt ein gewisses Vertrauen, wenn du länger damit arbeitet und werdet ihr gewisses Vertrauen zu dem Group Halt aufhören und werdet schon wissen, wo ihr noch mal nachgucken müsst, weil da macht er irgendwo immer eine Schwierigkeit oder ähnliches. Das sollte man prüfen. Ja, und das wären eigentlich so meine Themen. Thema Wie freue ich mich mit dem Microsoft 365 Copilot an, ist es ne gute Idee den auszurollen oder sollen wir einfach noch mal länger warten? Es ist definitiv eine gute Idee sich damit zu beschäftigen. Weil wir alle haben im letzten Jahr lernen dürfen, wie schnell eine technologische Entwicklung gehen kann. Und wenn ich sehe, was heute schon an anderen Modellen oder was andere Modelle mittlerweile machen oder was auch. Mit GPT 4 macht oder was? Mit den Videos ginge kommt was gerade technologisch in dem ganzen Bereich passiert, dann sind da schon so starke Fortschritte, dass man manchmal schon das Gefühl hat, oh was da im Kobalt geht ist. Ja, schon n bisschen älter, da gibt es doch ganz viele andere Möglichkeiten. Aber immer dran denken, es ist halt die Möglichkeit, sicher mit eurer Umgebung zu kommunizieren, das ist, das ist das A und o bei dem ganzen und das wird kommen und deshalb kann man sich glaub ich gar nicht früh genug damit. Beschäftigen, was man mit dem ganzen Magern und wichtig natürlich auch. Um den richtigen Einstieg zu finden, hab ich jetzt mal auch gesagt, findet Use Cases findet Use Cases wo ihr die KI Unterstützung besonders gut nutzen könnt und wo ihr mit Arbeiten könnt und dann könnt ihr euch glaub ich auch recht gut und relativ schnell auch. In diese Technologie einarbeiten und könnt auch von dieser Technologie letztlich profitieren, denn das ist ja auch ein Anspruch dieses Podcasts, dass er euch zeigt, wie ihr mit Hilfe dieser Technologie produktiv arbeiten könnt. So freue mich über euer Feedback. Danke fürs Zuhören, hoffe es hat euch ein bisschen weiter gebracht und dann hören wir uns im nächsten, der nächsten Ausgabe wieder. Freut mich, wenn ihr diesen Podcast subscribt. Ich hab auch schon viele. Nettes Feedback bekommen vielen Dank für die Rückmeldung und wenn ihr es auf den Plattformen Like und Subscribed und auch mal diesen Podcast als weitere Informationsquelle ein bisschen euren Post berücksichtigt, würde ich mich freuen. Vielen Dank und Tschüss bis zum nächsten Mal, sagt der Michael Greth. Your Copilot der Podcast, der hilft, die künstliche Intelligenz in der Microsoft 365 Welt zu verstehen und produktiv anzuwenden. Mit eurem Copiloten Michael Greth.