Your Copilot - KI in der Microsoft 365 Welt verstehen und produktiv anwenden

Michael Greth

YCP012 - Copilot und SharePoint

28.06.2024 21 min Michael Greth

Zusammenfassung & Show Notes

In der heutigen Ausgabe ist Maxim Tarasenko von der Rocketta GmbH zu Gast, der mit seinem Team Chatbot-Lösungen für SharePoint und Azure OpenAI  entwickelt hat. Dieses Lösungen sind
  • Ein Chatbot, der auf eine umfangreiche Daten in SharePoint von Lessons Learned aus vorherigen Projekten zugreift und relevante Informationen für neue Projekte liefert. 
  • Ein Chatbot, der einen Manteltarifvertrag für Mitarbeiter in verschiedenen Sprachen verständlich macht.
  • Ein Translator für SharePoint, der Seiten und Web Parts automatisch in verschiedene Sprachen übersetzt.

Zu Gast : Maxim Tarasenko von der Rocketta GmbH, der mit seinem Team Chatbot-Lösungen für SharePoint und Azure OpenAI  entwickelt hat: 
  • Eine Chatbot-Lösung, die auf umfangreiche Daten In SharePoint von Lessons Learned aus vorherigen Projekten zugreift und relevante Informationen für neue Projekte liefert. 
  • Ein anderes Beispiel ist eine Chatbot-Lösung, die einen Manteltarifvertrag für Mitarbeiter in verschiedenen Sprachen verständlich macht. 
  • Der Translator für SharePoint, der Seiten und Web Parts automatisch in verschiedene Sprachen übersetzt. 
Der Podcast zeigt, wie man mit SharePoint und Azure Open AI eigene Lösungen bauen kann, die das Wissen in Microsoft 365 erschließen.

Transkript

Sharepoint und Copilot, die sind ja noch nicht die besten Freunde. Wenn man heute künstliche Intelligenz mit sharepoint verwenden will, dann muss man auf eigene Lösung zurückgreifen und darüber wollen wir heute mal reden, your copilot. Der Podcast, der hilft, die künstliche Intelligenz in der Microsoft 365 Welt zu verstehen und produktiv anzuwenden. Mit eurem Copiloten Michael Greth. Ja, Hallo und herzlich willkommen zur 12. Ausgabe von Newcoper in Eurem Podcast, der euch helfen soll, die künstliche Intelligenz in der Microsoft 365 Welt besser zu verstehen und vor allen Dingen auch produktiv einzusetzen. Ja, im Intro habe ich es gesagt, sharepoint und Co. Palette, das sind noch nicht die besten Freunde, da ist zwar einiges angekündigt, aber man muss noch auf vieles warten. Wir können zwar einzelne Dokumente die in einer sharepoint Bibliothek liegen, zum Beispiel Microsoft 365 Chat als Quelle referenzieren, aber das ist auch auf 3 Dateien begrenzt und was ist eigentlich mit den ganzen anderen Informationen die im sharepoint League Insights in Seiten, in Listen und so weiter? Da ist noch viel Spielraum nach oben. Aber man muss gar nicht warten, denn man kann sich natürlich eine eigene Lösung auf sharepoint bauen, die Mithilfe von künstlicher Intelligenz. Die Daten auswertet und vielleicht noch mal ganz anders wieder den Endanwendern zugänglich macht und so eine Lösung wollen wir uns heute mal von jemand erklären lassen, der mit seinem Team so eine Lösung gebaut hat. Ich hab mir nämlich Maxim Tara Senko von der Roquetta GMBH eingeladen. Er ist seit über 20 Jahren Entwickler zu sharepoint, seit 2018 Geschäftsführer der Rocketta GMBH und mit seinen 13 Mitarbeitenden entwickeln sie halt Projekte rund um Microsoft 365. Und sharepoint Lösungen, die auch mit KI Unterstützung heute umgesetzt werden. Und da sage ich mal Hallo Maxim, Willkommen im Podcast. Hallo Michael, vielen Dank für die Einladung. Ich freue mich hier zu sein, Ihr habt unter dem Stichwort Lessons Learned für einen Kunden. Eine Chatbotlösung gebaut, mit der er auf seine Daten im sharepoint zugreifen kann. Kannst du uns das bitte mal ein bisschen genauer erklären, was ihr da gemacht habt? Also in diesem konkreten Beispiel hat der Kunde im sharepoint eine ziemlich umfangreiche Datenbank aufgebaut, besteht aus mehreren Dokumenten, Bibliotheken und vielen Listen, in denen die sogenannten Listen Learning, also Erkenntnisse aus vorherigen Projekten, erfasst und gespeichert werden. Bei jedem neuen Projekt müssen. In die Verantwortlichen diese Datenbank entsprechend durchgehen und prüfen, was davon wäre. Für das neue Projekt anwendbar. Was müssen wir beachten und so weiter und sofort mittlerweile ist diese Datenbank auf zigtausende Einträge angewachsen, es ist also gar nicht mehr so einfach, dort sich einen Überblick zu verschaffen. Und mit einem Chatbot genügt das einfach zu fragen beispielsweise ich bin ein Lead Engineer in Piping und baue eine neue Anlage in Nordafrika. Und der Chatbot geht in dieser Datenbank in die Bibliotheken, in die Listen, findet alle relevanten Informationen und interessanterweise nicht nur bezogen auf Nordafrika, sondern zum Beispiel auch, wenn es um Verlegen von Rohren in der Wüste oder einfach bei hohen Temperaturen geht. Also alles, was relevant sein könnte, wird gefunden und dann wird vom Chatbot das alles zusammengefasst und als eine Antwort dem Anwender präsentiert, ja welche? Das richtig verstanden hat, also die Information, die Daten, die liegen. Wenn du gesagt hast in Dokumenten. In in sharepoint Listen in ich weiß nicht sonst noch was, also an verschiedenen Datenquellen in Microsoft 365, je nachdem wo sie aus den Projekten aus den vorherigen Projekten praktisch erfasst worden sind und dies jetzt zusammenzuführen. Ist ja die erste Frage, wie Krieg ich denn jetzt alle Daten zusammen, so dass nachher ein Chatbot darauf zugreifen kann. Ja, dabei werden die Daten vorab natürlich automatisiert verarbeitet, in eine sogenannte Faktorendatenbank gespeichert. Aus dieser Vektorendatenbank bedient sich der Chatbot und ist in der Lage, die Antworten zu liefern, man könnte denken, das wäre mit Copilot abbildbar, aber genau das ist der Punkt, Copilot nimmt in der Regel ein Dokument oder vielleicht zukünftig auch mehrere aus einer Bibliothek. Aber Copilot beantwortet nur eine Frage. Und hier haben wir möglicherweise gleich mehrere Abfragen, die zusammengefasst werden müssen. Wir schauen in den Dokumenten, wir schauen in den Listen, wir schauen in weiteren Datenbanken und fassen alles zusammen, geben die Antwort und das Schöne ist, es ist nicht nur einfach ein Text, was man zurückbekommt, man hat, das ist ganz wichtig, auch Quellenangaben und Referenzen, man kann im Grunde direkt auf Quellenangabe klicken und das Dokument öffnen aus dem. Der jeweilige Possus dann stammt also im Prinzip funktioniert es ja so ähnlich wie der Microsoft 365 Chat, wo du ja auch sagen kannst, ich möchte mit einem Dokument oder mit 2 Dokumenten, da hab ich ne Frage daran, die kann ich ja einfügen, aber mehr als 2 Dokumente sind nicht möglich und jetzt hast du aber das wissen, was du gerne erschließen möchtest. Das steht wie gesagt in diversen Bibliotheken Listen weiß ich wo in sharepoint und das was eure Lösung im Hintergrund macht, es sammelt halt diese verschiedenen. Datenquellen zusammen bringt die Halt in so ein eigenes Sprachmodell rein und stellt sie dann im Chat zur Verfügung. Dass ich genau gezielt an diese Informationen und an diese Daten meine Frage stellen kann. Das ist korrekt, man. Greift nur auf bestimmte Informationen, die dann im sharepoint oder sonstigen anderen Datenquellen liegen und dadurch wird die Antwort auch wesentlich präziser und relevanter. Musstet ihr denn an den Daten etwas machen? Man sagt ja immer bei solchen Chatbots **** in **** aus, also man soll darauf achten, dass die Datenmaterial das Eingabematerial wenn ich so einen Modell zusätzlich trainiere oder aufbaue, musste ihr da an den Daten was machen, oder? Hat das war die Qualität eh schon gut genug. Das ist eine sehr gute Frage, mit der man immer wieder konfrontiert wird in diesem Projekt, tatsächlich gar nicht, also wenn es um Lessons Learned Datenbank geht, es war erstaunlicherweise gar keine. Vorbereitung notwendig das weiß man nicht immer. Ob das der Fall ist. Manchmal müssen die Daten tatsächlich vorab etwas vorbereitet werden, mit Metadaten versehen werden und so weiter das erfolgt ja aber alles automatisiert, da muss man. Als Person gar nicht eingreifen bei Listancen Datenbank hat es aber schon gereicht, einfach die Daten in dem Format, in dem die da waren zu nehmen und an Asia Open AI zu geben. Wie sieht es jetzt für den Anwender aus, also er hat quasi jetzt ein Chatbot und was macht denn der, fragt der jetzt beliebig ab, habt ihr vorgegebene Prompts oder wie arbeitet der Anwender damit? Der Anwender hat einen Chatbot. Auf sharepoint Seite als Webpart eingebunden. Oder alternativ auch in Teams und kann dort beliebige Fragen zu dieser Datenbank formulieren. Man ist nicht auf bestimmte Fragen eingeschränkt und im Prinzip, das ist das, was ja eng generative AI eben ausmacht, es kann verstehen, was der Anwender möchte, holt sich entsprechende Informationen aus der Datenbank, baut daraus eine passende Antwort, stellt vielleicht eine Rückfrage oder sucht weiter in noch mehr Informationen und. Dann fasst ihr zusammen und gibt die zurück, was in diesem speziellen Projekt auch der Fall ist. Es werden zu den Antworten, die die KI liefert, auch sogenannte Follow cressions generiert. Also was könnte ich dann noch fragen um weiter in diesem Thema zu recherchieren. Das ist ganz interessant und funktioniert auch ganz gut, die Fragen werden natürlich auch durch generative AI, genauso durch Azure Open AI generiert, also das ist ja auch eines meiner Lieblings Ergänzungen von jedem. Längeren Chat, den man mit mit Chat GPT gefragt hat. Stell mir doch bitte noch mal 3 Fragen zu dem Text, die vielleicht noch mal n anderen Zugang zu den Inhalten ermöglichen. Das ist ganz unabhängig von der konkreten Lösung, es gibt da diesen Begriff Sword Pro Walking. Wenn man sagt, blicken wir noch mal. 3 Sword Pro Walking Questions dazu, dann kriegt man noch mal Fragen zu zugestellt, wo man sagt, Oh ja, da hab ich vielleicht gar nicht dran gedacht. Mit anderen Worten, also die Anwender, die jetzt neue Projekte starten oder über sich über zukünftige Projekte informieren wollen und auf das Wissen aus diesem Projekt Erfahrung zurückgreifen wollen, die Gehen in den Chatbot, formulieren ihre Fragen und bekommen die Antworten und gehen dann quasi in einen Chat rein, wo sie zum Schluss halt die entsprechenden Ratschläge tatsächlich bekommen. Aktualisiert sich denn dieser Bot, wenn jetzt in den Ursprungs Dateien immer neue Projekterfahrungen mit eingegeben werden? Selbstverständlich, das ist das, was unsere Arbeit im Grunde ausmacht, wir erweitern die Systeme soweit, dass sobald dem sharepoint dann neue Datensätze. Erzeugt werden, wenn es Dokumente hochgeladen oder einfach aktualisiert werden, aktualisiert sich auch der Wissensstand des Chatbots sozusagen. Und man ist immer auf dem neuesten, kann man mal fragen wie wie wie hoch war jetzt der Aufwand, kannst du das jetzt irgendwie beziffern mit dieser Umsetzung der Lösung war ich so 2 Tage 20 Tage oder in der Größenordnung hast du da irgendwie so ne Hausnummer für ja der Aufwand war so. Wobei 20 Tagen tatsächlich, also wir greifen da natürlich auf vorbereitetes Know-how zurück, in dem Sinne also die ganzen Web Parts, den Chatbot in Teams, das ist ja alles schon vorgefertigt, das das muss nicht neu entwickelt werden, der eigentlich Aufwand liegt tatsächlich darin, vorerst die Daten zu analysieren und entsprechende Prompts auch zu gestalten, damit der Chatbot die Daten versteht, damit er versteht, in welchem Umfeld. Man sich bewegt eben diese Aktualisierung der Daten, das ist das, was den eigentlichen Aufwand ausmacht und da ihr es jetzt praktisch die Lösung auf Azure Open AI läuft, läuft sie halt auch im Microsoft 365 Kontext und mittlerweile dadurch sind auch entsprechend die Security Anforderungen für diese Lösung praktisch gleich mit abgedeckt, weil das hat alles in dem Microsoft Tendenz Security Kontext bleibt. Genau die Frage, die oft gestellt wird, ist Wie sieht es denn mit Datenschutz aus? Die Daten liegen ja bereits bei Microsoft im sharepoint, dementsprechend im Microsoft Rechenzentrum und wenn wir Asia Open AI nutzen, was auch bei Microsoft dann idealerweise im selben Rechenzentrum liegt, dann verlassen die Daten nicht einmal dieses Rechenzentrum. Coole Lösung wo man sieht wie man die Daten, die jetzt in Microsoft 365 an unterschiedlichen Orten gespeichert sind zusammen. Werden können und halt auch über die halt Co Pilot, also diese Chat Technologie den Benutzern verfügbar gemacht werden können. Nun sehen wir natürlich auch, dass Microsoft die Plattform Copilot immer weiterentwickelt, es gibt jetzt kein Copilot der so eine Lösung wie ihr habt hier umsetzen kann, aber es wird ja sowas geben wie Custom Copilots für sharepoint, das ist ja schon angekündigt wo man sich selber sozusagen über die Oberfläche einen kleinen Chatbot bauen kann, der zum Beispiel Dokumente in einem Ordner befragt werden kann. Bin ich da wahrscheinlich nur auf Dokumente begrenzt? Anderer Einsatzbereich ja genau, also sowas kommt und ich finde es sehr schön, dass Microsoft mit Copilot halt nicht stehen bleibt und weiter das entwickelt. Man kann das Vergleichen mit. Anwendungen auf Power Apps und individualisierten maßgeschneiten Lösungen, die man entwickeln kann. Es gibt vieles, was man selbst machen kann, aber es gibt auch Grenzen von Power Apps und da greift man auf die herkömmliche Programmierung, sag ich mal zurück und das ist genau der Fall, den wir auch abdecken und zwar dort, wo es komplexere Vorgehen notwendig sind, wenn zum Beispiel das sogenannte Request Chaining oder Promptchaining gefordert wird oder wenn auch gleichzeitig auf Daten zugegriffen wird, die. Unbedingt beim sharepoint im sharepoint liegen. Das könnten Produktdatenbanken seien Knowledge Base, was auch immer die außerhalb liegen, und die möchte man auch heranziehen im selben Chatbot. Genau da wird man in der Plattform ja verschiedene Level sehen können, also dieser Custom sharepoint Co Pilot, der wird was sein für einfache Lösungen, die auch der Anwender machen kann, dann gibt es halt wie du schon gesagt hast die Power App Plattform bzw Co Pilot Studio. Was ermöglicht über diese Plattform auch schon Copeile zu bauen? Sicherlich mit umfangreichen Funktionen, aber es wird immer den Bereich geben, dass man dann sagt, ja, wir machen ne individuelle Lösung, weil wir da gezielter arbeiten können, weil wir andere Quellen noch anschließen können und weil wir dann mit anderer Lösung umsetzen können. Also da gibt es diese, diese Spanne wird man haben und ist ja auch gut so, weil jeder hat unterschiedliche Anforderungen, das ist mit sharepoint an sich eigentlich auch so, es ist ja out of the Box wunderbar nutzbar, man kann auch ohne. Customize und sonstigem damit arbeiten machen auch viele oder die meisten sogar. Es gibt aber immer wieder Szenarien, in denen weitere Lösungen notwendig sind, die dann entwickelt werden müssen, die nicht von Microsoft bereitgestellt werden. Das hast du jetzt, das hast du jetzt richtig schön gesagt, als alter sharepoint kann ich deinem nur voll zustimmen, dass auch die Sharpopfer mir einfach dafür einfach schon gedacht war, dieses Konzept. Dinge, die der Anwender selber machen kann, die man dann mit zusätzlichen Tools machen kann. Und dann hat man sich eben noch mit dem Framework oder sonstwas ne zusätzliche Lösung gebaut, also systemkonform auch noch diese Umsetzung, also n interessantes Beispiel kann man sehen, was man mit der Microsoft 365 Plattform und eigenen Anwendungen in Richtung generative ar machen kann, vielleicht kannst du noch ein weiteres Beispiel sehen, ihr habt da was aus dem HR Bereich, wenn ich das nochmal richtig erinnere, das ist auch ein sehr interessantes Beispiel. Sehr einfach zu erklären. Auch ein Unternehmen hat einen Manteltarifvertrag für seine Mitarbeiter. Dieser Vertrag besteht aus mehreren relativ komplexen Dokumenten, die zudem in. Einem sehr schwer verständlichen Beamtendeutsch verfasst sind, nehmen wir mal an, ein Mitarbeiter möchte wissen, wie viele Sonderurlaubstage er eben beim Geburt eines Kindes zustehen. In den Vertragsdokumenten ist aber nicht von Sonderurlaub und Geburt überhaupt die Rede, sondern wörtlich von bezahlten Freistellungstagen bei Niederkunft der Ehefrau. Und eine herkömmliche Dokumentsuche würde hier natürlich scheitern. Also man würde gar nicht entsprechende. Textabschnitte finden können. Entsprechend bei 1000 Mitarbeitern ist auch die Personalabteilung solchen Anfragen teilweise oft überlastet, ja. Und daher fragte das Unternehmen bei uns an, ob solche Anfragen automatisiert oder ein Chatbot beantwortet werden könnten. Und das hat tatsächlich auch erstaunlich gut funktioniert. Um bei dem Beispiel zu bleiben bei der Frage nach Sonderurlaubstagen bei Geburt liefert ein Chatbot sofort die richtige Antwort, denn für semantische Suche, die man dann mit KI hat, erkennt, dass Freistellungstage und Urlaub und eben Gebot und Niederkunft irgendwie schon verwandte Begriffe sind und kann diese korrekte interpretieren. Es gibt übrigens ein weiterer Vorteil dann davon die Mehrsprachigkeit, ich kann. An ein Chatbot die Frage beispielsweise in Türkisch aufstellen, obwohl der Vertrag in Deutsch erfasst ist und bekomme dann auch die Antwort in Türkisch. Das erleichtert ganz einfach den Zugang zu den Informationen, zu denen man Zugang braucht. Ja, also auch eine interessante Lösung, gerade mit der Mehrsprachigkeit, aber da habt ihr auch noch mal ein anderes Projekt, was ich jetzt schwerpunktmäßig auch in sharepoint um mehrsprachige Darstellung von Informationen kümmert, auch mit KI gelöst. Wie geht das denn? Wir haben tatsächlich ein kleines Produkt, das wir ja einfach Translator für sharepoint genannt haben. Du kennst ja den Standardprozess, wenn man zum Beispiel ne Neuigkeit oder eine Seite im sharepoint in einem mehrsprachigen Intranet veröffentlichen möchte. Ein Redakteur erfasst die Nachricht. Originalsprache, sagen wir in Deutsch oder Englisch veröffentlicht die, dann werden die Übersetzer benachrichtigt, die übersetzen dann. Jede Nachricht veröffentlicht das neu und so weiter mit unserem Tool entfällt dieser Prozess den komplett. Ich erfasse eine Nachricht, wähle beim veröffentlichen aus, in welcher Sprache möchte das ganze übersetzen möchte und man ist fertig, alles ist übersetzt, aber dann wirklich alles versteht sich nicht nur der Text der Seite sondern Überschrift Bildüberschriften, Quick links und überhaupt jegliche Web Parts die es auf einer Seite sind und die Qualität der Übersetzung ist auch unglaublich gut. Ja Maxim erstmal vielen Dank für. Einblick in eure Projekte. Was nehmen wir jetzt daraus mit? Ich würde mal sagen, viel Wissen steckt bestimmt auch bei euch in sharepoint drin, in Listen, in Bibliotheken, in Seiten usw. Das Wissen können wir uns mit dem Co Pilot 365 zurzeit noch nicht, also umfassend erschließen, wenn man das will. Gibt sicherlich sowas wie copial Studium, mit dem man mal probieren kann, was da möglich ist. Oder aber wenn man etwas ausgefeilteres haben will, dann. Baut man sich oder lässt sich eine eigene Lösung bauen, die auf Azure Open AI basiert, da quasi das Sprachmodell nutzt und dann mit den Daten, die in Unterschieden stellen in sharepoint liegen können, arbeitet, indem man sie dann praktisch über diese Lösung verknüpft. Und über den Chatbot Allen zur Verfügung stellt. Und alle können dann lustig mit dem Chatbot chatten und haben sicherlich mehr Erkenntnisse, als wenn man nur über die einfache Suchfunktion geht. Das ist das Schöne an dieser Plattform. Dass das alles irgendwie vorhanden ist. Man muss sich nur sozusagen seinen Use Case finden und da sind wir wieder an dem Thema, was wir auch öfter schon behandelt haben, nämlich wo liegen denn eigentlich die Use Cases und bei dem Kunden vom Maximen war halt die Projektdatenbank die da war wo alle Erfahrungen drin war und die man gerne hätte, weil man für jedes neue Projekt einfach mal aus diesen Erfahrungen profitieren wollte und sich dort die Informationen möglichst einfach zusammenstellen lassen wollte, die vielleicht für das nächste Projekt relevant sein können. Das war's für heute. Sharepoint rocts sage ich mal immer noch, und das, was wir heute, ich freue mich, wenn ihr die Botschaft dieses Podcasts auch an Kollegen, Kolleginnen und anderen Weitergebt wenn ihr euch der Beitrag gefallen hat, hinterlasst gern ein Like, wo immer es auch dann im Podcast möglich ist. Kommentare natürlich auch gerne freue ich mich drüber und wenn ihr mal ein spezielles Thema habt, über das ich hier mal sprechen soll, dann bitte gerne in die Kommentare, oder? Ja, in die Kommentare mit reinschreiben, dann kann ich mich mal darum kümmern, in diesem Sinne Tschüss bis zum nächsten Mal. You are copilot. Der Podcast, der hilft, die künstliche Intelligenz in der Microsoft 365 Welt zu verstehen und produktiv anzuwenden. Mit eurem Copiloten Michael Greth.