YCP012 - Copilot und SharePoint
28.06.2024 21 min Michael Greth
Zusammenfassung & Show Notes
In der heutigen Ausgabe ist Maxim Tarasenko von der Rocketta GmbH zu Gast, der mit seinem Team Chatbot-Lösungen für SharePoint und Azure OpenAI entwickelt hat. Dieses Lösungen sind
- Ein Chatbot, der auf eine umfangreiche Daten in SharePoint von Lessons Learned aus vorherigen Projekten zugreift und relevante Informationen für neue Projekte liefert.
- Ein Chatbot, der einen Manteltarifvertrag für Mitarbeiter in verschiedenen Sprachen verständlich macht.
- Ein Translator für SharePoint, der Seiten und Web Parts automatisch in verschiedene Sprachen übersetzt.
Zu Gast : Maxim Tarasenko von der Rocketta GmbH, der mit seinem Team Chatbot-Lösungen für SharePoint und Azure OpenAI entwickelt hat:
- Eine Chatbot-Lösung, die auf umfangreiche Daten In SharePoint von Lessons Learned aus vorherigen Projekten zugreift und relevante Informationen für neue Projekte liefert.
- Ein anderes Beispiel ist eine Chatbot-Lösung, die einen Manteltarifvertrag für Mitarbeiter in verschiedenen Sprachen verständlich macht.
- Der Translator für SharePoint, der Seiten und Web Parts automatisch in verschiedene Sprachen übersetzt.
Der Podcast zeigt, wie man mit SharePoint und Azure Open AI eigene Lösungen bauen kann, die das Wissen in Microsoft 365 erschließen.
Transkript
Sharepoint und Copilot, die
sind ja noch nicht die besten
Freunde. Wenn man heute
künstliche Intelligenz mit
sharepoint verwenden will, dann
muss man auf eigene Lösung
zurückgreifen und darüber wollen
wir heute mal reden, your
copilot.
Der Podcast, der hilft, die
künstliche Intelligenz in der
Microsoft 365 Welt zu verstehen
und produktiv anzuwenden.
Mit eurem Copiloten Michael
Greth.
Ja, Hallo und herzlich
willkommen zur 12. Ausgabe von
Newcoper in Eurem Podcast, der
euch helfen soll, die künstliche
Intelligenz in der Microsoft 365
Welt besser zu verstehen und vor
allen Dingen auch produktiv
einzusetzen.
Ja, im Intro habe ich es gesagt,
sharepoint und Co. Palette, das
sind noch nicht die besten
Freunde, da ist zwar einiges
angekündigt, aber man muss noch
auf vieles warten. Wir können
zwar einzelne Dokumente die in
einer sharepoint Bibliothek
liegen, zum Beispiel Microsoft
365 Chat als Quelle
referenzieren, aber das ist auch
auf 3 Dateien begrenzt und was
ist eigentlich mit den ganzen
anderen Informationen die im
sharepoint League Insights in
Seiten, in Listen und so weiter?
Da ist noch viel Spielraum nach
oben. Aber man muss gar nicht
warten, denn man kann sich
natürlich eine eigene Lösung auf
sharepoint bauen, die Mithilfe
von künstlicher Intelligenz.
Die Daten auswertet und
vielleicht noch mal ganz anders
wieder den Endanwendern
zugänglich macht und so eine
Lösung wollen wir uns heute mal
von jemand erklären lassen, der
mit seinem Team so eine Lösung
gebaut hat.
Ich hab mir nämlich Maxim Tara
Senko von der Roquetta GMBH
eingeladen. Er ist seit über 20
Jahren Entwickler zu sharepoint,
seit 2018 Geschäftsführer der
Rocketta GMBH und mit seinen 13
Mitarbeitenden entwickeln sie
halt Projekte rund um Microsoft
365.
Und sharepoint Lösungen, die
auch mit KI Unterstützung heute
umgesetzt werden. Und da sage
ich mal Hallo Maxim, Willkommen
im Podcast. Hallo Michael,
vielen Dank für die Einladung.
Ich freue mich hier zu sein, Ihr
habt unter dem Stichwort Lessons
Learned für einen Kunden.
Eine Chatbotlösung gebaut, mit
der er auf seine Daten im
sharepoint zugreifen kann.
Kannst du uns das bitte mal ein
bisschen genauer erklären, was
ihr da gemacht habt? Also in
diesem konkreten Beispiel hat
der Kunde im sharepoint eine
ziemlich umfangreiche Datenbank
aufgebaut, besteht aus mehreren
Dokumenten, Bibliotheken und
vielen Listen, in denen die
sogenannten Listen Learning,
also Erkenntnisse aus vorherigen
Projekten, erfasst und
gespeichert werden. Bei jedem
neuen Projekt müssen.
In die Verantwortlichen diese
Datenbank entsprechend
durchgehen und prüfen, was davon
wäre. Für das neue Projekt
anwendbar. Was müssen wir
beachten und so weiter und
sofort mittlerweile ist diese
Datenbank auf zigtausende
Einträge angewachsen, es ist
also gar nicht mehr so einfach,
dort sich einen Überblick zu
verschaffen.
Und mit einem Chatbot genügt das
einfach zu fragen beispielsweise
ich bin ein Lead Engineer in
Piping und baue eine neue Anlage
in Nordafrika.
Und der Chatbot geht in dieser
Datenbank in die Bibliotheken,
in die Listen, findet alle
relevanten Informationen und
interessanterweise nicht nur
bezogen auf Nordafrika, sondern
zum Beispiel auch, wenn es um
Verlegen von Rohren in der Wüste
oder einfach bei hohen
Temperaturen geht. Also alles,
was relevant sein könnte, wird
gefunden und dann wird vom
Chatbot das alles
zusammengefasst und als eine
Antwort dem Anwender
präsentiert, ja welche?
Das richtig verstanden hat, also
die Information, die Daten, die
liegen. Wenn du gesagt hast in
Dokumenten.
In in sharepoint Listen in ich
weiß nicht sonst noch was, also
an verschiedenen Datenquellen in
Microsoft 365, je nachdem wo sie
aus den Projekten aus den
vorherigen Projekten praktisch
erfasst worden sind und dies
jetzt zusammenzuführen.
Ist ja die erste Frage, wie
Krieg ich denn jetzt alle Daten
zusammen, so dass nachher ein
Chatbot darauf zugreifen kann.
Ja, dabei werden die Daten vorab
natürlich automatisiert
verarbeitet, in eine sogenannte
Faktorendatenbank gespeichert.
Aus dieser Vektorendatenbank
bedient sich der Chatbot und ist
in der Lage, die Antworten zu
liefern, man könnte denken, das
wäre mit Copilot abbildbar, aber
genau das ist der Punkt, Copilot
nimmt in der Regel ein Dokument
oder vielleicht zukünftig auch
mehrere aus einer Bibliothek.
Aber Copilot beantwortet nur
eine Frage. Und hier haben wir
möglicherweise gleich mehrere
Abfragen, die zusammengefasst
werden müssen. Wir schauen in
den Dokumenten, wir schauen in
den Listen, wir schauen in
weiteren Datenbanken und fassen
alles zusammen, geben die
Antwort und das Schöne ist, es
ist nicht nur einfach ein Text,
was man zurückbekommt, man hat,
das ist ganz wichtig, auch
Quellenangaben und Referenzen,
man kann im Grunde direkt auf
Quellenangabe klicken und das
Dokument öffnen aus dem.
Der jeweilige Possus dann stammt
also im Prinzip funktioniert es
ja so ähnlich wie der Microsoft
365 Chat, wo du ja auch sagen
kannst, ich möchte mit einem
Dokument oder mit 2 Dokumenten,
da hab ich ne Frage daran, die
kann ich ja einfügen, aber mehr
als 2 Dokumente sind nicht
möglich und jetzt hast du aber
das wissen, was du gerne
erschließen möchtest. Das steht
wie gesagt in diversen
Bibliotheken Listen weiß ich wo
in sharepoint und das was eure
Lösung im Hintergrund macht, es
sammelt halt diese
verschiedenen.
Datenquellen zusammen bringt die
Halt in so ein eigenes
Sprachmodell rein und stellt sie
dann im Chat zur Verfügung. Dass
ich genau gezielt an diese
Informationen und an diese Daten
meine Frage stellen kann. Das
ist korrekt, man.
Greift nur auf bestimmte
Informationen, die dann im
sharepoint oder sonstigen
anderen Datenquellen liegen und
dadurch wird die Antwort auch
wesentlich präziser und
relevanter. Musstet ihr denn an
den Daten etwas machen? Man sagt
ja immer bei solchen Chatbots
**** in **** aus, also man soll
darauf achten, dass die
Datenmaterial das
Eingabematerial wenn ich so
einen Modell zusätzlich
trainiere oder aufbaue, musste
ihr da an den Daten was machen,
oder?
Hat das war die Qualität eh
schon gut genug. Das ist eine
sehr gute Frage, mit der man
immer wieder konfrontiert wird
in diesem Projekt, tatsächlich
gar nicht, also wenn es um
Lessons Learned Datenbank geht,
es war erstaunlicherweise gar
keine.
Vorbereitung notwendig das weiß
man nicht immer. Ob das der Fall
ist. Manchmal müssen die Daten
tatsächlich vorab etwas
vorbereitet werden, mit
Metadaten versehen werden und so
weiter das erfolgt ja aber alles
automatisiert, da muss man.
Als Person gar nicht eingreifen
bei Listancen Datenbank hat es
aber schon gereicht, einfach die
Daten in dem Format, in dem die
da waren zu nehmen und an Asia
Open AI zu geben. Wie sieht es
jetzt für den Anwender aus, also
er hat quasi jetzt ein Chatbot
und was macht denn der, fragt
der jetzt beliebig ab, habt ihr
vorgegebene Prompts oder wie
arbeitet der Anwender damit? Der
Anwender hat einen Chatbot.
Auf sharepoint Seite als Webpart
eingebunden.
Oder alternativ auch in Teams
und kann dort beliebige Fragen
zu dieser Datenbank formulieren.
Man ist nicht auf bestimmte
Fragen eingeschränkt und im
Prinzip, das ist das, was ja eng
generative AI eben ausmacht, es
kann verstehen, was der Anwender
möchte, holt sich entsprechende
Informationen aus der Datenbank,
baut daraus eine passende
Antwort, stellt vielleicht eine
Rückfrage oder sucht weiter in
noch mehr Informationen und.
Dann fasst ihr zusammen und gibt
die zurück, was in diesem
speziellen Projekt auch der Fall
ist. Es werden zu den Antworten,
die die KI liefert, auch
sogenannte Follow cressions
generiert. Also was könnte ich
dann noch fragen um weiter in
diesem Thema zu recherchieren.
Das ist ganz interessant und
funktioniert auch ganz gut, die
Fragen werden natürlich auch
durch generative AI, genauso
durch Azure Open AI generiert,
also das ist ja auch eines
meiner Lieblings Ergänzungen von
jedem.
Längeren Chat, den man mit mit
Chat GPT gefragt hat. Stell mir
doch bitte noch mal 3 Fragen zu
dem Text, die vielleicht noch
mal n anderen Zugang zu den
Inhalten ermöglichen. Das ist
ganz unabhängig von der
konkreten Lösung, es gibt da
diesen Begriff Sword Pro
Walking.
Wenn man sagt, blicken wir noch
mal. 3 Sword Pro Walking
Questions dazu, dann kriegt man
noch mal Fragen zu zugestellt,
wo man sagt, Oh ja, da hab ich
vielleicht gar nicht dran
gedacht. Mit anderen Worten,
also die Anwender, die jetzt
neue Projekte starten oder über
sich über zukünftige Projekte
informieren wollen und auf das
Wissen aus diesem Projekt
Erfahrung zurückgreifen wollen,
die Gehen in den Chatbot,
formulieren ihre Fragen und
bekommen die Antworten und gehen
dann quasi in einen Chat rein,
wo sie zum Schluss halt die
entsprechenden Ratschläge
tatsächlich bekommen.
Aktualisiert sich denn dieser
Bot, wenn jetzt in den Ursprungs
Dateien immer neue
Projekterfahrungen mit
eingegeben werden?
Selbstverständlich, das ist das,
was unsere Arbeit im Grunde
ausmacht, wir erweitern die
Systeme soweit, dass sobald dem
sharepoint dann neue Datensätze.
Erzeugt werden, wenn es
Dokumente hochgeladen oder
einfach aktualisiert werden,
aktualisiert sich auch der
Wissensstand des Chatbots
sozusagen.
Und man ist immer auf dem
neuesten, kann man mal fragen
wie wie wie hoch war jetzt der
Aufwand, kannst du das jetzt
irgendwie beziffern mit dieser
Umsetzung der Lösung war ich so
2 Tage 20 Tage oder in der
Größenordnung hast du da
irgendwie so ne Hausnummer für
ja der Aufwand war so.
Wobei 20 Tagen tatsächlich, also
wir greifen da natürlich auf
vorbereitetes Know-how zurück,
in dem Sinne also die ganzen Web
Parts, den Chatbot in Teams, das
ist ja alles schon vorgefertigt,
das das muss nicht neu
entwickelt werden, der
eigentlich Aufwand liegt
tatsächlich darin, vorerst die
Daten zu analysieren und
entsprechende Prompts auch zu
gestalten, damit der Chatbot die
Daten versteht, damit er
versteht, in welchem Umfeld.
Man sich bewegt eben diese
Aktualisierung der Daten, das
ist das, was den eigentlichen
Aufwand ausmacht und da ihr es
jetzt praktisch die Lösung auf
Azure Open AI läuft, läuft sie
halt auch im Microsoft 365
Kontext und mittlerweile dadurch
sind auch entsprechend die
Security Anforderungen für diese
Lösung praktisch gleich mit
abgedeckt, weil das hat alles in
dem Microsoft Tendenz Security
Kontext bleibt.
Genau die Frage, die oft
gestellt wird, ist
Wie sieht es denn mit
Datenschutz aus? Die Daten
liegen ja bereits bei Microsoft
im sharepoint, dementsprechend
im Microsoft Rechenzentrum und
wenn wir Asia Open AI nutzen,
was auch bei Microsoft dann
idealerweise im selben
Rechenzentrum liegt, dann
verlassen die Daten nicht einmal
dieses Rechenzentrum. Coole
Lösung wo man sieht wie man die
Daten, die jetzt in Microsoft
365 an unterschiedlichen Orten
gespeichert sind zusammen.
Werden können und halt auch über
die halt Co Pilot, also diese
Chat Technologie den Benutzern
verfügbar gemacht werden können.
Nun sehen wir natürlich auch,
dass Microsoft die Plattform
Copilot immer weiterentwickelt,
es gibt jetzt kein Copilot der
so eine Lösung wie ihr habt hier
umsetzen kann, aber es wird ja
sowas geben wie Custom Copilots
für sharepoint, das ist ja schon
angekündigt wo man sich selber
sozusagen über die Oberfläche
einen kleinen Chatbot bauen
kann, der zum Beispiel Dokumente
in einem Ordner befragt werden
kann.
Bin ich da wahrscheinlich nur
auf Dokumente begrenzt?
Anderer Einsatzbereich ja genau,
also sowas kommt und ich finde
es sehr schön, dass Microsoft
mit Copilot halt nicht stehen
bleibt und weiter das
entwickelt. Man kann das
Vergleichen mit.
Anwendungen auf Power Apps und
individualisierten
maßgeschneiten Lösungen, die man
entwickeln kann. Es gibt vieles,
was man selbst machen kann, aber
es gibt auch Grenzen von Power
Apps und da greift man auf die
herkömmliche Programmierung, sag
ich mal zurück und das ist genau
der Fall, den wir auch abdecken
und zwar dort, wo es komplexere
Vorgehen notwendig sind, wenn
zum Beispiel das sogenannte
Request Chaining oder
Promptchaining gefordert wird
oder wenn auch gleichzeitig auf
Daten zugegriffen wird, die.
Unbedingt beim sharepoint im
sharepoint liegen.
Das könnten Produktdatenbanken
seien Knowledge Base, was auch
immer die außerhalb liegen, und
die möchte man auch heranziehen
im selben Chatbot. Genau da wird
man in der Plattform ja
verschiedene Level sehen können,
also dieser Custom sharepoint Co
Pilot, der wird was sein für
einfache Lösungen, die auch der
Anwender machen kann, dann gibt
es halt wie du schon gesagt hast
die Power App Plattform bzw Co
Pilot Studio.
Was ermöglicht über diese
Plattform auch schon Copeile zu
bauen? Sicherlich mit
umfangreichen Funktionen, aber
es wird immer den Bereich geben,
dass man dann sagt, ja, wir
machen ne individuelle Lösung,
weil wir da gezielter arbeiten
können, weil wir andere Quellen
noch anschließen können und weil
wir dann mit anderer Lösung
umsetzen können. Also da gibt es
diese, diese Spanne wird man
haben und ist ja auch gut so,
weil jeder hat unterschiedliche
Anforderungen, das ist mit
sharepoint an sich eigentlich
auch so, es ist ja out of the
Box wunderbar nutzbar, man kann
auch ohne.
Customize und sonstigem damit
arbeiten machen auch viele oder
die meisten sogar. Es gibt aber
immer wieder Szenarien, in denen
weitere Lösungen notwendig sind,
die dann entwickelt werden
müssen, die nicht von Microsoft
bereitgestellt werden. Das hast
du jetzt, das hast du jetzt
richtig schön gesagt, als alter
sharepoint kann ich deinem nur
voll zustimmen, dass auch die
Sharpopfer mir einfach dafür
einfach schon gedacht war,
dieses Konzept.
Dinge, die der Anwender selber
machen kann, die man dann mit
zusätzlichen Tools machen kann.
Und dann hat man sich eben noch
mit dem Framework oder sonstwas
ne zusätzliche Lösung gebaut,
also systemkonform auch noch
diese Umsetzung, also n
interessantes Beispiel kann man
sehen, was man mit der Microsoft
365 Plattform und eigenen
Anwendungen in Richtung
generative ar machen kann,
vielleicht kannst du noch ein
weiteres Beispiel sehen, ihr
habt da was aus dem HR Bereich,
wenn ich das nochmal richtig
erinnere, das ist auch ein sehr
interessantes Beispiel.
Sehr einfach zu erklären. Auch
ein Unternehmen hat einen
Manteltarifvertrag für seine
Mitarbeiter. Dieser Vertrag
besteht aus mehreren relativ
komplexen Dokumenten, die zudem
in.
Einem sehr schwer verständlichen
Beamtendeutsch verfasst sind,
nehmen wir mal an, ein
Mitarbeiter möchte wissen, wie
viele Sonderurlaubstage er eben
beim Geburt eines Kindes
zustehen.
In den Vertragsdokumenten ist
aber nicht von Sonderurlaub und
Geburt überhaupt die Rede,
sondern wörtlich von bezahlten
Freistellungstagen bei
Niederkunft der Ehefrau.
Und eine herkömmliche
Dokumentsuche würde hier
natürlich scheitern. Also man
würde gar nicht entsprechende.
Textabschnitte finden können.
Entsprechend bei 1000
Mitarbeitern ist auch die
Personalabteilung solchen
Anfragen teilweise oft
überlastet, ja.
Und daher fragte das Unternehmen
bei uns an, ob solche Anfragen
automatisiert oder ein Chatbot
beantwortet werden könnten.
Und das hat tatsächlich auch
erstaunlich gut funktioniert. Um
bei dem Beispiel zu bleiben bei
der Frage nach
Sonderurlaubstagen bei Geburt
liefert ein Chatbot sofort die
richtige Antwort, denn für
semantische Suche, die man dann
mit KI hat, erkennt, dass
Freistellungstage und Urlaub und
eben Gebot und Niederkunft
irgendwie schon verwandte
Begriffe sind und kann diese
korrekte interpretieren. Es gibt
übrigens ein weiterer Vorteil
dann davon die Mehrsprachigkeit,
ich kann.
An ein Chatbot die Frage
beispielsweise in Türkisch
aufstellen, obwohl der Vertrag
in Deutsch erfasst ist und
bekomme dann auch die Antwort in
Türkisch. Das erleichtert ganz
einfach den Zugang zu den
Informationen, zu denen man
Zugang braucht. Ja, also auch
eine interessante Lösung, gerade
mit der Mehrsprachigkeit, aber
da habt ihr auch noch mal ein
anderes Projekt, was ich jetzt
schwerpunktmäßig auch in
sharepoint um mehrsprachige
Darstellung von Informationen
kümmert, auch mit KI gelöst. Wie
geht das denn?
Wir haben tatsächlich ein
kleines Produkt, das wir ja
einfach Translator für
sharepoint genannt haben. Du
kennst ja den Standardprozess,
wenn man zum Beispiel ne
Neuigkeit oder eine Seite im
sharepoint in einem
mehrsprachigen Intranet
veröffentlichen möchte.
Ein Redakteur erfasst die
Nachricht. Originalsprache,
sagen wir in Deutsch oder
Englisch veröffentlicht die,
dann werden die Übersetzer
benachrichtigt, die übersetzen
dann.
Jede Nachricht veröffentlicht
das neu und so weiter mit
unserem Tool entfällt dieser
Prozess den komplett. Ich
erfasse eine Nachricht, wähle
beim veröffentlichen aus, in
welcher Sprache möchte das ganze
übersetzen möchte und man ist
fertig, alles ist übersetzt,
aber dann wirklich alles
versteht sich nicht nur der Text
der Seite sondern Überschrift
Bildüberschriften, Quick links
und überhaupt jegliche Web Parts
die es auf einer Seite sind und
die Qualität der Übersetzung ist
auch unglaublich gut. Ja Maxim
erstmal vielen Dank für.
Einblick in eure Projekte. Was
nehmen wir jetzt daraus mit? Ich
würde mal sagen, viel Wissen
steckt bestimmt auch bei euch in
sharepoint drin, in Listen, in
Bibliotheken, in Seiten usw.
Das Wissen können wir uns mit
dem Co Pilot 365 zurzeit noch
nicht, also umfassend
erschließen, wenn man das will.
Gibt sicherlich sowas wie copial
Studium, mit dem man mal
probieren kann, was da möglich
ist. Oder aber wenn man etwas
ausgefeilteres haben will, dann.
Baut man sich oder lässt sich
eine eigene Lösung bauen, die
auf Azure Open AI basiert, da
quasi das Sprachmodell nutzt und
dann mit den Daten, die in
Unterschieden stellen in
sharepoint liegen können,
arbeitet, indem man sie dann
praktisch über diese Lösung
verknüpft.
Und über den Chatbot Allen zur
Verfügung stellt. Und alle
können dann lustig mit dem
Chatbot chatten und haben
sicherlich mehr Erkenntnisse,
als wenn man nur über die
einfache Suchfunktion geht. Das
ist das Schöne an dieser
Plattform.
Dass das alles irgendwie
vorhanden ist. Man muss sich nur
sozusagen seinen Use Case finden
und da sind wir wieder an dem
Thema, was wir auch öfter schon
behandelt haben, nämlich wo
liegen denn eigentlich die Use
Cases und bei dem Kunden vom
Maximen war halt die
Projektdatenbank die da war wo
alle Erfahrungen drin war und
die man gerne hätte, weil man
für jedes neue Projekt einfach
mal aus diesen Erfahrungen
profitieren wollte und sich dort
die Informationen möglichst
einfach zusammenstellen lassen
wollte, die vielleicht für das
nächste Projekt relevant sein
können.
Das war's für heute. Sharepoint
rocts sage ich mal immer noch,
und das, was wir heute, ich
freue mich, wenn ihr die
Botschaft dieses Podcasts auch
an Kollegen, Kolleginnen und
anderen Weitergebt wenn ihr euch
der Beitrag gefallen hat,
hinterlasst gern ein Like, wo
immer es auch dann im Podcast
möglich ist. Kommentare
natürlich auch gerne freue ich
mich drüber und wenn ihr mal ein
spezielles Thema habt, über das
ich hier mal sprechen soll, dann
bitte gerne in die Kommentare,
oder?
Ja, in die Kommentare mit
reinschreiben, dann kann ich
mich mal darum kümmern, in
diesem Sinne Tschüss bis zum
nächsten Mal. You are copilot.
Der Podcast, der hilft, die
künstliche Intelligenz in der
Microsoft 365 Welt zu verstehen
und produktiv anzuwenden.
Mit eurem Copiloten Michael
Greth.