Am 13. September haben wir uns intensiv mit diesem Themengebiet in unserem Webinar auseinandergesetzt.
Einmal angenommen, wir könnten mit Microsoft Copilot durch einfache Anweisungen wie „Erstelle eine Zusammenfassung des Meetings und liste die Beschlüsse auf“ die Arbeit von einer Stunden auf Sekunden verkürzen. Mit diesem Versprechen geht Microsoft Copilot ins Rennen. In diesem Webinar haben wir die Funktionen des neuen KI-Assistenten von Microsoft vorgestellt, und blickten aber auch hinter den Vorhang:
- Was sind die Möglichkeiten?
- Welche Anwendungsfälle profitieren am meisten?
- Welche Erweiterungs- und Integrationsmöglichkeiten gibt es?
Ihr konntet an dem Online Seminar nicht teilnehmen, hattet technische Schwierigkeiten oder musstet vorzeitig abbrechen? Kein Problem, wir stellen euch die Ressourcen hier in der Linksammlung gerne zur Verfügung.
Hier geht’s zu den Ressourcen:
FAQ
Kann Copilot auch auf Bereiche zugreifen, die z.B. hinter einer Anmeldung liegen? Oder müsste ich die Inhalte vorher vorbereiten/raus kopieren – da er über den einfachen URL nicht auf den Inhalt zugreifen kann? Gibt’s hier einen Workaround wie „logg dich mit den daten xy ein“ für diejenigen, die sich etwas mehr auskennen? oder geht dies zu weit?
Grundsätzlich kann M365 Copilot auf die typischen Daten eines Benutzers (Notizen, Dokumente, Mails, Teams-Nachrichten) zugreifen. Für alles was außerhalb des Microsoft-Kosmos liegt, können wir über entsprechende Plugins einen Zugriff ermöglichen. Entweder gibt es bereits vom Anbieter des anderen Systems ein entsprechendes Plugin oder im Zweifelsfall müssen wir selbst eines erstellen. In der Mitte des folgenden Blogartikels gibt es eine Liste von Diensten, die bereits eine Copilot-Integration angekündigt haben: Empowering every developer with plugins for Microsoft 365 Copilot | Microsoft 365 Blog
Kann der Copilot auch Daten aus OneNote verarbeiten?
Ja, das wird möglich sein. Wir gehen davon aus, dass alle typischen Datenformate in Microsoft 365 durch Copilot genutzt werden können.
Konkretes Anwendungsbeispiel: Wir sollen eine Rufbereitschaft stellen. Dazu gibt es mehrere Mails in meinem Posteingang, zum Einen Anforderung der abzudeckenden Bereitschaftszeiten der Fachabteilung, der Kosten der Bereitschaft seitens zweier benötigter Dienstleister und eine Mail mit Bereitschaftsentgelten unserer HR-Abteilung für meine Mitarbeiter. Kann ich all diese Mails in den Copilot-„Topf“ werfend und erhalte daraus z.B. ein Management-Summary erstellen lassen, damit ich meiner Geschäftsführung darstellen kann, was uns die Bereitschaft-Bereitstellung kosten wird?
Korrekt, dass soll möglich sein. Die Integration findet in allen Office-Apps statt und kann in z.B. einem Word-Dokument auch Excel, OneNote oder andere Dateien zusammenfassen können. Eine Integration in Outlook ist ebenfalls vorhanden. Wichtig ist an dieser Stelle nur, dass es immer eine Überprüfung durch den Anforderer benötigt.
Wird Copilot in Teams integriert?
Ja, definitiv. Sowohl als Chatbot als auch als dahingehend, dass Copilot Daten aus Teams (z.B. Chattexte) nutzen kann.
Kann ich über PowerAutomate auf den Copilot zugreifen, um Workflows zu erstellen?
Es gibt hier zwei Arten, wie die Frage interpretiert werden kann, dementsprechend werde ich einmal beide beantworten.
Es wird dedizierte Copiloten geben, die bei der Erstellung von Power Platform Löungen (Power App, Power BI, Power Automate) unterstützen. Hier geht es weniger darum, dass man Copilot direkt als Teil der Lösung einbaut, sondern vielmehr darum, dass man ihm mitteilt, was die Lösung tun soll und er baut sie zusammen. Hier einige Infos dazu (ist allerding aktuell alles noch in Preview und z.T. auch Private):
Get started with Copilot in cloud flows (preview) – Power Automate | Microsoft Learn
AI Copilot overview – Power Apps | Microsoft Learn
Introducing Microsoft Fabric and Copilot in Microsoft Power BI | Microsoft Power BI-Blog | Microsoft Power BI
Die zweite Variante wäre: Ich möchte Copilot direkt als Teil meines Power Automate Flows oder meiner Power App verwenden. Hier ist nicht bekannt, ob wir direkt „Copilot-Aktionen“ bekommen werden – nicht weil das nicht ginge, sondern vielmehr deshalb, weil dies vor allem das Spielfeld von AI Builder ist.
July 2023 updates for AI Builder | Power Automate Blog (microsoft.com)
Wie in dem Webinar vorgestellt, basiert M365 Copilot ja technisch auf Azure OpenAI und damit GPT. AI Builder selbst bekommt eine direkte GPT-Integration, die wir z.B. in einem Flow nutzen können. Die Extraktion der Daten (z.B. aus einem Word oder einer E-Mail) bleibt erst einmal bei uns.
Ich möchte aber auch nicht ausschließen, dass hier etwas kommen wird, damit wir Copilot direkt ansteuern können. Eigentlich braucht es lediglich eine Microsoft Graph API, allerdings ist mir aktuell hier keine Ankündigung bekannt.
Kann ich Bing Enterprise Chat auch auf interne Webseiten, z.B. SharePoint nutzen?
Nein, Bing Chat for Enterprise kann tatsächlich nur auf Daten aus dem Internet zugreifen bzw. das, was ich ihm in das Eingabefeld mit übergebe.
Wie kann ich die Funktionen von Copilot jetzt schon nutzen, bzw. wann wird Copilot ga?
Copilot Commercial kommt am 01.11. Announcing Microsoft 365 Copilot general availability and Microsoft 365 Chat | Microsoft 365 Blog
Microsoft ist hier vollkommen klar, dass sie nur diesen einen Versuch haben.
Ich kann auf jeden Fall empfehlen, sich mit Azure OpenAI und Bing Chat Enterprise zu beschäftigen, da beide die gleiche technische Basis darstellen und man typische Copilot-Anwendungsfälle durch cleveres „reinkopieren“ der relevanten Informationen durchaus schon simulieren kann.
Ansonsten ist ein großer Teil der technischen Basis von M365 Copilot tatsächlich auch Open Source. Sofern Sie oder Kollegen aus dem Entwickler-Umfeld kommen, würde ich empfehlen, sich einmal die folgenden Link anzusehen:
Orchestrate your AI with Semantic Kernel | Microsoft Learn
See Semantic Kernel working end-to-end with Chat Copilot | Microsoft Learn
Azure-Samples/miyagi: Sample to envision intelligent apps with Microsoft’s Copilot stack for AI-infused product experiences. (github.com)
Weiß man schon, ob Copilot für Outlook nur im neuen Outlook funktionieren wird?
Ich gehe stark davon aus. Copilot wird definitiv ein Bestandteil der modernen Outlook Weboberfläche und damit auch dem neuen Outlook sein, da dieses quasi die Weboberfläche verpackt in eine lokale Anwendung ist.
Auch wenn ich hier keine offizielle Informationen habe, kann ich mir nicht vorstellen, dass Microsoft dies noch in den alten Outlook Client integriert, da es doch eine ganze Reihe von Anpassungen an den Benutzeroberflächen wären.
Hallo, ist es möglich den Co-Piloten auch bei Fragen zu Administrativen Problemen wie zum Beispiel im Intune zu fragen und evtl. mögliche Lösungsvorschläge zu bekommen?
Technische Probleme die auch andere Microsoft Kunden haben könnten, wäre ein typisches Thema was ich in Bing Chat for Enterprise eingeben würde.
Ich glaube aber die Frage zielt eher darauf ab, dass Copilot konkret die administrativen Informationen (z.B. Geräte des Benutzers, Fehlermeldungen beim Anwenden von Intune Policies etc.) nutzen kann um eine Antwort zu formulieren.
Stand heute ist mir kein Copilot-Produkt bekannt, was hierfür angekündigt ist. Der Microsoft 365 Copilot ist ja eher für die Arbeit innerhalb der Microsoft 365 Produkte gedacht.
ABER: Microsoft hat bereits den sog. Security Copilot vor einiger Zeit angekündigt. Hier geht es zwar vor allem um Sicherheitsthemen wie das unterstützte Analysieren von Angriffen, aber dort bewegen wir uns auch auf dem administrativen Bereich.
Ich würde dementsprechend also erwarten, dass wir von Microsoft irgendwann auch einen „Admin Copilot“ bekommen könnten. Es spricht technisch hier eigentlich nichts dagegen: Die meisten Daten und Funktionen sind bereits heute über APIs zugänglich und müssten lediglich über einen entsprechende Copilot-Implementierung nutzbar gemacht werden.
Ist es richtig, für CoPilot braucht es eine E3 oder E5-Lizenzen sowie ein AAD-Konto und die entsprechende Freigabe durch das Unternehmen mit einer Unternehmensrichtlinie /Policy?
Voraussetzung ist eine der folgenden Lizenzen für die Benutzer, welche das Copilot-Addon erhalten sollen:
- Microsoft 365 E3
- Microsoft 365 E5
- Microsoft 365 Business Standard
- Microsoft 365 Business Premium
Ein AAD-Konto (bzw. neuerdings „Entra ID“) ist generell erforderlich um die Dienste nutzen zu können, d.h. es ist nicht vorgesehen, dass man Microsoft 365 Copilot z.B. mit einem privaten Microsoft Account nutzen könnte.
Werden die eingegebenen Texte und Dokumente zu Microsoft übertragen?
Da Copilot auf dem Clouddienst Azure OpenAI aufsetzt, werden die Daten zwangsläufig zu Microsoft in die Cloud übertragen – schon allein deshalb, weil es technisch derzeit nicht möglich ist ein LLM auf diesem Scale auf einer eigenen Infrastruktur auszuführen.
Ich glaube die Frage geht aber vor allem in die Richtung, was Microsoft mit unseren Daten macht.
Hier gibt es eine relativ klare Antwort: Die Daten bleiben innerhalb der Microsoft Azure Infrastruktur (als der gleichen „Welt“ in der auch Microsoft 365 lebt). Weiterhin werden die Dokumente und Eingaben nur zur Generierung der Antwort durch das LLM an dieses Übertragen und nicht dafür genutzt um das LLM beispielsweise weiter zu trainieren.
Es gibt dazu einen recht umfassenden Artikel der unter anderem auch darauf eingeht, dass Copilot entsprechend der EU Data Boundary unterliegt.
Data, Privacy, and Security for Microsoft 365 Copilot – Deploy Office | Microsoft Learn
Sollte man manche Anweisungen eher auf englisch kommunizieren, um gezielteren / schnelleren Output zu erhalten?
Die Frage ist nicht ganz einfach zu beantworten, ohne technischer zu werden. Grundsätzlich ist es so, dass die großen LLMs inklusive dem in Copilot verwendeten GPT-4 einen wesentlich größeren Anteil an englischen Trainingsdaten enthalten.
Dementsprechend gilt (und sind auch unsere Erfahrungen), dass wenn man rein mit dem LLM kommuniziert (wie es z.B. bei ChatGPT ohne Plugins der Fall ist), mit Englisch die besseren Ergebnisse erzielt – auch wenn der Qualitätsunterscheid bei weitem nicht so dramatisch ist wie beispielsweise die Qualität zwischen der Teams-Transkription zwischen Deutsch und Englisch.
Es kommt aber hinzu, dass bei Copilot die „Intelligenz“ des LLMs nur einen Teil der Rechnung darstellt. Der andere Teil kommt aus den Dokumenten und Inhalten, die wir ihm als Grundlage unserer Anfrage mitgeben – diese sind in der Regel ja dann eher in deutscher Sprache.
Sobald Copilot da ist, werden wir dies explizit einmal austesten um herauszufinden wie hoch der Einfluss der Eingabeinhalte im Vergleich zum LLM ist, wenn man es in Deutsch oder in Englisch versucht.
Bis dahin kann ich nur vermuten: Ich würde erwarten, dass das LLM unsere Anweisung in englischer Sprache besser interpretieren kann (d.h. WAS wir vom ihm wollen) während das Ergebnis (z.B. die Zusammenfassung eines deutschen Textes) wohl immer eine ähnliche Qualität haben wird – unabhängig davon, ob wir es auf DE oder EN anfordern.
Habe ich richtig verstanden, dass Firmendaten den eigenen MS-Tennant zum verarbeiten im LLM verlassen?
Nicht direkt – das geht in eine ähnliche Richtung wie Frage 12, daher bitte auch diese Antwort berücksichtigen.
Grundsätzlich befinden sich unsere Daten unseres Microsoft 365 Tenants innerhalb der Microsoft Azure Rechenzentren. Microsoft 365 Dienste (Teams, SharePoint etc.) bestehen streng genommen aus einer Vielzahl unterschiedlicher Azure Dienste, die als Ganzes dann die bereitgestellte Funktionalitäten bilden, die wir als Endanwender nutzen.
Wenn beispielsweise ein Video aufgezeichnet wird und eine Transkription des Textes stattfindet, dann greift Microsoft Teams heute schon auf spezielle Dienste der sog. Azure Cognitive Services für Speech-To-Text zurück.
Mit Copilot verhält es sich ähnlich. Die Daten liegen grundlegend in Teams, SharePoint, Outlook etc. Und werden dann im Rahmen der Copilot-Funktionalitäten u.a. durch das LLM in Azure OpenAI verarbeitet. Wichtig dabei ist vor allem, dass die Daten die Microsoft-Rechenzentren nicht verlassen, innerhalb der EU bleiben und nicht mit anderen Kunden direkt oder indirekt (z.B. durch das Training des LLMs mit unseren Daten) geteilt werden.
Wie gesagt ist dieser Artikel hier eine gute Grundlage zur Beantwortung der Frage hinsichtlich Sicherheit & Compliance: Data, Privacy, and Security for Microsoft 365 Copilot – Deploy Office | Microsoft Learn
