Mehr Zeit für Wertschöpfung: Roland Berger setzt auf KI-Agenten und Microsoft Azure

Die Herausforderung: Valide Antworten für komplexe Fragen finden

Die richtigen Informationen zur richtigen Zeit am richtigen Ort – für die Arbeit der Unternehmensberatung Roland Berger ist das essenziell. Dafür greifen die Mitarbeitenden intern auf die Wissensbasis des Unternehmens zu: Doch nicht kundenspezifische Informationen, wie beispielsweise Methoden- und Branchenwissen, Expertisen von Mitarbeitenden oder konkrete Studienergebnisse aus den Dokumenten der großen Datenbanken und Wissensschätze zu extrahieren, war manchmal mühselig und zeitaufwendig.

„Generative künstliche Intelligenz kann hier unterstützen, indem sie Informationen automatisiert findet und aufbereitet. Damit birgt sie das Potenzial, fast jeden Arbeitsplatz zu verändern und Prozesse enorm zu beschleunigen“, erklärt Michael Schich, Vice President, Tech & AI Innovation bei Roland Berger.

Um dieses Potenzial für sich nutzbar und Wissen im Unternehmen leicht und schnell abrufbar zu machen, implementierte Roland Berger eine KI-Plattform, den sogenannten Knowledge Hub. „Unsere Beraterinnen und Berater sollten nicht mehr unzählige Studien nach Informationen durchforsten müssen, sondern relevante Ergebnisse ganz einfach mit einer einzigen Frage erhalten“, sagt Michael Schich. „Allerdings wurde uns anfangs von den Kolleginnen und Kollegen sehr schnell widergespiegelt, dass der Knowledge Hub gerade bei komplexeren Fragen, bei denen Wissen aus unterschiedlichen Quellen zusammengeführt werden muss, an seine Grenzen stieß.“ Ein Beispiel: Fragten die Mitarbeitenden den Knowledge Hub nach Informationen aus einer Studie, konnte er diese Antwort problemlos ausgeben. Wollten die Beraterinnen und Berater jedoch gefiltertes Wissen aus drei unterschiedlichen Studien erhalten, mussten sie teilweise bis zu drei separate Fragen stellen. Zudem wurden zu den Antworten nur die jeweiligen Quellenangaben angezeigt, sodass eine Überprüfung in den Dokumenten sehr zeitaufwendig war.

Was die Nutzerinnen und Nutzer aber auch widerspiegelten: das enorme Potential eines KI-basierten Knowledge Hub. Deshalb entschied sich das Team um Michael Schich dazu, das Design des Knowledge Hub mit diversen Microsoft Azure Services auszubauen und mit KI-Agenten zu erweitern. So sollte der Knowledge Hub noch smarter werden.

Die Lösung: Effiziente, automatisierte Prozesse dank KI-Agenten und Azure Services

Roland Berger ersetzte den Prototypen durch sogenannte Reasoning Acting-Agenten, kurz ReAct-Agenten, die in der Lage sind, iterativ und autonom eine Antwort für eine Frage zu erarbeiten. „Dieser Lösungsansatz bietet sich insbesondere für Prozesse an, die von der Frage bis zur Antwort nicht allzu komplex sind. Das war für unsere Anwendungsfälle nicht ganz ideal – weshalb wir uns für den Einsatz von graphenbasierten Agenten entschieden, die jeweils Experten für verschiedene Bereiche und Prozesse sind“, fügt Michael Schich hinzu. Hier werden die Anfragen der Nutzerinnen und Nutzer in natürlicher Sprache entgegengenommen und in einzelne Schritte oder Aufgaben zerlegt. Für das Lösen der jeweiligen Aufgabe ist ein eigener Agent zuständig, der iterativ mit den anderen KI-Agenten zusammenarbeitet. Die Agenten sind dabei durch einen Graphen miteinander verbunden und teilen sich ein Prozessgedächtnis. Für das Lösen ihrer Aufgabe rufen die KI-Agenten zielgerichtet Wissen aus Azure AI Search ab. Ihre Ergebnisse übergeben sie abschließend an den KI-Agenten, der die Anfrage entgegengenommen hat. Dieser generiert nun auf Basis der Ergebnisse eine valide Antwort, wobei er nicht nur auf interne SharePoint Seiten zugreift. Der KI-Agent entscheidet auf Basis der Datenklassifikation selbstständig, ob und welche externen Datenquellen und -banken, Online-Enzyklopädien oder Suchmaschinen, wie beispielsweise Microsoft Bing API, durchsucht werden sollen. Die dazugehörigen Abfragen erstellt der KI-Agent ebenfalls selbst. Auch die Einordnung, Bewertung und Zusammenfassung der Antworten erfolgt in Eigenregie. Über kontinuierliches Feedback der Nutzerinnen und Nutzer wird sichergestellt, dass die hohen Qualitätsanforderungen erfüllt werden. Zudem erfolgt eine Qualitätssicherung mittels Evaluation in Azure KI Foundry.

Für die Arbeit der KI-Agenten ist es essenziell, dass die Datenbasis in Azure AI Search stets aktuell ist: Dafür wird Wissen aus unterschiedlichen Dateiformaten integriert, das aus klassifizierten und explizit freigegebenen Datenbanken stammt. Azure AI Document Intelligence macht dieses Wissen nutzbar, indem es alle Informationen aus den unterschiedlichen Formaten extrahiert. Koordiniert wird der Prozess in Azure Databricks. Es erfolgt eine parallelisierte Verarbeitung, um die großen Datenmengen verwaltbar zu machen. Für die Datenspeicherung der nutzerspezifischen Informationen und -verwaltung kommt Azure Database for PostgreSQL zum Einsatz. Azure OpenAI bietet Zugriff auf vortrainierte KI-Modelle zur Analyse.

Wenn die Beraterinnen und Berater heute Informationen aus drei unterschiedlichen Studien suchen, geht das über mehrere Wege: Entweder die KI wählt mithilfe eines automatisierten Auswahlverfahrens selbst einen geeigneten KI-Agenten für diese Aufgabe aus, oder die Nutzerinnen und Nutzer wählen den auf dieses Szenario spezialisierten KI-Agenten über das selbstentwickelte User Interface eigenständig aus. Letzteres wird auf Azure Web-Apps bereitgestellt. Die Nutzerinnen und Nutzer stellen ihre Frage und erhalten neben den Informationen und Quellenangaben auch Zitate aus den Originalquellen – egal, ob es sich um internes oder externes Wissen handelt. „Durch den Einsatz der graphbasierten KI-Agenten konnten wir die Antwortzeiten auf durchschnittlich acht Sekunden reduzieren. Die Quellenangaben und die für die Antwort verwendeten Zitate erhöhen zudem das Vertrauen und die Akzeptanz von generativen KI-Applikationen bei den Mitarbeitenden“, führt Michael Schich aus. „Die Stunden, die die Beraterinnen und Berater früher mit dem Durchsuchen von Dokumenten verbracht haben, können sie heute dank automatisierter Prozesse in wertschöpfende Tätigkeiten investieren. Gerade in einer Branche, in der Effizienz eine große Rolle spielt, ist das unglaublich wertvoll.“

„KI-Agenten revolutionieren die Prozessautomatisierung und reduzieren den Zeit- und Arbeitsaufwand für die Datenaufbereitung erheblich. Diese Weiterentwicklung beschleunigt den Einsatz von KI in verschiedenen Anwendungsentwicklungen und eröffnet neue Möglichkeiten und Effizienzsteigerungen“, ergänzt Maria Mikhaylenko, Senior Partner, Global Managing Director bei Roland Berger. Diese neuen Möglichkeiten umfassen beispielsweise KI-Agenten, die basierend auf Mitarbeitenden-Profilen, Kapazitäten und Expertisen das perfekte Team für ein neues Projekt vorschlagen oder das Thema Brainstorming auf eine vollkommen neue Ebene heben: „Die Mitarbeitenden tippen nur das Thema ein, das sie bearbeiten wollen und der KI-Agent erstellt automatisiert eine Struktur mit einzelnen Kapiteln, sucht selbstständig nach Informationen dazu und ergänzt Themenschwerpunkte aus seiner eigenen Internetrecherche – welche, entscheidet er selbst. Daraus entsteht ein faktenbasiertes Briefing“, erklärt Michael Schich. Dieses Briefing wird aber nicht einfach als Antwort ausgespielt, sondern vom KI-Agenten genutzt, um verschiedene Personas zu erstellen. Das alles passiert für die Anwenderinnen und Anwender unsichtbar im Hintergrund. „Mit nur einer Eingabe steht jederzeit ein Team mit verschiedenen Personas bereit, die individuell antworten und jeweils eine eigene Perspektive zum Thema einnehmen. Die Mitarbeitenden erhalten so neue Denkanstöße und Ideen“, erklärt Michael Schich.

Die vielseitige Unterstützung der KI-Agenten findet laut Michael Schich bei den Mitarbeitenden großen Anklang: „Die KI-Agenten werden bereits von rund 70 Prozent unserer Mitarbeitenden genutzt. Das spricht eindeutig für die Vorteile der Lösung und für die erfolgreiche Integration in den Arbeitsalltag.“ Damit dies auch in Zukunft so bleibt, begleitet Roland Berger die prozessuale Integration durch Schulungen und Trainings. Dabei lernen die Mitarbeitenden, wie sie mit modernsten und unterschiedlichen Prompting-Strategien den größten Nutzen aus den KI-Agenten herausholen können.

So konnte Roland Berger aus einer einfachen „Chat with your Data“-Lösung eine komplexe Multi Agenten-Umgebung realisieren. Die Entwicklung der KI-Agenten war dabei stets iterativ: „Wir haben kontinuierlich Verbesserungen vorgenommen, basierend auf den gesammelten Erfahrungen und dem Feedback der Nutzerinnen und Nutzer“, erklärt Michael Schich. Doch nach der erfolgreichen Implementierung ruht sich das Team nicht auf diesem Erfolg aus. Microsoft Services und KI-Fähigkeiten entwickeln sich stetig weiter; und auch das Feedback der Nutzerinnen und Nutzer ermöglicht kontinuierlich neue Anwendungsbereiche und Lösungen. Ein Beispiel dafür ist die Integration der eigenentwickelten Agenten in Copilot für Microsoft 365, um die Arbeit dort zu erleichtern, wo sie anfällt. „Durch die Kombination von KI-Agenten und Copilot könnten wir den bestehenden Systembruch aufheben und unsere Beraterinnen und Berater noch passgenauer in ihrer Arbeitswelt unterstützen“, erklärt Michael Schich. Ein weiteres Beispiel sind Agentensysteme, die über größere Freiheiten in der Kollaboration untereinander verfügen. Für Roland Berger ein vielversprechender Ansatz für die Zukunft, der die Art zu arbeiten nachhaltig verändern, den Zugriff auf Wissen weiter vereinfachen und Prozesse noch effizienter machen wird.