Interview mit Chirag Shah (Universität Washington) über künstliche Intelligenz

Sind KI-Agenten nur eine vorübergehende Modeerscheinung oder werden sie die Arbeitskultur von Unternehmen grundlegend verändern? Chirag Shah, Professor für Informatik an der University of Washington und Experte für künstliche Intelligenz, analysierte im Gespräch mit Mecalux, wie diese Agenten den Alltag, die Arbeitsweise von Unternehmen und die Zukunft der Zusammenarbeit zwischen Mensch und KI neu gestalten.

• Nicht jeder weiß, was ein KI-Agent ist...

  KI-Agenten sind kein neues Konzept – sie sind seit den Anfängen der Künstlichen Intelligenz ein fester Bestandteil dieses Bereichs. Im Wesentlichen ist ein Agent jede Einheit, sei es Software oder Hardware, die in der Lage ist, Informationen zu sammeln und autonom zu handeln. Historisch gesehen war die ursprüngliche Vorstellung von Agenten mit der Robotik verbunden: Maschinen, die in der realen Welt agieren und Entscheidungen treffen können, ohne auf menschliche Anweisungen angewiesen zu sein.

  Wenn wir heute von KI-Agenten sprechen, meinen wir damit vor allem Software-Agenten. Das Prinzip ist jedoch dasselbe: Systeme, die Entscheidungen treffen, zugewiesene Aufgaben ausführen und in unserem Auftrag handeln. Ein Thermostat beispielsweise ist ein Agent, der selbstständig entscheidet, wann die Heizung oder Klimaanlage eingeschaltet wird, wenn bestimmte Schwellenwerte überschritten werden. Auf einem fortgeschritteneren Niveau ist auch ein autonomes Fahrzeug ein Agent – allerdings mit deutlich höherer Komplexität.

• Was pusht den aktuellen Boom der KI-Agenten?

  Der neue Aufschwung der Agenten ist auf den Einsatz von Foundation Models (Grundmodelle) zurückzuführen. Im Gegensatz zur vorherigen Generation – etwa Siri oder Alexa, die auf sehr spezifische Aufgaben beschränkt waren – können heutige Agenten auf große Sprachmodelle, Bildverarbeitungssysteme oder multimodale Tools zurückgreifen.

  Diese Agenten gehen über ihre eigenen Fähigkeiten hinaus. Wenn sie eine Berechnung nicht durchführen können, greifen sie auf einen Taschenrechner zurück; wenn sie die Aktienkurse nicht kennen, greifen sie auf eine Handelsplattform zurück oder suchen im Internet. Einige sind sogar in der Lage, eigenständig Codes zu schreiben, um Probleme zu lösen. Zudem verbessern sich die Grundmodelle kontinuierlich im Schlussfolgern und in der Fähigkeit, Zusammenhänge herzustellen, was heutige Agenten deutlich kompetenter, effizienter und praxistauglicher macht als frühere Generationen.

• Können sie also mittlerweile auch komplexere Aufgaben übernehmen?

  Genau. Da sie inzwischen über die Fähigkeit verfügen, Tools zu verwenden, Schlussfolgerungen zu ziehen und sogar mit anderen Agenten über Frameworks wie AutoGen oder LangChain zusammenzuarbeiten, können sie Herausforderungen meistern, die zuvor unerreichbar schienen. Heute gibt es bereits Multi-Agenten-Systeme, die Aufgaben lösen, die für ein einzelnes System zu komplex gewesen wären.

  Dennoch wird mit jeder neuen Agenten-Generation immer wieder spekuliert, ob „diesmal wirklich die endgültige Lösung“ gefunden wurde – bis ihre Grenzen sichtbar werden. Die heutigen Agenten bilden hier keine Ausnahme. Deshalb habe ich „Agents are not enough“ geschrieben, um daran zu erinnern, dass es nicht ausreicht, leistungsfähigere Systeme zu entwickeln.

• In seiner wissenschaftlichen Veröffentlichung stellt er die Konzepte von Sims und privaten Assistenten vor.

  

  Die Erfahrungen mit früheren Generationen von KI-Agenten zeigen, dass es nicht ausreicht, sich auf Wettervorhersagen, das Abspielen von Musik oder das Ein- und Ausschalten von Licht zu beschränken. Damit bieten sie nicht genug Mehrwert, damit Nutzer sie weiterhin verwenden – geschweige denn bereit sind, dafür zu zahlen. Der wahre Mehrwert entsteht erst, wenn Agenten in der Lage sind, komplexe Aufgaben zu übernehmen. Dabei reicht es jedoch nicht, dass sie komplexe Aufgaben erledigen können: Nutzer erwarten auch kundenspezifische Anpassung und proaktives Handeln. Wenn man einem Agenten zum Beispiel beauftragt, eine Reise von Barcelona nach Toulouse zu buchen, wird ein wirklich proaktiver und personalisierter Agent nicht nur Flüge vorschlagen, sondern auch Zugverbindungen empfehlen, indem er die Präferenzen des Nutzers antizipiert.

  Ein hohes Maß an Personalisierung stellt jedoch erhebliche Herausforderungen für den Datenschutz dar. Ein Agent benötigt möglicherweise Zugriff auf sensible Daten wie Krankheitsverläufe, Informationen über Finanzen oder persönliche Gewohnheiten. Werden diese Daten an öffentliche Agenten weitergegeben, könnte es zu einem Vertrauensverlust der Nutzer kommen.

  Meine Forschung schlägt ein duales System mit zwei Arten von Agenten vor: öffentliche und private. Der private Assistent gehört vollständig dem Nutzer, ohne kommerzielle Interessen, und stützt sich auf das, was ich Sims nenne – Darstellungen verschiedener Lebensbereiche, von Arbeit und Finanzen bis hin zu Gesundheit und persönlichen Gewohnheiten. Auf Basis dieser Informationen kann der private Assistent hochgradig personalisierte Aufgaben gestalten und dabei die Daten des Nutzers schützen. Erst wenn der Nutzer seine Zustimmung gibt, greift er auf öffentliche Agenten zurück, um die Aufgabe auszuführen. So handelt der Assistent nicht willkürlich und muss auch keine endlosen klärenden Fragen stellen, da er den Nutzer bereits gut genug kennt. Anstelle von allgemeinen Antworten bietet er personalisierte Empfehlungen mit einer viel geringeren Fehlerwahrscheinlichkeit als ein öffentlicher Agent.

• Wodurch unterscheiden sich Software-Agenten von physischen oder Roboter-Agenten?

  Als ich Student war, konzentrierte sich die Definition des Begriffs „Agent” auf physische Systeme: Roboter in der realen Welt, die Sensoren und Signale aus ihrer Umgebung nutzten, um Entscheidungen zu treffen. In den letzten zehn Jahren hat sich der Fokus jedoch auf Software-Agenten verlagert. Heute, mit den Fortschritten in der Robotik, beginnen einige dieser ursprünglichen Ideen Wirklichkeit zu werden, insbesondere in kontrollierten Umgebungen wie Fabriken, wo Roboter als Agenten eingesetzt werden.

  Für die meisten Nutzer sind die Agenten, mit denen sie täglich interagieren jedoch nach wie vor hauptsächlich Software: Einkaufsassistenten, Produktivitätstools oder Kundenservice-Bots. Mit der Zeit wird diese Grenze zunehmend verschwimmen. Im Idealfall müssen Menschen nicht mehr fragen, ob eine Aufgabe von einem physischen Roboter oder von Software ausgeführt wird. Sie werden einfach sagen: „Ich möchte, dass diese Aufgabe erledigt wird“, und der passende Agent – ob körperlich oder digital – übernimmt sie.

  Die vielversprechendste Option ist eine Zukunft der Zusammenarbeit zwischen Mensch und KI

• Wie werden KI-Agenten Ihrer Meinung nach die Arbeitsweise und Kooperation zwischen Mensch und Maschine verändern?

  Ich halte eine Zukunft, in der Agenten den Menschen vollständig ersetzen, für unrealistisch. Einige Leute vertreten diese Idee, aber ich halte sie weder für wünschenswert noch für realisierbar. Ich glaube auch nicht, dass es sinnvoll ist, die Agenten von vornherein auszuschließen. Die vielversprechendste Option ist eine Zukunft der Zusammenarbeit zwischen Mensch und KI.

  Nehmen wir die Medizin als Beispiel. Wenn ein Fall komplex ist, wird in der Regel ein Team von Ärzten verschiedener Fachrichtungen hinzugezogen, die gemeinsam eine Diagnose erstellen. In einigen Jahren könnte dieses Team nicht nur aus menschlichen Ärzten bestehen, sondern auch aus KI-Agenten, die auf bestimmte Bereiche spezialisiert sind. In diesem Szenario würden die Agenten Geschwindigkeit, Analysefähigkeit und eine größere Reichweite einbringen, während die Menschen Urteilsvermögen, Empathie und Verantwortungsbewusstsein beitragen würden. Auf diese Weise könnten sie Fälle viel schneller und genauer diagnostizieren.

  Dieser Ansatz legt den Schwerpunkt auf erweiterte Zusammenarbeit. Agenten sollten Menschen nicht die Kontrolle entziehen, insbesondere in kritischen Bereichen wie dem Gesundheitswesen oder dem Verkehrswesen, wo Fehler schwerwiegende Folgen haben können. Stattdessen können sie die menschlichen Fähigkeiten erweitern und so präzisere und effizientere Ergebnisse ermöglichen.

  

• Zahlreiche Unternehmen testen bereits KI-Agenten in den Bereichen Betrieb, Logistik und Lieferketten. Aber wie realistisch ist es, diesen Akteuren Entscheidungen zu überlassen, die sich direkt auf die Einnahmen auswirken?

  Die Agenten zeichnen sich durch ihre Geschwindigkeit und ihre Fähigkeit aus, in großem Maßstab zu arbeiten: Sie können riesige Datenmengen verarbeiten und Entscheidungen viel schneller treffen als Menschen. Die Leistung hängt jedoch nicht nur von der Menge ab. Denken wir an eine Produktionslinie: Die Massenfertigung erfordert Automatisierung, um zu skalieren und Kosteneffizienz zu erzielen. Dennoch sind Menschen nach wie vor unverzichtbar, nicht nur für die Gestaltung von Systemen und die Umsetzung bewährter Verfahren, sondern auch für die Gewährleistung von Qualität, Kontrolle und Rechenschaftspflicht.

  Auch wenn die Agenten die Prozesse beschleunigen können, liegt die Verantwortung immer beim Unternehmen. Man kann den Aufsichtsbehörden oder Kunden nicht sagen: „Das hat der Agent gemacht.“ Letztendlich ist das Unternehmen für das Ergebnis verantwortlich, unabhängig davon, ob die Entscheidung von einer Person oder einem KI-System getroffen wurde.

• Verschiedene Forscher experimentieren bereits mit KI-Agenten in Lieferketten, um Verhandlungen zu führen und Vereinbarungen zu treffen. Wie lange wird es noch dauern, bis wir sie als Vertreter der Unternehmen in Verhandlungen sehen?

  Dies ist bereits in verschiedenen Bereichen der Fall. In der Welt der Werbung beispielsweise finden ständig Verhandlungen in Bruchteilen von Sekunden statt. Beim Verkauf und Anzeigenvertrieb spielen so viele Parameter eine Rolle, dass traditionelle Verhandlungen zwischen Menschen nicht mehr praktikabel sind. Früher sprach man nicht von „Agenten”, aber im Wesentlichen waren sie genau das: Prozesse, die in Echtzeit Entscheidungen für Kunden und Lieferanten trafen. Das Gleiche gilt für die Börsenmärkte, wo die Akteure Transaktionen mit einer Geschwindigkeit ausführen, die für Menschen unerreichbar ist.

  „In Zukunft könnte jedes Unternehmen über einen eigenen KI-Agenten verfügen, der in dessen Namen verhandelt und direkt mit den Agenten der Gegenseite interagiert.“ Und das ist keine Science-Fiction: Es geschieht bereits. Immer mehr Unternehmen können diese Fähigkeiten nutzen, um Verhandlungen zu beschleunigen, die unzählige Variablen in Echtzeit beinhalten – eine Aufgabe, die für Menschen fast unmöglich ist. In diesem Bereich kann Technologie eine entscheidende Rolle spielen.

• In einigen Logistikprojekten werden bereits digitale Zwillinge mit KI-Agenten kombiniert, um komplette Lieferketten zu simulieren. Ist das auch in anderen Branchen der Fall?

  

  Viele Systeme, die wir heute als „Agenten” oder “Digital Twins” bezeichnen, werden seit Jahren in Branchen wie Finanzen, Gesundheitswesen und Einzelhandel eingesetzt. Rückblickend können wir sagen, dass es sich dabei um Beispiele für Verhandlungen zwischen Agenten oder um Multiagentensysteme handelte, auch wenn sie nicht so bezeichnet wurden. Diejenigen, die echte Probleme lösten, dachten nicht über Etiketten nach, sondern entwarfen einfach Prozesse, die funktionierten.

  Finanzen sind ein gutes Beispiel dafür. Ein Großteil der Transaktionen wird bereits autonom durch Agenten durchgeführt, bei denen es sich in der Regel um Systeme handelt, die auf eindeutigen, erklärbaren, überprüfbaren und skalierbaren Regeln basieren, was in einer so stark regulierten Branche von entscheidender Bedeutung ist. Das Gesundheitswesen liefert ein weiteres Beispiel: Künstliche Intelligenz wird als Unterstützung eingesetzt, nicht als Ersatz. Ärzte können KI für Analysen oder Notizen verwenden, obwohl die letztendliche Verantwortung weiterhin bei ihnen liegt. Im Einzelhandel ist die dynamische Preisgestaltung ein weiteres etabliertes Anwendungsfeld. Plattformen wie Uber oder DoorDash passen ihre Preise in Echtzeit entsprechend der Nachfrage und Verfügbarkeit an. Menschen überwachen das System, führen jedoch keine Berechnungen durch. Daher können auch Lieferketten von diesen Methoden profitieren. Die eigentliche Chance besteht darin, aus den Erfolgen und Fehlern anderer Branchen zu lernen.

• Welchen Rat würden Sie Führungskräften geben, die den Einsatz von KI-Agenten in Betracht ziehen?

  Auch wenn sich ein Großteil meiner Forschung und Beratung auf KI-Agenten konzentriert, beginne ich oft mit einer Warnung: „Sind Sie sicher, dass Sie Agenten wollen?“ Meiner Erfahrung nach bereuen es Unternehmen früher oder später, die sich aus den falschen Gründen für KI entscheiden – zum Beispiel unter dem Motto: „Alle anderen machen es, also machen wir es auch.“ Ich habe viele Projekte gesehen, die nicht funktionierten oder zu teuer wurden.

  Letztendlich kommt es darauf an, das Geschäft zu führen, Probleme zu lösen, den Kunden einen Mehrwert zu bieten und die Vorschriften einzuhalten. Mein Rat ist einfach: Konzentrieren Sie sich auf das Problem, das Sie lösen möchten. Beginnen Sie mit der Lösung, nicht mit dem Namen. Konzentrieren Sie sich auf Ihr Geschäft und suchen Sie nach Lösungen, die Ihren Anforderungen entsprechen. Langfristig gesehen ist dies viel sinnvoller, als sich von den neuesten Modetrends oder dem Medienrummel mitreißen zu lassen.