Was heute der modernste Ansatz ist, kann schnell zum Altsystem von morgen werden. Unternehmen, die in SaaS-Lösungen auf der Grundlage von künstlicher Intelligenz investieren, stehen vor einer entscheidenden Frage: Wie können wir sicherstellen, dass die heute implementierten Systeme nicht zu den technischen Schulden von morgen werden?

‍

Die Antwort liegt nicht in der Auswahl der derzeit fortschrittlichsten Technologie, sondern in der Wahl von Plattformen, die auf flexiblen und anpassungsfähigen Architekturen aufbauen, die sich mit den neuen KI-Fähigkeiten weiterentwickeln können. In diesem Artikel werden verschiedene Implementierungen modularer Architekturen im Bereich der KI analysiert, wobei der Schwerpunkt auf Retrieval-Augmented Generation (RAG) liegt, und die verschiedenen Architekturansätze miteinander verglichen.

‍

Das versteckte Risiko von starren KI-Implementierungen

Viele Unternehmen wählen KI-Lösungen in erster Linie auf der Grundlage ihrer aktuellen Fähigkeiten aus, konzentrieren sich auf die unmittelbare Funktionalität und vernachlässigen die zugrunde liegende Architektur, die die langfristige Anpassungsfähigkeit bestimmt. Dieser Ansatz birgt mehrere erhebliche Risiken:

Technologische Veralterung

Das Tempo der KI-Innovation beschleunigt sich weiter, wobei grundlegende Fortschritte in immer kürzeren Zeiträumen erzielt werden. Starre Systeme, die auf spezifischen KI-Ansätzen aufbauen, haben oft Schwierigkeiten, diese Fortschritte zu integrieren, was zu Fähigkeitslücken gegenüber neueren Lösungen führt.

Änderung der Geschäftsanforderungen

Selbst wenn die Technologie statisch bleibt (und das wird sie nicht), werden sich die geschäftlichen Anforderungen weiterentwickeln. Unternehmen entdecken oft wertvolle Anwendungsfälle für künstliche Intelligenz, die bei der ursprünglichen Implementierung nicht vorhergesehen wurden. Unflexible Plattformen haben oft Schwierigkeiten, über ihre ursprünglichen Entwurfsparameter hinauszuwachsen.

Entwicklung des Integrationsökosystems

Die Anwendungen, Datenquellen und Systeme, die die KI-Lösung umgeben, werden sich im Laufe der Zeit durch Upgrades, Ersetzungen und neue Ergänzungen verändern. Starre KI-Plattformen werden oft zu Integrationsengpässen, die teure Umgehungslösungen erfordern oder den Wert anderer Technologieinvestitionen einschränken.

Änderungen der Rechtsvorschriften und der Einhaltung von Vorschriften

Die Anforderungen an die KI-Governance entwickeln sich weltweit weiter, und es entstehen neue Vorschriften, die Anforderungen an die Erklärbarkeit, Fairnessbewertung und Dokumentation stellen. Systeme ohne architektonische Flexibilität haben oft Schwierigkeiten, sich an diese sich ändernden Compliance-Anforderungen anzupassen.

‍

Das RAG-Paradigma: Eine Fallstudie zur modularen Architektur

Retrieval-Augmented Generation (RAG) ist ein hervorragendes Beispiel für eine modulare Architektur, die die Art und Weise, wie KI-Systeme entworfen und implementiert werden, revolutioniert. AWS definiert es als "den Prozess der Optimierung der Ausgabe eines großen Sprachmodells (LLM), das auf eine maßgebliche Wissensbasis außerhalb seiner Trainingsdatenquellen verweist, bevor es eine Antwort erzeugt".

Die AWS RAG-Implementierung

AWS hat eine RAG-Cloud-Architektur entwickelt, die die Grundsätze der Modularität und Flexibilität veranschaulicht. Wie von Yunjie Chen und Henry Jia im AWS-Blog für den öffentlichen Sektor dargelegt, umfasst diese Architektur vier verschiedene Module:

‍

1. Benutzerschnittstellen-Modul: Interaktion mit Endbenutzern über Amazon API Gateway
2. Orchestrierungsmodul: Interagiert mit verschiedenen Ressourcen, um sicherzustellen, dass die Datenerfassung, die Eingabeaufforderung und die Erstellung von Antworten reibungslos ablaufen
3. Einbettungsmodul: Bietet Zugang zu verschiedenen Stiftungsmodellen
4. Vektorspeichermodul: Verwaltet die Speicherung von eingebetteten Daten und die Ausführung von Vektorsuchen

Der Verarbeitungsprozess verläuft im Wesentlichen auf zwei Wegen:

Zum Hochladen von Daten:

1. In Amazon S3-Buckets gespeicherte Dokumente werden von AWS Lambda-Funktionen zum Aufteilen und Chunking verarbeitet
2. Die Textsegmente werden an die Einbettungsvorlage gesendet, um in Vektoren umgewandelt zu werden
3. Einbettungen werden in der gewählten Vektordatenbank gespeichert und indiziert

Für die Generierung von Antworten:

1. Der Benutzer sendet eine Eingabeaufforderung
2. Die Eingabeaufforderung wird an eine Einbettungsvorlage übergeben
3. Das Modell wandelt die Eingabeaufforderung in einen Vektor für die semantische Suche in archivierten Dokumenten um
4. Die wichtigsten Ergebnisse werden an den LLM zurückgegeben
5. Der LLM generiert die Antwort unter Berücksichtigung der ähnlichsten Ergebnisse und der ersten Aufforderungen
6. Die generierte Antwort wird dem Benutzer zugestellt

Vorteile der AWS RAG-Architektur

AWS hebt mehrere wichtige Vorteile dieser modularen Architektur hervor:

• Modularität und Skalierbarkeit: "Der modulare Charakter der RAG-Architektur und die Verwendung von Infrastructure as Code (IaC) machen es einfach, AWS-Services nach Bedarf hinzuzufügen oder zu entfernen. Mit AWS Managed Services hilft diese Architektur, den zunehmenden Datenverkehr und die Datenanforderungen automatisch und effizient zu verwalten, ohne vorherige Bereitstellung."
• Flexibilität und Agilität: "Die modulare RAG-Architektur ermöglicht es, neue Technologien und Dienste schneller und einfacher zu implementieren, ohne den Rahmen der Cloud-Architektur komplett revolutionieren zu müssen. So können wir flexibler auf veränderte Markt- und Kundenbedürfnisse reagieren.
• Anpassung an zukünftige Trends: "Die modulare Architektur trennt Orchestrierung, generative KI-Modelle und Vektorspeicher. Diese drei Module sind allesamt Bereiche aktiver Forschung und kontinuierlicher Verbesserung.

Vektortechnik: Das Herzstück der RAG-Architektur

Ein wesentliches Element der RAG-Architektur ist die Vektordatenbank. AWS weist darauf hin, dass "da alle Daten (einschließlich Text, Audio, Bilder oder Video) in Einbettungsvektoren umgewandelt werden müssen, damit generative Modelle mit ihnen interagieren können, spielen Vektordatenbanken eine wesentliche Rolle in generativen KI-basierten Lösungen".

AWS unterstützt diese Flexibilität durch das Angebot mehrerer Vektordatenbankoptionen:

• Traditionelle Datenbanken wie OpenSearch und PostgreSQL mit zusätzlicher Vektorfunktionalität
• Dedizierte Open-Source-Vektordatenbanken wie ChromaDB und Milvus
• Native AWS-Lösungen wie Amazon Kendra

Die Wahl zwischen diesen Optionen "kann sich an den Antworten auf Fragen orientieren, wie z. B. wie oft neue Daten hinzugefügt werden, wie viele Abfragen pro Minute gesendet werden und ob die gesendeten Abfragen weitgehend ähnlich sind."

‍

Modell-integrierte KI-Architekturen: Der neuronale Ansatz

Während die AWS RAG-Architektur als verteiltes System über mehrere Cloud-Dienste hinweg implementiert ist, verfolgen andere KI-Systeme einen stärker integrierten Ansatz, bei dem Modularitätsprinzipien innerhalb einer einheitlichen neuronalen Architektur bestehen.

Der Fall der fortgeschrittenen IA-Assistenten

Fortgeschrittene KI-Assistenten, wie z. B. die auf den neuesten LLM-Modellen basierenden, verwenden ähnliche Prinzipien wie die RAG, jedoch mit einigen bedeutenden architektonischen Unterschieden:

1. Neuronale Integration: Die funktionalen Komponenten (Abfrageverständnis, Informationsbeschaffung, Antwortgenerierung) sind in die neuronale Architektur integriert und nicht auf separate Dienste verteilt.
2. Konzeptionelle Modularität: Modularität besteht auf konzeptioneller und funktioneller Ebene, aber nicht unbedingt in Form von physisch getrennten und austauschbaren Komponenten.
3. Einheitliche Optimierung: Die gesamte Verarbeitungspipeline wird während der Schulungs- und Entwicklungsphase optimiert und ist nicht vom Endbenutzer konfigurierbar.
4. Tiefgreifende Integration von Retrieval und Generierung: Das Retrievalsystem ist tiefer in den Generierungsprozess integriert, mit bidirektionalem Feedback zwischen den Komponenten, anstatt ein starrer sequentieller Prozess zu sein.

Trotz dieser Implementierungsunterschiede teilen diese Systeme die grundlegenden Prinzipien von RAG: Anreicherung eines Sprachmodells mit relevanten externen Informationen, um die Genauigkeit zu erhöhen und Halluzinationen zu reduzieren, indem eine Architektur geschaffen wird, die (zumindest konzeptionell) die verschiedenen Verarbeitungsstufen trennt.

‍

Entwurfsprinzipien für flexible IA-Architekturen

Unabhängig vom spezifischen Ansatz gibt es universelle Gestaltungsprinzipien, die die Flexibilität von KI-Architekturen fördern:

Modularer Aufbau

Wirklich flexible Plattformen für künstliche Intelligenz verwenden modulare Architekturen, bei denen Komponenten unabhängig voneinander aufgerüstet oder ersetzt werden können, ohne dass das gesamte System geändert werden muss. Sowohl der AWS- als auch der integrierte KI-Systemansatz folgen diesem Prinzip, wenn auch mit unterschiedlichen Implementierungen.

Modell-gnostischer Ansatz

Flexible Plattformen halten die Trennung zwischen Geschäftslogik und der zugrunde liegenden KI-Implementierung aufrecht, so dass die zugrunde liegenden KI-Komponenten geändert werden können, wenn sich die Technologie weiterentwickelt. Dies wird besonders in der AWS-Architektur deutlich, wo Modelle leicht ersetzt werden können.

API-First-Design

Die anpassungsfähigsten Systeme für künstliche Intelligenz legen den Schwerpunkt auf programmatische Zugänglichkeit durch umfassende APIs, anstatt sich ausschließlich auf vordefinierte Benutzeroberflächen zu konzentrieren. In der AWS-Architektur verfügt jede Komponente über klar definierte Schnittstellen, die die Integration und Aktualisierung erleichtern.

Kontinuierliche Verteilungsinfrastruktur

Flexible Architekturen erfordern eine Infrastruktur, die für häufige Aktualisierungen ohne Dienstunterbrechungen ausgelegt ist. Dieses Prinzip wird sowohl in verteilten Systemen wie der AWS-Architektur als auch in integrierten KI-Modellen umgesetzt, wenn auch mit unterschiedlichen Mechanismen.

Rahmen für Erweiterbarkeit

Wirklich flexible Plattformen bieten einen Rahmen für kundenspezifische Erweiterungen, ohne dass der Anbieter eingreifen muss. Am deutlichsten ist dies bei verteilten Systemen, aber auch eingebettete KI-Modelle können Formen der Anpassung bieten.

Das Gleichgewicht zwischen Anpassungsfähigkeit und Stabilität

Bei aller Betonung der architektonischen Flexibilität muss man sich darüber im Klaren sein, dass Unternehmenssysteme auch Stabilität und Zuverlässigkeit erfordern. Diese scheinbar widersprüchlichen Anforderungen müssen in Einklang gebracht werden:

Stabile Schnittstellenverträge

Während sich interne Implementierungen häufig ändern können, ist es wichtig, strenge Stabilitätsgarantien für externe Schnittstellen mit formalen Versions- und Supportrichtlinien aufrechtzuerhalten.

Progressive Verbesserung

Neue Funktionen sollten, wann immer möglich, durch additive Änderungen und nicht durch Ersetzungen eingeführt werden, damit die Unternehmen Innovationen in ihrem eigenen Tempo übernehmen können.

Kontrollierte Aktualisierungskadenz

Upgrades sollten nach einem vorhersehbaren und kontrollierten Zeitplan erfolgen, der ein Gleichgewicht zwischen kontinuierlicher Innovation und betrieblicher Stabilität herstellt.

Künftige Konvergenz: Auf dem Weg zu hybriden Architekturen

Die Zukunft der KI-Architekturen wird wahrscheinlich eine Konvergenz zwischen dem verteilten Ansatz von AWS RAG und dem integrierten Ansatz der fortgeschrittenen KI-Modelle sein. Es zeichnen sich bereits wichtige Trends ab:

Multimodale Konvergenz

Die künstliche Intelligenz entwickelt sich rasch von der Verarbeitung in einem einzigen Modus hin zu einheitlichen Modellen, die nahtlos mit verschiedenen Modi (Text, Bild, Audio, Video) arbeiten.

Verbreitung von spezialisierten Modellen

Während sich allgemeine Modelle weiterentwickeln, werden auch zunehmend spezialisierte Modelle für bestimmte Bereiche und Aufgaben entwickelt, die Architekturen erfordern, die verschiedene Modelle zusammenführen und integrieren können.

Kontinuum Edge-Cloud

Die Verarbeitung künstlicher Intelligenz wird zunehmend auf ein Kontinuum von der Cloud bis zum Edge verteilt, mit verteilten Modellen, bei denen Leistungs-, Kosten- und Datenanforderungen besser ausgeglichen werden können.

Harmonisierung der Rechtsvorschriften

Mit der Reifung der globalen KI-Vorschriften erwarten wir eine stärkere Harmonisierung der Anforderungen in den verschiedenen Rechtsordnungen, möglicherweise begleitet von Zertifizierungsrahmen.

‍

Schlussfolgerung: Der Imperativ der Zukunft

In einem sich schnell entwickelnden Bereich wie der künstlichen Intelligenz ist das wichtigste Merkmal einer Plattform nicht ihre aktuellen Fähigkeiten, sondern ihre Fähigkeit, sich an zukünftige Fortschritte anzupassen. Unternehmen, die sich für Lösungen entscheiden, die in erster Linie auf den heutigen Fähigkeiten basieren, schränken oft die Möglichkeiten von morgen ein.

‍

Indem sie die Flexibilität der Architektur durch Prinzipien wie modulares Design, modellagnostische Ansätze, API-First-Denken, kontinuierliche Bereitstellungsinfrastruktur und robuste Erweiterbarkeit in den Vordergrund stellen, können Unternehmen KI-Funktionen aufbauen, die sich mit technologischen Fortschritten und Geschäftsanforderungen weiterentwickeln.

Wie AWS feststellt, ist "das Entwicklungstempo der generativen KI beispiellos", und nur wirklich modulare und flexible Architekturen können sicherstellen, dass die Investitionen von heute auch in der sich schnell entwickelnden Technologielandschaft von morgen noch Wert schaffen.

‍

Vielleicht gehört die Zukunft nicht nur denjenigen, die am besten vorhersagen können, was kommen wird, sondern auch denjenigen, die Systeme aufbauen, die sich an alles, was kommt, anpassen können.