Dieses IT-Projekt ist Teil unserer Digitalisierung und Optimierung der IT-Landschaft unserer Kunden. Durch gezielte Maßnahmen fördern wir den technologischen Fortschritt, optimieren systemübergreifende Prozesse und schaffen eine nachhaltige Basis für zukünftige Entwicklungen. Unsere IT-Referenzprojekte dienen als Grundlage zur Orientierung. Sie unterstützen die Wiederverwendbarkeit erprobter Konzepte im Rahmen der Projektumsetzung.
Dies ist eines von 4790 IT-Projekten, die wir erfolgreich mit unseren Kunden abgeschlossen haben.Wobei dürfen wir Sie unterstützen?
Entwicklung einer KI zur Beantwortung von Fragen an Dokumente
Kurzbeschreibung
Auf Basis eines Dokumentenarchives möchte der Kunde die Möglichkeit haben, über natürliche Sprache Fragen zu formulieren, die dann angemessen beantwortet werden. Für kleinere Texte kann direkt ein vortrainiertes LLM verwendet werden, welches mit einem übergebenen Kontext Antworten formuliert. Hierzu werden verschiedene Modelle unter Beachtung der Laufzeit und der Antwortqualität bewertet. Für größere Texte bzw. mehrere Dokumente werden Frameworks (LlamaIndex, LangChain) verwendet.
Ergänzung
Für kleinere Texte kann direkt ein vortrainiertes LLM verwendet werden, welches mit einem übergebenen Kontext Antworten formuliert. Hierzu werden verschiedene Modelle unter Beachtung der Laufzeit und der Antwortqualität bewertet. Für größere Texte bzw. mehrere Dokumente werden Frameworks (LlamaIndex, LangChain) verwendet.
Fachbeschreibung
Diese Frameworks verwenden im Hintergrund eine Vektor Datenbank, die den Kontext der verwendeten Dokumente enthält. Dieser Kontext, zusammen mit der Frage des Anwenders werden durch das LLM bearbeitet und daraus eine Antwort generiert. Die Lösungsansätze werden gegenübergestellt und u.a. anhand der Kriterien Laufzeit und Antwortqualität bewertet.
IT-Projektdaten
- Branchen Finanzdienstleister
- Fachaufgaben Finanzanalyse, Wissenschaftliche Analyse
- DV-Aufgaben Individualsoftware-Neuentwicklung
- Systemumgebungen Cloud Computing
- Vorgehensmodell Agile Softwareentwicklung
- Programmiersprachen Python
- Systemsoftware LangChain, Llama, OpenAI API
- Middleware und Frameworks fastapi, Google Cloud Platform (GCP)
Projektbeginn05.02.2024
Kunden, die uns vertrauen
Haben wir Ihr Interesse geweckt?
