Mirza K.-Agentische KI für ein DeepResearch-Projekt

• In diesem Projekt wurden Informationsdaten extrahiert, um das Verfassen von Berichten für ein Unternehmen zu unterstützen, das geopolitische, globale und kommerzielle Informationen bereitstellt. Die Daten wurden aus verschiedenen Quellen gesammelt (Interviewtranskripte, Online-Daten, interne Dokumente) und anschließend zu einer Wissensbasis zusammengeführt. Diese bildete die Grundlage für ein komplexes RAG-System, das anhand eines Golden Dataset evaluiert wurde. Agenten wurden eingesetzt, um widersprüchliche Informationen und sich gegenseitig bestätigende Aussagen zu finden sowie das generierte Wissen wieder zu speichern.

Verwendet: Python, RAG, LangGraph, LangChain, deepeval, MCP

• Entwicklung eines durch einen Wissensgraphen unterstützten Multi-Agenten-Systems, das den Prozess der Erstellung eines Forschungspapiers automatisiert. Das System nutzte mehrere Experten (OpenAI-Modelle), die während der Erstellung des Dokuments „zusammenarbeiteten“. Der gesamte Prozess wurde durch einen Wissensgraphen unterstützt, aus dem wir nützliche Informationen extrahierten. Für dieses Framework wurden folgende Technologien eingesetzt: LangChain, LangGraph, Smolagents, LlamaIndex, dspy. Das Projekt umfasste den Einsatz von Terraform und GitHub Actions (CI/CD-Pipeline) über AWS. Die ursprüngliche Anwendung wurde als Streamlit-App bereitgestellt. Ich war für den Bereich AI Engineering, die Erstellung des Wissensgraphen sowie das Deployment in AWS verantwortlich. Es handelte sich um eine GenAI-Engineer-Rolle, die auch Prompt-Evaluierung und Retrieval-Optimierung (Langfuse) umfasste.

Verwendet: Python, Git, LangChain, LangGraph, dspy, GraphRAG, RAG, SQL

• Ein LLM-Chatbot zur Unterstützung bei HR-bezogenen Fragen. Ansatz: Ich leitete die Entwicklung eines fortschrittlichen Retrieval-Augmented-Generation- (RAG-)Systems mit dem Ziel, den Abruf von HR-Daten zu verbessern. Dieses System nutzt eine Datenbank für die Vektorsimilaritätssuche und eine kommerzielle LLM-API, um umfangreiche HR-bezogene Daten effizient zu finden und zusammenzuführen. Dadurch kann es auf eine große Bandbreite an HR-Fragen antworten. Wir haben außerdem versucht, ein LLM für diese Aufgabe feinzujustieren. Dabei wurden PEFT (LoRA) und fortgeschrittenes Prompt Engineering eingesetzt. Meine Verantwortung umfasste den Aufbau des Systems, angefangen bei einfachen HR-Dokumenten, sowie die Nutzung von Amazon Bedrock für dieses Projekt. Außerdem haben wir mehrere Agenten mit dem System verbunden.

Verwendet: Python, Git, LangChain, LangGraph, Milvus, SQL

• Bei einem Spektralbild, das die Messwerte der Sensoren darstellt, die Signale klassifizieren und neue Muster (Anomalien) erkennen.
• Da nicht genügend gelabelte Daten vorhanden waren, musste ich auf selbstüberwachte Machine-Learning-Methoden zurückgreifen. Um die Anforderungen des Kunden an eine schnelle Verarbeitung zu erfüllen, nutzte ich eine der YOLO-Architekturen. Das System wurde mit dem MMYOLO-Framework entwickelt. Ich war für den wesentlichen Teil der Modellierung verantwortlich.

Verwendet: Python, Git, SQL

• Forschung zu aktuellen Entwicklungen bei Empfehlungssystemen für Medien (Audio-, Video- und Textinhalte)
• Implementierung eines Empfehlungssystems für die ARD Audiothek (eine der beliebtesten Audio-on-Demand-Plattformen Deutschlands). Das produktiv eingesetzte Modell erreicht eine um 15 % höhere Präzision als das vorherige.
• NLP-Projekte: Entitätenerkennung und Entfernung redundanter Inhalte

• Beratung von Einzelpersonen zu finanziellen Maßnahmen, die ihre Chancen erhöhen, bestimmte Ziele zu erreichen.
• Für eine asiatische Bank, die umsetzbare Empfehlungen für die langfristige Finanzplanung anbieten wollte, zum Beispiel für den Kauf eines Eigenheims in 20 Jahren.
• Entwicklung von prädiktiven Machine-Learning-Modellen zur Empfehlung optimaler Maßnahmen (Beispiel: eine Gehaltserhöhung von mindestens 10 % erreichen).

• Übertreffen der Leistung des auf einem hierarchischen rekurrenten neuronalen Netzwerk basierenden Empfehlungssystems von Amazon Personalize.
• Einsatz eines auf Factorization Machines basierenden Empfehlungsmodells, das durch gezieltes Feature Engineering deutlich bessere Empfehlungen lieferte. Für dieses Projekt wurde Kafka verwendet.

• Erkennung ungewöhnlichen Verhaltens in einem von Sensoren überwachten Netzwerk.
• Erstellung eines grundlegenden Machine-Learning-Modells zur Vorhersage erwarteter Sensorwerte. Abweichungen von diesem Modell wurden zur Erkennung von Anomalien verwendet. Die Erkennungsgenauigkeit wurde durch ein Graph Neural Network verbessert, das die Verbindungen zwischen Sensoren und überwachten Bereichen analysiert. Verwendet wurden GNNs im PyG-Framework.

Verwendet: Python, Git, SQL, PyG

• Vorhersage von Preisen für den Fahrzeugtransport, um Disponenten eine zuverlässige Grundlage für die Preisgestaltung zu bieten.
• Steigerung der Genauigkeit des Machine-Learning-Modells um etwa 40 % durch fortgeschrittenes Feature Engineering und die Implementierung einer zweistufigen Regressionsstrategie, bei der Residual- und Standardregression mit XGBoost kombiniert wurden. Das Dispatcher-Portal verzeichnete einen deutlichen Anstieg der Nutzerinteraktion mit dem Board.

Verwendet: Python, Git, SQL

• (Neu-)Implementierung einer Testsoftware
• Implementierung von Finite-State-Machines
• Codegenerierung