Evaluaré y corregiré tus alucinaciones del chatbot rag y la precisión de recuperación

M
mahmoudrfaey
M
mahmoudrfaey
Mahmoud Refaey
Parte de la información se ha traducido automáticamente.

Acerca de este Servicio

Traducción automática

Tu chatbot RAG parecía estar bien en la demo. Luego los usuarios reales empezaron a hacer preguntas reales y ahora da respuestas incorrectas con total confianza.


Normalmente el problema no es el modelo. Es la recuperación, el chunking o el texto que salió de OCR dañado. Descubro cuál es, con números en lugar de conjeturas.


Este es el trabajo que mejor manejo. En un chatbot de banca sobre PDFs escaneados en GBG, medimos fidelidad en 79%. Después de arreglar OCR y añadir búsqueda híbrida, re-ranking y reescritura de consultas, llegó al 97% y la exactitud pasó de 61% a 85% (DeepEval, LLM como juez).


Cómo funciona:

1. Construyo un conjunto de pruebas a partir de tus documentos y preguntas reales de usuarios

2. Califico fidelidad, exactitud y calidad de recuperación

3. Trazo cada fallo hasta su causa: parsing, chunking, búsqueda, ranking o prompt

4. Recibes un plan de corrección, o hago las correcciones y lo vuelvo a calificar


Obtienes un informe corto con números antes/después en el mismo conjunto de pruebas. No prometo un número específico, ya que depende de tus datos.


Funciona con LangChain, LlamaIndex o pipelines de Python simples, en cualquier idioma en que estén tus documentos.


Envíame unos ejemplos de respuestas malas. Eso suele ser suficiente para que te diga dónde miraría primero.

Conoce a Mahmoud Refaey

Mahmoud Refaey

AI Engineer building RAG systems, LLM agents and Arabic NLP

  • DeEgipto
  • Miembro desdenov 2024
  • Idiomas

    Árabe, Inglés
I build LLM apps that work on real, messy data: RAG chatbots over your documents, LangGraph agents, and Text-to-SQL tools that let your team query a database in plain language. Much of my work is in Arabic. At GBG I helped take an Arabic banking RAG chatbot from 79% to 97% faithfulness, mostly by fixing OCR on scanned PDFs and improving retrieval. Stack: Python, FastAPI, LangGraph, Azure OpenAI, Qdrant, PostgreSQL, Docker, LoRA fine-tuning. Tell me what you're building and I'll tell you how I'd approach it.

Traducción automática

Mi porfolio