Innoktiv

Digitalización de empresas

RAG Developer Bootcamp

Construye y despliega aplicaciones RAG

Sesiones de desarrollo de aplicaciones RAG con líderes e innovadores en Inteligencia Artificial.

10 y 11 de Mayo 2024

Prepárate para mejorar tus habilidades de codificación en el Bootcamp para desarrolladores de aplicaciones RAG de dos días, un evento práctico en persona que comenzará el 10 de marzo de 2024.

Ubicación: TBA

TEMA 1. RAG en producción en 2024 y más allá.
En 2024, el patrón RAG será un caso de uso dominante para los modelos de lenguajes grandes. Exploraré lo que significa crear una aplicación RAG de nivel de producción en 2024. Con ese fin, revisaré los últimos desarrollos en el dominio de código abierto, incluidos los últimos modelos, modelos multimodales y aspectos empresariales en juego, como seguridad y escalabilidad. y mantenibilidad.

TEMA 2. Cómo RAG llega a mil millones
La charla se centrará en el estudio de Pinecone sobre las mejoras en la fidelidad y precisión utilizando un conjunto de datos extremadamente grande. Analizaré cómo se logró esto usando Pinecone sin servidor y exploraré la arquitectura sin servidor.

TEMA 3. Anatomía de una aplicación RAG de producción.
Hay muchas piezas móviles diferentes cuando se trata de desarrollar y ofrecer aplicaciones LLM. Esta charla proporcionará una guía completa para desarrollar aplicaciones LLM basadas en recuperación de generación aumentada (RAG), con un enfoque en la escala (incrustar, indexar, servir, etc.), la evaluación (por componentes y en general) y los flujos de trabajo de producción. También exploraremos temas más avanzados como el ajuste, la búsqueda léxica, la reclasificación y el enrutamiento híbrido para cerrar la brecha entre OSS y LLM cerrados.

Networking break

TEMA 4. Cuando Simple RAG falla (cómo solucionarlo).
RAG está surgiendo como la forma dominante de aumentar los LLM con conocimiento externo. Es increíblemente fácil comenzar con una solución que de alguna manera funcione, pero mejorarla a menudo puede requerir una gran cantidad de esfuerzo. En esta charla, cubriremos formas comunes en las que RAG «simple» puede fallar y algunas técnicas para solucionarlo.

TEMA 5. Evaluación de aplicaciones RAG para acelerar el tiempo de desarrollo e impulsar el rendimiento
Muchas aplicaciones RAG nunca pasan de la etapa de experimentación debido a su falta de confiabilidad. Esta sesión le muestra cómo identificar problemas de aplicaciones, como solucionarlos mediante la herramienta de evaluación de código abierto Gen AI, TruLens. Esta sesión cubre la «tríada RAG» y cómo aprovecharla para impulsar un alto rendimiento.

TEMA 6. Mistral AI’s Mixtral of Experts and Beyond. En esta charla, Devendra Singh Chaplot, investigador científico de Mistral AI, analizará el modelo Mixtral 8x7B, un modelo de mezcla dispersa de expertos (SMoE) de alta calidad desarrollado por Mistral AI, lanzado bajo la licencia Apache 2.0. Este modelo de pesos abiertos supera a Llama 2 70B e iguala o supera GPT3.5 en la mayoría de los puntos de referencia, con una velocidad de inferencia mucho más rápida. También discutiremos el Mistral «La Plateforme» con varios puntos finales API disponibles para desarrolladores y mostraremos algunas características futuras.

TEMA 7. Escalado de RAG e integración de cálculos con Ray y Pinecone.
Desarrollar una aplicación LLM basada en recuperación de generación aumentada (RAG) puede ser difícil y consumir muchos datos. Requiere muchos componentes diferentes para trabajar juntos: LLM, base de datos vectorial e incrustaciones de grandes cantidades de datos. El paso de incrustación requiere la lectura distribuida de muchos documentos en Internet, fragmentar y tokenizar oraciones en tokens, utilizar un modelo de incrustación para generar incrustaciones e insertar incrustaciones en la base de datos vectorial.

TEMA 8. Panel de discusión: Evaluación y ampliación de aplicaciones RAG

Descripción general

En los últimos meses, Retrieval Augmented Generation o RAG se convirtió en un concepto central en el desarrollo de aplicaciones LLM. Los desarrolladores están utilizando RAG para reducir las alucinaciones al conectar a tierra los resultados del LLM y agregar contexto que no se capturó en los datos de entrenamiento del LLM.

Únase a nosotros en un inmersivo Bootcamp para desarrolladores de RAG de dos días, un evento esencial para los desarrolladores que desean aprender cómo desarrollar e implementar con éxito aplicaciones RAG. Conozca y desarrolle:

  • Mejores prácticas en recuperación y generación
  • Modelos multimodales como LLaVA
  • Las últimas técnicas de evaluación
  • Obtenga experiencia práctica con herramientas que lo ayudarán a crear RAG, como Pinecone, Ray, LangChain, Hugging Face, Anyscale Endpoints y más.

¿Por qué asistir?

Últimos conocimientos y prácticas: obtenga información sobre los últimos avances y tendencias en los sistemas RAG.
Oportunidades de networking: conéctese con líderes de la industria, innovadores y pares.
Experiencia práctica: aplique su aprendizaje con sesiones prácticas guiadas.

Capacitación práctica de RAG
Training Day es una sesión práctica intensiva dirigida por expertos de Anyscale y Pinecone.

La capacitación de RAG comienza con una descripción general de RAG, presentando sus componentes clave. Los participantes comprenderán el fundamento del patrón RAG y su importancia en la reducción de las alucinaciones en modelos de lenguaje grande (LLM). Utilizando Pinecone Canopy, comenzará a desarrollar con RAG rápidamente.

A continuación, la atención se centra en las cuestiones de escalabilidad, en particular las relacionadas con las canalizaciones de datos y la generación de incorporaciones.

Posteriormente, la sesión cubrirá técnicas de evaluación seleccionadas diseñadas para mejorar la calidad de las aplicaciones RAG.

Los participantes obtendrán acceso a una plataforma informática preconfigurada, así como a todos los recursos de formación.

Sesiones de líderes e innovadores del RAG

  • Charlas: escuche a figuras líderes de la industria sobre la trayectoria futura de las aplicaciones RAG.
  • Paneles de discusión: participe en conversaciones sobre los desafíos y oportunidades en la producción de RAG.
  • Networking: finalice el día con una sesión de networking, fomentando conexiones que se extienden más allá del bootcamp.