El módulo de Diseño e implementación de Sistemas de IA Locales, Privados y Seguros enseña cómo crear infraestructuras de IA seguras y privadas, sin depender de plataformas públicas. Los estudiantes aprenden sobre los requisitos de hardware, configuración de servidores y seguridad de redes, utilizando herramientas como Ollama y LLStudio para gestionar modelos locales y trabajar con bases de conocimientos privadas mediante RAG.
Se cubre la personalización de modelos mediante fine-tuning, la generación de imágenes con Stable Diffusion y la creación de sonido con Audiocraft. También se exploran modelos multimodales y la transcripción de audio con Whisper.
El módulo incluye la creación de agentes y sistemas multi-agentes para automatización de tareas complejas, con ejemplos como generadores automáticos de documentos y asistentes de traducción. Los estudiantes diseñan sistemas eficientes utilizando herramientas como Crew-AI y Langchain, implementando APIs y GUI para ofrecer servicios IA seguros y escalables.
Temario:
- Introducción al Curso y Conceptos Básicos:
- Objetivos del curso.
- Conceptos clave y repaso de términos asociados a los LLMs.
- Fundamentos de la Infraestructura de IA local y privada:
- Requisitos de hardware.
- Configuración del servidor.
- Seguridad de red para una infraestructura privada.
- Herramientas de gestión de recursos.
- Recomendaciones Linux/Windows para el servidor.
- Gestión de Modelos Locales: Ollama y LLStudio:
- Instalación y configuración de Ollama y LLMStudio.
- Servicios que ofrecen.
- Integración con modelos pre-entrenados.
- Administración de modelos personalizados.
- Importar otros modelos.
- Interfaces gráficas para servir los servicios de forma amigable.
- Base de conocimientos propia y privada (RAG privado):
- Fundamentos de RAG.
- Indexación de datos para recuperación.
- Comunicación con el RAG (GUI).
- Ingesta de nuevos datos y automatización.
- Fine-Tuning de Modelos Existentes:
- Ajuste fino (fine-tuning) con datos personalizados para adaptarse a la infraestructura.
- Evaluación del rendimiento de modelos ajustados.
- Optimización de modelos para diversas aplicaciones.
- Generación de Imágenes locales con Stable Diffusion:
- Instalación y configuración de Stable Diffusion en la infraestructura.
- Fundamentos de generación de imágenes desde texto/prompting.
- Ejemplos prácticos de uso en la plataforma.
- Mejoras y futuras implementaciones para vídeo (Storydiffusion).
- Generación de sonidos y audio con Audiocraft:
- Requisitos de hardware.
- Funcionamiento.
- Instalación.
- Inferencia para crear texto a sonidos y/o música.
- Implementación de Modelos Multimodales:
- Configuración de modelos multimodales para la infraestructura.
- Reconocimiento y procesamiento de datos visuales y textuales.
- Uso de modelos combinados para análisis avanzado.
- Transcripción de Audio con Whisper en Ollama:
- Instalación y configuración de Whisper.
- Integración de transcripción de audio con la infraestructura.
- Uso de la transcripción en análisis de voz y generación de subtítulos.
- Agentes y Multi-Agentes con Crew-AI y Langchain:
- Introducción a los agentes y su papel en la infraestructura.
- Creación de agentes individuales y en cadenas para tareas complejas.
- Crew-AI.
- Diseño de sistemas multi-agentes con Crew-AI y Langchain.
- Aplicaciones prácticas con multiagentes.