En este taller práctico aprenderás las ventajas de usar la inteligencia artificial generativa de forma más privada, segura y controlada, ejecutando modelos de lenguaje (LLMs) directamente en tu propio ordenador, en modo local, y hablando con tus datos de forma privada.
Por un lado, conoceremos las claves de la AI Act, qué partes empiezas a aplicarse el 2 de agosto, y su impacto en el uso de sistemas de IA: clasificación por niveles de riesgo, obligaciones básicas, privacidad de los datos y buenas prácticas para trabajar con herramientas de IA de forma responsable.
En la parte técnica veremos alternativas open-source a los servicios en la nube, ventajas y escalabilidad, cómo instalar y ejecutar LLMs en local, cómo preparar un entorno privado cliente/servidor y cómo conectar documentos o carpetas de datos para conversar con ellos de forma segura.