Experto para Instalación y Optimización de Agente de IA Local (LLM Local)
Budget: $30 – $250 USD
Título del Proyecto: Experto para Instalación y Optimización de Agente de IA Local (LLM Local)
Descripción del Proyecto:
Busco un programador con experiencia en Inteligencia Artificial para instalar y configurar un agente de IA que funcione 100% de forma local en mi computadora. El objetivo es no depender de la nube, garantizando total privacidad y velocidad de procesamiento.
Tareas a realizar:
Configuración del Entorno: Instalación y optimización de frameworks como Ollama, LM Studio o LocalAI.
Optimización de Modelos: Aplicar quantization (GGUF/EXL2) a modelos como Llama 3, Mistral o Qwen para que funcionen de manera fluida según las capacidades de mi hardware (CPU/GPU).
Interfaz de Usuario: Configurar una interfaz visual amigable (como Open WebUI o Text-Generation-WebUI) para interactuar con la IA de forma sencilla.
Automatización Básica: Configurar el agente para que pueda interactuar con archivos locales y ejecutar tareas sencillas mediante scripts (Python/PowerShell).
Privacidad y Seguridad: Asegurar que la instalación esté aislada de internet para el procesamiento de datos sensibles.
Entregables:
Un agente de IA local funcionando y listo para usar.
Optimización del rendimiento para obtener la mayor cantidad de palabras por segundo (tokens) posible.
Una breve explicación o guía de mantenimiento básico (cómo actualizar o cambiar modelos).
Descripción del Proyecto:
Busco un programador con experiencia en Inteligencia Artificial para instalar y configurar un agente de IA que funcione 100% de forma local en mi computadora. El objetivo es no depender de la nube, garantizando total privacidad y velocidad de procesamiento.
Tareas a realizar:
Configuración del Entorno: Instalación y optimización de frameworks como Ollama, LM Studio o LocalAI.
Optimización de Modelos: Aplicar quantization (GGUF/EXL2) a modelos como Llama 3, Mistral o Qwen para que funcionen de manera fluida según las capacidades de mi hardware (CPU/GPU).
Interfaz de Usuario: Configurar una interfaz visual amigable (como Open WebUI o Text-Generation-WebUI) para interactuar con la IA de forma sencilla.
Automatización Básica: Configurar el agente para que pueda interactuar con archivos locales y ejecutar tareas sencillas mediante scripts (Python/PowerShell).
Privacidad y Seguridad: Asegurar que la instalación esté aislada de internet para el procesamiento de datos sensibles.
Entregables:
Un agente de IA local funcionando y listo para usar.
Optimización del rendimiento para obtener la mayor cantidad de palabras por segundo (tokens) posible.
Una breve explicación o guía de mantenimiento básico (cómo actualizar o cambiar modelos).