3. Configurando Ollama: Ejecutar tu primer LLM localmente en Windows

 ¡Ejecuta tu primer LLM en Windows en 5 minutos! (Guía paso a paso) 💻

¿Quieres probar un modelo de lenguaje (LLM) en tu computadora con Windows? ¡Es más fácil de lo que piensas! En este post, te muestro cómo instalar y usar Ollama para ejecutar tu primer modelo (como Llama 3) sin necesidad de Mac.

🔧 Paso 1: Descarga e instala Ollama

  1. Abre tu navegador (Edge, Chrome, etc.) y ve a ollama.com.

  2. Busca el botón de descarga para Windows (el archivo .exe).

  3. Ejecuta el instalador (siguiente, siguiente, aceptar… ¡lo típico!).

⚡ Paso 2: Abre PowerShell

Una vez instalado:

  1. Busca Windows PowerShell en el menú de inicio.

  2. Ábrelo (¡puedes maximizarlo para ver mejor!).

🤖 Paso 3: Ejecuta tu primer modelo

Escribe este comando en PowerShell:

bash
Copy
Download
ollama run llama3

(Opcional: Si quieres otro modelo, cambia llama3 por el nombre del que prefieras).

El modelo se descargará automáticamente. ¡Cuando termine, podrás chatear con él!

🌍 Ejemplo práctico: Aprende español con tu LLM

Prueba este prompt (en inglés o español):

"Estoy aprendiendo español. Soy principiante. Por favor, habla conmigo en español básico y corrige mis errores."

El LLM responderá de forma paciente (¡incluso te señalará faltas de ortografía como olvidar acentos o signos de interrogación 😉).

💡 Bonus

  • ¿Sin ideas? Pídele ayuda para escribir emails, traducir textos o generar código.

  • ¿Problemas? Asegúrate de tener conexión a internet y permisos de administrador si es necesario.

🎉 ¡Y listo! Ya tienes un asistente de IA corriendo localmente en tu PC. ¿Para qué lo usarás tú? ¡Cuéntame en los comentarios! 👇

(Basado en el tutorial de Ed Donner, adaptado para Windows)

Comentarios

Publicar un comentario

Entradas más populares de este blog

LLMs Open Source

  📌 Curso Rápido de LLMs Open Source (Large Language Models de Código Abierto) 1️⃣ Introducción a los LLMs 🔹  ¿Qué es un LLM? Modelos de lenguaje entrenados con grandes cantidades de texto. Capaces de generar texto, traducir, responder preguntas, etc. 🔹  Open Source vs. Privativos Open Source : Puedes descargarlos, modificarlos y ejecutarlos localmente. Ejemplos:  LLaMA (Meta) ,  Mistral ,  Falcon ,  Bloom (BigScience) . Privativos : Requieren API (ej: GPT-4 de OpenAI, Claude de Anthropic). 2️⃣ Modelos Open Source Populares Modelo Desarrollador Características LLaMA 2 Meta (Facebook) Varios tamaños (7B, 13B, 70B parámetros). Mistral 7B Mistral AI Más eficiente que LLaMA 2 en algunos benchmarks. Falcon 40B TII (UAE) Modelo potente con licencia Apache 2.0. Bloom BigScience Multilingüe (soporta español bien). 📌  Requisitos : Hardware: GPU (NVIDIA) para modelos grandes (ej: 16GB+ RAM para 7B parámetros). Alternativa: Usar APIs como  Hugging F...
Leer más

Cómo crear tu primer LLM local con Ollama

  Cómo crear tu primer LLM local con Ollama (y construir un tutor de francés gratis) ¿Te gustaría ejecutar un  Large Language Model (LLM)  directamente en tu ordenador, sin depender de servicios en la nube ni pagar suscripciones? En este tutorial, te mostraré cómo instalar  Ollama  (o Llama), un framework que permite ejecutar modelos de lenguaje en tu máquina usando C++, y cómo usarlo para crear un  tutor de francés gratuito . ¡Sin costes ocultos! ¿Qué es Ollama (o Llama)? Ollama es una plataforma que te permite descargar y ejecutar modelos de IA  localmente , como el famoso  Llama 3  de Meta (Facebook). Su ventaja: Totalmente gratuito  (open-source). Funciona en  Mac, Windows y Linux . No requiere conexión constante a internet después de la instalación. ¿Por qué se llama "Llama"?  El nombre viene del modelo original de Meta, que revolucionó el mundo de los LLM open-source. Paso 1: Instalar Ollama Descarga : Ve a  ollama.c...
Leer más

¿Qué es un "Agente" en el contexto de IA?

¿Qué es un "Agente" en el contexto de IA? Un  agente de IA  es un sistema autónomo que percibe su entorno (a través de datos, texto, sensores, etc.), toma decisiones y ejecuta acciones para lograr un objetivo específico. En el mundo de los LLMs, los agentes suelen combinarse con modelos de lenguaje para realizar tareas más complejas. 🔹 Características de un Agente de IA Autonomía : Puede actuar sin intervención humana constante. Memoria : Retiene contexto (ej: recordar una conversación previa). Herramientas (Tools) : Usa APIs, bases de datos, búsqueda web, etc. Planificación : Divide un problema en pasos (ej: "reserva un vuelo" → consulta precios → compra). 🔹 Ejemplos Prácticos Chatbot avanzado : Que consulta el clima, hace reservas o busca info en internet. AutoGPT : Agente que usa GPT para ejecutar tareas multi-paso (ej: "investiga sobre X y escribe un informe"). Asistente de código : Como  DevOps Agent  que depura errores y ejecuta comandos en tu term...
Leer más