3. Configurando Ollama: Ejecutar tu primer LLM localmente en Windows

 ¡Ejecuta tu primer LLM en Windows en 5 minutos! (Guía paso a paso) 💻

¿Quieres probar un modelo de lenguaje (LLM) en tu computadora con Windows? ¡Es más fácil de lo que piensas! En este post, te muestro cómo instalar y usar Ollama para ejecutar tu primer modelo (como Llama 3) sin necesidad de Mac.

🔧 Paso 1: Descarga e instala Ollama

  1. Abre tu navegador (Edge, Chrome, etc.) y ve a ollama.com.

  2. Busca el botón de descarga para Windows (el archivo .exe).

  3. Ejecuta el instalador (siguiente, siguiente, aceptar… ¡lo típico!).

⚡ Paso 2: Abre PowerShell

Una vez instalado:

  1. Busca Windows PowerShell en el menú de inicio.

  2. Ábrelo (¡puedes maximizarlo para ver mejor!).

🤖 Paso 3: Ejecuta tu primer modelo

Escribe este comando en PowerShell:

bash
Copy
Download
ollama run llama3

(Opcional: Si quieres otro modelo, cambia llama3 por el nombre del que prefieras).

El modelo se descargará automáticamente. ¡Cuando termine, podrás chatear con él!

🌍 Ejemplo práctico: Aprende español con tu LLM

Prueba este prompt (en inglés o español):

"Estoy aprendiendo español. Soy principiante. Por favor, habla conmigo en español básico y corrige mis errores."

El LLM responderá de forma paciente (¡incluso te señalará faltas de ortografía como olvidar acentos o signos de interrogación 😉).

💡 Bonus

  • ¿Sin ideas? Pídele ayuda para escribir emails, traducir textos o generar código.

  • ¿Problemas? Asegúrate de tener conexión a internet y permisos de administrador si es necesario.

🎉 ¡Y listo! Ya tienes un asistente de IA corriendo localmente en tu PC. ¿Para qué lo usarás tú? ¡Cuéntame en los comentarios! 👇

(Basado en el tutorial de Ed Donner, adaptado para Windows)

Comentarios

Publicar un comentario

Entradas más populares de este blog

Cómo crear tu primer LLM local con Ollama

  Cómo crear tu primer LLM local con Ollama (y construir un tutor de francés gratis) ¿Te gustaría ejecutar un  Large Language Model (LLM)  directamente en tu ordenador, sin depender de servicios en la nube ni pagar suscripciones? En este tutorial, te mostraré cómo instalar  Ollama  (o Llama), un framework que permite ejecutar modelos de lenguaje en tu máquina usando C++, y cómo usarlo para crear un  tutor de francés gratuito . ¡Sin costes ocultos! ¿Qué es Ollama (o Llama)? Ollama es una plataforma que te permite descargar y ejecutar modelos de IA  localmente , como el famoso  Llama 3  de Meta (Facebook). Su ventaja: Totalmente gratuito  (open-source). Funciona en  Mac, Windows y Linux . No requiere conexión constante a internet después de la instalación. ¿Por qué se llama "Llama"?  El nombre viene del modelo original de Meta, que revolucionó el mundo de los LLM open-source. Paso 1: Instalar Ollama Descarga : Ve a  ollama.c...
Leer más

4-Funcionamiento de un LLM

  Funcionamiento de un LLM: ¿Cómo interactuamos con estos modelos? Cuando interactuamos con modelos de  machine learning  tradicionales, el proceso suele ser técnico: necesitamos escribir código, importar librerías, transformar datos a formatos específicos y seguir un flujo estructurado. Sin embargo, con los  Modelos de Lenguaje Grandes (LLM, por sus siglas en inglés) , la experiencia es radicalmente diferente. Interactuar con un LLM: lenguaje natural en lugar de código La principal ventaja de los LLM es que  no requieren preparación técnica compleja  para usarlos. En lugar de enviar datos estructurados o matrices numéricas, simplemente proporcionamos instrucciones en  lenguaje natural , de la misma manera en que le hablaríamos a una persona. Esta entrada de texto se conoce como  "prompt" , y aunque parece informal, su redacción es clave para obtener buenos resultados. De hecho, existe toda una disciplina dedicada a optimizar estos inputs: el...
Leer más

3-Large Language Models (LLMs)

🚀 Large Language Models (LLMs): ¿Cómo funcionan los modelos de lenguaje como ChatGPT? ¡Bienvenidos de nuevo! En el post anterior hablamos sobre  Inteligencia Artificial Generativa , y hoy vamos a adentrarnos en uno de sus componentes más revolucionarios: los  Large Language Models (LLMs) , los gigantes detrás de herramientas como  ChatGPT, Gemini y LLaMA . 📌 ¿Qué son los LLMs? Los  Large Language Models (LLMs)  son algoritmos especializados en  Procesamiento de Lenguaje Natural (NLP)  diseñados para  generar texto coherente y contextualmente relevante . Lo más fascinante es que pueden entender y producir lenguaje casi como un humano, captando  matices, ambigüedades y significados dependientes del contexto . Por ejemplo: Si decimos  "El banco está cerrado" , el modelo entiende si hablamos de una entidad financiera o de un asiento. Pueden redactar ensayos, traducir idiomas, resumir textos e incluso programar en código. 🔍 ¿Cómo logran es...
Leer más