Ir al contenido

El conocimiento que ilumina el mundo

¿Qué son los modelos de IA de pesos abiertos? Ejecutar IA en tu propio ordenador con Llama, Mistral, Qwen, DeepSeek y Gemma

Algunos modelos de IA solo funcionan en los servidores de una empresa, mientras que otros tienen sus «pesos» compartidos públicamente y pueden ejecutarse en tu propio ordenador. La diferencia entre pesos abiertos y código abierto, familias de modelos conocidas, herramientas para ejecutarlos localmente, necesidades de hardware, ventajas y límites.

¿Qué son los modelos de IA de pesos abiertos? Ejecutar IA en tu propio ordenador con Llama, Mistral, Qwen, DeepSeek y Gemma

Cuando usas asistentes como ChatGPT, Gemini o Claude, lo que escribes se envía a los servidores de la empresa y la respuesta se produce allí. Junto a ellos, los modelos de «pesos abiertos», cuyos archivos entrenados cualquiera puede descargar y ejecutar en su propio ordenador o servidor, se están extendiendo rápidamente.

¿Qué significa «pesos»?

Un modelo de lenguaje almacena lo que aprende del texto durante el entrenamiento en miles de millones de valores numéricos (parámetros, o «pesos»). El archivo del modelo consiste principalmente en estos pesos. Con un modelo de pesos abiertos este archivo se comparte, por lo que el modelo puede ejecutarse sin conexión a internet ni los servidores de la empresa.

¿Es peso abierto lo mismo que código abierto?

No siempre. Según la «Definición de IA de Código Abierto» publicada por la Iniciativa de Código Abierto (OSI) en 2024, para que un modelo cuente como código abierto, también deben compartirse el código de entrenamiento y suficiente información sobre los datos de entrenamiento, y el uso debe ser sin restricciones. Muchos modelos populares solo comparten sus pesos y vienen con sus propios términos de licencia, por ejemplo exigiendo permiso adicional para empresas por encima de cierto número de usuarios o restringiendo ciertos usos. Así que lee la licencia de un modelo antes de usarlo comercialmente.

Familias de modelos conocidas

  • Llama: Desarrollado por Meta, pionero en popularizar los modelos de pesos abiertos.
  • Mistral: Modelos de la empresa francesa Mistral AI.
  • Qwen: Familia de modelos multilingües de Alibaba.
  • DeepSeek: Modelos de la empresa china DeepSeek, destacada especialmente por razonamiento y programación.
  • Gemma: Modelos abiertos relativamente pequeños y eficientes de Google.

Estas familias lanzan nuevas versiones a menudo; consulta siempre sus páginas oficiales para el estado actual y las licencias.

Cómo ejecutarlos en un ordenador

Herramientas gratuitas como Ollama, LM Studio y llama.cpp te permiten descargar y ejecutar modelos abiertos con unos pocos clics o un solo comando. Los modelos suelen comprimirse con un método llamado «cuantización» para que necesiten menos memoria. Los modelos pequeños pueden ejecutarse incluso en un portátil reciente, mientras que los modelos grandes necesitan mucha memoria y una tarjeta gráfica potente. Como regla, cuanto más grande es el modelo, más capaz es y más hardware necesita.

Ventajas

  • Privacidad: Los datos nunca salen de tu dispositivo, una gran ventaja al trabajar con documentos sensibles.
  • Uso sin conexión: Una vez descargado, el modelo puede ejecutarse sin conexión.
  • Personalización: Las organizaciones pueden afinar el modelo con sus propios datos para tareas específicas.
  • Control de costes: Para uso intensivo, ejecutar en su propio hardware puede ser más predecible para algunas organizaciones.

Límites y riesgos

  • Requieren hardware y ciertos conocimientos de configuración.
  • Los modelos pequeños pueden cometer errores y alucinar más a menudo que los mayores modelos cerrados.
  • Como las medidas de seguridad pueden cambiarse fácilmente por los usuarios, continúan los debates sobre el mal uso.
  • Descarga los archivos de modelos solo de fuentes de confianza.

Licencias: qué vigilar con modelos «abiertos»

Poder descargar los pesos de un modelo no significa que puedas usarlo libremente para cualquier propósito. El texto de la licencia es lo que realmente decide, y hay diferencias importantes entre familias:

  • Licencias permisivas: Algunos modelos, como Mistral 7B, se publicaron bajo la licencia Apache 2.0, y DeepSeek-R1 bajo la licencia MIT. Estas licencias generalmente permiten uso comercial y modificación.
  • Licencias comunitarias: Los modelos Llama de Meta se distribuyen bajo su propia licencia comunitaria; por ejemplo, las empresas con más de 700 millones de usuarios activos mensuales deben obtener una licencia separada, y se espera el cumplimiento de una política de uso aceptable.
  • Términos de uso: Los modelos Gemma de Google están sujetos a un texto separado de términos de uso y una lista de usos prohibidos.
  • Diferentes licencias dentro de una familia: En algunas familias, como Qwen, la licencia puede cambiar con el tamaño del modelo, así que hay que leer la página de cada versión por separado.

Si piensas usar un modelo en un producto o servicio, comprueba la licencia y la política de uso de la versión exacta que descargaste; en caso de duda, busca asesoramiento legal.

¿Qué hardware es suficiente? Un cálculo aproximado de memoria

Hay una forma sencilla de estimar cuánta memoria necesita un modelo: multiplica el número de parámetros por el número de bytes por parámetro. A precisión de 16 bits (2 bytes), un modelo con 7 mil millones de parámetros necesita unos 14 GB de memoria solo para los pesos. Con cuantización de 4 bits el mismo modelo baja a aproximadamente 4–5 GB, lo que lo hace ejecutable en muchos portátiles actuales.

Además viene memoria extra que crece con la longitud de la conversación (la caché de contexto), por lo que es prudente dejar algo de margen por encima de la estimación. El proyecto llama.cpp, ampliamente usado para ejecutar modelos localmente, y su formato de archivo GGUF permiten ejecutar modelos cuantizados en el procesador incluso en ordenadores sin tarjeta gráfica; la velocidad, sin embargo, varía considerablemente con el hardware.

Fuentes y lecturas adicionales

  1. Open Source Initiative (OSI), «The Open Source AI Definition 1.0» (2024).
  2. Meta AI, páginas de licencia de Llama y política de uso aceptable.
  3. Hugging Face, centro de modelos abiertos y documentación.
  4. Documentación oficial de Ollama y LM Studio.
  5. Apache Software Foundation – Apache License 2.0
  6. Meta – Llama 3 Community License Agreement
  7. ggml-org – llama.cpp (GitHub) y documentación GGUF
Compartir
Sigue a YulaHubRecibe primero las noticias más importantes del día.
RSS

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *