La «IA generativa» es el término general para referirse a los sistemas de inteligencia artificial capaces de producir nuevos textos, imágenes, audios o códigos. Desde finales de 2022, a través de asistentes de chat y generadores de imágenes, estos sistemas entraron en la vida diaria de millones de personas. Pero ¿cómo puede un programa informático escribir un artículo o dibujar un paisaje que nunca existió?
Grandes modelos de lenguaje
Los sistemas de generación de texto se basan en «grandes modelos de lenguaje». Estos se apoyan en una arquitectura de red neuronal llamada «transformador» (transformer), presentada en un artículo de 2017 por investigadores de Google. El modelo se entrena con cantidades enormes de datos escritos: textos web, libros y código. La tarea de entrenamiento es sorprendentemente simple: ver un fragmento de texto y predecir el siguiente fragmento (la palabra o parte de una palabra llamada «token»). Al intentar esta predicción en miles de millones de ejemplos, el modelo aprende la estructura del lenguaje, las relaciones entre los conceptos y una gran cantidad de conocimientos en forma de patrones estadísticos.
Cómo convertirse en un asistente de chat
Un modelo recién salido del preentrenamiento sabe cómo continuar un texto, pero no siempre comprende lo que el usuario desea. Por lo tanto, en una segunda etapa se ajusta mediante ejemplos de preguntas y respuestas, y con la retroalimentación en la que las personas juzgan qué respuestas son más útiles, precisas y seguras. De este modo, el modelo se convierte en un asistente que sigue instrucciones, puede mantener una conversación y es más cuidadoso con las solicitudes dañinas.
Generación de imágenes
La mayoría de las herramientas de texto a imagen utilizan «modelos de difusión». Durante el entrenamiento, estos modelos aprenden cómo se añade ruido a las imágenes paso a paso y, posteriormente, cómo eliminarlo. En su uso, parten de un ruido aleatorio y lo eliminan paso a paso de manera que se ajuste a la descripción del usuario, creando una nueva imagen.
Límites y riesgos
- Alucinación: Los modelos de lenguaje producen lo que es «probable», no lo que es «verdadero». Por lo tanto, a veces pueden generar información completamente convincente pero falsa, fuentes inexistentes o citas inventadas.
- Actualidad: El conocimiento de un modelo se limita al momento en que se recopilaron sus datos de entrenamiento; algunas herramientas llenan este vacío con la búsqueda web.
- Sesgo: Los sesgos presentes en los datos de entrenamiento pueden reflejarse en las respuestas del modelo.
- Privacidad: Revise la política de datos de una herramienta antes de compartir información personal, financiera o empresarial confidencial.
- Derechos de autor y originalidad: Continúan los debates legales sobre los derechos de los datos de entrenamiento y el contenido generado.
Uso sensato
La IA generativa es una ayuda potente para la redacción, la lluvia de ideas, el resumen de textos largos, la explicación de un tema de diferentes maneras y la escritura de código. Sin embargo, en asuntos importantes como la salud, el derecho y las finanzas, verifique siempre la información con fuentes fiables y expertos, y mantenga la decisión final y la responsabilidad bajo su propio criterio.
Términos frecuentes: un glosario breve
- Prompt (Instrucción): La indicación o pregunta que se le da al modelo. Cuanto más clara y rica en contexto sea la instrucción, más preciso será el resultado.
- Ventana de contexto: La cantidad de texto que el modelo puede «ver» a la vez. Si una conversación supera este límite, es posible que las partes más antiguas ya no se tengan en cuenta.
- Temperatura: El parámetro que determina la aleatoriedad en las respuestas. Un valor bajo ofrece resultados más consistentes y repetibles, mientras que un valor alto genera opciones más variadas y creativas.
- Ajuste fino (Fine-tuning): El entrenamiento adicional de un modelo preentrenado con datos adicionales para una tarea o dominio específico.
- Multimodal: Modelos que pueden comprender y generar diferentes tipos de datos, como imágenes, audio o video, además de texto.
¿Cómo se puede mejorar la precisión? Generación aumentada por recuperación (RAG)
Los modelos de lenguaje «recuerdan» información de sus datos de entrenamiento, por lo que en temas desactualizados o que nunca han visto pueden dar respuestas inventadas. Un método común para reducir este problema es la «generación aumentada por recuperación» (RAG, por sus siglas en inglés), descrita por Lewis y sus colaboradores en 2020. En este enfoque, el sistema busca primero en una colección de documentos de confianza aquellos pasajes relevantes para la pregunta, y luego le pide al modelo que responda basándose únicamente en dichos pasajes.
El sistema RAG facilita mostrar en qué documento se basa una respuesta y permite trabajar con información que el modelo nunca ha visto, como documentos internos de una empresa. Sin embargo, no resuelve el problema por completo: si la búsqueda recupera el documento equivocado o el modelo lo interpreta mal, aún pueden producirse errores. Por esta razón, el perfil de riesgo de la IA generativa de 2024 del Instituto Nacional de Estándares y Tecnología (NIST) de EE. UU. también incluye prácticas que recomiendan la verificación humana de los resultados.
Preguntas frecuentes
¿La IA realmente «comprende»?
Esto sigue siendo objeto de debate entre científicos y filósofos. Los modelos pueden utilizar patrones complejos del lenguaje de manera notable, pero no existe consenso sobre si poseen algo parecido a la comprensión humana.
Fuentes y lecturas adicionales
- Ashish Vaswani et al., “Attention Is All You Need” (2017).
- Jonathan Ho et al., “Denoising Diffusion Probabilistic Models” (2020).
- Principios de IA de la OCDE; Recomendación de la UNESCO sobre la ética de la inteligencia artificial (2021).
- Lewis P. et al. – Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, NeurIPS (2020)
- NIST AI 600-1 – Generative Artificial Intelligence Profile (2024)
Deja un comentario
Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *