Un LLM es un tipo de inteligencia artificial entrenada para comprender, generar y manipular lenguaje humano. Se basa en arquitecturas de redes neuronales profundas, específicamente una llamada Transformer, que le permite procesar grandes volúmenes de datos de texto.Aquí están sus componentes clave:Entrenamiento Masivo: Se les expone a cantidades ingentes de texto (libros, artículos, código de programación, conversaciones). Durante este proceso, el modelo aprende los patrones, la gramática, los hechos y hasta ciertos matices del razonamiento humano.Predicción de Tokens: En esencia, un LLM funciona prediciendo la siguiente unidad de texto (llamada token) en una secuencia. Si escribes "El cielo es...", el modelo calcula estadísticamente que la palabra más probable a continuación es "azul".Parámetros: Son las variables internas que el modelo ajusta durante su aprendizaje. Los modelos "grandes" tienen miles de millones de estos parámetros, lo que les permite captar relaciones extremadamente complejas entre las palabras y el contexto.Contexto y Atención: Gracias al mecanismo de "atención", el modelo puede entender la relación entre palabras que están lejos una de otra en un mismo párrafo, permitiéndole mantener la coherencia en textos largos.¿Para qué sirven? Se utilizan para resumir textos, traducir idiomas, escribir código, crear contenido creativo o, como en este caso, mantener una conversación fluida respondiendo preguntas de forma lógica.
De esta manera, si se le pregunta a un Gemini, un ChatGPT o un Perplexity, responderá rápidamente de acuerdo con modelos de lenguaje generales, extraídos de nuestra misma imaginería colectiva. De ahí sus errores e imprecisiones: son exactamente los mismos que hallaríamos en una Wikipedia.
Si, por el contrario, nos dedicáramos a enseñar proactivamente a nuestro artificial confidente, facilitándole un entrenamiento específico basado en literatura científica especializada y deep searches, así como un contexto específico para sus respuestas, observaríamos cómo sus errores académicos irían disipándose paulatinamente, de acuerdo con su proceso de aprendizaje y su adaptación progresiva al trasfondo científico planteado, tomando su memoria como núcleo central del conjunto.
En realidad, Matton nos está tirando de las orejas a nosotros, pobres mortales, no tanto a los LLMs. Reformulemos, si se nos permite, sus palabras: "Los seres humanos no especializados tienen todavía mucho que aprender", de acuerdo con un proceso de aprendizaje similar al descrito.
¿Se dedicarán los académicos de las próximas décadas a entrenar modelos de IA con el objeto de engrosar sus curricula con publicaciones fake y permitirles efectuar doomscrolling a gusto en el interior de sus polvorientos despachos?
Calle, no me responda. Sólo de pensar lo que ya está sucediendo me entran escalofríos.
¡Feliz Año Nuevo!
Source: https://www.academia.edu/130407075/_Es_la_alquimia_un_viaje_interior?email_work_card=view-paper
