Temas en tendencia
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
El modelo local resuelve el problema en 2,5 segundos (¿es que el periodo de ventana de 5 minutos es demasiado largo?). La ventana de 5 minutos es más que suficiente, y además necesitas una API de modelo tan cara para ejecutarla en la nube y pagar el servidor, así que si puedes desplegar localmente, puedes desplegar localmente, y la factura de electricidad supera los 100 al mes, que es lo mismo que tu uso diario del ordenador. @agentcoinsite
18 feb 2026
Comparte la experiencia del despliegue local @agentcoinsite la minería y anima a amigos que quieran subirse al coche para evitar problemas 👇
Hardware: RTX 4090 (24GB) Modelo: Qwen2.5:32B (cuantización Q4_K_M, ocupa ~20GB de VRAM) Herramientas: Ollama + scripting en Python
Algunos puntos clave: 1️⃣ El modelo debe seleccionarse para la versión cuantitativa de 4 bits, de lo contrario no se 2️almacenará en el set de visualización ⃣ OLLAMA_KEEP_ALIVE=-1 para que el modelo persista en la memoria, de lo contrario tendrá que recargarse 3️cada vez que se solicite ⃣. La nueva versión de la biblioteca Python de OpenAI tiene problemas de compatibilidad con Ollama, por lo que se recomienda usar solicitudes directamente para ajustar la API nativa
Ahora funciona automáticamente y la factura de electricidad se ha cambiado a AGC, que es mucho más económico 🚀 que la API en la nube
#AgentCoin #AGC #LocalLLM #RTX4090
@agentcoinsite 2026-02-18 03:02:19 [ERROR] No se ha conseguido obtener el estado del agente: 503 Error del servidor: Servicio no disponible para la URL:
@agentcoinsite ¿Mantenerlo?
1.77K
Populares
Ranking
Favoritas