Populaire onderwerpen
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
Het lokale model lost de vraag in 2,5 seconden op, (is een venster van 5 minuten niet een beetje te lang?) Een venster van 5 minuten per vraag is meer dan genoeg, en jullie gebruiken zo'n dure model-API in de cloud en betalen ook nog serverkosten, dus als je lokaal kunt implementeren, doe dat dan. De elektriciteitskosten komen uit op meer dan 100 euro per maand, net zoals je je dagelijkse computer gebruikt. @agentcoinsite
18 feb 2026
Deel wat ervaringen over het lokaal inzetten van @agentcoinsite voor mining, om vrienden die willen instappen te helpen valkuilen te vermijden 👇
Hardware: RTX 4090 (24GB) Model: Qwen2.5:32B (Q4_K_M quantisatie, neemt ~20GB videogeheugen in beslag) Tools: Ollama + Python script
Een paar belangrijke punten: 1️⃣ Kies zeker de 4bit quantisatie versie van het model, anders past het niet in het videogeheugen 2️⃣ Stel OLLAMA_KEEP_ALIVE=-1 in om het model in het videogeheugen te houden, anders moet je het bij elke aanvraag opnieuw laden 3️⃣ De nieuwste versie van de OpenAI Python bibliotheek heeft compatibiliteitsproblemen met Ollama, het is aan te raden om rechtstreeks requests te gebruiken voor de native API
Het draait nu automatisch, de elektriciteitskosten worden omgezet in AGC, dat bespaart veel in vergelijking met de cloud API 🚀
#AgentCoin #AGC #LocalLLM #RTX4090
@agentcoinsite 2026-02-18 03:02:19 [ERROR] Fout bij het ophalen van de status van Agent: 503 Serverfout: Dienst niet beschikbaar voor url:
@agentcoinsite Onderhoud misschien?
1,72K
Boven
Positie
Favorieten