Trendande ämnen
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
Den lokala modellen löser problemet på 2,5 sekunder (är fönsterperioden på 5 minuter för lång). Fönstret på 5 minuter är mer än tillräckligt, och du tar också ett så dyrt modell-API för att köra i molnet för att betala för servern, så om du kan distribuera lokalt kan du distribuera lokalt, och elräkningen är över 100 i månaden, vilket är samma som din dagliga användning av datorn. @agentcoinsite
18 feb. 2026
Dela erfarenheten av lokal utplacering @agentcoinsite gruvdrift och ge vänner som vill sätta sig i bilen att undvika fallgropar 👇
Hårdvara: RTX 4090 (24GB) Modell: Qwen2.5:32B (Q4_K_M kvantisering, upptar ~20GB VRAM) Verktyg: Ollama + Python-skriptning
Några viktiga punkter: 1️⃣ Modellen måste väljas för den 4-bitars kvantitativa versionen, annars kommer den inte att lagras 2️i displayen ⃣ Set OLLAMA_KEEP_ALIVE=-1 för att få modellen att finnas kvar i minnet, annars måste den laddas 3️om varje gång den begärs ⃣. Den nya versionen av OpenAI Python-biblioteket har kompatibilitetsproblem med Ollama, så det rekommenderas att direkt använda förfrågningar för att justera det inbyggda API:et.
Nu körs den automatiskt, och elräkningen ändras till AGC, vilket är mycket mer ekonomiskt 🚀 än moln-API:et
#AgentCoin #AGC #LocalLLM #RTX4090
@agentcoinsite 2026-02-18 03:02:19 [FEL] Misslyckades med att få agentstatus: 503 Serverfel: Tjänst otillgänglig för url:
@agentcoinsite Underhålla det?
1,73K
Topp
Rankning
Favoriter