teejiitee.bsky.social
@teejiitee.bsky.social
Engalnninkielellä toimii yleensä paremmin, noissa pienissä malleissa tuntuu muut kielet olevan aika "karkeita". Joka tapauksessa nuo ovat kohtuullisen käyttökelpoisia tilanteissa joissa ei voi asiaa hoitaa pilvessä olevan palvelun kanssa. Esimerkkinä verkot, joista ei ole nettiyhteyksiä.
January 29, 2025 at 4:10 PM
14b mallia, se toimii 16Gb rammissa/vrammmissa. Macbook Airilla (M1) se on vähän hidas, mutta toimii. Tuo suurin vaatisi yli puoli teraa muistia ja sitä mulla ei tähän hätään löydy. Tuon webbi/appiversion "sensuuri" tuntuu jälkikäteen liimatuilta, eivät ole ilmeisesti mallissa.
January 29, 2025 at 4:20 AM
Itse ajan deepseek-r1:stä omalla koneella, onnistuu helposti esim. Ollamalla. Siinä ei tunnu olevan mitään rajoituksia, vaan se vastailee niin Xi:stä kuin Uiguureistakin

ollama.com/library/deep...
deepseek-r1
DeepSeek's first-generation of reasoning models with comparable performance to OpenAI-o1, including six dense models distilled from DeepSeek-R1 based on Llama and Qwen.
ollama.com
January 28, 2025 at 5:43 PM