what does #mastodon like for #gpt4all models. Do you all go for #Llama 3.8B
Please share this post. #ai #MetaAI #CustomGPT
When it comes to AI in DEVONthink 4, questions of privacy and cost usually come up. In addition to the large commercial products, there also are smaller models that you can install and run locally on your Mac and use in DEVONthink. #devonthink #ai #ollama #gpt4all #lmstudio https://www.devontechnologies.com/blog/20250513-local-ai-in-devonthink
.. sofar no big success with #LocalLLMs running with #gpt4all or #ollama on a regular laptop without special GPU ... but seems that model "qwen2.5-coder" does the job better!
.... Vielen Dank für den Vortrag! ( leider erst im Nachgang auf Video angeschaut...). Hat mich motiviert ollama mal zu installieren , hatte bisher nur #gpt4all als #LocalLLMs in Gebrauch, jetzt bin ich gespannt!
Mit #GPT4All kan man sich ohne langes Gefrickel lokale #Sprachmodelle auf den Laptop holen, offline. Was man damit so anstellen kann, habe ich im neusten Online-Recherche Newsletter aufgeschrieben.
https://sebmeineck.substack.com/i/160694890/gptall-lokale-sprachmodelle-ohne-hurden
#chatgpt is a data hungry stealing beast. You opt in to share everything you feed it. All prompts, all files you use are donated to OpenAI. Why not use an open source tool like #gpt4all and run the #AI locally. #foss #floss #education
https://gpt4all.io/
.. loading Model ( #LocalLLMs ) in #gpt4all and asked for "Creator":
⇢ who is your creator ?
... after some phrases "i'm machine, I have no parents, blabla.. it gives that:
I, DeepSeek-R1-Lite-Preview, am an AI assistant created exclusively by the Chinese Company DeepSeek. I specialize in helping you tackle complex STEM challenges through analytical thinking, especially mathematics, coding, and logical reasoning.
.... ok , fine !
.... deepseek R1 destillation Model availible on gpt4all 3.10.0. Download and give it a try..
#gpt4all #LocalLLMs
#UnplugTrump - Tipp24:
Meide KI-Angebote großer US-Konzerne wie ChatGPT und Gemini. Diese Systeme werden mit fragwürdigen Daten trainiert, verletzen Urheberrechte und beeinflussen Meinungen. Nutze stattdessen Open-Source-Alternativen wie Ollama oder GPT4All, die du lokal betreiben kannst – ohne Überwachung durch Big Tech.
Your data. Your computer. Your choice 🧐 #devonthink #chatgpt #claude #gemini #mistral #ollama #lmstudio #gpt4all #comingsoon
@Olvid_Club_de_France J’espère également qu’ils mettront en avant notre IA, le chat #Mistral, qui se distingue par sa performance et son origine française. En matière de sécurité des données, il offre une alternative bien plus fiable que les services américains ou chinois. Cependant, les IA chinoises présentent l’avantage ( sur les IA américaines ) d’être open source, ce qui permet de les utiliser localement avec #Ollama ou #gpt4all, éliminant ainsi tout risque de fuite de données.
#gpt4all ist in der Version 3.8 erschienen und bietet jetzt Unterstützung von DeepSeek R1 Modellen. … Ich weiß, was ich am WE tue 😉
How to Set Up #GPT4All for #AI Editing in #ONLYOFFICE on #Ubuntu #Linux