Lmst

Teste gerade #ollama bzw. #Llama31 lokal auf dem i7, dem XPS und dem MBA. Bin positiv überrascht, wie gut dies auf den beiden Laptops, trotz der Hardware (m1 bzw i5 & 8 GB RAM), läuft.

https://ollama.com/

Testing Deepseek-r1 on Ollama:
https://www.glukhov.org/post/2025/02/deepseek-r1-on-ollama/
#Deepseek-r1 #Ollama #qwen2.5 #llama31

EXO Labs ha creado un clúster con cuatro Mac Mini M4 y un MacBook Pro M4 para ejecutar localmente LLMs IA como Llama-3.1 405B de Meta, Nemotron 70B de Nvidia y Qwen 2.5 Coder-32B de Alibaba Cloud

#InteligenciaArtificial #LLM #LLMs #opensource #tech #Llama31 #qwen25 #Nemotron70b #AI #MacMini #MacBookPro

https://mecambioamac.com/exo-labs-conecto-cuatro-mac-mini-m4-para-ejecutar-llama-3-3-70b-de-meta/

Основы промптинга и математические возможности моделей Llama

Меня зовут Грибанов Никита, я Data Scientist в отделе R`n`D&ML компании Raft Digital Solutions, и сегодня я расскажу о больших языковых моделях. На данный момент в мире их существует уже более 39 тысяч! Далее буду называть их хайповым названием LLM (Large Language Model). В этой статье вы сначала узнаете новые или освежите в памяти уже известные вам основы общения с языковыми моделями. Затем разберёте пару реальных примеров настройки запросов и увидите математические возможности Llama 3.2 3B в сравнении с Llama 3.1 8B. Для достижения хороших результатов при решении различных задач с помощью LLM, с ними как и с людьми, нужно уметь правильно общаться. Как же это сделать?

https://habr.com/ru/companies/raft/articles/863478/

#llama32 #llama31 #llm #prompt #promptengineering #mathematics #begginers

Как мы обучали LLM для поиска уязвимостей в смарт-контрактах Solidity

Наша команда в Positive Technologies занимается анализом безопасности смарт-контрактов, исследованием уязвимостей и разработкой инструментов для их обнаружения. Идея использовать LLM для анализа смарт-контрактов Solidity показалась крайне заманчивой. Загрузить код, запустить модель — и она сама находит уязвимости, генерирует отчет, а иногда даже предлагает исправления. Звучит отлично! Но, как показал мой опыт, между «звучит» и «работает» лежит огромная пропасть.

https://habr.com/ru/companies/pt/articles/860476/

#llm #lora #blockchain #solidity #уязвимости #llama31 #chatgpt #промпт

I told Llama3.1: "There is no wrong place to insert Uranus." and after a rambling talk about Uranus stats, it says...

> So, go ahead and insert Uranus wherever your mind dares to wander! Just remember: the real Uranus is quite far away from us Earthlings, so no actual insertion necessary.

And the #SD15 image generator we run after each response gave this picture.

#llama31 #llm #ircawp

NVIDIA анонсировала новую модель искусственного интеллекта Llama-3.1-Nemotron-51B, основанную на предыдущей Llama-3.1-70B от Meta*.

Эта модель, содержащая 51 миллиард параметров, использует технологию Neural Architecture Search для оптимизации, что способствует снижению потребления ресурсов.

-ИИ может работать всего на одном графическом процессоре NVIDIA H100, что делает её более доступной для пользователей.

Новый подход увеличивает скорость вывода в 2,2 раза, и позволяет обрабатывать объемы в 4 раза больше, при неизменной точности.
==============
Meta* признана в РФ экстремистской :blobfoxcryreach:

src: https://developer.nvidia.com/blog/advancing-the-accuracy-efficiency-frontier-with-llama-3-1-nemotron-51b/

#ai #llama #nvidia #Llama31 #meta #facebook

I had #Llama31 summarize an article and I screamed at it and it screamed back. Fair play, sir.

#llm

I just had Meta Llama 3.1 8B Instruct write a Fibonacci sequence in Rust for me (I can't do Rust myself), and then I spent a long time
discussing it with the model until I realized that the highlighted line is simply a very bad implementation. `_ => (2..n).fold((0, 1) |(a,
b)| (b, a + b)).1` would have made sense to me immediately 🤦 #LLM #LLAMA31 #rust

$A snippet of Rust code. fn fibonacci(n: u32) -> u32 { match n { 0..=1 => 0, 2 => 1, _ => (2..n).fold((0, 1), |(_a, b), _| (b, _a + b)).1 } } fn main() { println!("{}", fibonacci(10)); } where _ => (2..n).fold((0, 1), |(_a, b), _| (b, _a + b)).1 is highlighted$

Working with my AI chef – The Future is Open https://donwatkins.info/2024/09/16/working-with-my-ai-chef/ #ollama #llama31 #AI #artificialintelligence #cooking

Wow, #LLama31 sure knows a lot about Homestar Runner.

#llm

Aha - some refining of the system prompt later - I asked it to switch to a new maths topic - decimals, and it actually asked me what aspect of decimals I wanted to practice next!

#ollama #llama31 #oterm

A picture of a llama31 response to my asking it to swtich to asking it about decimals.

Altro esperimento didattico, usare #AI in classe con #llama31 o la versione nuova #hermes3, il contesto a 128K (ma effettivamente usabili 20k sul computer domestico) consente di usarlo molto meglio di come usavamo Gpt3.5 2 anni fa!!! e in questo modo diventiamo annche piu' ecologici. `https://salahzar.com/2024/08/17/ai-da-divoratrice-di-energia-a-campione-di-efficienza-e-con-hermes-riduciamo-ancora-di-piu/

Suite de mes aventures avec #llama31 (dernière mise à jour datant de quelques jours), sur un PC Windows avec un GPU (pas certain qu’il soit utilisé, mais c’est plus rapide qu’avec la VM linux).
Toujours mon carré de la racine carrée de 512. Accrochez-vous, ça pique :

La racine carrée de 512 est
√512 = √(8²) = 8
Et le carré de 8 est
8² = 64
Donc, le carré de la racine carrée de 512 est 64.

La seconde itération est encore plus stupide : il donne la bonne réponse immédiatement puis dérape :)

@TriflingTree I took the Alt from your first image and use it as the prompt for #fluxai. I have read in reddit that the quality is comparable to #dalle3 .
The first image is the description from your post, the second one is a variation of that description using an #llm, specifically #llama31.
What do you think?

Woman wearing a gold & black decorated robe. Watercolor and ink illustration

Elegant woman draped in an intricately designed golden and black robe with subtle sheen, adorned with delicate patterns and motifs, set against a soft, dreamy watercolor background, with bold yet refined ink lines defining her features and the flowing folds of her garment

#OpenSource #LLMs are getting much more competitive. On the LMSYS #ChatbotArena Leaderboard, #Llama31 already ranks fourth: https://huggingface.co/spaces/lmsys/chatbot-arena-leaderboard. 👍

Run Llama 3.1 locally on your MacBook! 🦙

llama-server --chat-template llama3 --hf-repo reach-vb/Meta-Llama-3.1-8B-Instruct-Q6_K-GGUF \
--hf-file meta-llama-3.1-8b-instruct-q6_k.gguf \
--ctx-size 8192

#llama31 #locallama #llm

Llama 3.1: Deshalb verschenkt Mark Zuckerberg seine künstliche Intelligenz | ZEIT ONLINE
https://www.zeit.de/digital/2024-07/llama-3-1-meta-kuenstliche-intelligenz-kostenlos-open-source-facebook #KI #KISprachmodell #Llama31

Meta Llama 3.1 now available on Workers AI

Link

Summary: Workers AI 與 Meta 合作，讓所有使用者在推出日一同使用新的 Llama 3.1 8B 語言模型。該模型可直接編寫提示並以目標語言接收回覆，並可使用工具呼叫生成結構化 JSON 回傳結果。Workers AI 也提供嵌入式函式呼叫，使開發者能更有效率地執行推論任務。

Key Points:
- Workers AI 與 Meta 合作，讓所有使用者在推出日使用 Llama 3.1 8B
- Llama 3.1 8B 支援 8 種語言，可直接編寫提示並以目標語言接收回覆
- Llama 3.1 8B 使用工具呼叫生成結構化 JSON 回傳結果
- Workers AI 提供嵌入式函式呼叫，使開發者能更有效率地執行推論任務

Keywords:
#WorkersAI #Meta #Llama31 #嵌入式函式呼叫 #工具呼叫 #結構化 JSON #開發者

Ok, dann muss #LLama31:70b wohl genügen.
#LLM #llama3 #ai #LocalAI

#Llama31

Client Info