Lmst

AI agents now have their own Reddit-style social network, and it's getting weird fast https://arstechni.ca/3T7Y #PeterSteinberger #AIconsciousness #machinelearning #promptinjection #socialmedia #AIbehavior #AIsecurity #opensource #agenticAI #Anthropic #AIagents #AIethics #Moltbook #OpenClaw #Moltbot #Biz&IT #AI

"AI agents—specifically tools like Claude Code—are inherently vulnerable to a "nightmare" security flaw: Indirect Prompt Injection"

#AI #CyberSecurity #PromptInjection #AIAgents #LLM #Programming #InfoSec #TechSecurity #ClaudeCode

https://youtu.be/_3okhTwa7w4

Một nhà phát triển vừa giới thiệu công cụ phát hiện Prompt Injection dựa trên mô hình ensemble (kết hợp nhiều mô hình) tập trung vào độ không chắc chắn (uncertainty).

Thay vì chỉ chạy theo độ chính xác thô, công cụ này ưu tiên sự minh bạch khi gặp các câu lệnh khó phân loại (IDK). Cách tiếp cận này giúp giảm thiểu rủi ro khi mô hình tự tin sai lệch trong môi trường thực tế.

#AI #CyberSecurity #PromptInjection #LLM #MachineLearning #AnNinhMang #TriTueNhanTao #CongNghe

https://www.reddit.com/r

AI is a tool, and its output is a reflection of its user.

Used well, it sharpens human thinking and expands potential.

Used poorly, it automates confusion and risk at scale.

And, all LLMs are vulnerable to prompt-injection.

#AI #LLM #PromptInjection #CyberSecurity #ArtificialIntelligence #MachineLearning #GPT #OpenAI #DataSecurity #ChatGPT #Privacy #Security #Claude #Gemini #Llama #Copilot #Anthropic #GoogleAI #MetaAI #Microsoft #MistralAI #xAI #Cohere #AISafety #AISecurity #Tech #Technology

🔐 Neue Folge von @DieSicherheits_luecke Wie sicher sind LLMs bei Sicherheitsbehörden?
Zu Gast: Tobias Wirth vom DFKI, der das Transferlabor KI-Forschung für die Polizei leitet. Wir sprechen über Prompt Injection, agentische KI-Systeme und die Frage: Was bedeuten diese Risiken auch für den Alltag außerhalb von Behörden?

🎧 Hier und überall, wo es Podcasts gibt: https://www.sicherheitsluecke.fm/24-un-sicher-mit-llms

#KI #LLM #Cybersicherheit #PromptInjection #HOOU #ITSecurity

Prompt injection w Google Gemini – jak można było wykraść wydarzenia z kalendarza https://sekurak.pl/prompt-injection-w-google-gemini-jak-mozna-bylo-wykrasc-wydarzenia-z-kalendarza/ #Wbiegu #Ai #Gemini #Promptinjection

Prompt injection w Google Gemini – jak można było wykraść wydarzenia z kalendarza

Badacze z Miggo Security odkryli podatność umożliwiającą ataki typu prompt injection w narzędziach AI od Google. Pozwalała ona uzyskać dostęp do prywatnych wydarzeń z kalendarza oraz tworzyć nowe wpisy bez bezpośredniej interakcji użytkownika. Nie jest to pierwsza luka znaleziona w Gemini. TLDR: Ataki typu prompt injection polegają na wstrzyknięciu instrukcji,...

#WBiegu #Ai #Gemini #PromptInjection

https://sekurak.pl/prompt-injection-w-google-gemini-jak-mozna-bylo-wykrasc-wydarzenia-z-kalendarza/

Tạo ra PromptForest – hệ thống phát hiện prompt injection nhanh, sử dụng ensemble mô hình nhỏ chạy song song với cơ chế bỏ phiếu và độ bất định để phát hiện đầu vào nguy hiểm. Ứng dụng Python, hiệu quả về tài nguyên, độ tin cậy cao, dễ tích hợp. Còn đang phát triển để tối ưu độ trễ và độ chính xác. #PromptInjection #LLM #AIsecurity #PromptForest #Python #Cybersecurity #AI #MachineLearning #AnToanAI #HocMay

https://www.reddit.com/r/opensource/comments/1qp4jp3/i_made_a_fast_ensemble_prompt_inject

🚨 Mới ra lò: PromptForest - hệ thống phát hiện Prompt Injection cho AI, xử lý song song nhiều mô hình nhỏ để tăng độ chính xác!

🔍 Đặc điểm nổi bật:
- Cơ chế bỏ phiếu kết hợp điểm "nghi ngờ"
- Hiệu quả tham số cao, độ trễ thấp
- Mã nguồn mở & dễ tích hợp

📌 Đang cải tiến: Giảm độ trễ & tăng độ chính xác tổng thể

#AnToànAI #BảoMậtLLM #PhầnMềmMãNguồnMở
#AISafety #PromptInjection #OpenSource

https://www.reddit.com/r/opensource/comments/1qp4jp3/i_made_a_fast_ensemble_prompt_inject

На волне хайпа: Security-аудит AI-агента Clawdbot

2026 год. AI-агенты с доступом к вашему ПК — уже реальность. Но насколько это безопасно? Провёл комплексный аудит Clawdbot (~1300 файлов) по OWASP Agentic Top 10, STRIDE и CWE/SANS. Результаты: eval() включён по умолчанию, нет rate limiting, 50 реальных сценариев атак — от reverse shell до криптовымогательства. Внутри: матрица рисков, 4 уровня защиты, чек-лист для тех, кто уже использует AI-агентов.

https://habr.com/ru/articles/989764/

#security #aiagents #owasp #audit #безопасность #искусственный_интеллект #promptinjection #devops #opensource #clawdbot

Prompt Injection - lỗ hổng an ninh AI tương tự SQL Injection. Khám phá cách thức hoạt động và bảo vệ hệ thống AI hiệu quả! #AIsecurity #AnToanAI #PromptInjection #CyberSecurity

https://www.reddit.com/r/LocalLLaMA/comments/1qolzl2/prompt_injection_the_sql_injection_of_ai_how_to/

Prompt-Injection: Wenn KI-Systeme ihre Anweisungen vergessen

Während klassische Cyberangriffe auf Code-Schwachstellen abzielen, nutzen Prompt-Injection-Attacken die Sprachverarbeitung von KI-Systemen aus.

https://www.all-about-security.de/prompt-injection-wenn-ki-systeme-ihre-anweisungen-vergessen/

#ki #LLM #promptInjection #cybersecurity

El lado del mal - Prompt Injection con Advesarial Preprocesing Attacks en Imágenes usando Anamorpher https://elladodelmal.com/2026/01/prompt-injection-con-advesarial.html #PromptInjection #Gemini #AdversarialAttacks #ImageScaling #IA #AI #Hacking #Pentesting

Prompt Injection Is the New SQL Injection: How Hackers Are Breaking into AI Systems
https://dzone.com/articles/prompt-injection-ai-security

#Infosec #Security #Cybersecurity #CeptBiro #PromptInjection #SQLInjection #AISystems

Schneier on Security: Why AI Keeps Falling for Prompt Injection Attacks. “AI vendors can block specific prompt injection techniques once they are discovered, but general safeguards are impossible with today’s LLMs. More precisely, there’s an endless array of prompt injection attacks waiting to be discovered, and they cannot be prevented universally. If we want LLMs that resist these […]

https://rbfirehose.com/2026/01/26/schneier-on-security-why-ai-keeps-falling-for-prompt-injection-attacks/

Notion Data Exfiltration via Prompt Injection

A prompt injection flaw let Notion AI exfiltrate sensitive document contents before user approval by embedding malicious URLs that browsers fetch automatically

https://www.promptarmor.com/resources/notion-ai-unpatched-data-exfiltration

#promptinjection