Why do LLMs have emergent properties?
https://www.johndcook.com/blog/2025/05/08/why-do-llms-have-emergent-properties/
#ycombinator #explainable_ai #large_language_models

Logit Lens & ViT model: туториал

Привет, Хабр! В этом туториале разобран метод для анализа внутренних представлений "логит-линза" (Logit Lens). В результате практики по туториалу, вы: 1. Изучите подход и концепцию Logit Lens; 2. Реализуете Logit Lens для Visual Transformer; 3. Познакомитесь с анализом результатов применения логит-линзы. Как всегда, весь код будет на гитхаб — step by step. Welcome!

https://habr.com/ru/articles/891352/

#explainable_ai #data_science #data_analysis #transformers

Анализ обработки признаков в YOLO NAS S при помощи CAM

Методы объяснения моделей — практичный инструмент для понимания модели, оценки её точности и стабильности. Однако, часто можно столкнуться с ситуацией, когда фреймворк, в котором метод реализован, просто не "дружит" с реализацией модели. В этом туториале хочу подробно показать CAM (class activation map) для объяснения моделей зрения.

https://habr.com/ru/articles/876478/

#машинное_обучение #explainable_ai #нейронные_сети #pytorch

Практическая устойчивость значений Шепли в интерпретации моделей ИИ

Привет, Хабр! В исследованиях и на практике значения Шепли (Shapley values) — один из наиболее популярных методов интерпретации как на практике, так и в исследованиях. На практике этого не делается — применяется аппроксимация. Отсюда возникают вопросы, ответы на которые мы рассмотрим с вами в этой статье :)

https://habr.com/ru/articles/853794/

#explainable_ai #shap #shapley_values

Researchers Develop Quantum-inspired Algorithm That Improves Cyber Attack Detection And Opens AI’s ‘Black Box’ https://thequantuminsider.com/?p=2361717 #Quantum_Computing_Business #CounterCraft #cybersecurity #David_Barroso #Explainable_AI #Matrix_Product_States #Multiverse_Computing #Román_Orús #quantumdaily Insider Brief Researchers have built a new quantum AI model that significantly improves attack detection over traditional methods. Multiverse Computing and CounterCraft researchers say the

Leveraging Latent Features for Local Explanations
(2021) : Luss, Ronny et al
DOI: https://doi.org/10.1145/3447548.3467265
#local_explanation #explainable_AI #my_bibtex

Leveraging Latent Features for Local Explanations
(2021) : Luss, Ronny et al
DOI: https://doi.org/10.1145/3447548.3467265
#explainable_AI #local_explanation #my_bibtex

Explanations based on the Missing
(2018) : Dhurandhar, Amit et al
url: https://proceedings.neurips.cc/paper_files/paper/2018/file/c5ff2543b53f4cc0ad3819a36752467b-Paper.pdf
#classification #machine_learning #explainable_AI #my_bibtex

”Why Should I Trust You?”
(2016) : Ribeiro, Marco Tulio Singh, Sa...
DOI: https://doi.org/10.1145/2939672.2939778
#classification #LIME #explainable_AI #my_bibtex

An Explainable Artificial Intelligence System for Small-Unit Tactical Behavior
(2004) : Lent, Michael Van et al
url: https://www.aaai.org/Library/IAAI/2004/iaai04-019.php
#expert_system #tactics #explainable_ai #behaviour #simulation #ai #my_bibtex

Argumentation and Explainable Artificial Intelligence: a Survey
(2021) : Alexandros Vassiliades and Nick Bassiliades and Theodore Patkos
DOI: https://doi.org/10.1017/s0269888921000011
#__come_back_to #explainable_ai #argumentation #knowledge_engineer
#my_bibtex