Lmst

Running RAG with ONNX Runtime GenAI for On-Prem Windows #onnxruntime #windows #dotnet https://www.luisquintanilla.me/feed/rag-onnx-runtime-genai-windows?utm_medium=feed

🚀 Boost Your AI Career with ONNX Framework AI Certification from EdChart!

🔗 Take the Free Certification Test : https://www.edchart.com/certificate/onnx-framework-ai-certification-exam-free-test
🏅 Earn a Credly-Verified Badge : https://www.credly.com/org/edchart-technologies/badge/edchart-certified-onnx-framework-ai-subject-matter-

The ONNX Framework AI Certification is your gateway to mastering AI model interoperability across platforms like PyTorch, TensorFlow, and Caffe2.

#ONNX #AIcertification #MachineLearning #DeepLearning #ArtificialIntelligence #ONNXRuntime #EdChart #Credly #OpenSourceAI #MastodonTech

Практика: мой опыт интеграции более 50 нейронных сетей в один проект

Статья основана на полутора годах работы по внедрению нейронных сетей в веб-приложение с открытым исходным кодом. В ней собраны практические лайфхаки для решения реальных задач и преодоления сложностей, с которыми сталкиваются разработчики. Преодолеть открытие

https://habr.com/ru/articles/856234/

#опыт #лайфхаки #torch #onnxruntime #нейронные_сети #cuda #python #github #lifehack #исскуственный_интеллект

Портируем ML модели на Java с помощью ONNX

Всем привет, меня зовут Евгений Мунин. Я Senior ML Engineer в Ad Tech, а точнее в программатик платформе по доставке Web рекламы. Сегодня речь пойдет про то, как сделать ML модели, совместимыми с бэк э

https://habr.com/ru/articles/833992/

#onnx #onnxruntime #python #java #machine_learning #adtech

Наш публичный детектор голоса стал быстрее в 3 раза (*), качественнее, устойчивее и теперь работает на 6 000 языках

Мы уже рассказывали про наш детектор голоса на Хабре тут , тут и тут . Кратко опишу, что стало лучше в этот раз: Поддержка 6 000+ языков; Общий рост качества на 5-7%; Существенно повышена устойчивость на шумных данных; TorchScript (*) стал в 3 раза быстрее, а ONNX - на 10% (теперь они примерно равны по скорости , обработка 1 кусочка аудио занимает 325 и 189 μs соответственно);

https://habr.com/ru/articles/825208/

#silero #voice_activity_detection #vad #детекция_голоса #onnx #onnxruntime #pytorch #python_3 #голосовой_помощник #голосовое_управление

Hmm, was dusting off the vtubing setup and tried to get OpenSeeFace to use my GPU via ROCm.

I've got rocminfo reporting correctly, onnxruntime lists ROCm as a provider...but...

Fails with runtime exception INVALID_ARGUMENT : unsupported conv activation mode "LeakyRelu"

AFAICT, ROCm/MIOpen should support LeakyRelu, but onnxruntime for ROCm was only set to use RelU... ::sigh:: time to patch and build?

#rocm #miopen #onnxruntime #gpgpu

Разворачиваем ML модель с использованием ONNX на Android в километре над землей

Иногда в жизни программиста возникают интересные задачи. Например, как перенести полученную ML модель, созданную в Python, на Android смартфон. Потому что этот самый смартфон пристегнут к параплану, висящему в километре над землей, а модель должна помогать пилоту лучше искать восходящие потоки. Интернета в полете при этом обычно нет, так что вариант с доступом к удаленному Python-серверу по API отпадает. Ноутбук с запущенным Jupyter с собой тоже не возьмешь. На помощь приходит промежуточный формат ONNX, созданный для обмена ML моделями между разными системами. Под катом описание того, как сконвертировать модель в этот формат и как загрузить и использовать ее в Android приложении.

https://habr.com/ru/articles/805515/

#onnx #onnxruntime #инференс #android_development #machine_learning