Spring AI: retrieval augmented generation

Spring AI , который только недавно получил первую стабильную версию, уже предоставляет довольно много возможностей для работы с RAG ( retrieval augmented generation ). Благодаря этому подходу нейросеть перед тем, как дать ответ на запрос пользователя, выполнит поиск подходящей информации в векторном хранилище. Причём каждый документ хранится не в виде текста, а в виде массива чисел (т.н. «векторов»). Процесс преобразования различных документов в такой векторный формат выполняется опять же с помощью LLM и называется embedding («встраивание»). Хорошая новость заключается в том, что всё это можно легко сделать с помощью Spring AI.

https://habr.com/ru/articles/920992/

#spring_ai #rag #kotlin #java #openai #pgvector #postgres #spring

Семантический поиск по статьям Хабра в PostgreSQL + индексация текстов LLM в Ollama

Покажу вам практическую реализацию семантического поиска на основе векторных представлений - эмбеддингов из текста. Здесь я создам систему, которая анализирует статьи с Хабра, извлекает из них темы и ключевые слова с помощью локально работающих больших языковых моделей LLM, и на основе этих данных создает векторные представления для эффективного поиска по смыслу, а не по запросу на вхождение определенного текста.

https://habr.com/ru/articles/915348/

#семантический_поиск #postgresql #pgvector #llmприложения #ollama #spring_ai #java #обработка_естественного_языка #поисковые_системы

[Перевод] Концерт для Java с ИИ — разработка готовых к продакшен LLM приложений (часть 2)

Команда Spring АйО перевела и адаптировала доклад Томаса Витале “Concerto for Java and AI — Building Production-Ready LLM Applications”, в котором рассказывается по шагам, как усовершенствовать интерфейс приложения с помощью больших языковых моделей (LLM). В качестве примера автор доклада на глазах слушателей разрабатывает приложение-ассистент для композитора, пишущего музыку для фильмов. В первой части рассказывалось о том, какие подходы автор доклада применил к стоящей перед ним проблеме. Также было показано начало работы над усовершенствованием интерфейса программы-помощника с использованием ИИ. Во второй части будет продолжен рассказ о том, как еще больше улучшить программу. Но сначала поговорим о безопасности.

https://habr.com/ru/companies/spring_aio/articles/893052/

#llm #spring_ai #postgresql #grafana #testcontainers #embeddings

[Перевод] Концерт для Java с ИИ — разработка готовых к продакшен LLM приложений

Команда Spring АйО перевела и адаптировала доклад Томаса Витале “Concerto for Java and AI — Building Production-Ready LLM Applications”, в котором рассказывается по шагам, как усовершенствовать интерфейс приложения с помощью больших языковых моделей (LLM). В качестве примера автор доклада на глазах слушателей разрабатывает приложение-ассистент для композитора, пишущего музыку для фильмов. Доклад будет опубликован двумя частями. В первой части рассказывается о том, как возникла проблема, какие подходы автор доклада применил к ее решению и как реализовать автоматическую классификацию персональных заметок композитора по типам, используя ИИ.

https://habr.com/ru/companies/spring_aio/articles/890966/

#spring_ai #llm #ai #generative_ai #fewshot_prompting

[Перевод] Spring AI научился видеть! Показываю, как заставить GPT находить бананы на картинках

Новый перевод от команды Spring АйО расскажет вам о работе с мультимодальностью при работе со Spring AI и о различных вариантах работы с графическими изображениями с использованием искусственного интеллекта.

https://habr.com/ru/companies/spring_aio/articles/889974/

#spring_ai #multimodality #images #image_generation #image_recognition

Как сделать Telegram-бота умнее: пошаговый гайд на Spring AI и Kotlin

Перед вами ещё один гайд о том, как написать свой telegram-бот, который взаимодействует с нейросетью. Мы напишем его таким образом, чтобы с нейросетью можно было вести диалог, т.е. рассмотрим, как сохранять контекст между сообщениями. Но таких гайдов, особенно для Python, уже написано немало. Поэтому напишем его на новом фреймворке Spring AI из эксосистемы Spring. А чтобы совсем было интересно - писать будем на Kotlin)

https://habr.com/ru/companies/dockhost/articles/884876/

#chatgpt #openai #spring_ai #kotlin #telegram

[Перевод] Эволюция экосистемы Java под интеграцию ИИ

Новый перевод от команды Spring АйО расскажет вам, как новые библиотеки и фреймворки расширяют экосистему Java, делая возможной интеграцию ИИ-решений в приложения, написанные на Java. Статья также включает в себя туториал, рассказывающий по шагам, как написать простой помощник по отладке приложений на Java, используя возможности больших языковых моделей.

https://habr.com/ru/companies/spring_aio/articles/883964/

#java #spring_ai #LangChain4J #Jlama #generative_ai #oracle

[Перевод] Разработка эффективных агентов с помощью Spring AI (Часть 1)

Команда Spring АйО перевела статью, в которой рассказывается про разработку эффективных агентов с помощью Spring AI. Исследование Anthropic "Building effective agents" подчеркивает важность простоты и модульности в разработке LLM-агентов. В статье рассматривается, как эти принципы реализуются в Spring AI через пять ключевых паттернов: Chain Workflow, Parallelization Workflow, Routing Workflow, Orchestrator-Workers и Evaluator-Optimizer.

https://habr.com/ru/companies/spring_aio/articles/877196/

#java #kotlin #ai #spring #spring_boot #spring_framework #spring_ai

[Перевод] AI-ассистент с помощью Spring AI

Команда Spring АйО перевела туториал, в котором рассматриваются возможности Spring AI для интеграции с LLM. Вы узнаете, как использовать API Function Calling для выполнения задач на естественном языке, генерировать ответы в JSON-формате и сохранять контекст диалога.

https://habr.com/ru/companies/spring_aio/articles/869080/

#java #kotlin #ai #spring #spring_boot #spring_framework #spring_ai

[Перевод] Состояние Spring в 2024 году

Команда Spring АйО перевела важнейший документ для Spring-разработчиков! В начале июня компания VMWare, владеющая Spring, опубликовала результаты исследования, в котором приняло учатие более 1,500 разработчиков по всему миру. Отчёт получился действительно интересным и всеобъемлющим. Были рассмотрены как базовые темы, такие как выбор архитектурных подходов и типов API, так и продвинутые, такие как компиляция в Native Image и использование Spring вместе с Kubernetes.

https://habr.com/ru/companies/spring_aio/articles/834050/

#spring #springboot #java #kotlin #kubernetes #spring_ai

ChatGPT на Java. Пишем “Hello World” на Spring AI

В преддверии Нового Года, начинаем осваивать генеративные сети с помощью привычного всем Java разработчикам фреймворка Spring. Несколько месяцев назад в Spring добавили модуль AI, который упрощает работу с нейронками от OpenAI и Azure. Давайте же напишем первое приложение с новым модулем!

https://habr.com/ru/articles/784128/

#java #chatgpt #Spring #Spring_AI #openai