У ChatGPT очень простое API и первые эксперименты пишутся на нем в 40 строк. При этом там нет никаких инструментов ни для чего кроме автоматизации запросов. На фоне этого стал популярен фреймворк Langchain.
Langchain предлагает готовые инструменты для работы с текстом и для частотных задач, которые возникают во время работы с языковыми моделями: выгрузка данных, разбивка данных на куски, последовательная обработка данных через языковую модель, объединение последовательных запросов языковой модели в цепочку.
На этой странице я попробую покрыть все необходимое, чтобы начать разрабатывать свои продукты с применением Langchain.
Главная идея — дать возможность связывать между собой разные компоненты в цепочки, чтобы создать продвинутые кейсы использования языковых моделей.
Эти цепочки могут состоять из нескольких компонентов из списка модулей:
Prompt templates — модуль с шаблонами для разных типов промптов. К примеру шаблоны для «чатботов» или «ответы на вопросы»LLMs — модуль для больших языковых моделей.Agents — агенты используют запросы в языковую модель для принятия решений, какие действия должны быть предприняты. Затем они точечно вызывают утилиты, как веб-поиск или калькулятор.Memory — короткая и долгосрочная память.