LlamaIndex安装和搭建

LlamaIndex安装和搭建

LlamaIndex 生态系统采用了一系列命名空间包来进行结构化。

对用户来说,这意味着 LlamaIndex 自带一个核心起始包,用户可以根据需要安装额外的集成

我们的临时注册表中提供了一个完整的包和可用集成的列表,这个注册表很快将迁移到 LlamaHub 上!

Pip 快速安装

pip install llama-index

这是一组起始包,包含以下内容:

  • llama-index-core
  • llama-index-legacy # temporarily included
  • llama-index-llms-openai
  • llama-index-embeddings-openai
  • llama-index-program-openai
  • llama-index-question-gen-openai
  • llama-index-agent-openai
  • llama-index-readers-file
  • llama-index-multi-modal-llms-openai

注意:LlamaIndex 可能会下载并存储各种包(如 NLTK、HuggingFace 等)的本地文件。使用环境变量“LLAMA_INDEX_CACHE_DIR”来控制这些文件的保存位置。

重要: OpenAI环境搭建

默认情况下,我们使用 OpenAI 的 gpt-3.5-turbo 模型进行文本生成,并使用 text-embedding-ada-002 进行检索和嵌入。为了使用这些功能,您必须设置 OPENAI_API_KEY 作为环境变量。您可以通过登录您的 OpenAI 账户并创建一个新的 API 密钥来获取 API 密钥。

Pip自定义安装

如果您没有使用 OpenAI,或者想要更具选择性地安装,您可以根据需要单独安装各个包。

例如,对于一个带有 Ollama 和 HuggingFace 嵌入的本地设置,安装可能如下所示:

pip install llama-index-core llama-index-readers-file llama-index-llms-ollama llama-index-embeddings-huggingface

安装源码

Git clone this repository: git clone https://github.com/jerryjliu/llama_index.git
然后做如下操作:

  • Install poetry – 这将帮助您管理软件包依赖项
  • poetry shell – 该命令创建一个虚拟环境,将安装的软件包限制在此项目中
  • poetry install – 这将安装核心起始包的必需软件包
  • (可选) poetry install --with dev, docs – 这将安装大多数本地开发所需的所有依赖项

然后,您可以根据需要使用 pip 安装集成。例如:

pip install -e llama-index-integrations/llms/llama-index-llms-ollama
赞(0)

评论 抢沙发

评论前必须登录!