安徽平台网站建设企业,商城网站建设模板,图文设计与制作,宁波app开发公司目录 前言一、LangChain1-1、介绍1-2、LangChain抽象出来的核心模块1-3、特点1-4、langchain解决的一些行业痛点1-5、安装 二、Model I/O模块2-0、Model I/O模块概要2-1、Format#xff08;Prompts Template#xff09;2-1-1、Few-shot prompt templates2-1-2、Chat模型的少样… 目录 前言一、LangChain1-1、介绍1-2、LangChain抽象出来的核心模块1-3、特点1-4、langchain解决的一些行业痛点1-5、安装 二、Model I/O模块2-0、Model I/O模块概要2-1、FormatPrompts Template2-1-1、Few-shot prompt templates2-1-2、Chat模型的少样本示例2-1-3、部分提示模板partial2-1-4、多个提示的组合2-1-5、序列化存储提示词2-1-6、例子选择器2-1-7、连接特征存储 2-2、PredictLLM调用以Chat 模型为主2-2-1、概要2-2-2、MessagePromptTemplate2-2-3、Caching2-2-4、流式响应 2-3、ParseOutput解析2-3-1、列表解析器2-3-2、datetime2-3-3、枚举解析器 附录1、开源特征存储框架Feast1-1、定义核心功能1-2、优势1-3、如何使用 总结 前言 LangChain给自身的定位是用于开发由大语言模型支持的应用程序的框架。它的做法是通过提供标准化且丰富的模块抽象构建大语言模型的输入输入规范利用其核心概念chains灵活地连接整个应用开发流程。 这里是LangChain系列的第二篇主要介绍Model I/O模块标准化LLM的输入输出。 一、LangChain
1-1、介绍
LangChain是一个框架用于开发由大型语言模型LLM驱动的应用程序。
LangChain 简化了 LLM 应用程序生命周期的每个阶段
开发使用LangChain的开源构建块和组件构建应用程序。使用第三方集成和模板开始运行。生产化使用 LangSmith 检查、监控和评估您的链条以便您可以自信地持续优化和部署。部署使用 LangServe 将任何链转换为 API。
总结 LangChain是一个用于开发由LLM支持的应用程序的框架通过提供标准化且丰富的模块抽象构建LLM的输入输出规范主要是利用其核心概念chains可以灵活地链接整个应用开发流程。即其中的每个模块抽象都是源于对大模型的深入理解和实践经验由许多开发者提供出来的标准化流程和解决方案的抽象再通过灵活的模块化组合才得到了langchain 1-2、LangChain抽象出来的核心模块
想象一下如果要组织一个AI应用开发者一般需要
提示词模板的构建不仅仅只包含用户输入模型调用与返回参数设置返回内容的格式化输出。知识库查询这里会包含文档加载切割以及转化为词嵌入Embedding向量。其他第三方工具调用一般包含天气查询、Google搜索、一些自定义的接口能力调用。记忆获取每一个对话都有上下文在开启对话之前总得获取到之前的上下文吧 由上边的内容引出LangChain抽象的一些核心模块 LangChain通过模块化的方式去高级抽象LLM在不同场景下的能力其中LangChain抽象出的最重要的核心模块如下‘
Model I/O 标准化各个大模型的输入和输出包含输入模版模型本身和格式化输出Retrieval 检索外部数据然后在执行生成步骤时将其传递到 LLM包括文档加载、切割、Embedding等Chains 链条LangChain框架中最重要的模块链接多个模块协同构建应用是实际运作很多功能的高级抽象Memory 记忆模块以各种方式构建历史信息维护有关实体及其关系的信息Agents 目前最热门的Agents开发实践未来能够真正实现通用人工智能的落地方案Callbacks 回调系统允许连接到 LLM 应用程序的各个阶段。用于日志记录、监控、流传输和其他任务
1-3、特点
LangChain的特点如下 大语言模型(llm): LangChain为自然语言处理提供了不同类型的模型这些模型可用于处理非结构化文本数据并且可以基于用户的查询检索信息 PromptTemplates: 这个特征使开发人员能够使用多个组件为他们的模型构造输入提示。在查询时开发人员可以使用PromptTemplates为用户查询构造提示模板之后模板会传递到大模型进行进一步的处理。 链:在LangChain中链是一系列模型它们被连接在一起以完成一个特定的目标。聊天机器人应用程序的链实例可能涉及使用LLM来理解用户输入使用内存组件来存储过去的交互以及使用决策组件来创建相关响应。 agent: LangChain中的agent与用户输入进行交互并使用不同的模型进行处理。Agent决定采取何种行动以及以何种顺序来执行行动。例如CSV Agent可用于从CSV文件加载数据并执行查询而Pandas Agent可用于从Pandas数据帧加载数据并处理用户查询。可以将代理链接在一起以构建更复杂的应用程序。 1-4、langchain解决的一些行业痛点
在使用大模型的过程中一些行业痛点
大模型的使用规范以及基于大模型的开发范式不尽相同当使用一个新模型时我们往往需要学习新的模型规范。大模型知识更新的滞后性大模型的外部API调用能力大模型输出的不稳定问题如何稳定输出大模型与私有化数据的连接方式
1-5、安装
pip install langchain二、Model I/O模块
前情概要 LangChain 提供的 LangChain Expression Language(LCEL) 让开发可以很方便地将多个组件连接成 AI 工作流。如下是一个简单的工作流 chain prompt | chatmodel | outputparser
chain.invoke({input:Whats your name?)其中通过由|管道操作符连接而成的 LangChain 表达式我们方便地将三个组件 prompt chatmodel outparser 按顺序连接起来这就形成了一个 AI 工作流。 invoke()则是实际运行这个工作流。
而LangChain 的 Model I/O 模块是与语言模型LLMs进行交互的核心组件它包括模型输入Prompts、模型输出Output Parsers和模型本身Models。
2-0、Model I/O模块概要
在LangChain的Model I/O模块设计中包含三个核心部分 Prompt Template对应下图中的Format部分 Model对应下图中的Predict部分 和Output Parser对应下图中的Parse部分。
Format即指代Prompts Template通过模板化来管理大模型的输入Predict即指代Models使用通用接口调用不同的大语言模型Parse即指代Output部分用来从模型的推理中提取信息并按照预先设定好的模版来规范化输出。 后续将介绍两种不同类型的模型——基础LLM和Chat LLM。然后介绍如何使用Prompt Templates格式化这些模型的输入以及如何使用Output parser处理输出。 Base LLM
LangChain中的llm指的是纯文本补全模型(text completion)。它们包装的api接受字符串提示符作为输入输出字符串补全。
Chat LLM
Chat LLM通常由Base LLM支撑但专门针对对话进行了调整。并且使用与Base LLM不同的调用接口。将聊天消息列表作为输入得到Response 类型而并不仅仅是字符串。
2-1、FormatPrompts Template 一般来说我们创建提示词模板主要是通过手动编写实现的并且需要利用各种提示词工程技巧如Few-ShotCot等。而固定的提示词只会限制模型的灵活性和适用范围。 那么怎么让Prompts Template变得更灵活呢 2-1-1、Few-shot prompt templates
Few-shot prompt templates 少样本示例提示模板
创建少量示例的列表每个示例是一个字典即输入变量输出变量。配置一个将少量示例格式化为字符串的格式化程序。该格式化程序应该是一个 PromptTemplate 对象。最后创建一个 FewShotPromptTemplate 对象。该对象接受少量示例和少量示例的格式化程序。
from langchain.prompts.few_shot import FewShotPromptTemplate
from langchain.prompts.prompt import PromptTemplateexamples [{question: Who lived longer, Muhammad Ali or Alan Turing?,answer: Are follow up questions needed here: Yes.
Follow up: How old was Muhammad Ali when he died?
Intermediate answer: Muhammad Ali was 74 years old when he died.
Follow up: How old was Alan Turing when he died?
Intermediate answer: Alan Turing was 41 years old when he died.
So the final answer is: Muhammad Ali
},{question: When was the founder of craigslist born?,answer: Are follow up questions needed here: Yes.
Follow up: Who was the founder of craigslist?
Intermediate answer: Craigslist was founded by Craig Newmark.
Follow up: When was Craig Newmark born?
Intermediate answer: Craig Newmark was born on December 6, 1952.
So the final answer is: December 6, 1952
},{question: Who was the maternal grandfather of George Washington?,answer:Are follow up questions needed here: Yes.
Follow up: Who was the mother of George Washington?
Intermediate answer: The mother of George Washington was Mary Ball Washington.
Follow up: Who was the father of Mary Ball Washington?
Intermediate answer: The father of Mary Ball Washington was Joseph Ball.
So the final answer is: Joseph Ball
},{question: Are both the directors of Jaws and Casino Royale from the same country?,answer:Are follow up questions needed here: Yes.
Follow up: Who is the director of Jaws?
Intermediate Answer: The director of Jaws is Steven Spielberg.
Follow up: Where is Steven Spielberg from?
Intermediate Answer: The United States.
Follow up: Who is the director of Casino Royale?
Intermediate Answer: The director of Casino Royale is Martin Campbell.
Follow up: Where is Martin Campbell from?
Intermediate Answer: New Zealand.
So the final answer is: No
}
]example_prompt PromptTemplate(input_variables[question, answer], templateQuestion: {question}\n{answer})
print(example_prompt.format(**examples[0]))
# 这里输出的是第一个范例prompt FewShotPromptTemplate(examplesexamples, example_promptexample_prompt, suffixQuestion: {input}, input_variables[input]
)
print(prompt.format(inputWho was the father of Mary Ball Washington?))输出 得到的就是我们的范例最后的问题模板啦 2-1-2、Chat模型的少样本示例
Demo1 使用AiHuman Message交替形成历史记录
ChatPromptTemplate 是 LangChain 库中用于生成与语言模型进行对话式交互提示的类。它特别适合于需要考虑上下文连续性和历史对话信息的场景如构建聊天机器人或处理连续的文本交互任务。主要方法介绍如下
from_messages从多种消息格式中创建聊天提示模板使用不同的类 包含SystemMessagePromptTemplate、HumanMessagePromptTemplate 和 AIMessagePromptTemplate即系统提示词、人类提示词以及AI回复。
from langchain.chat_models import ChatOpenAI
from langchain import PromptTemplate, LLMChain
from langchain.prompts.chat import (ChatPromptTemplate,SystemMessagePromptTemplate,AIMessagePromptTemplate,HumanMessagePromptTemplate,
)
from langchain.schema import AIMessage, HumanMessage, SystemMessageos.environ[ZHIPUAI_API_KEY]
chat ChatZhipuAI(modelglm-4,temperature0.5,
)template You are a helpful assistant that translates english to pirate.
system_message_prompt SystemMessagePromptTemplate.from_template(template)
example_human HumanMessagePromptTemplate.from_template(Hi)
example_ai AIMessagePromptTemplate.from_template(Argh me mateys)
human_template {text}
human_message_prompt HumanMessagePromptTemplate.from_template(human_template)chat_prompt ChatPromptTemplate.from_messages([system_message_prompt, example_human, example_ai, human_message_prompt]
)
chain LLMChain(llmchat, promptchat_prompt)
# get a chat completion from the formatted messages
chain.run(I love programming.)输出
“Arr, me hearties, I be a landlubber who be lovin’ the art o’ code!”
2-1-3、部分提示模板partial
部分提示模板 partial: 希望部分填充提示模板的一个常见用例是如果您在获取某些变量之前获得了其他变量。先固定一些变量其他变量是用户输入的。两种方式
使用字符串值进行部分格式化。使用返回字符串值的函数进行部分格式化。
案例 先传入函数来得到部分变量。
from datetime import datetimedef _get_datetime():now datetime.now()return now.strftime(%m/%d/%Y, %H:%M:%S)prompt PromptTemplate(templateTell me a {adjective} joke about the day {date}, input_variables[adjective, date]
);
partial_prompt prompt.partial(date_get_datetime)
print(partial_prompt.format(adjectivefunny))输出 Tell me a funny joke about the day 02/27/2023, 22:15:16
或者是直接在初始化中赋予
prompt PromptTemplate(templateTell me a {adjective} joke about the day {date}, input_variables[adjective],partial_variables{date: _get_datetime}
);
print(prompt.format(adjectivefunny))2-1-4、多个提示的组合
组合 如何将多个提示组合在一起可以通过PipelinePrompt来实现。PipelinePrompt由两个主要部分组成:
最终提示: 返回的最终提示管道提示: 由一个字符串名称和一个提示模板组成的元组列表。每个提示模板将被格式化然后作为相同名称的变量传递给未来的提示模板。
PipelinePromptTemplate: 是 LangChain 中用于组合多个提示模板一起使用的高级工具。它特别适用于需要将多个步骤或组件组合在一起以实现更复杂任务的场景例如数据预处理、模型推理和后处理。使用 PipelinePromptTemplate 时你可以定义一个最终提示final prompt和一系列管道提示pipeline prompts。每个管道提示都会被格式化然后作为变量传递给后续的提示模板。这种方式允许你重用提示模板的各个部分并且可以构建复杂的提示流程。实施步骤如下
定义最终提示这是返回的最终提示模板可以是一个 PromptTemplate 实例。定义管道提示这是一系列元组每个元组包含一个字符串名称和一个提示模板。每个提示模板将被格式化然后作为变量传递给后续的提示模板。创建 PipelinePromptTemplate 实例使用最终提示和管道提示列表创建 PipelinePromptTemplate 的实例。格式化和调用使用输入变量格式化管道提示然后调用最终提示模板。
from langchain.prompts.pipeline import PipelinePromptTemplate
from langchain.prompts.prompt import PromptTemplatefull_template {introduction}{example}{start}
full_prompt PromptTemplate.from_template(full_template)introduction_template You are impersonating {person}.
introduction_prompt PromptTemplate.from_template(introduction_template)example_template Heres an example of an interaction: Q: {example_q}
A: {example_a}
example_prompt PromptTemplate.from_template(example_template)start_template Now, do this for real!Q: {input}
A:
start_prompt PromptTemplate.from_template(start_template)input_prompts [(introduction, introduction_prompt),(example, example_prompt),(start, start_prompt)
]
pipeline_prompt PipelinePromptTemplate(final_promptfull_prompt, pipeline_promptsinput_prompts)pipeline_prompt.input_variables输出 构建好的管道提示词所需要的输入变量如下 [‘input’, ‘example_q’, ‘example_a’, ‘person’]
print(pipeline_prompt.format(personElon Musk,example_qWhats your favorite car?,example_aTelsa,inputWhats your favorite social media site?
))输出 You are impersonating Elon Musk.
Here’s an example of an interaction:
Q: What’s your favorite car? A: Telsa
Now, do this for real!
Q: What’s your favorite social media site? A:
2-1-5、序列化存储提示词
序列化存储提示词 通常最好将提示存储为文件而不是Python代码。这样可以方便地共享、存储和版本化提示。
以下为从JSON中加载的代码
# 所有的提示都通过load_prompt函数加载。
from langchain.prompts import load_promptprompt load_prompt(simple_prompt.json)
print(prompt.format(adjectivefunny, contentchickens))simple_prompt.json
{_type: prompt,input_variables: [adjective, content],template: Tell me a {adjective} joke about {content}.}2-1-6、例子选择器 主要内容自定义示例选择器以及采用不同算法来根据示例与输入之间的相似度、多样性来选择示例。 待后续补充。 2-1-7、连接特征存储
开源的特征存储框架 feast详细介绍见附录
2-2、PredictLLM调用以Chat 模型为主
2-2-1、概要
1、模型设置 这里我们依旧使用智谱AI来设置模型
from langchain_community.chat_models import ChatZhipuAI
from langchain_core.messages import AIMessage, HumanMessage, SystemMessage
import osos.environ[ZHIPUAI_API_KEY]
chat ChatZhipuAI(modelglm-4,temperature0.5,
)2、Messages LangChain 目前支持的消息类型有“AIMessage”“HumanMessage”“SystemMessage”和“ChatMessage”
messages [# AIMessage(contentHi.),# SystemMessage(content你是一个数学家,只会回答数学问题.),HumanMessage(content已知一张桌子的价钱是一把椅子的10倍又知一张桌子比一把椅子多288元一张桌子和一把椅子各多少元),
]
response chat.invoke(messages)
print(response.content) 输出 设一把椅子的价格为x元那么根据题目中的信息一张桌子的价格就是10x元。
题目还告诉我们一张桌子比一把椅子多288元所以我们可以建立以下等式
10x - x 288
这个等式表示桌子的价格减去椅子的价格等于288元。接下来我们解这个方程
9x 288
为了找到x的值我们将两边都除以9
x 288 / 9 x 32
所以一把椅子的价格是32元。现在我们可以计算出桌子的价格
桌子的价格 10 * x 10 * 32 320元
综上所述一张桌子的价格是320元一把椅子的价格是32元。
查看完整输出
chat(messages)输出
3、generate 多组提示
batch_messages [[SystemMessage(contentYou are a helpful assistant that translates English to French.),HumanMessage(contentI love programming.)],[SystemMessage(contentYou are a helpful assistant that translates English to French.),HumanMessage(contentI love artificial intelligence.)],
]
chat.generate(batch_messages)输出
2-2-2、MessagePromptTemplate
MessagePromptTemplate 如何从一个或多个 MessagePromptTemplates 构建一个 ChatPromptTemplate。
ChatPromptTemplate 的 format_prompt 方法这将返回一个 PromptValue您可以将其转换为字符串或消息对象。
from langchain import PromptTemplate
from langchain.prompts.chat import (ChatPromptTemplate,SystemMessagePromptTemplate,AIMessagePromptTemplate,HumanMessagePromptTemplate,
)templateYou are a helpful assistant that translates {input_language} to {output_language}.
system_message_prompt SystemMessagePromptTemplate.from_template(template)
human_template{text}
human_message_prompt HumanMessagePromptTemplate.from_template(human_template)chat_prompt ChatPromptTemplate.from_messages([system_message_prompt, human_message_prompt])# get a chat completion from the formatted messages
chat(chat_prompt.format_prompt(input_languageEnglish, output_languageFrench, textI love programming.).to_messages())输出
2-2-3、Caching
Caching: 它可以通过减少对LLM提供者的API调用次数来节省费用如果您经常多次请求相同的完成。 它可以通过减少对LLM提供者的API调用次数来加快应用程序的速度。
from langchain.cache import InMemoryCache
import langchain
from langchain_community.chat_models import ChatZhipuAI
from langchain_core.messages import AIMessage, HumanMessage, SystemMessage
import osos.environ[ZHIPUAI_API_KEY]
chat ChatZhipuAI(modelglm-4,temperature0.5,
)langchain.llm_cache InMemoryCache()# The first time, it is not yet in cache, so it should take longer
# 二次调用时速度加快很多。
chat.predict(Tell me a farker)SQLlite缓存
# We can do the same thing with a SQLite cache
from langchain.cache import SQLiteCachelangchain.llm_cache SQLiteCache(database_path.langchain.db)# The first time, it is not yet in cache, so it should take longer
chat.predict(Tell me a joke)2-2-4、流式响应
Stream: 一些聊天模型提供流式响应。这意味着你可以在整个响应返回之前就开始处理它而不是等待整个响应返回。如果你想要在生成响应时将其显示给用户或者在生成响应时处理响应这将非常有用。
from langchain.chat_models import ChatOpenAI
from langchain.schema import (HumanMessage,
)from langchain.callbacks.streaming_stdout import StreamingStdOutCallbackHandlerfrom langchain_community.chat_models import ChatZhipuAI
from langchain_core.messages import AIMessage, HumanMessage, SystemMessage
import osos.environ[ZHIPUAI_API_KEY]
chat ChatZhipuAI(modelglm-4,temperature0.5,streamingTrue, callbacks[StreamingStdOutCallbackHandler()]
)
resp chat([HumanMessage(contentWrite me a song about sparkling water.)])输出 2-3、ParseOutput解析
2-3-1、列表解析器
列表解析器
CommaSeparatedListOutputParser: 将输出解析为逗号分割列表的类。get_format_instructions() 获取列表解析的格式化指令得到的最终即format_instructions 为‘Your response should be a list of comma separated values, eg: foo, bar, baz or foo,bar,baz’PromptTemplate 用于构建提示词模板参数详细介绍template定义提示词模板的字符串其中包含文本和变量占位符input_variables: 列表指定了模板中可以使用的变量名称在调用模板时被替换partial_variables字典用于定义模板中一些固定的变量名。这些值不需要再每次调用时被替换。format传入模板中的变量名。
from langchain.output_parsers import CommaSeparatedListOutputParser
from langchain.prompts import PromptTemplate, ChatPromptTemplate, HumanMessagePromptTemplate
from langchain.llms import OpenAI
from langchain.chat_models import ChatOpenAIoutput_parser CommaSeparatedListOutputParser()format_instructions output_parser.get_format_instructions()prompt PromptTemplate(templateList five {subject}.\n{format_instructions},input_variables[subject],partial_variables{format_instructions: format_instructions}
)os.environ[ZHIPUAI_API_KEY]
chat ChatZhipuAI(modelglm-4,temperature0.5,
)_input prompt.format(subjectice cream flavors)
output chat.invoke(_input)
output_parser.parse(output.content)输出 [‘Vanilla’, ‘Chocolate’, ‘Strawberry’, ‘Mint Chocolate Chip’, ‘Rocky Road’]
2-3-2、datetime
日期解析器
DatetimeOutputParser 日期解析类。get_format_instructions() 获取日期解析的格式化指令指令为 “Write a datetime string that matches the following pattern: ‘%Y-%m-%dT%H:%M:%S.%fZ’.\n\nExamples: 1206-08-16T17:39:06.176399Z, 1151-09-19T07:15:29.949318Z, 0546-08-24T23:43:17.193459Z\n\nReturn ONLY this string, no other words!” LLMChain 代表了与LLM交互的链这个链通常包括一个提示模板PromptTemplate一个语言模型LLM以及一个输出解析器OutputParser。LLMChain 的目的是将这些组件组合起来以便可以轻松地生成和处理语言模型的输出。这里直接传入OutputParser会报错所以先在构建提示模板时插入格式化指令run接受输入通过提示词模板生成提示将其传递给LLM并且得到结果。
from langchain.prompts import PromptTemplate
from langchain.output_parsers import DatetimeOutputParser
from langchain.chains import LLMChain
from langchain.llms import OpenAIoutput_parser DatetimeOutputParser()
template Answer the users question:{question}{format_instructions}
prompt PromptTemplate.from_template(template,partial_variables{format_instructions: output_parser.get_format_instructions()},
)os.environ[ZHIPUAI_API_KEY]
chat ChatZhipuAI(modelglm-4,temperature0.5,
)chain LLMChain(promptprompt, llmchat)
output chain.run(around when was bitcoin founded?)
output输出 ‘2009-01-03T00:00:00.000000Z’
2-3-3、枚举解析器
枚举解析器 将LLM的输出解析为预定义的枚举值。操作步骤如下
枚举定义首先需要定义一个枚举类该类继承自Python的Enum类。创建解析器实例使用定义的枚举类来创建实例。解析输出调用parse方法传入模型的输出字符串解析器会将其匹配到枚举类中的一个值。
from langchain.output_parsers.enum import EnumOutputParserfrom enum import Enumclass Colors(Enum):RED redGREEN greenBLUE blueparser EnumOutputParser(enumColors)
parser.parse(red)# Can handle spaces
parser.parse( green)# And new lines
parser.parse(blue\n)输出
Colors.BLUE: ‘blue’
附录
1、开源特征存储框架Feast
1-1、定义核心功能 Feast 是一个开源的特征存储框架专门为机器学习而设计。它允许组织存储和一致性地提供特征以支持离线训练和在线推理。Feast 的主要目标是帮助数据科学家和机器学习工程师更高效地管理和使用特征数据从而加速机器学习模型的开发和部署过程。 Feast 的核心功能包括
特征定义和管理Feast 允许用户通过 Python API 或 YAML 文件定义特征。用户可以指定特征的名称、类型、数据源等元数据信息。这些定义被存储在一个中央注册表中方便团队成员查看和重用 。离线存储Feast 支持多种离线存储选项如 Snowflake、BigQuery、Redshift 等。这些存储用于处理大规模的历史数据支持批量评分和模型训练 。在线存储为了支持低延迟的实时预测Feast 提供了多种在线存储选项如 Redis、DynamoDB、Bigtable 等。这些存储可以快速服务预计算的特征值 。特征服务Feast 提供了 Python、Java 和 Go 版本的特征服务器可以快速检索在线特征。这使得实时预测变得简单高效 。点时间正确性Feast 确保在生成训练数据集时不会出现数据泄露通过生成点时间正确的特征集来实现这一点 。数据源集成Feast 支持多种数据源包括批处理源如 Parquet 文件、SQL 数据库和流式源如 Kafka。这种灵活性使得 Feast 可以适应各种数据基础设施 。
1-2、优势
Feast 的优势 1、一致性Feast 确保在模型训练和在线推理过程中使用相同的特征定义和转换逻辑减少了模型在生产环境中的不一致性。 2、可重用性通过中央化的特征定义团队成员可以轻松地重用和共享特征提高了工作效率。 3、可扩展性Feast 的架构设计支持大规模数据处理和服务可以随着机器学习项目的增长而扩展。 4、灵活性支持多种存储后端和数据源可以适应不同的技术栈和基础设施需求。 5、开源生态作为一个活跃的开源项目Feast 拥有庞大的社区支持和持续的功能更新 。 1-3、如何使用
如何开始使用 Feast
1、安装 Feast通过 pip 安装 Feast。
pip install feast2、创建特征仓库使用 feast init 命令初始化一个新的特征仓库。
feast init my_feature_repo
cd my_feature_repo/feature_repo3、定义特征编辑 feature_repo.py 文件定义你的数据源和特征视图。
from feast import Entity, Feature, FeatureView, FileSource, ValueType# 定义数据源
driver_hourly_stats FileSource(path/path/to/driver_stats.parquet,event_timestamp_columnevent_timestamp,created_timestamp_columncreated,
)# 定义实体
driver Entity(namedriver_id, value_typeValueType.INT64, descriptiondriver id)# 定义特征视图
driver_hourly_stats_view FeatureView(namedriver_hourly_stats,entities[driver_id],ttltimedelta(seconds86400 * 1),features[Feature(nameconv_rate, dtypeValueType.FLOAT),Feature(nameacc_rate, dtypeValueType.FLOAT),Feature(nameavg_daily_trips, dtypeValueType.INT64),],onlineTrue,batch_sourcedriver_hourly_stats,tags{},
)4、部署特征存储使用 feast apply 命令部署特征存储。
feast apply5、探索数据使用 Feast 的 Web UI实验性探索数据。
feast ui6、构建训练数据集使用 Feast SDK 构建训练数据集。 7、加载特征值使用 feast materialize-incremental 命令将特征值加载到在线存储中。
CURRENT_TIME$(date -u %Y-%m-%dT%H:%M:%S)
feast materialize-incremental $CURRENT_TIME8、读取在线特征使用 Feast SDK 读取在线特征以进行实时预测。
from feast import FeatureStorestore FeatureStore(repo_path.)feature_vector store.get_online_features(features[driver_hourly_stats:conv_rate,driver_hourly_stats:acc_rate,driver_hourly_stats:avg_daily_trips],entity_rows[{driver_id: 1001}]
).to_dict()print(feature_vector)参考文章
langchain_community.utilities.sql_database.SQLDatabase LangChain ️ 中文网跟着LangChain一起学LLM/GPT开发 LangChain官网 Rebuff: 防止提示词注入检测器
未完成 Build a Question/Answering system over SQL data langchain101 AI应用开发指南 ZhiPuAI——API官方文档
总结 人生而自由却无往不在枷锁之中。
