gradio快速入门 — Interface状态

目录

到目前为止,我们假设您的演示是无状态的 :它们不会保留单个函数调用以外的信息。如果您想根据与演示的先前交互来修改演示的行为,该怎么办? Gradio 中有两种方法:全局状态会话状态

全局状态

如果状态是所有函数调用和所有用户都应该可以访问的,则可以在函数调用之外创建一个变量,并在函数内部访问它。例如,您可以在函数外部加载一个大型模型,并在函数内部使用它,这样每次函数调用都不需要重新加载模型。

python 复制代码
import gradio as gr

scores = []

def track_score(score):
    scores.append(score)
    top_scores = sorted(scores, reverse=True)[:3]
    return top_scores

demo = gr.Interface(
    track_score, 
    gr.Number(label="Score"), 
    gr.JSON(label="Top Scores")
)
demo.launch()

在上面的代码中,scores数组在所有用户之间共享。如果多个用户正在访问此演示,他们的分数将全部添加到同一个列表中,并从此共享引用中收集返回的前 3 个分数。

会话状态

Gradio 支持的另一种数据持久性类型是会话状态,其中数据在页面会话中的多次提交中保持不变。但是,数据不会模型的不同用户之间共享。要将数据存储在会话状态中,您需要做三件事:

  1. 将一个额外的参数传入你的函数,它代表接口的状态。
  2. 在函数的最后,将状态的更新值作为额外的返回值返回。
  3. 在创建Interface时添加'state'输入和'state'输出组件

这是一个用于说明会话状态的简单应用程序 - 该应用程序仅存储用户以前的提交并将其显示给用户:

python 复制代码
import gradio as gr

def store_message(message: str, history: list[str]):
    output = {
        "Current messages": message,
        "Previous messages": history[::-1]
    }
    history.append(message)
    return output, history

demo = gr.Interface(fn=store_message, 
                    inputs=["textbox", gr.State(value=[])], 
                    outputs=["json", gr.State()])

demo.launch()

请注意,状态在每个页面的提交之间如何保持不变,但如果您在另一个选项卡中加载此演示(或刷新页面),则演示将不会共享聊天历史记录。在这里,我们不能将提交历史记录存储在全局变量中,否则提交历史记录会在不同的用户之间混乱。

的初始值State默认None为。如果将参数传递给value的参数gr.State(),则它将被用作状态的默认值。

注意:该类Interface仅支持单个会话状态变量(尽管它可以是包含多个元素的列表)。对于更复杂的用例,您可以使用支持多个State变量的 Blocks 。或者,如果您正在构建一个维护用户状态的聊天机器人,请考虑使用自动管理状态的ChatInterface抽象。

相关推荐
AGI学习社1 分钟前
2024中国排名前十AI大模型进展、应用案例与发展趋势
linux·服务器·人工智能·华为·llama
黑客-雨6 分钟前
从零开始:如何用Python训练一个AI模型(超详细教程)非常详细收藏我这一篇就够了!
开发语言·人工智能·python·大模型·ai产品经理·大模型学习·大模型入门
加油,旭杏15 分钟前
【go语言】变量和常量
服务器·开发语言·golang
孤独且没人爱的纸鹤20 分钟前
【机器学习】深入无监督学习分裂型层次聚类的原理、算法结构与数学基础全方位解读,深度揭示其如何在数据空间中构建层次化聚类结构
人工智能·python·深度学习·机器学习·支持向量机·ai·聚类
l1x1n023 分钟前
No.35 笔记 | Python学习之旅:基础语法与实践作业总结
笔记·python·学习
wanhengidc34 分钟前
网站服务器中的文件被自动删除的原因
运维·服务器
9毫米的幻想1 小时前
【Linux系统】—— 编译器 gcc/g++ 的使用
linux·运维·服务器·c语言·c++
是Dream呀1 小时前
Python从0到100(八十五):神经网络-使用迁移学习完成猫狗分类
python·神经网络·迁移学习
小林熬夜学编程1 小时前
【Python】第三弹---编程基础进阶:掌握输入输出与运算符的全面指南
开发语言·python·算法
小深ai硬件分享2 小时前
Keras、TensorFlow、PyTorch框架对比及服务器配置揭秘
服务器·人工智能·深度学习