BUG: gradio RuntimeError: async generator raised StopAsyncIteration

BUG: gradio RuntimeError: async generator raised StopAsyncIteration

环境

python 复制代码
gradio                        4.20.0

详情

在使用gradio编写大模型可视化demo的时候,大模型正常输出,但gradio弹出此错误。

经过排除,发现是返回方式的问题,gradio传输信息给web网页的时候,我使用了return,但实际上应该 使用yield

解决方法

return改为yield

例子

python 复制代码
# 旧
def generate(message: str) -> Iterator[str]:
    stream = False
    response = "你好"
    if stream:
        for _ in range(5):
		        response += response
            yield response
    else:
        return response  # 错误

# 新
def generate(message: str) -> Iterator[str]:
    stream = False
    response = "你好"
    if stream:
        for _ in range(5):
		        response += response
            yield response
    else:
        yield response  # 正确

相关推荐
老前端的功夫4 分钟前
【Java从入门到入土】21:List三剑客:ArrayList、LinkedList、Vector的爱恨情仇
java·javascript·网络·python·list
吃一根烤肠4 分钟前
Trae Builder模式实战:10分钟生成可部署的Flask电商项目
python·flask·建造者模式
samson_www7 分钟前
用nssm部署FASTAPI服务
数据库·python·fastapi
小李云雾8 分钟前
零基础-从ESS6基础到前后端联通实战
前端·python·okhttp·中间件·eclipse·html·fastapi
axinawang18 分钟前
XPath与lxml解析库
爬虫·python
电商API&Tina22 分钟前
唯品会数据采集API接口||电商API数据采集
java·javascript·数据库·python·sql·json
zero159733 分钟前
Python 8天极速入门笔记(大模型工程师专用):第三篇-列表与字典(Python核心数据结构,大模型必备)
开发语言·python·ai编程
书到用时方恨少!37 分钟前
Python 零基础入门系列(十一):模块和包
开发语言·python
阿kun要赚马内1 小时前
Python面向对象编程:封装性
开发语言·python
Yao.Li1 小时前
PVN3D TensorRT 环境配置指南
人工智能·python·具身智能