BUG: gradio RuntimeError: async generator raised StopAsyncIteration

BUG: gradio RuntimeError: async generator raised StopAsyncIteration

环境

python 复制代码
gradio                        4.20.0

详情

在使用gradio编写大模型可视化demo的时候,大模型正常输出,但gradio弹出此错误。

经过排除,发现是返回方式的问题,gradio传输信息给web网页的时候,我使用了return,但实际上应该 使用yield

解决方法

return改为yield

例子

python 复制代码
# 旧
def generate(message: str) -> Iterator[str]:
    stream = False
    response = "你好"
    if stream:
        for _ in range(5):
		        response += response
            yield response
    else:
        return response  # 错误

# 新
def generate(message: str) -> Iterator[str]:
    stream = False
    response = "你好"
    if stream:
        for _ in range(5):
		        response += response
            yield response
    else:
        yield response  # 正确

相关推荐
qq_372154231 分钟前
Python中如何快速创建全零数组_使用NumPy的zeros函数初始化内存
jvm·数据库·python
2301_796588503 分钟前
Tailwind CSS如何快速实现居中对齐_使用mx-auto类实现CSS块级居中
jvm·数据库·python
码点滴4 分钟前
上下文压缩不是“丢数据“:Context Compressor 的血缘追踪与 Prefix Cache 保护
人工智能·python·架构·prompt·ai编程
zhangzeyuaaa6 分钟前
Python协程
开发语言·python
forEverPlume7 分钟前
Go语言如何防SQL注入_Go语言SQL注入防护教程【精选】
jvm·数据库·python
m0_617881428 分钟前
mysql升级后日志文件如何处理_mysql日志迁移说明
jvm·数据库·python
baidu_340998828 分钟前
JavaScript中类的装饰器提案在属性与方法上的应用
jvm·数据库·python
zhangzeyuaaa9 分钟前
Python多进程同步与共享内存完全指南:从Lock到分布式共享
开发语言·分布式·python
最贪吃的虎10 分钟前
MIT新论文:Hyperloop Transformers
人工智能·python·语言模型·langchain
weixin_3812881818 分钟前
mysql如何配置多实例运行环境_单机部署多个数据库服务
jvm·数据库·python