上线一周收获2K star，仅500行代码实现AI增强搜索引擎

这个项目刚刚发布便登上GitHub热榜首位，短短一周便收获了惊人的2K star，背后的团队更是备受热议，今天的开源项目就是AI搜索引擎：lepton search

Lepton Search的一些背景

Lepton Search 是有LeptonAI 推出的 ai增强对话式搜索引擎，可以说从发布出来的那一天，就备受关注和争议。

首先要说不是产品，而是LeptonAI的CEO 贾扬清。如果是关注AI圈子的人 ，一定对这个名字不陌生了，先是贾扬清发表的朋友圈，怒喷了一把国内某些大厂的大模型抄袭，当时一度爆火。

再说回产品，在1月25日Lepton AI 发布了一个小demo，当时Lepton Search 还没有正式开源。在发布之后，号称要干掉谷歌搜索的 Perplexity 创始人声称 LeptonAI 在"借鉴"、"致敬"他们的产品。作为 LeptonAI 的创始人，贾扬清在 Twitter 上进行了公开回击，并且明确说，要开源Lepton Search 。

现在Lepton Search 正式开源后，关注度更是持续升温。

Lepton Search 是什么

贾扬清在自己的团队记录里提到，这只是一个demo，仅用了一个周末的时间来演示AI应用容易实现。以下它目前的能力：

• 对 LLM 的内置支持
• 内置搜索引擎支持
• 可定制漂亮的UI界面
• 可共享的缓存搜索结果

Lepton Search之所以500行代码就能实现，依赖的是它背后已经模块化的AI能力，这里Lepton Search之所以核心使用到的能力有3块：

• 大模型，调用了在LeptonAI自家云上部署的开源Mixtral-8x7b模型。
• 搜索引擎，目前用了必应搜索的API。
• 数据存储，用自家Lepton KV作为无服务器存储。

所以Lepton Search 是一个前端UI加接口调度的组合。但是这也给所有开发者一个借鉴，未来的AI应用开发将愈来愈模块化。

使用 Lepton Search

项目提供了在线试用：

search.lepton.run/

当然也可以自己来编译部署，以下几步：

首先需要获取bing的key，设置为变量

export BING_SEARCH_V7_SUBSCRIPTION_KEY=YOUR_BING_SUBSCRIPTION_KEY

编译web

cd web && npm install && npm run build

启动服务

BACKEND=BING python search_with_lepton.py

AI增强搜索引擎

目前，大语言模型（LLM）主要面临两大挑战：数据陈旧、偶发幻觉。由于基础模型所使用的预训练数据集具有明确的截止日期，因此无法根据最新数据做出响应。即使是当前最强大的模型，也往往会因数据过时而编造答案，也就是人们常说的"幻觉"问题。

对于无法访问最新数据，可以有两种方法，第一种是通过搜索引擎，通过执行网络搜索并向大模型提交输来改善决策质量。

第二种方法是，通过所谓检索增强生成（RAG），这项成熟技术可以解决一定程度的"幻觉"问题。与前面提到的动态调用搜索 API 方法不同，RAG 强调从公开数据存储中检索数据，例如向量数据库或者由外部维护的全文搜索索引等。

项目信息

• 项目名称：Lepton Search
• GitHub 链接：search_with_lepton
• Star 数：2K+