llm

第四期书生大模型实战营 - 基础岛闯关作业3 - 浦语提示词工程实践项目地址算力平台OpenAI 官方提示工程指南 Claude 官方提示工程指南 LangGPT 知识库提示词最佳案例 LangGPT结构化提示词

DrugLLM——利用大规模语言模型通过 Few-Shot 生成生物制药小分子小分子由于能够与特定的生物靶点结合并调节其功能，因此在药物发现领域发挥着至关重要的作用。根据美国食品和药物管理局（FDA）过去十年的审批记录，小分子药物占所有获批上市药物的 76%。小分子药物的特点是合成相对容易，生物利用度高，易于到达预定靶点。然而，设计具有理想特性的分子非常困难，需要耗费大量的资源和时间。例如，找到一种有效的药物需要 9-12 年的药物开发过程和数十亿美元。

waiting不是违停

MetaGPT实现多动作Agent异步编程学习链接智能体 = LLM+观察+思考+行动+记忆多智能体 = 智能体+环境+SOP+评审+路由+订阅+经济

通用辅助生成: 使用任意辅助模型加速解码太长不看版: 许多 LLM (如 gemma-2-9b 、 Mixtral-8x22B-Instruct-v0.1 等) 苦于缺乏对应小模型，而无法适用辅助生成方案。本文，我们将介绍由英特尔研究院和 Hugging Face 合作开发的通用辅助生成技术。有了这项技术，LLM 可与任意 SLM 搭配组成辅助生成方案。从而，我们可以用辅助生成技术加速任意解码器模型或混合专家模型以获得 1.5x-2.0x 的加速比。重要的是，开销几乎为零 🔥🔥🔥！一起了解一下吧！

用户315747608135

带你在前端上玩转机器学习，从零去构建，训练一个模型！！随着前端技术的发展，机器学习已经不再局限于后端或专用的深度学习框架。Brain.js 是一个非常优秀的 JavaScript 库，它使得在前端构建和训练神经网络变得简单易行。本文将带你从零开始，使用 Brain.js 构建和训练一个*简单的神经网络模型，并将其应用于实际场景中。

配置NVIDIA Container Runtime和容器运行GPUStack教程GPUStack 是一个设计用于运行大模型的开源 GPU 集群管理器，提供私有部署的大模型服务，支持大语言模型、Embedding 文本嵌入模型、Reranker 重排序模型、Vision 多模态模型等各种模型。它可以聚合不同平台（如 Apple Macbook、Windows PC 和 Linux 服务器）的 GPU，构建一个统一的异构 GPU 集群。

配置NVIDIA Container Runtime和容器运行GPUStack教程GPUStack 是一个设计用于运行大模型的开源 GPU 集群管理器，提供私有部署的大模型服务，支持大语言模型、Embedding 文本嵌入模型、Reranker 重排序模型、Vision 多模态模型等各种模型。它可以聚合不同平台（如 Apple Macbook、Windows PC 和 Linux 服务器）的 GPU，构建一个统一的异构 GPU 集群。

llamaindex实战-Agent-在Agent中和数据库对话(本地部署)本文实现了一个简单的智能Agent，该Agent先从数据库中查询出数据，然后再通过工具函数来对数据进行处理。这是一个非常常见的场景。从这个场景可以扩展到多个实际的场景。

利用RAGflow和LM Studio建立食品法规问答系统食品企业在管理标准、法规，特别是食品原料、特殊食品法规时，难以通过速查法规得到准确的结果。随着AI技术的发展，互联网上出现很多AI知识库的解决方案。

(一)手把手地教, 带你一步步学会使用 LLM 搭建自己的小机器人【本文正在参加金石计划附加挑战赛——第一期命题】当然可以, 只要你有其他编程语言经验, 上手python绝非难事.

tokenizer介绍在自然语言处理（NLP）领域，tokenizer 是一个重要的组件，它的主要作用是将文本字符串分割成更小的单位，这些单位通常被称为“标记”（tokens）。这些标记可以是单词、子词（subwords）、字符甚至是更复杂的结构。Tokenizer 的设计和实现对后续的 NLP 模型性能有着重要影响，因为它决定了模型如何理解和处理输入数据。

to be a question

StructRAG Boosting Knowledge 论文笔记知识密集型推理任务（knowledge-intensive reasoning task）指的是需要大量先验知识或专业领域知识来进行推理和解决的任务。在这种任务中，推理和决策需要依赖于广泛的、深入的领域知识，通常涉及多个概念和关系的复杂推理过程。举例来说，医学诊断就是一个知识密集型推理任务的典型案例。医生在对患者进行诊断时，需要结合患者的症状、病史、实验室检查结果等信息，并借助广泛的医学知识进行推理和判断，以最终做出准确的诊断。这种任务需要医生综合运用大量的医学知识，对病情进行推理和归纳，而且通常也需要

讨论大语言模型在学术文献应用中的未来与所带来的可能性和担忧近年来，大规模语言模型因其能够根据人类指令自动生成大量高质量文本而备受关注。特别是 2022 年底发布的 ChatGPT 3.5，因其聊天界面的易用性而迅速走红。目前，学术交流领域正在积极讨论如何使用它。而最初的期望也逐渐让人们对其能力和局限性有了更深入的理解和认识。

AI工业大模型报告：体系架构、关键技术与典型应用研究意义随着新一代人工智能的发展, 大模型（如 GPT-4o 等）凭借大规模训练数据、网络参数和算力涌现出强大的生成能力、泛化能力和自然交互能力, 展现出改变工业世界的巨大潜力. 尽管大模型已在自然语言等多个领域取得突破性进展, 但其在工业应用中的探索仍处于初级阶段, 当前工业大模型的系统性研究仍属空白. 工业应用中特有的异质数据模态、复杂多样的专业化场景、长流程的关联性决策、以及对于可信性实时性的高要求, 使得通用大模型无法直接用于解决复杂的工业问题, 亟需开展全新的工业大模型基础理论和关键技

探索大规模语言模型（LLM）在心理健康护理领域中的应用与潜力心理健康是公共卫生最重要的领域之一。根据美国国家精神卫生研究所（NIMH）的数据，到 2021 年，22.8% 的美国成年人将患上某种形式的精神疾病。在全球范围内，精神疾病占非致命性疾病负担的 30%，并被世界卫生组织确定为导致残疾的主要原因。此外，据估计，抑郁症和焦虑症每年给全球经济造成 1 万亿美元的损失。这些数据表明，预防和管理心理健康问题是多么重要。

大模型研究报告 | 2024年中国金融大模型产业发展洞察报告｜附34页PDF文件下载随着生成算法、预训练模型、多模态数据分析等AI技术的聚集融合，AIGC技术的实践效用迎来了行业级大爆发。通用大模型技术的成熟推动了新一轮行业生产力变革，在投入提升与政策扶植的双重作用下，以大模型技术为底座、结合专业化金融能力的金融大模型产品应运而生。对此，《2024年中国金融大模型产业发展洞察报告》将关注国内金融大模型产业的发展情况，分析金融大模型结构特征与优势能力，预判未来的产业趋势及业务应用方向。同时，本篇报告优选国内金融大模型领域的头部企业，深度剖析其金融大模型产品力与实践能力，评选出TOP20金融

2024年中国金融大模型产业发展洞察报告（附完整PDF下载）本报告从金融大模型的技术发展背景入手，详细介绍了大模型的结构特征、优势能力，并结合行业卓越者的评选结果，展现了行业内的领先企业和他们的成功案例。报告进一步探讨了金融大模型产业的未来趋势，包括市场趋势前瞻、产品结构建设、技术能力迭代以及未来场景应用，为行业参与者提供战略决策的参考。此外，报告还收录了行业专家的见解，为读者带来第一手的行业洞察。整体而言，本报告是理解中国金融大模型产业发展不可多得的资料，适合金融科技领域的决策者、从业者及投资者阅读。

火山引擎边缘云

创新实践：基于边缘智能+扣子的智能轮椅 AIoT 解决方案在 2024 年全国大学生物联网设计竞赛中，火山引擎作为支持企业，不仅参与了赛道的命题设计，还为参赛队伍提供了相关的硬件和软件支持。以边缘智能和扣子的联合应用为核心，参赛者们在这场竞赛中的方案展现出了卓越的创新性和实用性，将边缘智能与扣子的技术巧妙地应用于机器人、家庭陪护、智慧康养、智慧座舱等多个领域，为未来行业应用结合大模型的 AIoT 解决方案探索出更多可能性。

「混合专家模型」可视化指南：A Visual Guide to MoE编者按：对大语言模型进行扩展的过程中，如何在保持高性能的同时有效控制计算资源消耗？混合专家模型（MoE）作为一种新兴的架构设计方案正在得到越来越多的关注，但它究竟是如何工作的？为什么越来越多的大语言模型都在采用这种架构？