llms

解读大型语言模型：从Transformer架构到模型量化技术生成式人工智能（Generative Artificial Intelligence）是一种先进的技术，能够生成多种类型的内容，包括文本、图像、音频以及合成数据等。其用户界面的便捷性极大地推动了其广泛应用，用户仅需在几秒钟内即可创建出高质量的文本、图像和视频内容。生成式人工智能作为机器学习的一个重要子集，其模型通过学习海量数据中隐藏的复杂模式统计，从而实现对自然语言的深入理解。例如，研究人员在训练大型语言模型时，往往需要花费数周甚至数月的时间，借助强大的计算能力，使模型能够深入理解自然语言的内在规律和结构

应用引入LLM实践LLM最近在各行各业遍地开花，产生了很好的效果，也落地了很多好的功能应用。无论是从实际应用角度，还是从营销角度，我们都需要接入大模型能力。

大模型LLMs框架Langchain之工具Tools写在前文：下面是官方对工具的流程：创建工具时，必须指定参数：name、description、args_schema、return_direct

一个处女座的程序猿

LLMs之RAG：《EdgeRAG: Online-Indexed RAG for Edge Devices》翻译与解读LLMs之RAG：《EdgeRAG: Online-Indexed RAG for Edge Devices》翻译与解读

MCANet: 基于多模态字幕感知的大语言模型训练无关视频异常检测ICPR’24 - 印度卡利卡特国立理工学院 MCANet: Multimodal Caption Aware Training-Free Video Anomaly Detection via Large Language Model

AI投资分析：用于股票评级的大型语言模型（LLMs）“AI in Investment Analysis: LLMs for Equity Stock Ratings”

一个处女座的程序猿

LLMs之rStar：《Mutual Reasoning Makes Smaller LLMs Stronger Problem-Solvers》翻译与解读LLMs之rStar：《Mutual Reasoning Makes Smaller LLMs Stronger Problem-Solvers》翻译与解读

三种Transformer模型中的注意力机制介绍及Pytorch实现：从自注意力到因果自注意力这些机制是GPT-4、Llama等大型语言模型（LLMs）的核心组件。通过理解这些注意力机制，我们可以更好地把握这些模型的工作原理和应用潜力。

一个处女座的程序猿

LLMs之Agent之Lares：Lares的简介、安装和使用方法、案例应用之详细攻略LLMs之Agent之Lares：Lares的简介、安装和使用方法、案例应用之详细攻略导读：这篇博文介绍了 Lares，一个由简单的 AI 代理驱动的智能家居助手模拟器，它展现出令人惊讶的解决问题能力。

一个处女座的程序猿

LLMs之LoLCATs：《LoLCATs: On Low-Rank Linearizing of Large Language Models》翻译与解读LLMs之LoLCATs：《LoLCATs: On Low-Rank Linearizing of Large Language Models》翻译与解读

&永恒的星河&

Hunyuan-Large：推动AI技术进步的下一代语言模型腾讯近期推出了基于Transformer架构的混合专家（MoE）模型——Hunyuan-Large（Hunyuan-MoE-A52B）。该模型目前是业界开源的最大MoE模型之一，拥有3890亿总参数和520亿激活参数，展示了极强的计算能力和资源优化优势。

大模型八哥

大模型从入门到应用——LangChain：模型（Models）-[大型语言模型（LLMs）：基础知识！LangChain系列文章：大型语言模型（LLMs）是LangChain的核心组件。LangChain不提供大型语言模型，而是提供了一个标准接口，通过该接口我们可以与各种LLMs进行交互。LLM类是专为与LLM接口设计的类。有许多LLM提供者（如：OpenAI、Cohere、Hugging Face），此类旨在为所有LLM提供一个标准接口。在《[自然语言处理从入门到应用——LangChain：模型（Models）-大型语言模型（LLMs）]》系列文章中，我们将专注于通用的LLM功能，而有关使用特定LLM包

一个处女座的程序猿

MLM之Llama-3：Llama 3.2的简介、安装和使用方法、案例应用之详细攻略MLM之Llama-3：Llama 3.2的简介、安装和使用方法、案例应用之详细攻略目录Llama 3.2 简介

【大模型新书】掌握大语言模型：高级技术、应用、尖端方法和顶尖LLMs我已将这本大模型书籍免费分享出来，需要的小伙伴可以扫取。主要特性描述通过强大的大语言模型（LLMs）改变您的业务景观。本书为您提供实用的见解，指导您从构思、设计到实施有影响力的LLM驱动的应用程序。

一个处女座的程序猿

LLMs之OCR：llm_aided_ocr(基于LLM辅助的OCR项目)的简介、安装和使用方法、案例应用之详细攻略LLMs之OCR：llm_aided_ocr(基于LLM辅助的OCR项目)的简介、安装和使用方法、案例应用之详细攻略

一个处女座的程序猿

LLMs之SuperPrompt：SuperPrompt的简介、使用方法、案例应用之详细攻略LLMs之SuperPrompt：SuperPrompt的简介、使用方法、案例应用之详细攻略目录SuperPrompt的简介

HRGraph: 利用大型语言模型（LLMs）构建基于信息传播的HR数据知识图谱与职位推荐知识图谱（KGs）作为语义网络，在管理不同领域复杂互联数据方面表现出极高的有效性，通过提供统一、上下文化和结构化的表示，具有灵活性，能够轻松适应不断发展的知识。在处理复杂的人力资源（HR）数据时，知识图谱可以帮助实现不同的人力资源功能，如招聘、职位匹配、识别学习差距和增强员工留存。尽管其潜力巨大，但在实施实际的人力资源知识图谱方面的努力有限。本研究通过提出一个框架，旨在有效地从文档中利用大型语言模型开发人力资源知识图谱，从而填补这一空白。生成的知识图谱可用于多种下游任务，包括职位匹配、识别员工技能差距等。

压缩大型语言模型 LLMs随着人工智能技术的迅猛发展，大型语言模型（LLMs）如GPT系列已成为自然语言处理领域的明星。然而，这些模型通常包含数十亿甚至上万亿的参数，导致巨大的计算和存储需求，限制了它们在消费级设备上的广泛应用。因此，如何在保持性能的同时压缩LLMs，成为了一个亟待解决的问题。本文将深入探讨如何通过多种技术手段，如量化、剪枝和知识蒸馏等，将LLMs的体积缩小10倍，同时保持其原有的性能。

少喝冰美式

企业本地部署大型语言模型（LLMs）构建本地垂直领域知识库的策略|空天防御0 引言在数字化转型的浪潮中，传统企业面临着前所未有的机遇与挑战。随着大数据、云计算和人工智能技术的发展，企业积累的私有数据成为了潜在的金矿，等待着被挖掘和利用。大型语言模型（LLMs）作为当前人工智能领域的前沿技术，能够帮助企业从海量数据中提取有价值的信息，优化决策流程，提升服务质量。

少喝冰美式

人工智能在网络安全威胁测试中的应用：LLMs如何改变网络威胁格局随着人工智能技术的快速发展，特别是大型语言模型（LLMs）的崛起，网络安全领域也迎来了新的变革。LLMs不仅在自然语言处理方面展现出惊人的能力，还在网络安全威胁测试中显示出巨大的潜力。本文旨在探讨LLMs在网络安全威胁测试中的应用，分析其如何改变网络威胁格局，并提出相关的伦理和技术挑战。