自然语言处理

杏仁橙橙饼

2024自然语言处理期末回忆2024.6.19考总体来说，很离谱，那么多ppt，考之前以为肯定会考算法，看了好久的算法，结果考了很多概念题。

HyperAI超神经

入选顶会ICML，清华AIR等联合发布蛋白质语言模型ESM-AA，超越传统SOTA作为细胞内无数生化反应的驱动力，蛋白质在细胞微观世界中扮演着建筑师和工程师的角色，不仅催化着生命活动，更是构筑、维系生物体形态与功能的基础构件。正是蛋白质之间的互动、协同作用，支撑起了生命的宏伟蓝图。

人工智能培训咨询叶梓

AI助力科研：自动化科学构思生成系统初探科学研究作为推动创新和知识进步的关键活动，在解决复杂问题和提升人类生活水平方面发挥着至关重要的作用。然而，科学研究的固有复杂性、缓慢的进展速度以及对专业专家的需求，限制了其生产力的提升。为了增强科研效率，本文提出了一个名为ResearchAgent的系统，这是一个由大模型（LLMs）驱动的科研构思写作代理，能够自动生成问题、方法和实验设计，并通过科学文献进行迭代式细化。

Build a Large Language Model (From Scratch)第二章(gpt-4o翻译版)来源：https://github.com/rasbt/LLMs-from-scratch?tab=readme-ov-file https://www.manning.com/books/build-a-large-language-model-from-scratch

新加坡内哥谈技术

AI风险管理新利器：SAIF CHECK利用Meta Llama 3保障合规与安全每周跟踪AI热点新闻动向和震撼发展想要探索生成式人工智能的前沿进展吗？订阅我们的简报，深入解析最新的技术突破、实际应用案例和未来的趋势。与全球数同行一同，从行业内部的深度分析和实用指南中受益。不要错过这个机会，成为AI领域的领跑者。点击订阅，与未来同行！订阅：https://rengongzhineng.io/

Build a Large Language Model (From Scratch)第五章(gpt-4o翻译版)来源：https://github.com/rasbt/LLMs-from-scratch?tab=readme-ov-file https://www.manning.com/books/build-a-large-language-model-from-scratch

会撸代码的懒羊羊

各维度卷积神经网络内容收录卷积神经网络（CNN），通常是指用于图像分类的2D CNN。但是，现实世界中还使用了其他两种类型的卷积神经网络，即1D CNN和3D CNN。

金木讲编程

注意力机制在大语言模型中的应用在大语言模型中，注意力机制（Attention Mechanism）用于捕获输入序列中不同标记（token）之间的关系和依赖性。这种机制可以动态地调整每个标记对当前处理任务的重要性，从而提高模型的性能。具体来说，注意力机制通过计算注意力权重来捕获标记强度。以下是一个简要的解释：

探索人工智能和LLM对未来就业的影响近年来，人工智能（AI）迅猛发展，引发了人们的兴奋，同时也引发了人们对就业未来的担忧。大型语言模型（LLM）就是最新的例子。这些强大的人工智能子集经过大量文本数据的训练，以理解和生成类人语言。

大语言模型微调实践——LoRA 微调细节近年来人工智能领域不断进步，大语言模型的崛起引领了自然语言处理的革命。这些参数量巨大的预训练模型，凭借其在大规模数据上学习到的丰富语言表示，为我们带来了前所未有的文本理解和生成能力。然而，要使这些通用模型在特定任务上发挥出色，还需借助微调技术。大语言模型的微调技术已经成为自然语言处理领域的一个焦点，其不断的演化和创新正引领着我们进入一个更加精细、个性化的文本处理时代。

全面解析自然语言处理（NLP）：基础、挑战及应用前景自然语言处理（NLP）是人工智能和计算语言学的一个分支，致力于使计算机能够理解、解释和生成人类语言。这篇博文将深入探讨自然语言处理的基础知识、挑战、典型任务及其广泛的应用前景。

nlp--最大匹配分词(计算召回率)最大匹配算法是一种常见的中文分词算法，其核心思想是从左向右取词，以词典中最长的词为优先匹配。这里我将为你展示一个简单的最大匹配分词算法的实现，并结合输入任意句子、显示分词结果以及计算分词召回率。

青春之我_XP

【自然语言处理系列】手动安装和测试Spacy中en_core_web_sm模型的详细教程摘要：本教程旨在为自然语言处理（NLP）初学者提供一个详细的指南，用于手动安装流行的NLP库Spacy及其英语模型en_core_web_sm。文章将逐步指导您如何安装Spacy库、查看其版本，确定并下载适合的en_core_web_sm模型版本，以及如何正确安装并测试这些组件确保它们正常工作。完成本教程后，您将能够使用Spacy进行基本的NLP任务，例如分词、命名实体识别和依赖关系解析。

程序员石磊

LongRAG：增强长上下文大语言模型的检索增强生成这篇论文的标题是《LongRAG: Enhancing Retrieval-Augmented Generation with Long-context LLMs》，由滑铁卢大学的Ziyan Jiang、Xueguang Ma和Wenhu Chen撰写。论文主要探讨了在传统的检索增强生成（RAG）框架中存在的一些问题，并提出了一种新的框架LongRAG，旨在改进检索和生成的平衡性。代码：https://tiger-ai-lab.github.io/LongRAG/

骑着蜗牛环游深度学习世界

1.5自然语言的分布式表示-word2vec学习的实现本书中提供了多个不同优化器的简单实现；关于优化器的细节这里就不说了；网上也有很多博客；可自行学习；优化器的代码如下；根据代码可以知道优化器的作用为：根据给定的学习率、计算的梯度、参数更新公式对参数进行更新；这里的Adam优化器中还在每一个时间步长先对学习率进行了调整。

深入探索：Word2Vec开启AI大模型之旅第二章你好，我是郭震今天我来总结大模型第二篇，word2vec，它是大模型的根基，一切NLP都会用到它。Word2Vec 是一种流行的自然语言处理（NLP）工具，它通过将词汇表中的每个单词转换成一个独特的高维空间向量，使得这些词向量能够在数学上表示它们的语义关系。

语言模型：文本表征&词嵌入技术调研文本表征是自然语言处理中的关键部分，尤其在当前大模型快速发展的背景下。由于大模型存在知识有限、处理文本长度有限、保密要求和大模型幻觉等问题，结合外部数据显得尤为重要。

【LLM 评估】GLUE benchmark：NLU 的多任务 benchmark论文：GLUE: A Multi-Task Benchmark and Analysis Platform for Natural Language Understanding

Transformer 大模型详解——transformer模型本内容主要参照此篇，然后结合个人理解新增和删减部分内容形成。本内容主要介绍 Transformer 模型的具体实现。

住在天上的云

【自然语言处理】司法阅读理解裁判文书中包含了丰富的案件信息，比如时间、地点、人物关系等等，通过机器智能化地阅读理解裁判文书，可以更快速、便捷地辅助法官、律师以及普通大众获取所需信息。本次任务覆盖多种法律文书类型，包括民事、刑事、行政，问题类型为多步推理，即对于给定问题，只通过单句文本很难得出正确回答，模型需要结合多句话通过推理得出答案。