Aspose.Words for .NET 25.7:支持自建大语言模型(LLM),实现更安全灵活的AI文档处理功能

随着 ++Aspose.Words for .NET 25.7++ 的发布,开发者迎来了一个重要新特性------支持接入 自建(Self-Hosted)大语言模型(LLM),在提升文档处理智能化水平的同时,进一步保障数据隐私与系统可控性,避免依赖第三方托管 API。

Aspose.Words官方试用版免费下载


为什么选择自建 LLM?
  • 数据主权:敏感文档可完全保留在本地或企业内部基础设施中,无需外部传输。

  • 成本可控:通过自有硬件运行模型,避免额外的云服务调用费用。

  • 高度定制:支持自定义接口或本地化部署的专属模型,灵活适配业务场景。


如何在 Aspose.Words 中使用自建 LLM

++Aspose.Words++.AI 命名空间为用户提供了丰富的 AI 功能,如文档翻译、摘要生成、语法检查等。除支持调用 OpenAI、Google 等云端模型外,开发者还可以通过配置切换到自建 LLM。

示例代码:

复制代码
public void SelfHostedModel()
{
    Document doc = new Document(MyDir + "Big document.docx");

    string apiKey = Environment.GetEnvironmentVariable("API_KEY");
    // Use OpenAI generative language models.
    AiModel model = new CustomAiModel().WithApiKey(apiKey);

    Document translatedDoc = model.Translate(doc, Language.Russian);
    translatedDoc.Save(ArtifactsDir + "AI.SelfHostedModel.docx");
}

// Custom self-hosted AI model.
internal class CustomAiModel : OpenAiModel
{
    protected override string Url
    {
        get { return "https://localhost/"; }
    }

    protected override string Name
    {
        get { return "my-model-24b"; }
    }
}
典型应用场景
  • 企业文档处理:在本地环境中翻译涉密法律、财务文档,避免数据外泄风险。

  • 离线部署:在高安全或隔离网络环境下,运行本地训练或优化过的大模型。

  • 成本优化:利用本地 GPU 推理,降低云端 API 调用费用。


通过该功能,用户可以在保留**++Aspose.Words++** 强大 AI 功能的同时,实现对 AI 基础设施的完全掌控,打造 更安全、更高效、更灵活 的文档智能化解决方案。

相关推荐
那个村的李富贵9 小时前
光影魔术师:CANN加速实时图像风格迁移,让每张照片秒变大师画作
人工智能·aigc·cann
蛇皮划水怪11 小时前
深入浅出LangChain4J
java·langchain·llm
腾讯云开发者11 小时前
“痛点”到“通点”!一份让 AI 真正落地产生真金白银的实战指南
人工智能
CareyWYR11 小时前
每周AI论文速递(260202-260206)
人工智能
hopsky12 小时前
大模型生成PPT的技术原理
人工智能
禁默12 小时前
打通 AI 与信号处理的“任督二脉”:Ascend SIP Boost 加速库深度实战
人工智能·信号处理·cann
心疼你的一切13 小时前
昇腾CANN实战落地:从智慧城市到AIGC,解锁五大行业AI应用的算力密码
数据仓库·人工智能·深度学习·aigc·智慧城市·cann
AI绘画哇哒哒13 小时前
【干货收藏】深度解析AI Agent框架:设计原理+主流选型+项目实操,一站式学习指南
人工智能·学习·ai·程序员·大模型·产品经理·转行
数据分析能量站13 小时前
Clawdbot(现名Moltbot)-现状分析
人工智能
那个村的李富贵13 小时前
CANN加速下的AIGC“即时翻译”:AI语音克隆与实时变声实战
人工智能·算法·aigc·cann