文章目录

[1. 前言](#1. 前言)
[2. 千帆大模型平台](#2. 千帆大模型平台)
[3. 十分友好的功能](#3. 十分友好的功能)
[4. comate代码助手](#4. comate代码助手)
[5. 总结](#5. 总结)

1. 前言

我之前给大家推荐过Poe这个网站，它用的人比较少，但一旦接触后会发现它其实挺强大的。

因为它是一个可以同时支持好几个大模型的在线聚合平台。常用的GPT4，GPT3.5，Claude，Llama之类的它都支持。

这样有什么好处呢？好处其实很多。

因为每个大模型对于同一个问题的回答或者理解都是不一样的，最好的方式就是每个回答都收集起来再比较到底哪个更适合自己。

2. 千帆大模型平台

千帆大模型平台做的跟Poe是类似的事情。

只不过相比起Poe千帆做的工作要更复杂一些，因为对于Poe来说，它只要拿到了不同模型的API接口，那么它就可以很容易的将大模型集成到自己的平台上，所以说重点就是能拿到对方的API。

而千帆做的是把各种开源大模型先在自己的计算平台上跑通，并且进行中文增强、性能增强、上下文增强等能力的调优，然后再供给不同的用户使用。其实讲道理来说，对于一个不熟悉计算机系统和AI的人来说，在自己平台上跑通其实也不是一件容易的事情，更别说市面上有很多的开源模型。

但是大模型从去年的爆火到现在的沉淀期，其实已经在各行各业证明了它的作用和潜力。

然后问题就出在它还是个新技术，大家想用，但并不清楚该怎么用它，因为这里面会涉及到很多的细节。

而对于千帆大模型平台来说，如果你想部署一个大模型在你的平台或者服务上，只需要非常简单的几步就可以部署成功。

3. 十分友好的功能

除此之外，它还有几个对于用户非常友好的功能。

从平台提供的功能来看，主要有数据相关，大模型训练、管理以及服务等功能。这里面的功能其实就是把大模型开发、训练、微调以及部署全都简单化了。

比如在之前有很多的大模型，你不知道该选Llama还是还是ChatGLM，以及不知道多大的参数量就能在自己的业务上取得足够的服务效果，那么你就可以拿模型评估出来，你可以选择多个大模型，并且每个模型都选择不同的参数量。

如果你的领域有自己特殊的数据集，还可以自己定制，来挑选最适合自己领域的大模型。

这样对于用户来说，几乎是把当前最先进的人工智能应用做成了傻瓜相机一样，可以完全忽略神经网络的各种复杂名词，聚焦于服务效果，而不是其中复杂训练过程。

除了方便使用者部署和使用大模型之外，千帆大模型平台其实也对于大模型做了很多的优化和调整，其主要目的就是为了让大模型的使用门槛进一步的降低。

全新升级后的中文增强功能针对国际主流的大型模型进行了专门优化，大幅提升了这些模型在处理中文任务方面的表现。与之前只能依赖英文对话来实现最佳性能的情况不同，现在使用中文进行交流也能获得同样出色的效果，如Llama2模型。

还有对于刚接触大模型的用户来说，写一个标准且高效有用的prompt是一件有难度的事情，因为一个好用的prompt其实是长久跟大模型对话后才能提炼出来的，并不是一蹴而就的事情。

这一点儿千帆大模型平台也考虑到了，已经内置了很多的prompt模版，可以供给绝大多数的场景使用。

另一方面，千帆所提供的性能增强功能全方位地提升了模型的训练和推理性能。具体来说，训练LlaMA 2模型的总体吞吐量可以提升高达25%，而推理性能更是有望翻倍。这对于用户体验至关重要：以前，你若要用性能较差的大模型来处理一本几百页的电子书，用户可能需要等待相当长的时间才能得到回应。但现在，优化后的性能使用户在不到一秒的时间内即可查看模型生成的内容摘要。

此外，千帆平台还对开源模型提供了长上下文增强功能，以满足包括知识增强、长期记忆增强，以及文档知识问答等多种长上下文应用场景的推理需求。这一功能不仅强化了模型的多样性，还大大扩展了其在复杂任务中的应用潜力。

毕竟从商业角度来说，越简单好用的产品越吸引人，而其中复杂的操作使用者并不关心，用户体验才是大模型落地的主要着力点。

4. comate代码助手

除了大模型平台之外，我还看到了一个让程序员狂喜的应用，那就是comate代码助手。

其实类似的功能或者软件我也有用过，比如Copolit以及code whisperer，他们的主要功能就是为了方便程序员，像我这样的人。

因为对于程序员来说，对于代码只需要做到两件事，第一是读懂代码，第二是能写代码。

而写代码助手专精的就是这两件事。

如果你刚到一个公司上班，而这个项目是存在已久的，那么它在日积月累之后就会有非常多的代码，而这些代码会充满了之前程序员的个人特色，比如奇怪的命名，不规范的写法等等。

在以前你想要读懂这些代码，要付出的时间和精力难以想象。

但是现在代码助手的存在，你可以非常方便的通过给出的解释快速的理解历史代码。

节省下来的时间完全可以专注在新的代码开发以及已有代码的优化。

我之前用别人开源代码的使用就发现了这个问题，特别是一个文件有几千行代码的那红情况，想要读懂全部的代码可能需要好几天，而有了代码助手的帮助，这个时间会被极大的省下来做更有意思的事情。

另外对于comate来说，它还可以充当一个技术大牛。

因为它本身就是在成千上万行的代码以及文档中训练出来的，理论上它的经验足够在绝大读诵的编程领域里面作为大牛来指导你。

如果你在研发过程中卡壳，你可以直接问comate。

特别是你需要查文档才能解决的问题，它会非常的专业，因为它已经预先学习过了，并且在大模型逻辑以及表达能力的加持下，你会发现代码助手简直是一个代码学习方面的良师益友，还不会嫌你这不会那不会的那种老师。

新手程序员我觉得也可以使用它学习编程，因为对于一个初学者来说，想法有很多，但是如何编程实现它才是主要的难题。

而很多人就卡在最开始这一步了，门都入不了就被劝退了。

而代码助手有个很强大的点，那就是根据注释来写代码，换句话说，你说人话，它输出代码。

如果你看不懂，那没关系，有代码解释功能。

是不是逻辑闭环了都，可以说，它就是初学者最好的学习工具以及程序员的写代码效率神器。

5. 总结

这次的发布会上，我最喜欢的两个更新就是大模型平台以及这个代码助手，我觉得这两个都是具有非常强的现实意义，不管是从技术更新角度还是实际应用角度来说。