您打开模型选择器,划过十多个选项,随即停了下来。这些模型有什么区别?到底该选用哪一个?当您已经发送了几百条消息之后,还剩下多少可用上下文容量,才会开始出现性能衰减?
我们都遇到过这类情况。现在,Visual Studio 让解答这类问题变得稍微轻松一些。下面我们来详细了解如何查看、对比现有模型,并从中挖掘更多价值。

贴合您的使用习惯的模型选择器
模型选择器会展示一长串模型列表,您每次都需要滚动浏览。从18.9 Insiders 1 版本开始,您可以更专注于自己最关心的模型。将您实际常用的模型置顶,它们就会始终显示在列表顶部。展开即可查看完整列表,折叠则可以隐藏那些您从不使用的模型,避免其造成干扰。
剩下的是一份简短、熟悉的列表,看起来和您的工作流程一致,而非完整目录。这是一处微小改动,但您每天都能感受到。

所有模型的完整详情
但有时模型选择器还不够用。您可能希望仔细查看模型详情并对比各项参数。选择 Manage models,即可打开全新的语言模型视图,所有信息并排展示:各个模型具备哪些能力、上下文窗口大小以及成本等级。无需再猜测某个模型是否支持视觉功能,或是哪一个能为您提供最大的操作空间。
您自己的模型也存放于此,与 Copilot 系列模型并列。您可以置顶模型、查看其能力,或是接入新的服务提供商,全部无需离开当前界面。

看看您还剩余多少容量
了解模型的上下文窗口大小是一回事。当对话持续较长时间时,清楚自己已经使用了多少上下文窗口容量才是真正关键。因此在您使用过程中,Visual Studio 会为您展示上下文窗口的占用情况,无需手动计算。从 18.6.0 版本及更高版本开始,点击输入框右上角的环形图图标,即可查看当前会话的上下文窗口使用情况。
当接近上限时,您会看到数值趋近100%,这时您可以决定何时总结对话、开启新会话、选用上下文窗口更大的模型,或是做出其他调整。
从18.9 Insiders 1 版本开始,您还会看到一个新增按钮,可打开 Copilot 使用情况窗口,查看您的 Copilot 完整套餐使用数据,避免出现意外超额情况。在旧版本中,也可以通过 Copilot 标识菜单下拉列表打开 Copilot 使用情况窗口。

满怀信心地开展工作
选择模型、了解其能力、密切关注上下文窗口:这些操作都不应拖慢您的效率,也不该让您反复猜测。本次更新旨在在关键场景下为您带来更清晰的体验,让您少花时间琢磨,多投入精力进行创作构建。
而我们才刚刚起步,敬请期待更多即将推出的更新!
请在最新的 Visual Studio Insiders 版中试一试,并告诉我们您的看法。
原文链接:https://devblogs.microsoft.com/visualstudio/pick-manage-and-get-the-most-from-your-models/