大模型数据标注第一弹-什么是数据标注

一、什么是数据标注

数据标注是人工智能产业的核心基础环节,简单来说就是对图片、语音、文本、视频等各类原始非结构化数据添加标签,将其转化为机器可识别、可用于模型训练的结构化数据的过程,也被称为AI时代的"基石工程"。

1.1 数据标注有哪些类型?

主流的标注类型包括:

文本类标注

图像类标注

语音类标注

视频标注

  • 文本标注‌:标记人名、地名等实体,或给内容打上情感、分类标签,用于智能客服、搜索优化。
  • 图像标注‌:用矩形框、语义分割等方式标记物体,比如自动驾驶场景里标注车辆、行人、车道线。
  • ‌语音标注‌:将语音转写为文字、标记说话人声纹特征,支撑智能音箱、语音助手产品。
  • 视频标注‌:跟踪画面中物体的运动轨迹、识别连续动作,用于行为分析、赛事智能剪辑。

1.2 标注的场景有哪些?

标注软件一般公司自己开发的,根据算法要求开发标注软件。

1.线上标注方式

2.本地部署标注软件

1.3 文本类型标注

例如Apple,可以标注为苹果,也可以代表苹果公司

Apple === 苹果

苹果公司

多维度对数据进行说明,说清楚这个数据究竟代表什么。

标注类型的时候,有说明文档(标注文档)

1.4 图像类标注

需要说明的物体在图像中圈出来。

底层原理是:把我们想解释给大模型的物体标记出来,然后告诉大模型。

1.5 语音类型的标注

TTS:语音转文字

还可以有其他维度?

谁说的?

女士还是男士?

二、数据集

2.1 数据提升模型的哪些能力?

  1. 模型的准确性
  2. 模型的泛化能力
  3. 减少偏差
  4. 提高模型的训练效率
  5. 增加用户的信任
  6. 限制(违规,安全风险的)

2.2 数据集从哪来?

公司原有的数据

采集员采集数据

线上白嫖的数据集(魔塔、)

付费(数据堂、某宝)

2.3 数据清洗

数据清洗是数据处理流程中的核心环节,指通过识别、修正或删除数据集中的脏数据,最终得到符合质量要求的可用数据的过程,通常会占据数据分析全流程50%-80%的时间资源。

好的数据集:大模型能够精准识别的数据

不好的数据集:模糊,没有对应样本的数据

数据采集=》数据清洗=》数据标注=》质检

2.4 数据如何质检

参考文献:

https://www.bilibili.com/video/BV1nWGX6DEy9/?spm_id_from=333.788.videopod.episodes&vd_source=588d631cf0dd8fa52573829827fe8788

相关推荐
Leo.yuan14 分钟前
企业可信Data Agent怎么建:可信分析智能体(Traceable Analytic Agent)的分析链路与验证机制
大数据·人工智能·机器学习
u13013028 分钟前
AI 日报(2026年9月23日)
人工智能
想带你从多云到转晴30 分钟前
LLM/AI应用八股
人工智能·chatgpt
QY_Research_30 分钟前
2026-2032年个人安全警报装置市场分析 CAGR4.7% 产业全景报告
大数据·人工智能·安全
AI行业说35 分钟前
针织 T 恤、运动套装电脑模板机选型与落地指南
大数据·人工智能·机器人·自动化·智能模板机
数字融合40 分钟前
透明化数字孪生智慧养老平台运维服务项目
人工智能·python·virtualenv
AIGC小尼1 小时前
ACE-Step-1.5 本地 AI 音乐模型实战|text2music 歌词转人声,部署脚本、参数调优与排坑全记录
人工智能·算法·comfyui·ai漫剧
腾讯云开发者1 小时前
扬帆有方,港通四海:TVP「维港启航号」解码 AI 企业借港出海新范式
人工智能
时空节拍AI数字人1 小时前
“人工智能+文旅“政策密集出台,景区该怎么接?
人工智能·microsoft·百度·ai·aigc·语音识别
YOLO数据集集合1 小时前
树木检测数据集 | 树木检测 树种分类 航拍林业 森林监测9131期
人工智能·算法·机器学习·分类·数据挖掘·林业·树种分类