替代还是共生?LLM时代数据分析从业者的机遇与进化

今年以来,随着ChatGPT持续展现出惊艳的表现,关于人工智能是否能取代某些工作岗位成了最热门的社会话题之一。Business Insider 通过与各领域专业人士对话,列出了最高危的 10 类工作清单,其中代表高技术工种之一的数据分析师也名列其中。

这里你也许会充满好奇,ChatGPT所代表的LLM真有那么神吗?要深入的探讨这个问题,我们首先需要了解LLM在数据分析这个领域到底能有多能打?

*由 ChatGPT-4 充当数据分析师

  • 数据清洗和预处理:人工智能可以通过自动化的方式检测和处理数据中的异常值、缺失值和重复值。例如,使用机器学习算法可以自动识别和填补缺失值,或者使用自然语言处理技术处理文本数据中的噪声和错误。

  • 数据可视化:人工智能可以生成交互式和可视化的报告和图表,以更好地呈现数据分析结果。例如,基于大数据的可视化工具和技术可以自动生成动态和多维度的图表,帮助用户更好地理解和探索数据。

  • 自动化模型选择和调优:人工智能可以通过自动化的方式选择合适的模型和算法,并进行参数调优。例如,使用自动机器学习(AutoML)技术可以自动选择和优化机器学习模型,减少了人工进行模型选择和调优的工作量。

  • 自动化报告生成:人工智能可以根据数据分析的结果自动生成报告和摘要。例如,使用自然语言生成(NLG)技术可以将数据分析结果转化为自然语言文本,生成易于理解的报告和摘要。

  • 数据预测和决策支持:人工智能可以利用大数据和机器学习算法进行准确的数据预测和决策支持。例如,使用深度学习算法可以对大规模数据进行模式识别和预测,从而提供精确的预测结果和决策建议。

  • ...

甚至还有一些"好事"的研究团队从不同的领域随机选择了 100 个问题,这些问题具有不同的图表类型和不同的难度级别。并请来了一位有两年经验的数据分析师来跟 GPT-4 PK,从实际表现看,GPT-4 不仅在数据和分析的正确性上表现更好,而且往往能产生更多的结果。

看到这里,你有可能会升起深深的危机感:怎么办,LLM真要取代人类数据分析师吗?要失业了吗?

真的是这样吗?要回答这个问题,我们需要从更高的层面来看问题,LLM和数据分析师之间一定是彼此取代的关系吗?我们有什么AI替代不了的优势吗?难道两者不能共生,并发挥出更大的效能吗?

LLM时代,数据分析师面临的变和不变

进步意味着目标不断前移,阶段不断更新,它的视野总是不断变化的;------亚·考利《变化莫测》

在LLM时代,人工智能在数据分析和模型构建方面一定会的越来越出色,但人类专家目前仍然是必不可少的,需要监督整个过程。

ChatGPT在构建统计模型时经常会出现错误(至少目前),并在做出决策时犯错。公司仍然需要擅长数据分析的员工来监督整个过程,确保模型被正确地引导,生成的结果符合企业或组织的实际情况。

数据分析师仍然需要执行一些任务,如需求收集、调试和验证模型的输出,因此LLM无法创建完整的数据产品。

然而,公司在执行这些任务时将不再需要像以前那样多的人员,LLM所带来的显著效率提升意味着团队规模可以缩小;

例如,公司可以只招聘2名数据分析师来完成原本需要4名人员才能完成的工作。我相信,初级数据分析师岗位将首先受到这一发展的影响,因为LLM在有经验的分析师监督下已经可以胜任他们的岗位。

我们相比LLM的真正优势是什么?

如今,LLM正在改变数据使用的方式,还改变着数据分析师在此过程中的角色。在 AI 受到大肆宣传的背景下,我们很容易忽略人类思考的独特性,特别是在数据分析领域。

LLM作为一门计算科学,它所做的事就是从历史的数据中找到一定的规律,并以此来确定当下自己面临的事应该如何去做,它的决策基础是数据,是概率。因此对于很多重复性的工作,人工智能可以很快的学会。通过我们过往的一些操作数据,人工智能可以快速学习,然后掌握这个技能。 就比如说之前百科词条里面的数据收集,整理,这些可以说都是一些内容相对固定,切重复性高的工作,人工智能可以轻松学会。包括我们的一些简单的分析,比如趋势分析展示,简单的数据报告等都可以被LLM取代。

不过,LLM终究和人类是有区别的。人是有情感和思想的,而机器没有(起码现在没有)。因此想要在人工智能手下不被取代,我们的工作重心应该是向"人"靠拢的。我个人认为,不会被替代的有以几点:

1.对业务的全方位理解能力

虽然LLM有潜力为客户行为和新兴趋势提供有用的见解,但在某些事情上,人类可以比机器做得更好。例如,分析客户反馈和对目标细分市场进行研究,需要更详细地了解人们的需求和行为,以及有人类才具备的复杂解决问题的技能。l当数据出现大幅度下降时,一定是有原因的,而这个原因是由我们的业务变化引起的,这个时候相关的东西就多了,可能是竞品的上线,广告策略的调整或者说某个社会热点事件的发生等等。这些内部或外部因素的发生才引起了数据的变化,只有深刻理解我们的业务,我们才能在这多个因素之间快速定位到问题的根本原因,并产出解决的方案,为企业的下一步动作进行决策支持。在这一点上,目前的人工智能还是无法学习的,因为它所涉及的因素太多,随机性太强,它需要人的思考与判断。

2.对人性的深刻感知

不管什么行业,我们都是在为特定用户进行服务的,这些用户都是活生生的人,有情感,有欲望、喜怒哀乐。当我们企业的数据发生变化时,我们反思业务上的原因,更应该思考的是用户为什么会产生这样的行为,用户的情感发生了哪些变化。人有七情六欲,用户的每一个行为,都是其内心活动变化的体现。在人性这一点上,我相信LLM在可见的未来还是无法超越人类的,这也是我们最大的优势。

3.创新和问题解决能力

人类具备创新思维和问题解决能力,能够应对复杂和未知的情况。我们可以从不同的角度思考问题,提出从未有过的方法和技术,并灵活应用工具和技术来解决特定的数据分析挑战。这种创新能力是人工智能目前还无法完全替代的。例如,在新兴领域或复杂问题的数据分析中,人类数据分析师可以运用创造性的思维和灵活性来开拓新的分析方法。

共生------与其和汽车赛跑,不如学会驾驶汽车

全球品牌SwagMagic生产商、零售商和分销商SwagMagic联合创始人兼首席执行官Shaunak Amin表示:"生成式人工智能消除了对客户需求的猜测,节省了用于一遍又一遍地解决类似问题的时间和资源。"通过这种方式,数据分析师和支持团队可以共同努力,为个人客户创造高度个性化、即时和轻松的体验。"阿明认为,这些类型的体验有助于创造更忠诚的客户。"因此,员工将LLM视为一种有用的工具,而不是对他们工作的威胁,这一点至关重要。"

所以,与其徒劳的汽车赛跑,不如学会驾驶汽车。我们应该努力将LLM当成生产力提升的工具,去寻求共生,以取得1+1>2的效果:

互补合作

人工智能和人类数据分析师可以相互补充,发挥各自的优势。人工智能可以处理大规模数据、进行自动化分析和模式识别,提供快速的洞察和预测模型。而人类数据分析师则可以应用领域知识、提出关键问题、解释数据结果,并进行故事讲述和决策支持。通过合作,可以将人工智能的高效性与人类数据分析师的专业性和判断力相结合,取得更好的结果。目前在金融领域中,已经有投资公司运用这种模式,他们利用LLM分析大量的交易数据,发现潜在的市场趋势和交易信号。然后,人类数据分析师可以结合自己的专业知识和判断力,对这些趋势进行解释和评估,并提出相应的投资策略。这种合作可以提高交易决策的准确性和效率。

但这么做的前提是什么?就是我们需要深度了解公司运营和客户需求,那么我们就处于一个独特的位置,可以发现增强公司或组织能力的机会。你不能再想着单纯成为管理excel表的那个人,或者只是被动的去做绩效报表。这些工作很容易被自动化取代,在LLM时代将首先消失。

数据质量管理

人工智能在处理数据时高效而准确,但对于数据的质量和准确性仍然需要人类数据分析师的监督和管理。人类数据分析师可以负责数据的收集、清洗和预处理,确保数据的准确性和一致性。我们可以识别和修复数据中的错误和缺失值,并设计质量控制流程来确保数据的可靠性。这样可以为人工智能提供高质量的数据基础,从而提高其分析和预测的准确性。比如,在医疗研究中,人类数据分析师可以负责收集和整理临床试验数据,确保数据的准确性和完整性。然后,人工智能可以利用这些数据进行模式识别和预测分析,帮助研究人员发现新的治疗方法或疾病风险因素。

总而言之,人工智能和人类数据分析师可以通过互补合作、数据质量管理等方式实现共生。通过充分发挥各自的优势,可以取得1+1>2的效果,提高数据分析的准确性、效率和决策支持能力。

LLM 时代,对数据分析更多的思考

展望未来,以下是数据分析师行业最有可能出现的一些未来趋势,只有顺应这些趋势,我们才可能会获得更好的成长:

思考1:自动化和智能化

随着人工智能和自动化技术的不断发展,数据分析师行业将更加智能化和自动化。人工智能算法将能够自动进行数据清洗、特征选择、模型训练和预测分析等任务,减少人工干预的需求。数据分析师可以更专注于问题定义、结果解释和提出决策支持等高层次的工作。

思考2:大数据和实时分析

随着数据的不断增长和获取渠道的多样化,数据分析师将面临处理大规模数据和实时数据分析的挑战。数据分析师需要掌握大数据处理技术和实时分析工具,并借助LLM快速提取有价值的信息,并及时做出决策;

思考3:高级数据可视化和交互性

数据可视化将变得更加高级和交互性。数据分析师需要借助LLM,以更生动、直观的方式呈现数据洞察,并提供用户友好的交互功能,使用户能够自主探索数据和发现新的洞察;

思考4:跨学科合作

数据分析师将更多地与其他领域的专业人士进行跨学科合作。数据分析师需要与业务专家、领域专家和技术专家等进行紧密合作,共同解决复杂问题和实现业务目标。跨学科合作将促进知识交流和创新,提高数据分析的综合能力。这一点目前LLM是做不到的,也是我们的优势;

思考5:解释性和可解释性:

随着LLM的广泛应用,数据分析师将更加重视模型的解释性和可解释性。他们需要能够解释模型的决策过程、特征重要性和预测结果,以便业务团队和决策者能够理解和信任模型的结果。简单来说,你要让业务团队和决策者理解LLM生成的结果是正确的还是存在偏差的。

思考6:持续学习和发展:

数据分析师需要不断学习和发展自己的技能,跟上技术和行业的发展趋势。他们需要关注新的数据分析工具、算法和方法,尤其需要深入理解业务和用户,并不断提升自己的专业素养和领域知识。

总之,在 LLM 时代,未来的 数据分析师 行业将更加智能化、自动化。 大模型 的广泛应用,或许意味着许多人将失去工作,但 OpenAI 首席执行官 Sam Altman 认为这也将是个找到更好工作的机会:「我们可以拥有更高的生活质量。同时,人们需要时间来更新、做出反应、习惯这项新技术。」

相关推荐
机智的叉烧15 分钟前
前沿重器[57] | sigir24:大模型推荐系统的文本ID对齐学习
人工智能·学习·机器学习
凳子花❀18 分钟前
强化学习与深度学习以及相关芯片之间的区别
人工智能·深度学习·神经网络·ai·强化学习
泰迪智能科技012 小时前
高校深度学习视觉应用平台产品介绍
人工智能·深度学习
盛派网络小助手3 小时前
微信 SDK 更新 Sample,NCF 文档和模板更新,更多更新日志,欢迎解锁
开发语言·人工智能·后端·架构·c#
Eric.Lee20213 小时前
Paddle OCR 中英文检测识别 - python 实现
人工智能·opencv·计算机视觉·ocr检测
云起无垠3 小时前
第79期 | GPTSecurity周报
gpt·aigc
cd_farsight3 小时前
nlp初学者怎么入门?需要学习哪些?
人工智能·自然语言处理
AI明说3 小时前
评估大语言模型在药物基因组学问答任务中的表现:PGxQA
人工智能·语言模型·自然语言处理·数智药师·数智药学
Focus_Liu3 小时前
NLP-UIE(Universal Information Extraction)
人工智能·自然语言处理