一个解决问题的编码思路(编程+AI向)

简单记录一个最近想到的解决问题的思路,忽然想到的,有点抽象,先记下来。

解决问题的本质是在现有知识库中搜索出最匹配的方法进行应用,以解决实际问题。

因此,解决任何问题的本质是进行搜索,并且是逐步缩小搜索范围的搜索,从基于模型解决问题的角度出发,这个搜索应该是三个层面:

1、 问题层面的搜索,定位要解决的问题大类、小类,知道问题的scope在哪里,相关工作都是怎么解决的。

2、方法、原理层面的搜索,定位大概要使用哪一类方法,以及方法的基本原理是什么。当方法出现问题时,需要从原理角度对其进行归因,然后进行细化。如果不知道原理只是一味地按照组合去尝试,搜索的范围会非常大。

3、超参数方面的搜索。包括两个层面,首先在原型系统开发时应该给模型留一个类似try的超参数,用来尝试不同网络结构、损失函数的组合下模型的大概效果,一般设置手动搜索即可。其次是学习率、批归一化大小的搜索,最好采用网格搜索的方式进行自动搜索。

相关推荐
罗西的思考4 小时前
【轻量化复现大模型 / KIMI K3】MTP / EAGLE‑3 模块交互式演示
人工智能·深度学习·算法
kyle~9 小时前
模型预测控制(MPC)
算法·机器人·控制·传感器
牢姐与蒯10 小时前
cpp算法之哈希
c++·算法·哈希算法
开开心心就好11 小时前
两张表格数据对比工具,不用写函数也能查
算法·spring·智能手机·pdf·电脑·intellij-idea·音视频
电科_银尘12 小时前
【大模型算法与工程 02】线性回归与逻辑回归:从损失函数到决策边界
算法·逻辑回归·线性回归
玄昌盛不会编程13 小时前
LeetCode——2243. 计算字符串的数字和
java·算法·leetcode
电科_银尘15 小时前
【大模型算法与工程 01】机器学习的问题定义:监督、无监督、自监督与强化学习
人工智能·算法·机器学习
电科_银尘15 小时前
【大模型算法与工程 05】分类、回归与排序指标:怎样评价一个模型
算法·分类·回归
罗西的思考1 天前
【轻量化复刻大模型 / KIMI K3】Multi-Token Prediction(MTP / EAGLE-3)(2)
人工智能·算法·机器学习
罗西的思考1 天前
【轻量化复刻大模型 / KIMI K3】Multi-Token Prediction(MTP / EAGLE-3)(1)
人工智能·算法·机器学习