optimtool最新版加速训练分类任务

optimtool训练分类任务

生成符号神经网络是optimtool这个优化工具训练神经网络的前提,推荐下载2.8.3版本(加速函数计算)和github.com/linjing-lab/optimtool的最新版(优化Hessian计算):

python 复制代码
pip install optimtool==2.8.3

下载最新版的代码:

python 复制代码
git clone https://github.com/linjing-lab/optimtool.git
cd optimtool
pip install -e . --verbose

分类示例

python 复制代码
X = np.array([
    [2.0, 1.0, 0.5, 0.1],
    [5.1, 3.1, 2.1, 1.05],
    [5.0, 3.0, 2.0, 1.0],
    [2.1, 0.9, 0.55, 0.15],
    [8.0, 5.0, 4.0, 2.0],
    [8.2, 5.2, 4.2, 2.1],
], dtype=np.float64)
y = np.array([0, 1, 1, 0, 2, 2], dtype=np.int64)
f_sym, params = gen_nn(X, y, hidden_dims=[2,])
ou.gradient_descent.barzilar_borwein(f_sym, params, np.ones(len(params)).tolist(), verbose=True, epsilon=1e-2)

这是一个典型的三分类任务,数据规模可以根据自己电脑或服务器的芯片性能来决定,optimtool是可以展示迭代过程的优化工具

输出展示

其余低版本因为dict(zip())速度的问题,不适用于这个示例。

相关推荐
在所不辞兄1 小时前
为什么神经网络对对抗扰动和分布偏移往往比较脆弱,而人类感知相对更鲁棒?
人工智能·深度学习·神经网络·机器学习
考拉讲支付1 小时前
母婴亲子服务平台分账架构设计:多场景多方分账与合规清结算实践
大数据·运维·人工智能·微信小程序·架构·微信公众平台
xier_ran1 小时前
【infra之路】AI 编译器学习笔记(十三):AI 编译器全景——TVM、XLA、IREE 与其他
人工智能·笔记·学习
用户837133200761 小时前
感觉终于把复杂的 RAG 技术整理明白了
人工智能·llm
今年下半年1 小时前
AI智能体项目实战记录(06):RAG项目实战之文件上传及文档读取解析
人工智能·rag·文档解析
什么嘻嘻果冻1 小时前
无代码开发平台的技术架构,恐象 AI 的生成引擎拆解
大数据·人工智能·低代码
tomwang03221 小时前
路径优化建模、优化算法分类及工程化小结
算法·数学建模·分类
解决问题no解决代码问题1 小时前
Java金融后端转LLM应用开发 Day1:初识生成式AI与大模型本质
人工智能