tensorflow入门 自定义层

前面讲了自定义损失函数,自定义正则化,自定义评价函数。现在来讲自定义层,其实都差不多,继承重要的组件就可以了。自定义层就是基层keras.layers.Layer

python 复制代码
class MyLayer(keras.layers.Layer):
    def __init__(self, units, activation = None, **kwargs):
        super().__init__(**kwargs)
        self.units = units
        self.activation = keras.activations.get(activation)
        
    def build(self, batch_input_shape):
        self.kernel = self.add_weight(name = 'kernel', shape = [batch_input_shape[-1], self.units], initializer='glorot_normal')
        self.bais = self.add_weight(name = 'bias', shape = self.units, initializer='zeros')
        super().build(batch_input_shape)
        
    def call(self, x):
        return self.activation(X @ self.kernel + self.bias)
        
    def compute_output_shape(self, batch_input_shape):
        return tf.TensorShape(batch_input_shape.as_list()[:-1] + [self.units])
    
    def get_config(self):
        base_config = super().get_config()
        return {**base_config, 'units':self.units, 'activation': keras.activations.serialize(self.activation)}

还是老样子,继承keras已有的组件layers,然后实现几个必要的函数。

(1).构造函数将所有超参数用作参数,kwargs负责把所有的默认参数传递给父类,比如input_shape,trainable,name.

(2).build方法的作用是通过为每个权重调用add_weight()方法来创建层的变量,keras会自动推测输入的维度,也即是batch_input_shape

(3).call方法是每次计算矩阵相乘的时候,被自动调用的方法。

(4).compute_output_shape返回输出的维度,这个函数可有可无,keras会自动推断出输出的维度

(5).get_config是必须的,初始化父类的权重,以及自己的某些参数,当然不仅仅是unit和激活函数,值得注意的是,这里使用了keras.activation.serialize方法保存激活函数的完整配置。

上面创建的层可以直接拿来使用。比如dense = MyLayer(100,'relu')(input)

创建自定义的层也很灵活,可以多输入多输出,只不过需要再call返回的时候,分开返回,比如三个输入,两个输出的自定义层。

class MyLayer(keras.layers,Layer):

def call(self, X):

x1, x2, x3 = X

return [x1+x2, x2+x3]

这里只是举一个简单的例子

如果再自定义层中需要加入一些操作,比如正则化,也需要再call函数中实现。

相关推荐
郝学胜-神的一滴2 分钟前
高并发秒杀系统设计全解:从需求拆解到Redis库存实战
java·数据库·redis·python·程序人生·缓存·php
慢慢向上的蜗牛4 分钟前
Atlas300I推理卡驱动适配Linux 6.12+内核
linux·c++·人工智能·华为·驱动·底层开发·ascend
Mr.朱鹏6 分钟前
3.LangChain零基础速通-Prompt提示词模版和模型调用方法
人工智能·python·深度学习·langchain·llm·prompt·virtualenv
无忧智库6 分钟前
某大型建筑集团财务一体化平台建设项目方案(PPT)
大数据·人工智能
艺杯羹6 分钟前
从零搭建CSDN博客爬虫:Python爬虫+多格式导出完整教程
开发语言·爬虫·python·开源·gui·csdn
宁雨桥7 分钟前
AI前端开发面试题分享
前端·人工智能·ai
SSH_55238 分钟前
云上部署Claude+MiniMax+Gstack+Bun
人工智能
fangzt20108 分钟前
从零搭建自动驾驶中间件(三):事件驱动与协程调度的工程实践
人工智能·中间件·自动驾驶
叶子Talk12 分钟前
GPT-5.5幻觉率骤降52.5%,但90%的公司还在裸奔?
人工智能·gpt·ai·openai·gpt-5.5·幻觉率
iAm_Ike13 分钟前
JavaScript中模块化在游戏引擎开发中的资源调度作用
jvm·数据库·python