tensorflow入门 自定义层

前面讲了自定义损失函数,自定义正则化,自定义评价函数。现在来讲自定义层,其实都差不多,继承重要的组件就可以了。自定义层就是基层keras.layers.Layer

python 复制代码
class MyLayer(keras.layers.Layer):
    def __init__(self, units, activation = None, **kwargs):
        super().__init__(**kwargs)
        self.units = units
        self.activation = keras.activations.get(activation)
        
    def build(self, batch_input_shape):
        self.kernel = self.add_weight(name = 'kernel', shape = [batch_input_shape[-1], self.units], initializer='glorot_normal')
        self.bais = self.add_weight(name = 'bias', shape = self.units, initializer='zeros')
        super().build(batch_input_shape)
        
    def call(self, x):
        return self.activation(X @ self.kernel + self.bias)
        
    def compute_output_shape(self, batch_input_shape):
        return tf.TensorShape(batch_input_shape.as_list()[:-1] + [self.units])
    
    def get_config(self):
        base_config = super().get_config()
        return {**base_config, 'units':self.units, 'activation': keras.activations.serialize(self.activation)}

还是老样子,继承keras已有的组件layers,然后实现几个必要的函数。

(1).构造函数将所有超参数用作参数,kwargs负责把所有的默认参数传递给父类,比如input_shape,trainable,name.

(2).build方法的作用是通过为每个权重调用add_weight()方法来创建层的变量,keras会自动推测输入的维度,也即是batch_input_shape

(3).call方法是每次计算矩阵相乘的时候,被自动调用的方法。

(4).compute_output_shape返回输出的维度,这个函数可有可无,keras会自动推断出输出的维度

(5).get_config是必须的,初始化父类的权重,以及自己的某些参数,当然不仅仅是unit和激活函数,值得注意的是,这里使用了keras.activation.serialize方法保存激活函数的完整配置。

上面创建的层可以直接拿来使用。比如dense = MyLayer(100,'relu')(input)

创建自定义的层也很灵活,可以多输入多输出,只不过需要再call返回的时候,分开返回,比如三个输入,两个输出的自定义层。

class MyLayer(keras.layers,Layer):

def call(self, X):

x1, x2, x3 = X

return [x1+x2, x2+x3]

这里只是举一个简单的例子

如果再自定义层中需要加入一些操作,比如正则化,也需要再call函数中实现。

相关推荐
Marst Code几秒前
(Django)初步使用
后端·python·django
龙的爹23331 分钟前
论文 | Model-tuning Via Prompts Makes NLP Models Adversarially Robust
人工智能·gpt·深度学习·语言模型·自然语言处理·prompt
工业机器视觉设计和实现14 分钟前
cnn突破四(生成卷积核与固定核对比)
人工智能·深度学习·cnn
985小水博一枚呀18 分钟前
【对于Python爬虫的理解】数据挖掘、信息聚合、价格监控、新闻爬取等,附代码。
爬虫·python·深度学习·数据挖掘
立秋678929 分钟前
Python的defaultdict详解
服务器·windows·python
萧鼎42 分钟前
Python第三方库选择与使用陷阱避免
开发语言·python
想要打 Acm 的小周同学呀1 小时前
实现mnist手写数字识别
深度学习·tensorflow·实现mnist手写数字识别
白拾1 小时前
使用Conda管理python环境的指南
开发语言·python·conda
我算是程序猿1 小时前
用AI做电子萌宠,快速涨粉变现
人工智能·stable diffusion·aigc
萱仔学习自我记录1 小时前
微调大语言模型——超详细步骤
人工智能·深度学习·机器学习