LSTM的初始狀態

  • 2020 年 12 月 15 日
  • AI
def get_initial_state(self, inputs):
  # build an all-zero tensor of shape (samples, output_dim)
  initial_state = K.zeros_like(inputs)  # (samples, timesteps, input_dim)
  initial_state = K.sum(initial_state, axis=(1, 2))  # (samples,)
  initial_state = K.expand_dims(initial_state)  # (samples, 1)
 

keras官方實現的LSTM的部分源程式碼,可以在stateful=False即,使用常見的stateless的LSTM的時候,每一次訓練下一個新樣本得時候其初始得狀態都會重置為全0。