• 2021 年 10 月 9 日
• 筆記

1. 預訓練的BERT模型 從頭開始訓練一個BERT模型是一個成本非常高的工作，所以現在一般是直接去下載已經預訓練好的B …

• 2021 年 9 月 30 日
• 筆記

1. BERT簡介 Transformer架構的出現，是NLP界的一個重要的里程碑。它激發了很多基於此架構的模型，其中一 …

• 2021 年 9 月 14 日
• 筆記

1. Transformer模型 在Attention機制被提出後的第3年，2017年又有一篇影響力巨大的論文由Goog …

• 2021 年 8 月 28 日
• 筆記

1. 循環神經網路 在介紹循環神經網路之前，我們先考慮一個大家閱讀文章的場景。一般在閱讀一個句子時，我們是一個字或是一個 …