模型压缩基础
- 2022 年 4 月 11 日
- 笔记
目录 模型压缩 网络剪枝 Netwrok pruning 知识蒸馏 knowledge Distillation Par …
Continue Reading
Warmup小记
- 2022 年 4 月 10 日
- 笔记
目录 什么是warmup 为什么用warmup learning rate schedule learning rate …
Continue Reading一次关于关系抽取(RE)综述调研的交流心得
- 2022 年 4 月 1 日
- 笔记
本文来自于一次交流的的记录，{}内的为个人体会。 基本概念 实事知识：实体-关系-实体的三元组。比如， 知识图谱：大量实 …
Continue Reading
espnet中的transformer和LSTM语言模型对比实验
- 2022 年 3 月 30 日
- 笔记
摘要：本文以aishell为例，通过对比实验为大家介绍transformer和LSTM语言模型。 本文分享自华为云社区《 …
Continue Reading
NLP 自然语言处理实战
- 2022 年 3 月 28 日
- 笔记
前言 自然语言处理 ( Natural Language Processing, NLP) 是计算机科学领域与人工智能领 …
Continue Reading
搜索排序技术简介
- 2022 年 3 月 13 日
- 笔记
目录 技术架构 方法概述 召回 排序 技术架构 整体可以分为 检索召回、排序 搜索相关的策略大体分为如下： query …
Continue Reading
机器学习算法–逻辑回归原理介绍
- 2021 年 12 月 5 日
- 笔记
一、逻辑回归基本概念 1. 什么是逻辑回归 逻辑回归就是这样的一个过程：面对一个回归或者分类问题，建立代价函数，然 …
Continue Reading
NLP获取词向量的方法（Glove、n-gram、word2vec、fastText、ELMo 对比分析）
- 2021 年 11 月 29 日
- 笔记
自然语言处理的第一步就是获取词向量，获取词向量的方法总体可以分为两种两种，一个是基于统计方法的，一种是基于语言模型的 …
Continue Reading
transformers—BERT
- 2021 年 10 月 15 日
- 笔记
transformers—BERT BERT模型主要包括两个部分，encoder和decoder，encod …
Continue Reading
【NLP学习其四】如何构建自己用于训练的数据集？什么是词性标注？
- 2021 年 8 月 8 日
- 笔记
数据集与词性标注 数据集是NLP中的重要一环。 但是提到数据集，很多人的第一个想法可能是：“这玩意从网上下载就好了，不用 …
Continue Reading