CKIP ALBERT 繁体中文

该项目提供了传统中文的 transformers 模型（包括 ALBERT、BERT、GPT2）和 NLP 工具（包括分词、词性标注、命名实体识别）。

这个项目提供了传统的中文 transformers 模型（包括 ALBERT、BERT、GPT2）和自然语言处理工具（包括分词、词性标注、命名实体识别）。

主页

• https://github.com/ckiplab/ckip-transformers

贡献者

• Mu Yang at CKIP （作者和维护者）

用法

请使用 BertTokenizerFast 作为 tokenizer，而不是 AutoTokenizer。

请使用 BertTokenizerFast 代替 AutoTokenizer。

from transformers import (
  BertTokenizerFast,
  AutoModel,
)

tokenizer = BertTokenizerFast.from_pretrained('bert-base-chinese')
model = AutoModel.from_pretrained('ckiplab/albert-tiny-chinese')

有关完整的用法和更多信息，请参考 https://github.com/ckiplab/ckip-transformers 。

有关完整使用方法和更多信息，请参考 https://github.com/ckiplab/ckip-transformers 。