Logo
Section 1 / 18

理解多语言BERT

了解多语言BERT、其配置方式以及如何使用预训练的多语言BERT(M-BERT)。

导入

理解多语言BERT

了解多语言BERT、其配置方式以及如何使用预训练的多语言BERT(M-BERT)。

...
...

代码示例

1from transformers import BertTokenizer, BertModel

代码示例

1model = BertModel.from_pretrained('bert-base-multilingual-cased')

1tokenizer = BertTokenizer.from_pretrained('bert-base-multilingual-cased')

代码示例

1sentence = "C'est une si belle journée"

代码示例

1inputs = tokenizer(sentence, return_tensors="pt")

代码示例

1objects = model(**inputs) 2hidden_rep = objects.last_hidden_state 3cls_head = objects.pooler_output

探索 BERTSUM 进行文本摘要

在NLI任务上评估M-BERT