参考hugging face上的操作:Converting Tensorflow Checkpoints (huggingface.co)

注意:需要有tf和pytorch以及transformer

export BERT_BASE_DIR=path#bert模型存放的路径
transformers-cli convert --model_type bert \
  --tf_checkpoint $BERT_BASE_DIR/bert_model.ckpt \
  --config $BERT_BASE_DIR/bert_config.json \
  --pytorch_dump_output $BERT_BASE_DIR/pytorch_model.bin

最后附上一个关于预训练模型比较全的git:

chinese-bert:   在自然语言处理领域中,预训练语言模型(Pre-trained Language Models)已成为非常重要的基础技术https://gitee.com/mirrors/chinese-bert

更多推荐