MindSpore21天实战营(2)使用MindSpore和ModelArts实现Bert中文新闻分类

举报
张辉 发表于 2020/11/09 17:12:48 2020/11/09
【摘要】 本文介绍了如何使用MindSpore和ModelArts实现双M恋。。。对新闻进行推理判断其分类。

编者按:其实本次的体验作业和进阶作业难度都不大。但是由于ModelArts在升级,bert作业倒是最后一个完成的。


(一)数据准备

(1)下载tnews数据集:

https://e-share.obs-website.cn-north-

1.myhuaweicloud.com?token=SvjC1tq+9EC0fILT0WI5w1SIJKMVsoAn6d3hiNI5bHpGQM

MKuJiZhGfVhyPTgqUIFIVIYKtAmENUpN6ssH654op9P9KNXqX021meACXkf2EZ+O58B+

FMoSmBJoaoi+97k52R89dhiOtO4HUMuIK6JYdZImjBOaZ1gxeB+gXCgHBKRNpzfcccU4d

41LlA3BPBLqhJ24K0Q76EZdwPUFdf+oRgVqr9d4n01yNmZ9PlIYQlLFSxfQGeIojXp5jif1E

EISBUvsvSm880An8VEAqYCMdiLcyfVE9rv0YFodid0EPzGmngOMa5p2Q/P6q3jJsjaPsEl

kX4SMpQ80v4DkJ4J+un4gISVfwf5VWIxObY7CbnP2YIJ+K7F+m9OrRN8oDm4aUooUfi0u

8xlKIij4NqFyWMjUuPCsAIHavtpB+WQqMFOZooFxE45VAIZSXQiWIL3UKYVSm/Eyvi+cyg

8PON0I501QJkhONQH7inkdoUMinwQoWOx/lyBzKiw8f94rtRtCWWNwI9DZsz/tDSF+yeM

o3hI7p7NILWiFUbvFK2lUc= 


输入提取码123456

image.png

点击两个“下载,下好了两个文件。。

image.png


(2)下载预训练模型tnews-3_3335.ckpt


浏览器上输入ckpt的链接

https://21days-bert.obs.myhuaweicloud.com:443/tnews-3_3335.ckpt?AccessKeyId=M7KX8KLMT0ZL1P8QWXZ5&Expires=1634522122&Signature=d21XsEKkzByK04oyZJ2c9JMGNLk%3D

下载了1.17G的预训练ckpt文件tnews-3_3335.ckpt

image.png


(3)下载代码

由于代码仓在github上,可以按照 张小白  https://bbs.huaweicloud.cn/blogs/207322 这个文档一开始的方法使用gitee导入github上的 mindspore-21-days-tutorials 代码仓。

然后使用 git clone 将gitee代码仓的内容拷贝到本地。

(4)上传数据集

在OBS上新建以下目录,并上传上述文件。

image.png

其中:

bert目录下,上传python代码:

image.png

以及预训练模型:

image.png

image.png

dataset下建个tnews目录,上传数据集

image.png


(二)体验作业


创建体验作业的训练任务 tranjob-bert-tiyan

image.png

image.png

image.png

其中:

  • 代码目录:/mindspore-21day-singleaz/bert/bert/

  • 启动文件:/mindspore-21day-singleaz/bert/bert/run_classifier.py

  • 数据集:/mindspore-21day-singleaz/bert/dataset/tnews/

  • 训练输出位置:/mindspore-21day-singleaz/bert/output/

  • 运行参数:predict=美国夫妇连生14个男孩后终迎来女儿

  • 作业日志路径:/mindspore-21day-singleaz/bert/log/

确认后提交。

2分11秒后运行完毕:

image.png

image.png

判断出这是一则国际新闻。

张小白不会仅仅挑一则新闻就放过这个模型的。。。

(四川成都同名同姓情侣领证结婚)

image.png

编辑后再run

结果:

这是一则娱乐新闻。。(尽管企鹅将其分到社会新闻中,不过内容确实很娱乐。。)

image.png

image.png

好吧。张小白相信你了。


(三)进阶作业

让张小白开始鸡动人心的最后一个体验作业吧。。

先将tnews.cpkt换个名字(删掉太可惜。。万一以后我还想体验呢?)

image.png

下载bert_base.ckpt (392M)

https://bert-

21days.obs.myhuaweicloud.com:443/bert/bert_base.ckpt?AccessKeyId=M7KX8KLMT0ZL1P8Q

WXZ5&Expires=1635991421&Signature=cruWVmPy68Fz%2Bfr90Do5sS1WN0E%3D

image.png

将其上传到bert代码目录下:

image.png

然后创建模型训练和验证作业:tranjob-bert-finetune

image.png

按下图配置:

image.png

image.png

具体参数:

  • 代码目录:/mindspore-21day-singleaz/bert/bert/

  • 启动文件:/mindspore-21day-singleaz/bert/bert/run_classifier.py  (居然跟体验一样,看来是复合型Python脚本)

  • 数据集:/mindspore-21day-singleaz/bert/dataset/tnews/

  • 训练输出位置:/mindspore-21day-singleaz/bert/bert/   是为了输出后直接可以继续使用

  • 作业日志:/mindspore-21day-singleaz/bert/log/

运行参数增加以下内容:

  • num_class=15

  • load_pretrain_checkpoint_path=/home/work/user-job-dir/bert/bert_base.ckpt

  • train_data_file_path=/cache/data/train.tf_record

  • do_train=true

  • epoch_num=3

  • eval_data_file_path=/cache/data/dev.tf_record

  • do_eval=true

(貌似是在配置训练和配置的开关和数据集配置,还有epoch次数什么的。。)


下一步,

image.png

确认后提交任务。等待任务执行完毕。

12分半之后,任务执行完毕。

image.png

正确率 0.55550左右。(真是个吉利的数字)

OBS上也有训练好的ckpt文件。

image.png

好了,终于结束了这段实战旅程。

下次再见。

(全文完,谢谢阅读)

【版权声明】本文为华为云社区用户原创内容,转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息, 否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。