zoe

Results 20 comments of zoe

> 再训练和微调最大差别应该是模型训任务类型, 再训练,在一个预训练的基础上继续进行加上一定预训练数据继续训练; 微调,在预训练的模型的基础上加上有监督数据进行训练。 是不是一个区别是用的是有标签数据就是微调,无标签数据就是再训练?

> > > 再训练和微调最大差别应该是模型训任务类型, 再训练,在一个预训练的基础上继续进行加上一定预训练数据继续训练; 微调,在预训练的模型的基础上加上有监督数据进行训练。 > > > > > > 是不是一个区别是用的是有标签数据就是微调,无标签数据就是再训练? > > 你可以这么理解,预训练的数据是无标签数据自动构造出来的 请问paddle有没有类似”再训练“的方法?

是不是只要有evaluate(model, criterion, metric, dev_data_loader)就是微调,如果没有这一步,只有前面的loss&optimizer是再训练?

> > > > > 再训练和微调最大差别应该是模型训任务类型, 再训练,在一个预训练的基础上继续进行加上一定预训练数据继续训练; 微调,在预训练的模型的基础上加上有监督数据进行训练。 > > > > > > > > > > > > 是不是一个区别是用的是有标签数据就是微调,无标签数据就是再训练? > > > > > > > > >...

使用的模型是bert-wwm-chinese,albert-chinese-tiny,skep_ernie_1.0_large_ch

> 您的显存有多大呢,换一张卡试试? ![image](https://user-images.githubusercontent.com/35884699/183024319-ed1e874f-6bf0-4613-b57b-91c43140d00f.png)

> * (input_ids == self.pad_token_id).astype(wtype) * -1e9, axis=[1, 2]) 我在调用trainer.evaluate(test_ds, batch_size=16)执行我自己的训练数据(长度为512的中文文本,三种label)时,也报了这个错误: > UnboundLocalError Traceback (most recent call last) > /tmp/ipykernel_2214/3588254174.py in > 9 trainer.evaluate(test_ds, batch_size=16) > > ~/anaconda3/envs/paddle/lib/python3.7/site-packages/paddlehub/finetune/trainer.py in evaluate(self,...

> 只是分类模型,后来我查看https://paddlenlp.readthedocs.io/zh/latest/model_zoo/index.html 这里的教程顺利完成了微调。 我的paddle版本是2.3.1

> 我的paddle版本是2.3.1 嗯,这里是的,不过我有逐个尝试ernie的不同版本,至少在api文档中的前三个ernie版本都是model_names = [ 'ernie-1.0-base-zh', 'ernie-tiny', 'ernie-2.0-base-en']都是如此。 我的数据集是这样的: > text label 坐席:你好请问什么帮您?#客户:你好我看一下我宽带现在怎么回事儿。#坐席:好的,您号码,请您提供一下。#客户:幺五三,五三四九,二七五五。#坐席:二七五五是吗?请您稍等一下,姓名麻烦报一下。#客户:农万星。#坐席:好的,这里没有两条网线竹路还是二线。#客户:应该是主路途中是不是一个月那个。#坐席:我给您看看啊,您刚才说这个地址目前是在哪。#客户:北京颐和俊。#坐席:好的谢谢您,现在通过系统帮您测试中请您稍等一下。#客户:听清。#坐席:系统这边帮您测试了一下显示是线路正常。#客户:一。#坐席:对您那边有什么提示呢?#客户:我提示我现在看不到但是我,刚把猫的线拔了一下您毛怎么样啊。#坐席:您那的小区名字叫什么呢?#客户:就这一个g小区。#坐席:那就,不对呀,你等一下啊,请您稍等一下,是一和俊是吧。#客户:没有。#坐席:这两个地址都不是。#客户:你说的地址不是啥意思。#坐席:就是您所报的地址跟我这边,的地址核对了一下是不一样的,不是。#客户:就是我这个号码跟这个,不一样吗?#坐席:您的号码对吧我给您报一遍幺五三五三四九二七五五。#客户:对呀机主叫没。#坐席:对相关联的宽带,对这个是机主姓名没问题,您关联的这个宽带, 宽带类 坐席:七七,您好请问什么可以帮您你好?#客户:哎你好,嗯,我知道我家里这个宽带上不了网了。#坐席:好的你等一下我给您看一下啊。#客户:嗯嗯,这不是手机绑定这一步。#坐席:不是这个吗那您说一下那个账号?#客户:呃那个手机是幺七七,七八九六幺九,七幺,七幺。#坐席:幺七七七八九六幺九七幺。#客户:对。#坐席:好宽带地址在哪里跟您确认。#客户:呃,西铁铲吧生态院二十三号楼二幺零。#坐席:好稍等一下。#客户:嗯。#坐席:我看一下它显示账号绑定错了,小。#客户:账号绑政策。#坐席:对是的账号连接时出现了点问题,嗯,一下。#客户:嗯好。#坐席:啊。#客户:嗯,好。#坐席:说。#客户:啊。#坐席:嗯,好的您先这样先生您满意。#客户:嗯,嗯。#坐席:不限不挂机咱在线测试好。#客户:好好。#坐席:哎。#客户:我把电话了,现在重启了。#坐席:你。#客户:刚说他这个是咋咋回事上不去网了。#坐席:有账号绑定错了,账号连接时出现问题您看您的那个账号有没有增核实呀。#客户:账号咋了。#坐席:绑,错了就您登录的时候把账号给输错。#客户:我没有输呀,昨天一直好好的早上起来这样,就上不了网了我想是今年十月一号,然后扣费了,然后又交了二百块话费 宽带类