clip-as-service icon indicating copy to clipboard operation
clip-as-service copied to clipboard

大佬 不支持albert

Open xrzlizheng opened this issue 5 years ago • 13 comments

将模型替换为albert模型 失败,,希望增加支持albert版本

xrzlizheng avatar Oct 25 '19 06:10 xrzlizheng

可以尝试把 https://github.com/hanxiao/bert-as-service/blob/master/server/bert_serving/server/bert/modeling.py 里面的内容替换成albert的对应文件试试

oasis-0927 avatar Nov 20 '19 06:11 oasis-0927

可以尝试把 https://github.com/hanxiao/bert-as-service/blob/master/server/bert_serving/server/bert/modeling.py 里面的内容替换成albert的对应文件试试

有人尝试过了吗?

semal avatar Nov 28 '19 06:11 semal

可以尝试把 https://github.com/hanxiao/bert-as-service/blob/master/server/bert_serving/server/bert/modeling.py 里面的内容替换成albert的对应文件试试

有人尝试过了吗?

替换之后竟然成功运行了..

semal avatar Nov 28 '19 08:11 semal

可以尝试把 https://github.com/hanxiao/bert-as-service/blob/master/server/bert_serving/server/bert/modeling.py 里面的内容替换成albert的对应文件试试

有人尝试过了吗?

替换之后竟然成功运行了..

请问具体是怎么改的 直接用albert替换吗 我替换了不成功

maimaimaiya avatar Dec 01 '19 13:12 maimaimaiya

可以尝试把 https://github.com/hanxiao/bert-as-service/blob/master/server/bert_serving/server/bert/modeling.py 里面的内容替换成albert的对应文件试试

有人尝试过了吗?

替换之后竟然成功运行了..

请问具体是怎么改的 直接用albert替换吗 我替换了不成功

是的,直接替换 modeling.py 文件就好了,输入命令的时候记得将一些参数名改对..

semal avatar Dec 02 '19 06:12 semal

可以尝试把 https://github.com/hanxiao/bert-as-service/blob/master/server/bert_serving/server/bert/modeling.py 里面的内容替换成albert的对应文件试试

有人尝试过了吗?

替换之后竟然成功运行了..

请问具体是怎么改的 直接用albert替换吗 我替换了不成功

是的,直接替换 modeling.py 文件就好了,输入命令的时候记得将一些参数名改对..

我替换以后仍然不行,我试了brightmart/albert_zh以及google/albert的模型,同时将模型文件名更改为bert_model等,但是仍然失败了

maimaimaiya avatar Dec 02 '19 08:12 maimaimaiya

可以尝试把 https://github.com/hanxiao/bert-as-service/blob/master/server/bert_serving/server/bert/modeling.py 里面的内容替换成albert的对应文件试试

有人尝试过了吗?

替换之后竟然成功运行了..

请问具体是怎么改的 直接用albert替换吗 我替换了不成功

是的,直接替换 modeling.py 文件就好了,输入命令的时候记得将一些参数名改对..

可以告知具体命令和替换那些参数吗...

ghost avatar Feb 12 '20 03:02 ghost

albert版本,改了modeling.py https://github.com/liushaoweihua/bert_encode_server

liushaoweihua avatar Feb 12 '20 06:02 liushaoweihua

Will anyone raise a PR for ALBERT supporting?

ideaRunner avatar Mar 11 '20 11:03 ideaRunner

albert版本,改了modeling.py https://github.com/liushaoweihua/bert_encode_server

Page Not Found......

ghost avatar Mar 22 '20 05:03 ghost

albert版本,改了modeling.py https://github.com/liushaoweihua/bert_encode_server

Page Not Found......

已经放上去啦

liushaoweihua avatar Mar 22 '20 13:03 liushaoweihua

亲测可用

  1. 替换modeling.py为albert的modeling.py
  2. 修改server/bert_serving/server/graph.py中对modeling.BertModel调用的参数,即删除use_position_embeddings=not args.no_position_embeddings,因为albert中的BertModel没有这个参数
  3. 基于修改后项目文件安装server,python setup.py install(server文件夹下)
  4. 使用的过程中需要配置参数config_name为albert模型对应的配置文件名,例如albert_config_tiny.json

fanzfeng avatar May 07 '20 12:05 fanzfeng

亲测可用

  1. 替换modeling.py为albert的modeling.py
  2. 修改server/bert_serving/server/graph.py中对modeling.BertModel调用的参数,即删除use_position_embeddings=not args.no_position_embeddings,因为albert中的BertModel没有这个参数
  3. 基于修改后项目文件安装server,python setup.py install(server文件夹下)
  4. 使用的过程中需要配置参数config_name为albert模型对应的配置文件名,例如albert_config_tiny.json

出现embedding的维度不一致。。。。没办法用啊。。。

qqfly1to19 avatar Aug 20 '20 08:08 qqfly1to19