FlagEmbedding icon indicating copy to clipboard operation
FlagEmbedding copied to clipboard

ICLR‘25 Activation Beacon pretrained model的checkpoint

Open KangcongLi opened this issue 7 months ago • 2 comments

你好!请问能否提供一下ICLR‘25 Activation Beacon pretrain的llama2-7b和mistral-7b模型,目前只能在Peitian的主页找到qwen2-7b的pretrain模型,十分感谢!!

KangcongLi avatar Apr 21 '25 12:04 KangcongLi

你好,这俩checkpoint之前在服务器上删了,一直没重训,你可以直接用脚本自己训一下~

namespace-Pt avatar Apr 21 '25 14:04 namespace-Pt

你好,这俩checkpoint之前在服务器上删了,一直没重训,你可以直接用脚本自己训一下~

请问可以在您主页的这两个ultragist模型上进行预训练吗

Image

KangcongLi avatar Apr 22 '25 01:04 KangcongLi