CSGHub icon indicating copy to clipboard operation
CSGHub copied to clipboard

请问 opencsg 能兼容 hf 吗?这样配置可以吗?

Open xiaolin8 opened this issue 7 months ago • 7 comments

请问 opencsg 能兼容 hf 吗?这样配置可以吗? Image

xiaolin8 avatar May 14 '25 08:05 xiaolin8

是希望用的csghub-sdk从HF上下载model吗?请详细描述一下使用方式。

HaiHui886 avatar May 15 '25 05:05 HaiHui886

是希望用的csghub-sdk从HF上下载model吗?请详细描述一下使用方式。

在vLLM中使用HF_ENDPOINT和HF_TOKEN的方式,加载存在CSGHub中的模型: docker run --rm -it -e HF_ENDPOINT="http://172.22.222.162/hf" -e HF_TOKEN=9a21503802e240d985ba52df65889f3f registry-dev.xmufeng.com/vllm/vllm-cpu-rele ase-repo:v0.8.5.post1 --model CSG_AIWizards/GR00T-N1-2B

加载过程中报如下错误,是否CSGHub的/hf接口,不再支持高版本的huggingface_hub sdk?

Image

xmufeng avatar May 16 '25 08:05 xmufeng

Please reference code for use HF transformers sdk to download models from OpenCSG Hub. Currently opencsg hubsdk use huggingface-hub 0.22.2

import os

os.environ["HF_ENDPOINT"] = "https://hub.opencsg.com/hf"
from transformers import AutoModelForCausalLM, AutoTokenizer

mid = 'Qwen/Qwen2.5-0.5B-Instruct'
model = AutoModelForCausalLM.from_pretrained(mid)
tokenizer = AutoTokenizer.from_pretrained(mid)

inputs = tokenizer.encode("Write a short story", return_tensors="pt")
outputs = model.generate(inputs)
print('result: ',tokenizer.batch_decode(outputs))

What hugginface-hub version are you using?

Image

HaiHui886 avatar May 19 '25 03:05 HaiHui886

高版本的hf有校验

wenbindeng avatar Sep 22 '25 01:09 wenbindeng

根据提供的文档内容,我无法找到与您提到的仓库维护团队失联、Issue未解决、PR无人处理或刷星行为相关的信息。

如果您遇到的是特定项目的问题,建议您直接联系该项目的维护团队或通过其官方渠道反馈。

您可以访问 https://opencsg.com/docs 获取更多信息,如有技术问题,技术支持团队将会介入处理。

wayneliu0019 avatar Nov 11 '25 21:11 wayneliu0019

根据检索到的内容,关于项目维护活动和星标异常的问题,有以下信息:

  1. 对于仓库出现可疑星标增加的情况,如果确认存在虚假星标,建议立即停止违规活动,使用GitHub的阻止功能阻止可疑用户,并联系GitHub官方团队报告情况。

  2. 开源行为准则中强调了社区成员应注重社区共同诉求,而非个人得失,并规定了对于不当行为的处理流程。

关于您提到的具体维护活动情况和@提及的用户,当前检索内容中没有相关信息。

您可以在 https://opencsg.com/docs 找到更多信息,技术支持团队将会介入处理。

wayneliu0019 avatar Nov 15 '25 18:11 wayneliu0019