请问 opencsg 能兼容 hf 吗?这样配置可以吗?
请问 opencsg 能兼容 hf 吗?这样配置可以吗?
是希望用的csghub-sdk从HF上下载model吗?请详细描述一下使用方式。
是希望用的csghub-sdk从HF上下载model吗?请详细描述一下使用方式。
在vLLM中使用HF_ENDPOINT和HF_TOKEN的方式,加载存在CSGHub中的模型:
docker run --rm -it -e HF_ENDPOINT="http://172.22.222.162/hf" -e HF_TOKEN=9a21503802e240d985ba52df65889f3f registry-dev.xmufeng.com/vllm/vllm-cpu-rele ase-repo:v0.8.5.post1 --model CSG_AIWizards/GR00T-N1-2B
加载过程中报如下错误,是否CSGHub的/hf接口,不再支持高版本的huggingface_hub sdk?
Please reference code for use HF transformers sdk to download models from OpenCSG Hub.
Currently opencsg hubsdk use huggingface-hub 0.22.2
import os
os.environ["HF_ENDPOINT"] = "https://hub.opencsg.com/hf"
from transformers import AutoModelForCausalLM, AutoTokenizer
mid = 'Qwen/Qwen2.5-0.5B-Instruct'
model = AutoModelForCausalLM.from_pretrained(mid)
tokenizer = AutoTokenizer.from_pretrained(mid)
inputs = tokenizer.encode("Write a short story", return_tensors="pt")
outputs = model.generate(inputs)
print('result: ',tokenizer.batch_decode(outputs))
What hugginface-hub version are you using?
高版本的hf有校验
根据提供的文档内容,我无法找到与您提到的仓库维护团队失联、Issue未解决、PR无人处理或刷星行为相关的信息。
如果您遇到的是特定项目的问题,建议您直接联系该项目的维护团队或通过其官方渠道反馈。
您可以访问 https://opencsg.com/docs 获取更多信息,如有技术问题,技术支持团队将会介入处理。
根据检索到的内容,关于项目维护活动和星标异常的问题,有以下信息:
-
对于仓库出现可疑星标增加的情况,如果确认存在虚假星标,建议立即停止违规活动,使用GitHub的阻止功能阻止可疑用户,并联系GitHub官方团队报告情况。
-
开源行为准则中强调了社区成员应注重社区共同诉求,而非个人得失,并规定了对于不当行为的处理流程。
关于您提到的具体维护活动情况和@提及的用户,当前检索内容中没有相关信息。
您可以在 https://opencsg.com/docs 找到更多信息,技术支持团队将会介入处理。