CodeGeeX

CodeGeeX copied to clipboard

本地部署了，如何用api暴露出去给vscode或者别的内部系统直接调用呢？

3

acbogeh

4090 因为显存不足，不能直接运行。 需要把 checkpoint 文件转换为 ft 版本。 前提条件： 已经下载好了 checkpoint 文件列表，并且合并后解压为 codegeex_13b.pt。 # 1.运行容器，进入到支持 GPU的 pytorch 环境， ``` git clone https://github.com/CodeGeeX/codegeex-fastertransformer cd codegeex-fastertransformer docker pull nvcr.io/nvidia/pytorch:21.11-py3 docker run -p 9114:5000...

davideuler

如何加入微信群，微信一直没有通过

1

flatblackwhite

比如10-20人的并发申请，需要至少几卡才不会爆内存，需要做队列缓冲不？

acbogeh

您好，我尝试了一下 Inference on GPUs 的样例，即test/test_prompt.txt的输入样例。改成java翻译到typescript，但是结果很差，不知道为啥，但是我看提供的demo的翻译效果就挺好的？ 这个是没有经过翻译数据微调的模型吗？ demo的模型是经过论文里面说的翻译数据微调后的模型吗？ 期待您答复

wuxiangli91

能支持定制化的训练么？

1

比如把我自己的项目代码放到这个模型里面去训练，提高 CodeGeeX 在这个特定项目中的表现。 看到 CodeGeeX 的介绍里面说训练数据中 C++、Python、Java 和 JavaScript 占了相当大的比例，而我自己的项目基本上全是 typescript，不知道如果真的支持了定制化的增量训练是不是会对 CodeGeeX 在特定项目下的表现有所提升。

SilentTiger

I tried to input the following into the online playground at https://codegeex.cn/playground: ```js // We have a list of recipes with the given format: // - Line 0: integer N...

PoignardAzur

问题：中文README文件中交互模式的gif过大，导致无法显示。 原因：链接的gif过大，导致单独访问可以，但渲染到页面上不行。 建议：压缩gif文件大小 文档地址:https://github.com/THUDM/CodeGeeX/blob/main/vscode-extension/README_zh.md

hjkl950217

推理过程中报错

4

您好，执行“bash ./scripts/test_inference_quantized.sh 0 ./tests/test_prompt.txt”，　请问这个怎么处理呢 File "/opt/conda/envs/python38/lib/python3.8/site-packages/codegeex-1.0-py3.8.egg/codegeex/kernels/__init__.py", line 15, in __init__ raise RuntimeError("File `%s` not found in `%s`" % (filename, RESOURCE_PACKAGE_NAME)) RuntimeError: File `quantization.fatbin` not found in `codegeex.kernels`

uloveqian2021

啥情况，第一次登录，往邮箱发了给验证码，在pycharm输入完后登录界面白屏无任何提示，反复重启，依然白板。 和解~~

outofsky