Qinkai

该问题已修复

> 我使用vsc插件，但是它告诉我添加注释功能暂不支持dart。 可以使用新版的chat功能，选中代码，在聊天框里让模型添加注释

可以直接使用我们的二代模型，请参考这个教程：https://github.com/THUDM/CodeGeeX2/blob/main/docs/zh/inference_zh.md

Great suggestions! We're working on this function. Just a quick test on "AskCodeGeeX" by providing the project hierarchy:  I would expect it to perform...

您好，重新登陆CodeGeeX试一试呢？

请使用[该链接](https://wj.qq.com/r/login.html?s_url=https%3A%2F%2Fwj.qq.com%2Fs2%2F11274205%2Fa15b%2F&sid=11274205&hash=a15b&login_type=unite&scene_type=respondent)加入微信群

使用Flask可以把推理服务构建成API供外部调用，实现可以参考：https://github.com/CodeGeeX/codegeex-fastertransformer/blob/main/api.py

> @yug2023 我个人的想法是这个prompt是写了两行注释 然后通过注释生成代码 所以我认为 prompt 应该是 `"// language: Java\n //write a bubble sort function\n" ` 而且其他语言的prompt我也是按照这一想法修改的 都没有问题。 所以我不太清楚prompt的正确格式应该是什么样的。 你有尝试过其他语言只修改最前面的注释字符token。 @Stanislas0 您好，请问可以在这方面详细说明一下吗？ 你的prompt没有写错，CodeGeeX2是一个基座模型，prompt格式就是按照正常编程习惯来写。这里出现空行比较奇怪，我试了是可以正常出东西的，估计是精度原因导致，不知道你的模型是否经过了量化。如果要更好的引导模型生成函数体，只需要再加上一些关键字就行了，比如“public”，模型就会继续完成函数体。

可以提供个具体的例子吗？

Which torch version do you use? And the CUDA version?