sanwei111

关于数据的instruction，input，output

3

你好作者，你的readme中给出了代码的输入数据： { "id": 0, "paragraph": [ { "q": "从南京到上海的路线", "a": "你好，南京到上海的路线如下：1. 南京到上海，可以乘坐南京地铁1号线，在南京站乘坐轨道交通1号线。2. 南京到浦东机场，可以搭乘上海地铁1号，在陆家嘴站乘坐地铁1线，在浦东国际机场站乘坐机场快线，前往上海浦东国际机场。3. 上海到南京，可以换乘上海地铁2号线，从南京站换乘地铁2线，再从南京南站换乘地铁1路，然后到达上海站" } ] } 这些alpaca数据经过转化得到的，而这个例子中是，只有instruction和output，那么对于有instruction，input，output的数据，应该怎么构造呢？

ptv2显存不够？

11

显卡：v100两张，各24G max_seq_len=512 train_batchsize=2 Traceback (most recent call last): File "/workspace/code/code/chatglm_finetuning-stable-vocab130528-v2/train.py", line 182, in trainer.fit(pl_model, train_dataloaders=train_datasets) File "/root/miniconda3/envs/ptunejw/lib/python3.8/site-packages/lightning/pytorch/trainer/trainer.py", line 520, in fit call._call_and_handle_interrupt( File "/root/miniconda3/envs/ptunejw/lib/python3.8/site-packages/lightning/pytorch/trainer/call.py", line 42, in _call_and_handle_interrupt return trainer.strategy.launcher.launch(trainer_fn,...

关于需要多少显卡资源

1

我有v10024G的卡两张，但是无论参数降得多么低，都带不动，用的是ptune v2，int8模型。想问问跑的动ptune的哥们参数怎么样

我用in8，需要改torch_dtype参数吗

单机两卡指令怎么样

2

想问问单机二卡可以搞p tune 吗

关于数据格式

6

data路径下，有两个py文件，其中一个是把alpaca转为qa：比如：{"id": 1, "paragraph": [{"q": "下面是一个指令,描述了一个任务。编写适当的输出完成请求。\n\n### 指令:\n给出三个保持健康的提示。\n\n### 响应:", "a": ["1.饮食要均衡，确保包括足够的水果和蔬菜。\n2.定期运动以保持身体活跃和强壮。\n3.保持充足的睡眠并保持一致的睡眠时间表。"]}]} 我想问，你给出的例子中是没有——下面是一个指令,描述了一个任务。编写适当的输出完成请求以及\n\n###这些符号，想问问要用哪个数据格式？？？

如题

@router.delete("/") async def delete_nonsense(name: str, db_session: AsyncSession = Depends(get_db)): nonsense = await Nonsense.find(db_session, name) return await nonsense.delete(nonsense, db_session) can not work

hello,sir. i wtite a log.ini,pass it for the para of log_config in uvicorn.run('main:app', host="127.0.0.1", port=8051, log_config="log.ini"). besides, i initializes class of logger by：self._logger = logging.getLogger(__name__) in some file. i found...