Yuandong Liou

能否给每个章节设计点实验？

1

已经把整本书通读了一遍，感觉每个章节都是一个领域，但是都浅尝则止，读完还是不太懂每个章节的知识怎么用。 能否给每章节设计点实验？比如如何用PyTorch实现联邦学习，写一个非常简单的神经网络编译器，或者带着读者熟悉一下相关功能的源码等。

PyTorch比TensorFlow在学术界应用还是广点。

Is the implementation of the function `pdist2sq` corrected?

1

In the [implementation](https://colab.research.google.com/github/kochbj/Deep-Learning-for-Causal-Inference/blob/main/Tutorial_2_Causal_Inference_Metrics_and_Hyperparameter_Optimization.ipynb#scrollTo=V1pELmlaISz0&line=11&uniqifier=1), `na` and `nb` is not used. ```python def pdist2sq(A, B): #helper for PEHEnn #calculates squared euclidean distance between rows of two matrices #https://gist.github.com/mbsariyildiz/34cdc26afb630e8cae079048eef91865 # squared norms of...

How does the learning rate have anything to do with the bias?

1

In [Tutorial 1](https://colab.research.google.com/drive/1Zx0AkriygB_ws6qXjA7VfqebG-YMwbWl#scrollTo=ixInwwcKmMfO), there is the following saying: > While you should experiment with different learning rates, I recommend having a conservative (smaller) learning rate because we really want our...

如何制作在不同CUDA版本的镜像？

2

需要部署的设备使用CUDA 11.0，可是提供的镜像registry.baidubce.com/paddlepaddle/paddlenlp:2.4.0-gpu-cuda10.2-cudnn7要求的版本是10.2。请问有提供不同CUDA版本的镜像吗？

求问AutoModelForSequenceClassification类的原理

1

在[paddlenlp.transformers.auto.modeling 源代码](https://paddlenlp.readthedocs.io/zh/latest/_modules/paddlenlp/transformers/auto/modeling.html)中，通过AutoModelForSequenceClassification.from_pretrained函数可以直接载入预训练模型并分类。那么，对于[Transformer预训练模型汇总](https://paddlenlp.readthedocs.io/zh/latest/model_zoo/index.html#transformer)中的模型，输入分类器的句向量是在哪里定义的（非BERT类模型不一定有[CLS]向量），所用的网络结构都是直接在句向量之后接单层全连接网络吗？

大佬，在[all_utils.py](github.com/autoliuweijie/BERT-whitening-pytorch/blob/main/all_utils.py)的函数[compute_kernel_bias](github.com/autoliuweijie/BERT-whitening-pytorch/blob/b5cfbd606bd19fc3b3adf9e074dc0bfd830ef597/all_utils.py#L63)，是要将语料们先通过BERT池化成句向量后拼接成vecs来输入。 假设一个场景是给定查询的语句q，也给定待匹配的语句库，是不是每次都要将q和语句库中所有语句一起做上述操作才行？如果是，这似乎计算量好大。

In the paper “Automatically Identifying Words That Can Serve as Labels for Few-Shot Text Classification”, I do not quite understand the following. Could you please give me an explanation?

在终端输入`python`，进入交互环境后输入`import paddlenlp`，报`ModuleNotFoundError: No module named paddlenlp`。 这是操作有问题，包是在哪个虚拟环境里吗？ 容器是用最新的PaddleNLP镜像创建的。

能提供DuQM的下载吗？

1

从[DuQM细粒度鲁棒性问题匹配数据集](https://www.luge.ai/#/luge/dataDetail?id=27)下载的是[duqm.json](https://github.com/baidu/DuReader/files/14142534/duqm.json)，打开都是乱码。