JingaoZhang
JingaoZhang
### PR types Others ### PR changes Models ### Description 为 static_ipu 添加trainer支持,并将IPU相关的一些泛用性方法放在paddlenlp的sub-package中,便于后续支持更多模型到IPU上 具体改动如下: 1. 添加针对静态Paddle能在ipu上运行的trainer,目前可运行Bert pretraining和squad两个任务。 2. 添加了自动选择模型和相关配置的功能,便于后续模型的支持。 3. 上述改动代码在repo [PaddleNLP-IPU](https://github.com/graphcore/PaddleNLP-IPU)中,作为PaddleNLP的sub-package,可在代码中通过`import paddlenlp.IPU`进行调用。 4. 为了使PaddleNLP可扩展sub-package,需要为`paddlenlp.__init__.py`添加支持扩展的代码`__path__ = __import__('pkgutil').extend_path(__path__, __name__)`。 5. 精度目前存在一些损失,会在后续的更新中修复。...
### PR types Others ### PR changes Models ### Description 为 static_ipu 添加trainer支持,同时添加一些更泛用性的方法,便于后续支持更多模型到IPU上 具体改动如下: 1. 添加针对静态Paddle能在ipu上运行的trainer,目前可运行Bert pretraining和squad两个任务。 2. 代码基于poplar sdk 2.5 `version,对modeling和运行python脚本有小量改动,同时`paddlenlp/IPU/modeling.py`相较于旧版modeling结构更贴近Paddle和PaddleNLP。 3. 添加了自动选择模型和相关配置的功能,便于后续模型的支持。 4. 精度目前存在一些损失,会在后续的更新中修复。 Version | EM |...