KcBERT

KcBERT copied to clipboard

Pre-train 시 코퍼스 파일 문서 나누기

2

안녕하세요! 코퍼스 및 코드를 공개해주셔서 정말 감사합니다. 공개해주신 코퍼스로 KcBERT를 직접 한번 만들어 보려고 하는데요. BERT 공식 github(https://github.com/google-research/bert)의 pre-training 설명에 따르면 | Here's how to run the data generation. The...

kyle-bong

안녕하세요! 좋은 모델과 코드를 열어주셔서 감사합니다. 다름이 아니라 제가 https://beomi.github.io/2021/03/15/KcBERT-MLM-Finetune/ 이 사이트에 나와있는데로 추가 학습을 했었는데 제 도메인에 맞는 데이터 [mask] 예측을 잘 하지 못하는 것 같아서, vocab.txt를 제 학습...

NJiHyeon