| { | |
| "additional_special_tokens": [ | |
| "<func_end>", | |
| "<func_10>", | |
| "<func_0>", | |
| "<func_11>", | |
| "<func_12>", | |
| "<func_13>", | |
| "<func_14>", | |
| "<func_15>", | |
| "<func_16>", | |
| "<func_17>", | |
| "<func_18>", | |
| "<func_19>", | |
| "<func_1>", | |
| "<func_20>", | |
| "<func_2>", | |
| "<func_3>", | |
| "<func_4>", | |
| "<func_5>", | |
| "<func_6>", | |
| "<func_7>", | |
| "<func_8>" | |
| ], | |
| "bos_token": { | |
| "content": "<s>", | |
| "lstrip": false, | |
| "normalized": false, | |
| "rstrip": false, | |
| "single_word": false | |
| }, | |
| "eos_token": { | |
| "content": "<|endoftext|>", | |
| "lstrip": false, | |
| "normalized": false, | |
| "rstrip": false, | |
| "single_word": false | |
| }, | |
| "pad_token": { | |
| "content": "<|endoftext|>", | |
| "lstrip": false, | |
| "normalized": false, | |
| "rstrip": false, | |
| "single_word": false | |
| }, | |
| "unk_token": { | |
| "content": "<unk>", | |
| "lstrip": false, | |
| "normalized": false, | |
| "rstrip": false, | |
| "single_word": false | |
| } | |
| } | |