File size: 2,233 Bytes
06e5009 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 |
import json
from pathlib import Path
from pylate import models, indexes, retrieve
# ========= Тохиргоо =========
MODEL_PATH = "/home/astgpu3/workspace/bolorjinbat/LFM2-ColBERT-350M"
INPUT_JSON = Path("test.json") # оролтын JSON
OUTPUT_JSON = Path("laws_with_emb.json") # гаралтын JSON
# ===========================
def load_data(path: Path):
with open(path, "r", encoding="utf-8") as f:
data = json.load(f)
if not isinstance(data, list):
raise ValueError("JSON root must be a list of objects")
return data
def main():
# 1) Модел ачаалах
model = models.ColBERT(model_name_or_path=MODEL_PATH)
# 2) JSON унших
data = load_data(INPUT_JSON)
# 3) content талбаруудаас текстүүдийг цуглуулах
texts = []
idx_map = [] # JSON доторх index-ийг холбоход ашиглана
for i, row in enumerate(data):
content = row.get("content")
if not content:
continue
# content нь list байвал нэг мөр болгож нийлүүлнэ
if isinstance(content, list):
content = "\n".join(content)
texts.append(content)
idx_map.append(i)
print(f"Embedding хийх нийт текст: {len(texts)}")
if not texts:
print("content талбар олдсонгүй, дууслаа.")
return
# 4) Embedding үүсгэх (document тал)
embs = model.encode(
texts,
batch_size=32,
is_query=False,
show_progress_bar=True,
)
# 5) Embedding-ийг JSON-д буцаан бичих
# embs нь ихэвчлэн numpy array эсвэл torch tensor → list болгоно
embs_list = embs.tolist()
for emb, row_idx in zip(embs_list, idx_map):
# энд embedding-ээ шинэ талбарт хадгална
data[row_idx]["embedding"] = emb
# 6) Шинэ JSON файл руу хадгалах
with open(OUTPUT_JSON, "w", encoding="utf-8") as f:
json.dump(data, f, ensure_ascii=False, indent=2)
print(f"Бэлэн боллоо: {OUTPUT_JSON}")
if __name__ == "__main__":
main()
|