edit application file 2

app.py

@@ -20,16 +20,17 @@ model_init = GPT2LMHeadModel.from_pretrained(
     output_hidden_states = False,
 )
 model_init.to(device);
-# # Это обученная модель, в нее загружаем веса
-# model = GPT2LMHeadModel.from_pretrained(
-#     'sberbank-ai/rugpt3small_based_on_gpt2',
-#     output_attentions = False,
-#     output_hidden_states = False,
-# )
+# Это обученная модель, в нее загружаем веса
+model = GPT2LMHeadModel.from_pretrained(
+    'sberbank-ai/rugpt3small_based_on_gpt2',
+    output_attentions = False,
+    output_hidden_states = False,
+)
 
-# m = torch.load('model.pt')
-# model.load_state_dict(m)
-# model.to(device);
+# Подгружаем сохраненные веса модели и загружаем их в модель
+m = torch.load('model.pt')
+model.load_state_dict(m)
+model.to(device);
 
 str = st.text_input('Введите 1-4 слова начала текста, и подождите минутку', 'Мужик спрашивает у официанта')
 
@@ -73,30 +74,26 @@ for out_ in out1:
     # print(tokenizer.decode(out_))
 
 
-# # дообученная модель
-# with torch.inference_mode():
-#     # prompt = 'Мужик спрашивает официанта'
-#     # prompt = tokenizer.encode(str, return_tensors='pt')
-#     out2 = model.generate(
-#         input_ids=prompt,
-#         max_length=150,
-#         num_beams=1,
-#         do_sample=True,
-#         temperature=1., 
-#         top_k=5,
-#         top_p=0.6,
-#         no_repeat_ngram_size=2,
-#         num_return_sequences=3,
-#         ).numpy() #).cpu().numpy()
+# дообученная модель
+with torch.inference_mode():
+    # prompt = 'Мужик спрашивает официанта'
+    # prompt = tokenizer.encode(str, return_tensors='pt')
+    out2 = model.generate(
+        input_ids=prompt,
+        max_length=150,
+        num_beams=1,
+        do_sample=True,
+        temperature=1., 
+        top_k=5,
+        top_p=0.6,
+        no_repeat_ngram_size=2,
+        num_return_sequences=3,
+        ).cpu().numpy() #).cpu().numpy()
     
-#     st.subheader('Тексты на модели, обученной документами всех тематик и дообученной анекдотами:')
-#     n = 0
-#     for out_ in out2:
-#         n += 1
-#         st.write(tokenizer.decode(out_).rpartition('.')[0],'.')
-#         # print(textwrap.fill(tokenizer.decode(out_), 100), end='\n------------------\n')
-<<<<<<< HEAD
-#         st.write('\n------------------\n')
-=======
-#         st.write('\n------------------\n')
->>>>>>> da65de15227afe7841c21d51b9e43521b1a62c1b
+    st.subheader('Тексты на модели, обученной документами всех тематик и дообученной анекдотами:')
+    n = 0
+    for out_ in out2:
+        n += 1
+        st.write(tokenizer.decode(out_).rpartition('.')[0],'.')
+        # print(textwrap.fill(tokenizer.decode(out_), 100), end='\n------------------\n')
+        st.write('\n------------------\n')