manrin1 commited on
Commit
62316ad
·
verified ·
1 Parent(s): ba2afc9

Delete app.py.txt

Browse files
Files changed (1) hide show
  1. app.py.txt +0 -51
app.py.txt DELETED
@@ -1,51 +0,0 @@
1
- # app.py
2
- from transformers import AutoModelForCausalLM, AutoTokenizer
3
- import gradio as gr
4
-
5
- # Загрузка модели (один раз при запуске Space)
6
- print("Загружаем Qwen-1.8B...")
7
- tokenizer = AutoTokenizer.from_pretrained("Qwen/Qwen-1_8B", trust_remote_code=True)
8
- model = AutoModelForCausalLM.from_pretrained(
9
- "Qwen/Qwen-1_8B",
10
- device_map="cpu",
11
- trust_remote_code=True
12
- ).eval()
13
-
14
- def generate_response(prompt):
15
- inputs = tokenizer(prompt, return_tensors="pt")
16
- outputs = model.generate(
17
- **inputs,
18
- max_new_tokens=60,
19
- use_cache=False,
20
- do_sample=False
21
- )
22
- return tokenizer.decode(outputs[0], skip_special_tokens=True)
23
-
24
- # Промты для разных сценариев
25
- business_examples = [
26
- "أبغى أطلب كباب ومشروب، كم السعر؟",
27
- "عندي موعد عند الدكتور أحمد بكرة الساعة 3، هل يمكنني تأكيد الحجز؟",
28
- "السيارة صارت تهتز، وش المشكلة؟",
29
- "وش عندكم من عروض اليوم؟",
30
- "طلبي ما وصل، رقم الطلب 12345. وش أعمل؟"
31
- ]
32
-
33
- # Gradio интерфейс
34
- with gr.Blocks(title="ArabAI Assist — AI для бизнеса в KSA") as demo:
35
- gr.Markdown("## 🤖 ArabAI Assist")
36
- gr.Markdown("AI-ассистент для малого бизнеса в Саудовской Аравии. Поддержка на арабском и саудовском диалекте.")
37
-
38
- with gr.Row():
39
- with gr.Column():
40
- input_text = gr.Textbox(label="اكتب سؤالك هنا...", placeholder="مثال: أبغى أطلب كباب...")
41
- examples = gr.Examples(examples=business_examples, inputs=input_text)
42
- submit_btn = gr.Button("إرسال")
43
- with gr.Column():
44
- output_text = gr.Textbox(label="الرد من AI", interactive=False)
45
-
46
- submit_btn.click(fn=generate_response, inputs=input_text, outputs=output_text)
47
-
48
- gr.Markdown("---")
49
- gr.Markdown("🔒 Этот Space доступен только после оплаты. Свяжитесь с нами для активации.")
50
-
51
- demo.launch()