manrin1 commited on
Commit
ba2afc9
·
verified ·
1 Parent(s): 3edd23a

Upload 2 files

Browse files
Files changed (2) hide show
  1. app.py.txt +51 -0
  2. requirements.txt.txt +7 -0
app.py.txt ADDED
@@ -0,0 +1,51 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ # app.py
2
+ from transformers import AutoModelForCausalLM, AutoTokenizer
3
+ import gradio as gr
4
+
5
+ # Загрузка модели (один раз при запуске Space)
6
+ print("Загружаем Qwen-1.8B...")
7
+ tokenizer = AutoTokenizer.from_pretrained("Qwen/Qwen-1_8B", trust_remote_code=True)
8
+ model = AutoModelForCausalLM.from_pretrained(
9
+ "Qwen/Qwen-1_8B",
10
+ device_map="cpu",
11
+ trust_remote_code=True
12
+ ).eval()
13
+
14
+ def generate_response(prompt):
15
+ inputs = tokenizer(prompt, return_tensors="pt")
16
+ outputs = model.generate(
17
+ **inputs,
18
+ max_new_tokens=60,
19
+ use_cache=False,
20
+ do_sample=False
21
+ )
22
+ return tokenizer.decode(outputs[0], skip_special_tokens=True)
23
+
24
+ # Промты для разных сценариев
25
+ business_examples = [
26
+ "أبغى أطلب كباب ومشروب، كم السعر؟",
27
+ "عندي موعد عند الدكتور أحمد بكرة الساعة 3، هل يمكنني تأكيد الحجز؟",
28
+ "السيارة صارت تهتز، وش المشكلة؟",
29
+ "وش عندكم من عروض اليوم؟",
30
+ "طلبي ما وصل، رقم الطلب 12345. وش أعمل؟"
31
+ ]
32
+
33
+ # Gradio интерфейс
34
+ with gr.Blocks(title="ArabAI Assist — AI для бизнеса в KSA") as demo:
35
+ gr.Markdown("## 🤖 ArabAI Assist")
36
+ gr.Markdown("AI-ассистент для малого бизнеса в Саудовской Аравии. Поддержка на арабском и саудовском диалекте.")
37
+
38
+ with gr.Row():
39
+ with gr.Column():
40
+ input_text = gr.Textbox(label="اكتب سؤالك هنا...", placeholder="مثال: أبغى أطلب كباب...")
41
+ examples = gr.Examples(examples=business_examples, inputs=input_text)
42
+ submit_btn = gr.Button("إرسال")
43
+ with gr.Column():
44
+ output_text = gr.Textbox(label="الرد من AI", interactive=False)
45
+
46
+ submit_btn.click(fn=generate_response, inputs=input_text, outputs=output_text)
47
+
48
+ gr.Markdown("---")
49
+ gr.Markdown("🔒 Этот Space доступен только после оплаты. Свяжитесь с нами для активации.")
50
+
51
+ demo.launch()
requirements.txt.txt ADDED
@@ -0,0 +1,7 @@
 
 
 
 
 
 
 
 
1
+ transformers
2
+ accelerate
3
+ tiktoken
4
+ einops
5
+ scipy
6
+ transformers-stream-generator
7
+ gradio