manrin1 commited on
Commit
82a4c9b
·
verified ·
1 Parent(s): 7167f30

Upload 2 files

Browse files
Files changed (2) hide show
  1. app.py +48 -0
  2. requirements.txt +7 -0
app.py ADDED
@@ -0,0 +1,48 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ # app.py
2
+ from transformers import AutoModelForCausalLM, AutoTokenizer
3
+ import gradio as gr
4
+
5
+ print("Загружаем Qwen-1.8B...")
6
+ tokenizer = AutoTokenizer.from_pretrained("Qwen/Qwen-1_8B", trust_remote_code=True)
7
+ model = AutoModelForCausalLM.from_pretrained(
8
+ "Qwen/Qwen-1_8B",
9
+ device_map="cpu",
10
+ trust_remote_code=True
11
+ ).eval()
12
+
13
+ def generate_response(prompt):
14
+ inputs = tokenizer(prompt, return_tensors="pt")
15
+ outputs = model.generate(
16
+ **inputs,
17
+ max_new_tokens=60,
18
+ use_cache=False,
19
+ do_sample=False
20
+ )
21
+ return tokenizer.decode(outputs[0], skip_special_tokens=True)
22
+
23
+ business_examples = [
24
+ "أبغى أطلب كباب ومشروب، كم السعر؟",
25
+ "عندي موعد عند الدكتور أحمد بكرة الساعة 3، هل يمكنني تأكيد الحجز؟",
26
+ "السيارة صارت تهتز، وش المشكلة؟",
27
+ "وش عندكم من عروض اليوم؟",
28
+ "طلبي ما وصل، رقم الطلب 12345. وش أعمل؟"
29
+ ]
30
+
31
+ with gr.Blocks(title="ArabAI Assist — AI для бизнеса в KSA") as demo:
32
+ gr.Markdown("## 🤖 ArabAI Assist")
33
+ gr.Markdown("AI-ассистент для малого бизнеса в Саудовской Аравии. Поддержка на арабском и саудовском диалекте.")
34
+
35
+ with gr.Row():
36
+ with gr.Column():
37
+ input_text = gr.Textbox(label="اكتب سؤالك هنا...", placeholder="مثال: أبغى أطلب كباب...")
38
+ examples = gr.Examples(examples=business_examples, inputs=input_text)
39
+ submit_btn = gr.Button("إرسال")
40
+ with gr.Column():
41
+ output_text = gr.Textbox(label="الرد من AI", interactive=False)
42
+
43
+ submit_btn.click(fn=generate_response, inputs=input_text, outputs=output_text)
44
+
45
+ gr.Markdown("---")
46
+ gr.Markdown("🔒 Этот Space доступен только после оплаты. Свяжитесь с нами для активации.")
47
+
48
+ demo.launch()
requirements.txt ADDED
@@ -0,0 +1,7 @@
 
 
 
 
 
 
 
 
1
+ transformers
2
+ accelerate
3
+ tiktoken
4
+ einops
5
+ scipy
6
+ transformers-stream-generator
7
+ gradio