ArabAIAssist / app.py
manrin1's picture
Upload 2 files
82a4c9b verified
# app.py
from transformers import AutoModelForCausalLM, AutoTokenizer
import gradio as gr
print("Загружаем Qwen-1.8B...")
tokenizer = AutoTokenizer.from_pretrained("Qwen/Qwen-1_8B", trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(
"Qwen/Qwen-1_8B",
device_map="cpu",
trust_remote_code=True
).eval()
def generate_response(prompt):
inputs = tokenizer(prompt, return_tensors="pt")
outputs = model.generate(
**inputs,
max_new_tokens=60,
use_cache=False,
do_sample=False
)
return tokenizer.decode(outputs[0], skip_special_tokens=True)
business_examples = [
"أبغى أطلب كباب ومشروب، كم السعر؟",
"عندي موعد عند الدكتور أحمد بكرة الساعة 3، هل يمكنني تأكيد الحجز؟",
"السيارة صارت تهتز، وش المشكلة؟",
"وش عندكم من عروض اليوم؟",
"طلبي ما وصل، رقم الطلب 12345. وش أعمل؟"
]
with gr.Blocks(title="ArabAI Assist — AI для бизнеса в KSA") as demo:
gr.Markdown("## 🤖 ArabAI Assist")
gr.Markdown("AI-ассистент для малого бизнеса в Саудовской Аравии. Поддержка на арабском и саудовском диалекте.")
with gr.Row():
with gr.Column():
input_text = gr.Textbox(label="اكتب سؤالك هنا...", placeholder="مثال: أبغى أطلب كباب...")
examples = gr.Examples(examples=business_examples, inputs=input_text)
submit_btn = gr.Button("إرسال")
with gr.Column():
output_text = gr.Textbox(label="الرد من AI", interactive=False)
submit_btn.click(fn=generate_response, inputs=input_text, outputs=output_text)
gr.Markdown("---")
gr.Markdown("🔒 Этот Space доступен только после оплаты. Свяжитесь с нами для активации.")
demo.launch()