Update app.py

app.py

@@ -11,7 +11,11 @@ import spaces
 MODEL_ID = "naver-hyperclovax/HyperCLOVAX-SEED-Vision-Instruct-3B"
 MAX_NEW_TOKENS = 512
 CPU_THREAD_COUNT = 4 # 필요시 조절
-HF_TOKEN = os.getenv("HF_TOKEN")  # Hugging Face 토큰 환경 변수에서 가져오기
+
+# Hugging Face 토큰 설정 - 환경 변수에서 가져오기
+HF_TOKEN = os.getenv("HF_TOKEN")
+if not HF_TOKEN:
+    print("경고: HF_TOKEN 환경 변수가 설정되지 않았습니다. 비공개 모델에 접근할 수 없을 수 있습니다.")
 
 # --- 선택 사항: CPU 스레드 설정 ---
 # torch.set_num_threads(CPU_THREAD_COUNT)
@@ -39,18 +43,34 @@ try:
     device_map = "auto" if torch.cuda.is_available() else "cpu"
     dtype = torch.float16 if torch.cuda.is_available() else torch.float32
     
+    # 토크나이저 로딩
+    tokenizer_kwargs = {
+        "trust_remote_code": True
+    }
+    
+    # HF_TOKEN이 설정되어 있으면 추가
+    if HF_TOKEN:
+        tokenizer_kwargs["token"] = HF_TOKEN
+        
     tokenizer = AutoTokenizer.from_pretrained(
         MODEL_ID,
-        trust_remote_code=True,
-        token=HF_TOKEN  # 토큰 추가
+        **tokenizer_kwargs
     )
     
+    # 모델 로딩
+    model_kwargs = {
+        "torch_dtype": dtype,
+        "device_map": device_map,
+        "trust_remote_code": True
+    }
+    
+    # HF_TOKEN이 설정되어 있으면 추가
+    if HF_TOKEN:
+        model_kwargs["token"] = HF_TOKEN
+        
     model = AutoModelForCausalLM.from_pretrained(
         MODEL_ID,
-        torch_dtype=dtype,
-        device_map=device_map,
-        trust_remote_code=True,
-        token=HF_TOKEN  # 토큰 추가
+        **model_kwargs
     )
     
     model.eval()
@@ -233,10 +253,13 @@ examples = [
     ["제주도 여행 계획을 세우고 있는데, 3박 4일 추천 코스 좀 알려주세요."],
 ]
 
+# 모델 이름에 맞게 타이틀 조정
+title = "🤖 HyperCLOVAX-SEED-Vision-Instruct-3B"
+
 # ChatInterface를 사용하여 자체 Chatbot 컴포넌트 관리
 demo = gr.ChatInterface(
     fn=predict,
-    title="🤖 HyperCLOVAX-SEED-Text-Instruct-0.5B",
+    title=title,
     description=(
         f"**모델:** {MODEL_ID}\n"
     ),