Update yield

app.py

@@ -38,10 +38,13 @@ class ChatgptAPI:
                     'content': '����������ѯ����ר�ң�����Ҫ����ѯʦ����ѯ���ݽ��ж�������Ҫ������ѯʦ�Ļػ�����Ϊ�������Dz���ȷ�ġ�step by step������²��裺\n ����1-�򿪲��Ķ����ϴ����ı��ļ���ȫ�����ݣ�ֱ�����һ���ַ� \n ����2-��ȫ����ժȡ�����ߵġ��ؼ��Է��ԡ�����Ҫ��ժ¼�ı�ǰ�벿�ֵķ��ԣ�����ѡ����������Ҫ�����۵�3-4������¼���Խ������һ����ѯʦ����Ļظ�����Ϊ����ѯʦ�Ļظ��� \n ����3-��Թؼ��Է��ԣ��������ʵġ������ػ����ݡ� \n ����4-�Աȡ������ػ����ݡ��͡���ѯʦ�Ļظ���������ÿ���Ӧ��֣�0��Ϊ�붽���ػ�������ȫ��һ�£�10���붽���ػ�������ȫһ�£� \n ����5-����4����ִ�в��������������json��ʽ����� [{"key_num" : "n", "visiter" : "����������", "superior" : "�����ػ���������", "adviser" : "��ѯʦ�Ļظ�����",��"score" : "x/10", "reason" : "�޸�ԭ������"}]'
                 } 
             ],
-            stream=False
+            stream=True
         )
-        message=completion.choices[0].message.dict()['content']
-        return message
+        for chunk in completion:
+            if chunk.choices[0].delta.content is not None:
+                print(chunk.choices[0].dict())
+        #message=completion.choices[0].message.dict()['content']
+        #return message
 
         '''
         file_object = self.client.files.create(file=Path(file_path), purpose="file-extract")
@@ -150,9 +153,40 @@ chat_api = ChatgptAPI()
 def predict(password_input, user_in_file):
     if password_input != os.environ.get("USER_KEY"):
        return [(None, "Wrong password!")], conversation, user_input
-
-    conversation = chat_api.get_summary(user_in_file)
-    return conversation
+    client=OpenAI(
+            api_key=os.environ.get("TONGYI_API_KEY"),  # �滻����ʵDashScope��API_KEY
+            base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",  # ��дDashScopebase_url
+    )
+    file = self.client.files.create(file=Path(user_in_file), purpose="file-extract")
+    completion = self.client.chat.completions.create(
+            model="qwen-long",
+            messages=[
+                {
+                    'role': 'system',
+                    'content': 'You are a helpful assistant.'
+                },
+                {
+                    'role': 'system',
+                    'content': f'fileid://{file.id}'
+                },
+                {
+                    'role': 'user',
+                    'content': '����������ѯ����ר�ң�����Ҫ����ѯʦ����ѯ���ݽ��ж�������Ҫ������ѯʦ�Ļػ�����Ϊ�������Dz���
+ȷ�ġ�step by step������²��裺\n ����1-�򿪲��Ķ����ϴ����ı��ļ���ȫ�����ݣ�ֱ�����һ���ַ� \n ����2-��ȫ����ժȡ�����ߵ�>
+���ؼ��Է��ԡ�����Ҫ��ժ¼�ı�ǰ�벿�ֵķ��ԣ�����ѡ����������Ҫ�����۵�3-4������¼���Խ������һ����ѯʦ����Ļظ�����Ϊ����>ѯʦ�Ļظ��� \n ����3-��Թؼ��Է��ԣ��������ʵġ������ػ����ݡ� \n ����4-�Աȡ������ػ����ݡ��͡���ѯʦ�Ļظ���������ÿ���Ӧ
+��֣�0��Ϊ�붽���ػ�������ȫ��һ�£�10���붽���ػ�������ȫһ�£� \n ����5-����4����ִ�в��������������json��ʽ����� [{"key_num" : "n", "visiter" : "����������", "superior" : "�����ػ���������", "adviser" : "��ѯʦ�Ļظ�����",��"score" : "x/10", "reason" : "�޸�ԭ������"}]'
+                }
+            ],
+            stream=True
+    )
+    history[-1][1]=""
+    for chunk in completion:
+        if chunk.choices[0].delta.content is not None:
+            history[-1][1]+=chunk.choices[0].dict()["content"]
+            time.sleep(0.05)
+            yield history
+    #conversation = chat_api.get_summary(user_in_file)
+    #return conversation