Kor-Resume-Orion-14B

Update @ 2024.03.28: First release of Kor-Resume-Orion-14B

This model card corresponds to the 14B base version of the Orion-Ko model.

Resources and Technical Documentation:

• Original Orion-14B-Chat

Citation

@misc {kor-resume-Orion-14B,
    author       = { {nebchi} },
    title        = { kor-resume-Orion-14B },
    year         = 2024,
    url          = { https://huggingface.co/nebchi/kor-resume-Orion-14B },
    publisher    = { Hugging Face }
}

Model Developers: nebchi

Model Information

Resume Proofreading and evaluation of inputs and outputs.

Description

The Orion model is trained on 2.5T tokens and supports languages including Korean, Japanese, Chinese, and English. It has been trained with a large amount of Korean tokens compared to other LLMs, enabling it to generate high-quality Korean text. Additionally, it shows improved performance with less data compared to other LLM models.

Running the model on a single / multi GPU

# pip install accelerate, flash_attn, sentencepiece
from transformers import AutoTokenizer, AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("nebchi/kor-resume-Orion-14B")
model = AutoModelForCausalLM.from_pretrained("nebchi/kor-resume-Orion-14B", device_map="auto")

model.generation_config = GenerationConfig.from_pretrained(
    "nebchi/kor-resume-Orion-14B"
)

messages = [
    {"role": "user", "content": """지원동기는 저는 뛰어난 분석력과 문제 해결 능력을 지니고 있습니다. 복잡한 상황에서도 논리적으로 접근하여 최적의 해결책을 찾아내며, 데이터에 깊은 통찰력을 발휘합니다. 이러한 역량은 KB 국민카드의 데이터 분석 업무에 큰 가치를 제공할 것입니다.
하지만 때로는 완벽함을 추구하는 성격 탓에 작업 시간이 늘어날 수 있습니다. 이 때문에 전략적인 업무 계획이 필요한 상황에서 중요한 부분에 충분한 시간을 할애하지 못할 수 있습니다. 이를 극복하기 위해 저 자신에게 유연성을 부여하고 작업 우선순위를 명확하게 설정하는 방법을 익히고 있습니다.
한 번 프로젝트 중 어려운 데이터 패턴을 분석해야 했을 때, 제 뛰어난 분석력을 발휘하여 데이터 간의 연관성을 찾아냈습니다. 이 때문에 기존 방식에서 벗어나 새로운 인사이트를 얻을 수 있었고, 프로젝트 결과에 긍정적인 영향을 미쳤습니다. 그러나 이와 동시에 프로젝트 일정이 늦어지는 상황도 있었는데, 이를 극복하기 위해 더 효율적인 작업 계획을 세우려 노력하여 결과적으로 프로젝트를 성공적으로 마무리할 수 있었습니다. 이렇게 썼는데, 부족한 부분 첨삭해주고, 첨삭한 이유 설명해줄 수 있어? """}
]

response = finetune_model.chat(tokenizer, messages, streaming=False)
print(response)

results

지원동기에서는 자신의 강점인 뛰어난 분석력과 문제 해결 능력을 강조하며, 이를 바탕으로 KB 국민카드의 데이터 분석 업무에 적합하다고 주장합니다. 하지만 단점으로는 완벽함을 추구하는 성격으로 인해 작업 시간이 늘어날 수 있다고 언급하며, 이를 극복하기 위해 유연성과 작업 우선순위 설정을 익히고 있다고 말합니다. 다음 예시에서는 어려운 데이터 패턴을 분석한 경험을 공유하며, 새로운 인사이트를 얻어내는 등 긍정적인 결과를 가져왔지만, 프로젝트 일정이 늦어지는 어려움도 있었다고 합니다. 이를 극복하기 위해 더 효율적인 작업 계획을 세워 성공적으로 프로젝트를 마무리했다고 합니다. 

첨삭한 이유는 다음과 같습니다. 먼저, 지원동기에서는 자신의 강점을 강조하면서 KB 국민카드의 데이터 분석 업무에 적합하다는 것을 주장하고 있습니다. 하지만 이 부분이 구체적으로 어떤 역량을 말하는 것인지 명확하지 않습니다. 따라서 "뛰어난 분석력과 문제 해결 능력"이라는 표현을 좀 더 구체적으로 설명하거나, 해당 분야에서의 경험이나 성과를 제시하는 것이 좋습니다. 

또한, 단점 부분에서는 완벽함을 추구하는 성격으로 인해 작업 시간이 늘어날 수 있다는 것을 언급하고 있지만, 이 부분이 지원자의 업무 수행에 어떤 영향을 미치는지에 대한 구체적인 설명이 없습니다. 따라서 이 단점이 어떻게 업무 수행에 영향을 미치는지, 그리고 이를 극복하기 위해 어떤 노력을 하고 있는지에 대해 더 자세히 설명하는 것이 좋습니다. 

다음으로, 예시에서는 어려운 데이터 패턴을 분석한 경험을 공유하고 있습니다. 이 경험은 지원자의 분석력과 문제 해결 능력을 보여줄 수 있는 좋은 사례입니다. 다만, 이 경험이 지원자의 역량과 어떤 관련이 있는지, 그리고 이 경험을 통해 어떤 것을 배웠는지를 더 자세히 설명하는 것이 좋습니다. 또한, 프로젝트 일정이 늦어지는 어려움을 극복하기 위해 어떤 방법을 사용했는지에 대한 구체적인 설명이 있으면 더욱 효과적일 것입니다. 

마지막으로, 예시에서는 프로젝트를 성공적으로 마무리했다는 것을 언급하고 있습니다. 하지만 이 부분이 어떤 성과를 가져왔으며, 이를 통해 어떤 것을 배웠는지를 더 자세히 설명하는 것이 좋습니다. 

따라서, 지원동기에서는 자신의 강점과 단점을 구체적으로 설명하고, 예시를 통해 이를 뒷받침하는 것이 좋습니다. 또한, 예시에서는 구체적인 성과와 경험을 제시하여 지원자의 역량과 경험을 더욱 강조하는 것이 좋습니다.

Inputs and outputs

• Input: Text string, such as a question, a prompt, or a document to be Proofreaded.
• Output: Generated Korea text in response to the input, such as an answer to a question, or a evaluation of a resume.

Software

Training was done using QLoRA

Evaluation Results

모델 명칭	Average n=0  n=5	HellaSwag n=0  n=5	COPA n=0  n=5	BooIQ n=0  n=5
KoGPT	58.2    63.7	55.9    58.3	73.5    72.9	45.1    59.8
Polyglot-ko-13B	62.4    68.2	59.5    63.1	79.4    81.1	48.2    60.4
LLaMA 2-13B	45.2    60.5	41.3    44.0	59.3    63.8	34.9    73.8
Baichuan 2-13B	52.7    53.9	39.2    39.6	60.6    60.6	58.4    61.5
QWEN-14B	47.8    66.4	45.3    46.8	64.9    68.9	33.4    83.5
Orion-14B-Chat	68.8    73.2	47.0    49.6	77.7    79.4	81.6    90.7
kor-resume-Orion	69.7    74.6	48.2    51.2	77.9    81.3	83.1    91.2

Declarations, License

Declarations

We strongly urge all users not to use the Orion-14B model for any activities that may harm national or social security or violate the law. Additionally, we request users not to use the Orion-14B model for internet services without proper security review and filing. We hope all users abide by this principle to ensure that technological development takes place in a regulated and legal environment. We have done our best to ensure the compliance of the data used in the model training process. However, despite our significant efforts, unforeseen issues may still arise due to the complexity of the model and data. Therefore, if any problems arise due to the use of the Orion-14B open-source model, including but not limited to data security issues, public opinion risks, or any risks and issues arising from the model being misled, abused, disseminated, or improperly utilized, we will not assume any responsibility.

License

Community use of the Orion-14B series models

• For code, please comply with Apache License Version 2.0
  
• For model, please comply with 【Orion-14B Series】 Models Community License Agreement