[AI] 솔트룩스 Llama3 Luxia 사용 경험

"솔트룩스 루시아 LLM 모델 학습에 사용한 한국어 데이터 중 100GB 정도를 엄선했고, 토크나이저(보캡)을 보강하여 추가 학습했습니다. 100GB의 데이터는 최대한 다양한 도메인으로부터 균형있게 구성했고, 구어체 대화 데이터도 포함을 시켰습니다." in LinkedIn JAIEUN KIM 페이지: saltlux/Ko-Llama3-Luxia-8B · Hugging Face

• AI모델: saltlux/Ko-Llama3-Luxia-8B
• gguf: https://huggingface.co/PrunaAI/Ko-Llama3-Luxia-8B-GGUF-smashed

솔트룩스의 Llama3 Luxia 모델을 이용해 몇 가지 대화를 시도해보았습니다. 그러나 양자화된 LLM에 문제가 있는 것인지, 아니면 제가 작성한 메시지 포맷에 문제가 있는 것인지 확실하지 않지만, 만족스러운 결과를 얻지 못했습니다.

연관 글

• [AI] 마음AI의 라마3 MAAL-허밍버드 사용 경험
• [AI] Qwen1.5-32B-Chat 모델 사용 경험
• [AI] 라마3 한국어 pretrained 모델 사용 경험

_{Posted using Obsidian Steemit plugin}