LQ-KBERT-Base 개발기: 한국어 가상자산 커뮤니티를 이해하는 BERT 만들기

왜 자체 모델이 필요했나

랭퀀트의 분석 파이프라인은 트위터·뉴스·온체인까지 다 보지만, 코인판·디시·네이버카페 같은 한국어 커뮤니티에서 떠다니는 글은 가장 다루기 어려운 데이터입니다. "가즈아", "존버", "나락", "ㅈ버", … 일반 한국어 모델로 임베딩하면 "이게 매수 신호인가, 단순 푸념인가" 구분이 안 됩니다.

처음에는 GPT-4로 라벨링해서 매번 분류를 돌렸지만, 한 종목당 수천 건의 글을 실시간으로 처리하기에는 비용이 너무 컸습니다. 그래서 자체 모델 — LQ-KBERT-Base — 을 만들기로 했습니다.

목표: 한 문장에서 6가지를 한 번에

투자 심리 분석은 단순한 긍정/부정 이진 분류로는 한참 부족합니다. "여기선 관망이 맞다"는 약한 부정이지만 행동은 보유입니다. "들어가도 될까?"는 조심스러운 낙관이지만 행동은 질문입니다. 이 두 축은 따로 봐야 합니다.

그래서 한 문장에서 다음 6개를 동시에 예측하기로 했습니다:

{
  "sentiment_strength": "strong_pos | weak_pos | neutral | weak_neg | strong_neg",
  "action_signal":      "buy | hold | sell | avoid | info_only | ask_info",
  "emotions":           ["greed","fear","confidence","doubt","anger","hope","sarcasm"],
  "certainty":          0.0 ~ 1.0,
  "relevance":          0.0 ~ 1.0,
  "toxicity":           0.0 ~ 1.0
}

• sentiment_strength — 가격 전망의 톤 (5단계 강도)
• action_signal — 실제 투자 행동 의도 (매수·보유·매도·회피·정보·질문)
• emotions — 다중 선택 (탐욕·공포·확신·의심·분노·희망·풍자)
• certainty — 확신도. 단순 질문은 낮고, 수치 근거가 있으면 높음
• relevance — 투자 관련성. 잡담/밈을 거르기 위한 신호
• toxicity — 욕설·비하 강도. 투자 의미와 독립

이 여섯이 묶여 나와야 "강한 부정 + 회피 + 분노 + 확신도 0.9 + 관련성 0.95" 같은 풍부한 컨텍스트를 만들 수 있습니다.

데이터: 10만 건의 한국어 가상자산 텍스트

• 코인판·디시 코인갤·네이버카페·텔레그램 채널에서 수집한 커뮤니티 글
• 가상자산 전문 매체의 뉴스 헤드라인과 본문 첫 문단
• 트위터/X의 한국어 가상자산 트윗

문장 단위 200자 이내로 자르고, 중복·광고·자동 봇 게시물을 1차 필터링한 후 10만 건 이상을 남겼습니다.

라벨링은 두 단계로 했습니다:

1. Human 라벨링 — 사람이 게시글 제목을 보고 약 몇백개의 예시 샘플에 대해 Valid/Test 셋의 라벨링을 진행합니다.(예: "가즈아 → strong_pos/buy")
2. LLM 라벨링 + 사람 검수 — Human 라벨링을 바탕으로 GPT-4.1로 멀티태스크 라벨을 생성한 뒤, Test 셋에 대해 높은 정확도가 나오도록 튜닝하였습니다.

라벨링 가이드라인

라벨러마다 기준이 달라지면 모델이 학습하는 신호가 흐려집니다. 그래서 라벨링 가이드를 명문화했습니다.

Sentiment Strength

Action Signal

Certainty / Relevance / Toxicity

연속값(0–1)이라 구간으로 가이드했습니다:

• Certainty — 0.2–0.4 질문·밈 · 0.4–0.6 완곡한 의견 · 0.6–0.8 수치·근거 · 0.8–1.0 강한 단정·지시
• Relevance — 0.7–1.0 직접 투자 관련 · 0.4–0.7 간접(업계·인물·기술) · 0.0–0.3 무관·잡담·밈
• Toxicity — 욕설·모욕·비하 강도. 투자 의미와 별개로 평가

모델: klue/bert-base + 멀티 헤드

백본은 klue/bert-base. 한국어 KLUE 벤치마크에서 학습된 BERT라 코인판 같은 비표준 한국어에도 잘 적응했습니다.

[문장] → klue/bert-base → [CLS] 벡터
                              ├── linear → sentiment_strength (5-class)
                              ├── linear → action_signal     (6-class)
                              ├── linear → emotions          (7 sigmoid)
                              └── linear → certainty / relevance / toxicity (3 reg)

손실은 네 헤드의 가중합:

loss = (
    w_senti * CE(logits_senti, y_senti) +
    w_act   * CE(logits_act,   y_act)   +
    w_emo   * BCE(logits_emo,  y_emo)   +
    w_reg   * MSE(pred_reg,    y_reg)
)

태스크 간 difficulty가 다른 만큼 가중치는 휴리스틱하게 조정했습니다. emotion(다중 라벨)이 가장 약한 신호라 BCE 가중치를 더 높여 잡았습니다.

학습 과정에서 만난 함정

1. Action vs Sentiment의 분리

초기 모델은 sentiment와 action을 거의 동일하게 예측했습니다. weak_neg면 무조건 sell, strong_pos면 무조건 buy. 이건 데이터 라벨이 그렇게 균일했기 때문이었습니다.

해결: 라벨링 단계에서 sentiment와 action이 다른 케이스(예: weak_neg + hold, weak_pos + ask_info)를 의도적으로 더 많이 수집해서 학습 분포를 어긋나게 만들었습니다.

2. Sarcasm은 sentiment만으로는 못 잡는다

"비트 그만 좀 내려라 진짜.." — 단어만 보면 strong_neg이지만, 글쓴이는 사실 매수자고, 톤은 풍자입니다. sarcasm을 emotions 다중 라벨에 넣은 이유입니다. sentiment_strength와 emotions를 같이 봐야 톤이 풀립니다.

3. 200자 절단의 문제

긴 분석글을 200자로 자르면 결론이 잘릴 수 있습니다. 다만 커뮤니티 글의 80% 이상이 200자 이내였고, 긴 글은 별도의 요약 파이프라인(LQ-FSE-Base 모델)에서 처리하기로 했습니다.

사용법

import torch, json
from transformers import AutoTokenizer, AutoModel
 
repo = "LangQuant/LQ-Kbert-base"
 
texts = [
    "비트코인 조정 후 반등, 투자심리 개선",
    "환율 급등에 증시 변동성 확대",
    "비트 그만 좀 내려라 진짜..",
    "폭락ㅠㅠㅜㅠㅜ 다 팔아야할까요?",
]
 
tokenizer = AutoTokenizer.from_pretrained(repo)
model = AutoModel.from_pretrained(repo, trust_remote_code=True)
 
device = "cuda" if torch.cuda.is_available() else "cpu"
model.to(device).eval()
 
enc = tokenizer(
    texts, return_tensors="pt",
    padding=True, truncation=True, max_length=200,
).to(device)
 
with torch.inference_mode():
    out = model(**enc)
 
IDX2SENTI = {0:"strong_pos",1:"weak_pos",2:"neutral",3:"weak_neg",4:"strong_neg"}
IDX2ACT   = {0:"buy",1:"hold",2:"sell",3:"avoid",4:"info_only",5:"ask_info"}
EMO_LIST  = ["greed","fear","confidence","doubt","anger","hope","sarcasm"]
 
for i, t in enumerate(texts):
    senti = int(out["logits_senti"][i].argmax().item())
    act   = int(out["logits_act"][i].argmax().item())
    emo_p = torch.sigmoid(out["logits_emo"][i]).tolist()
    reg   = torch.clamp(out["pred_reg"][i], 0, 1).tolist()
    emos  = [EMO_LIST[j] for j, p in enumerate(emo_p) if p >= 0.5]
 
    print(json.dumps({
        "text": t,
        "pred_sentiment_strength": IDX2SENTI[senti],
        "pred_action_signal":      IDX2ACT[act],
        "pred_emotions":           emos,
        "pred_certainty":          float(reg[0]),
        "pred_relevance":          float(reg[1]),
        "pred_toxicity":           float(reg[2]),
    }, ensure_ascii=False))

실제 출력 예시

같은 문장이라도 sentiment와 action이 분리되어 나오는 것을 볼 수 있습니다. 이 분리가 단순 감성분석과 LQ-KBERT-Base의 가장 큰 차이입니다.

랭퀀트에서는 어떻게 쓰이나

LQ-KBERT-Base는 랭퀀트 파이프라인의 첫 번째 신호 레이어입니다.

1. 크롤러가 한국어 커뮤니티/뉴스에서 신규 글을 수집
2. LQ-KBERT-Base가 각 문장을 6차원 벡터로 분류
3. 종목 단위로 집계 — "BTC 관련 글 1,200건 중 strong_pos+buy 비중 18%, sarcasm 비중 4%"
4. 시점별 변화를 추적해 커뮤니티 지수 산출

기존에 GPT-4.1로 처리하던 부분을 BERT로 대체하면서 비용은 1/40 수준으로 하락하였으며, 우리나라에서 발생하는 모든 커뮤니티 글과 뉴스를 분류하여 커뮤니티 인덱스를 구축할 수 있게 되었습니다.

Overheat / Oversell 구간은 어떻게 정의되나

지수의 절대값은 종목·기간마다 다르기 때문에, 누적 히스토리를 기준으로 상대 위치로 판단합니다. 프론트엔드 차트와 운영 백테스트는 동일한 정의를 사용합니다:

• OVERHEAT EXTREME — combined ≥ 90th percentile. 커뮤니티에 strong_pos + buy 비중이 극단적으로 몰린 상태 → SHORT 진입 후보
• OVERSELL EXTREME — combined ≤ 10th percentile. strong_neg + sell/avoid 비중이 몰리고 fear·anger emotion이 함께 치솟는 상태 → LONG 진입 후보
• 25/75 같은 완만한 구간은 정보가 약해서 (백테스트에서 10/90보다 일관되게 떨어짐) 실제 알람·매매 룰에서는 쓰지 않습니다

백테스트: BTC 일봉, 룩어헤드 없이

신호가 실제로 의미가 있는지 보려면 그 날짜 시점의 트레이더가 아는 데이터만으로 임계값을 정해야 합니다. 만약 8개월 전체를 다 모아놓고 10/90 퍼센타일을 계산해서 그 8개월에 적용하면, 2025-09월의 신호가 2026-05월까지의 미래 데이터를 미리 본 셈이 되어버립니다.

그래서 다음과 같이 설계했습니다:

• 각 트레이딩 일자 D마다 — cm_index 시계열의 [시작, D) 구간으로 10/90 퍼센타일을 다시 계산
• 그 날 combined ≤ 10%ile 이면 oversell, ≥ 90%ile 이면 overheat 신호
• 워밍업 60일 적용 (그 전까지는 신호 없음)
• 진입은 알림 받은 다음날 09시 (바이낸스 일봉 종가, T+1)

프로덕션 코드는 365일 rolling window를 쓰지만, 데이터가 365일보다 짧은 구간에서는 expanding window가 동일한 효과를 냅니다.

조건:

• 종목: BTC 일봉 (바이낸스, 종가 기준, 신호 알림 후 +1일 09시 종가 진입)
• 기간: 2025-11-10 – 2026-05-17 (60일 워밍업 후, 189일)
• 같은 기간 BTC HOLD: −25.57% (여전히 약세장 비중이 큰 환경)
• 그리드: cm_type 3 (all / community / news) × side 2 (long / short) × hold 3 (5 / 10 / 20일) = 12개 룰 (프로덕션 진입/청산 알람에 그대로 운영)
• 10/90 percentile 단일 (sensitivity 분석 결과 25/75보다 일관되게 우월)
• Short은 합성 (실제 공매도 venue 모델링은 따로 필요)

집계 결과

SHORT은 6개 룰 모두 플러스, 평균 +26.75%. 약세장 환경이라 단순 "매일 short" 보유가 +25.57%인 점은 감안해야 하지만, 시그널 진입은 MaxDD가 −5%–−13%로 매일 보유 (변동성 크게 노출) 대비 훨씬 안정적입니다 — 신호가 시점까지 잡고 있다는 뜻입니다.

LONG은 6개 중 5개 플러스, 평균 +16.64%. 같은 기간 BTC가 −25% 빠진 환경에서 long을 들고 +16% 누적이면 신호 자체에 알파가 있다고 보는 게 합리적입니다. 다만 news 5d 단독은 −22%로 실패 — 감정 신호가 뉴스보다 커뮤니티에서 더 정확하게 잡히는 패턴입니다.

룰별 결과

LONG (oversell 진입 · 10/90 percentile · 알림 +1일 09시 진입)

SHORT (overheat 진입 · 10/90 percentile · 알림 +1일 09시 진입)

가장 견고한 SHORT 룰은 all 20d 보유 — N=4, 100% 승률, +41.96%, MaxDD −10.3%. SHORT 6개 룰 전체 평균 +26.75%, 다 플러스. LONG 쪽은 all 5d 보유 / community 5d 보유가 N도 충분하고 결과 일관 (83–86% 승률, +22–30% 누적수익). news 5d 보유는 LONG에서 의미 없음 — 감정 신호가 뉴스보다 커뮤니티에 더 강하게 잡힙니다.

거래 표본은 룰당 N=3–10건. 추세는 명확하지만 표본 크기가 작아 통계적 의미는 강하지 않습니다 — 백테스트 수치는 "신호가 정보를 갖는다"를 보여주는 증거지, "이 정확한 수익이 미래에 재현된다"는 보장이 아닙니다.

진입 타이밍: 신호 발생일 D → 알림 D+1 09:05 → 진입 D+2 09:00 (바이낸스 D+1 일봉 종가). 진입을 0–3일 지연시키며 sensitivity를 본 결과 +1일이 모든 룰에서 누적수익·승률이 가장 좋게 나왔습니다. Oversell 신호 직후 평균적으로 하루 더 빠지고 반등하는 패턴이 있어서, 신호 받자마자 매수하는 것보다 하루 기다리는 게 유리합니다.

전체 거래 내역

표본 검증을 위해 12개 룰의 모든 closed 거래를 공개합니다. 진입가/청산가는 바이낸스 BTC 일봉 종가 (KST 09:00) 기준.

LONG

CM-Index-Strategy-01 (all · 5d) — N=7, 승률 86%, 누적 +30.31%

CM-Index-Strategy-02 (all · 10d) — N=4, 승률 100%, 누적 +14.35%

CM-Index-Strategy-03 (all · 20d) — N=4, 승률 100%, 누적 +33.76%

CM-Index-Strategy-04 (community · 5d) — N=6, 승률 83%, 누적 +22.60%

CM-Index-Strategy-05 (community · 10d) — N=4, 승률 100%, 누적 +20.96%

CM-Index-Strategy-06 (news · 5d) — N=9, 승률 33%, 누적 −22.14%

SHORT

CM-Index-Strategy-07 (all · 5d) — N=4, 승률 100%, 누적 +25.31%

CM-Index-Strategy-08 (all · 10d) — N=4, 승률 75%, 누적 +32.54%

CM-Index-Strategy-09 (all · 20d) — N=4, 승률 100%, 누적 +41.96%

CM-Index-Strategy-10 (community · 5d) — N=4, 승률 100%, 누적 +20.19%

CM-Index-Strategy-11 (community · 10d) — N=3, 승률 100%, 누적 +27.31%

CM-Index-Strategy-12 (news · 5d) — N=10, 승률 60%, 누적 +13.18%

결론

아직 풀지 못한 것

• 표본: 약세장 비중이 큰 8개월. LONG이 약세장 환경에서 +16% 평균을 낸 건 인상적이지만 강세장 데이터가 1년쯤 더 쌓여야 일관성을 검증할 수 있습니다.

뉴스 vs 커뮤니티 괴리 신호

별도 신호 한 개를 덧붙입니다. news_comm_divergence는 뉴스 인덱스만 overheat인데 커뮤니티는 중립·약세인 상태를 잡습니다. "기관·언론은 띄우는데 실제 한국 개인 투자자들은 차분한" 상황을 가리키며, 운영 중 단기 풀백과 자주 동반되는 패턴으로 관측됐습니다.

다음 단계

운영을 돌리는 동안 라벨링 대상 데이터가 약 100만 건까지 쌓였습니다. 다음 버전은 이 데이터를 GPT-5 기준으로 재라벨링해서 학습할 계획입니다. 현재 LQ-KBERT-Base는 GPT-4 라벨로 만들어졌기 때문에, 더 정교한 모델의 라벨이 들어가면 sentiment·certainty·relevance 각 헤드의 정밀도가 한 단계 올라갈 것으로 기대합니다.

추가로 RL(강화학습) 접목도 검토 중입니다. 단순 라벨 정답에 fitting하는 supervised 방식 대신, 분류 결과가 실제 백테스트 수익(혹은 신호 정확도) 같은 downstream metric을 직접 최적화하도록 만드는 방향입니다. 라벨 정답이 애매한 영역(반어법, 풍자, 컨텍스트 의존적 톤)에서 supervised 한계를 넘을 수 있을지가 관건입니다.

긴 글 읽어주셔서 감사합니다. 모델은 Hugging Face에 공개되어 있습니다 — huggingface.co/LangQuant/LQ-Kbert-base. 사용하시면서 발견하신 이슈나 개선 아이디어는 언제든 환영합니다.

랭퀀트의 시그널·리서치 공식 채널은 t.me/langquant_ai 입니다 — 신호 알림과 운영 업데이트를 받아보실 수 있습니다.

Citation

@misc{langquant2025lkbert,
  title  = {LQ-KBERT-Base: Crypto Market Korean Sentiment & Action Signal Classifier},
  author = {LangQuant},
  year   = {2025},
  url    = {https://huggingface.co/langquant/LQ-Kbert-base}
}