한국 시스템 트레이딩 입문: 코스피 팩터 전략과 알고리즘 매매의 현실

## 시스템 트레이딩이란 무엇인가

시스템 트레이딩(Systematic Trading)은 매매 결정을 규칙 기반 알고리즘에 완전히 위임하는 투자 방식이다. 인간의 감정·직관·즉흥 판단을 배제하고, 미리 정의한 신호가 발생하면 기계적으로 주문을 넣는다. 재량적 투자(Discretionary Trading)가 "이 주식이 좋아 보인다"는 판단으로 매매한다면, 시스템 트레이딩은 "ROE 상위 20%, 3개월 모멘텀 양수, 저변동성 조건이 충족되면 매수"라는 규칙으로 매매한다.

## 시스템 vs 재량적 투자: 장기 수익률 비교

학술 연구와 헤지펀드 운용 데이터를 종합하면, 장기(10년 이상) 기준으로 시스템 전략은 일반 재량적 투자자를 꾸준히 웃도는 경향이 있다. AQR, Renaissance Technologies, D.E. Shaw 같은 글로벌 퀀트 헤지펀드의 성과가 이를 입증한다. 핵심 이유는 두 가지다: **감정 배제**(공포에 매도, 탐욕에 매수하는 실수를 제거)와 **백테스트 기반 기대값 확인**(전략을 배포하기 전에 역사적 성과를 검증).

단, 이는 "잘 만들어진" 시스템 전략에 한한다. 과최적화(overfitting)된 전략, 거래비용을 제대로 반영하지 않은 전략은 실전에서 백테스트 성과를 재현하지 못한다.

## 한국 주식 시장의 구조적 특성

코스피·코스닥 시장을 퀀트 전략 관점에서 보면 글로벌 시장과 다른 특성들이 있다.

**유동성 집중**: 시가총액 상위 10~20개 종목(삼성전자, SK하이닉스, LG에너지솔루션 등)에 거래량이 집중된다. 중소형주는 종목당 일일 거래대금이 적어 전략 규모가 커지면 슬리피지가 급증한다.

**개인 투자자 비중**: 한국 주식 시장의 개인 투자자 거래 비중은 약 60~70%로 글로벌 대비 매우 높다. 이는 단기 모멘텀 전략이 다른 시장에서보다 잘 작동할 수 있는 여건이기도 하지만, 동시에 군중 행동이 강해 단기 변동성이 커진다는 의미이기도 하다.

**시가총액 집중**: 코스피 시가총액의 상위 30~40%가 삼성 그룹 관련 주식이다. 삼성전자 한 종목이 전체 시장 방향에 미치는 영향이 크다는 뜻이고, 팩터 모델을 만들 때 삼성전자를 어떻게 처리하느냐가 전략 성과를 크게 좌우할 수 있다.

## 파이썬 기반 백테스트 프레임워크

한국 개인 퀀트가 가장 많이 사용하는 백테스트 환경은 다음과 같다:

**Backtrader**: 파이썬 기반, 설치·학습 진입장벽이 낮다. 이벤트 구동 방식으로 실거래 환경을 잘 모방한다. 그러나 대규모 포트폴리오 백테스트에서는 속도가 느리다.

**Zipline / Zipline-reloaded**: Quantopian이 오픈소스로 공개한 프레임워크. 데이터 파이프라인과 팩터 정의가 체계적이지만 설정이 복잡하다.

**직접 구현 (pandas + numpy)**: 많은 개인 퀀트가 pandas DataFrame으로 직접 벡터화 백테스트를 구현한다. 빠르고 유연하지만 look-ahead bias가 들어가기 쉽다.

**FinanceDataReader**: 한국 주식 데이터를 무료로 수집할 수 있는 파이썬 라이브러리. OHLCV, 재무 데이터를 KRX/FnGuide에서 가져온다. 국내 퀀트 입문자에게 필수 도구다.

## 팩터별 한국 시장 실증 성과

**모멘텀(Momentum)**: 과거 3~12개월 수익률 기준 상위 종목이 하위 종목보다 다음 1~3개월 동안 초과 수익을 내는 경향. 한국 시장에서 모멘텀 팩터는 미국과 유럽보다 약하게 나타난다는 연구가 있지만, 수수료 전 기준으로는 유의미한 신호가 존재한다. 수수료 후 실효 성과는 설계에 따라 크게 다르다.

**저변동성(Low Volatility)**: 과거 변동성이 낮은 종목이 높은 종목보다 리스크 조정 수익이 높은 "저변동성 아노말리". 한국 시장에서도 통계적으로 유의미하게 관찰된다. 특히 개인 투자자 과도 베팅(복권 효과)이 있는 소형·고변동 종목을 배제하는 효과가 있다.

**퀄리티(Quality)**: ROE, 영업이익률, 부채비율 등 재무 건전성 지표가 우수한 종목 선호. 한국에서는 대기업 그룹 계열사 여부가 퀄리티 팩터와 얽히는 경우가 많아 팩터 순수성 확보가 중요하다.

## 슬리피지와 거래비용의 현실적 추정

백테스트 수익률과 실전 수익률 차이를 만드는 주범은 거래비용과 슬리피지다.

**거래 수수료**: 국내 증권사 온라인 매매 기준 약 0.015~0.05%. 세금(증권거래세)은 매도 시 0.18%(코스피, 2025년 기준). 합산하면 왕복 거래비용이 0.3~0.5% 수준이다.

**슬리피지**: 중소형주에서 일일 거래대금의 1~2%를 넘는 주문은 시장가격에 영향을 준다. 백테스트에서 종가로 매매를 가정하면 실제로는 그 가격에 체결이 불가능한 경우가 많다. 현실적인 슬리피지 가정 없이는 소형주 전략의 백테스트 성과는 항상 과대추정된다.

## 국내 개인 퀀트 커뮤니티 현황

한국에는 활발한 개인 퀀트 커뮤니티가 있다. 퀀트 투자 관련 카페·오픈 채팅방과 더불어 GitHub에 공개된 개인 백테스트 코드들이 벤치마킹 자료가 된다. 강환국의 저서 "할 수 있다! 퀀트 투자"가 입문서로 많이 읽히며, 해외 자료로는 Quantopian 아카이브, Alpha Architect 블로그, AQR의 논문들이 주요 학습 소스다.

개인 퀀트 전략의 가장 흔한 실패 패턴은 과최적화다. 파라미터를 너무 세밀하게 조정하면 과거 데이터에 완벽하게 들어맞는 전략이 나오지만, 미래에는 작동하지 않는다. 단순하고 직관적인 팩터 조합이 복잡한 머신러닝 모델보다 실전에서 더 안정적인 경우가 많다는 것이 경험적 교훈이다.

한국 시스템 트레이딩 입문: 코스피 팩터 전략과 알고리즘 매매의 현실

// COMMENTS

ON THIS PAGE