調査手法 バイアス管理

第3章

バイアス管理と検証

多くの個人投資家向けバックテストは、結果を現実よりはるかに良く見せる系統的なバイアスによって無効になっています。当社は最も一般的な6つのバイアスを特定し、それぞれに対して厳格な管理策を設計しました。

01

ルックアヘッド・バイアス

最も危険

概要

ルックアヘッド・バイアスとは、売買判断の時点では入手できなかったはずの情報を戦略が使用してしまうことです。最も一般的な形は、バーTの終値でシグナルを生成し、同じバーTの終値で取引を執行するというものです。現実には、終値はバーが終了した後にしか分からず、その時点で市場はすでに閉まっています。

✗ バイアスあり(多くの個人投資家向けツールの方法)

バーTの終値でシグナル生成 → バーTの終値で約定。実際には不可能です。今知ったばかりの価格で取引することはできません。

✓ 当社のアプローチ

バーTの終値でシグナル生成 → 注文を待機 → バーT+1の始値で約定。これは現実的に執行可能な最も早い価格です。

当社が防止しているその他のルックアヘッド・バイアス

  • バーTの高値・安値でストップを発動させる — これらはバー終了後にしか分かりません
  • 「将来」の期間を用いて計算された指標(例:中心化移動平均)
  • ローリングの最小値・最大値ではなく、全データセットの最小値・最大値による正規化
  • 全期間で最適化した戦略パラメータを、同じ期間でテストすること
  • 発表日より前に実際のEPSを使用した決算サプライズのシグナル
02

サバイバーシップ・バイアス

過大評価リスク

サバイバーシップ・バイアスとは、バックテストが現在も取引所に上場している銘柄のみを対象にすることで生じます。テスト期間中に破綻、買収、上場廃止となった企業は、当時は有効な取引候補であったにもかかわらず除外されます。その結果、すべての「敗者」がデータセットから静かに取り除かれるため、過去のリターンは実際よりはるかに良く見えます。

ハンセン指数の銘柄ユニバースへの定量的な影響:

~15–20%

10年間のバックテストで、HSI構成銘柄の履歴に上場廃止銘柄が少なくとも1つ含まれる割合

~3–8%

モメンタム戦略においてサバイバーシップ・バイアスによって生じる年間リターンの典型的な過大評価

100%

当社のバックテストで、過去のユニバースに上場廃止銘柄を含めている割合

✗ バイアスのあるユニバース

現在S&P 500に含まれる500銘柄のみでテストします。過去の破綻、上場廃止、除外はすべて除かれます。リターンの偏り:年間+3%〜+8%。

✓ 当社のアプローチ

各過去時点のユニバースには、その時点で上場していたすべての銘柄が含まれます。その後に上場廃止や破綻となった銘柄も含みます。ポイント・イン・タイム方式のユニバース構築です。

03

オーバーフィッティング(カーブフィッティング)・バイアス

最も多い

オーバーフィッティングとは、戦略が過去データに対して過度に最適化され、一般化できるルールを学習するのではなく、過去を事実上「記憶」してしまった状態です。12個のパラメータをすべて3年分のデータで調整した戦略は、素晴らしい過去の成績を示しますが、実運用ではすぐに機能しなくなります。

オーバーフィッティングの検出と防止方法

パラメータ数の最小化

自由パラメータが5個未満の戦略を優先します。パラメータが1つ増えるごとに、カーブフィッティングのリスクは2倍になります。

パラメータ感度テスト

各パラメータを±10〜20%変動させ、リターンへの影響を測定します。堅牢な戦略は、鋭いピークではなく滑らかで平坦な曲面を示します。

クロスバリデーション

過去の期間を重複しない5つの区間に分割し、すべての区間で結果が一貫しているかを測定します。

最低取引回数

取引が50回未満のバックテストでは、統計的な根拠が不十分です。当社は少なくとも100回の完結した往復取引を必要とします。

モンテカルロ・シミュレーション

取引の順序を10,000回ランダムに入れ替え、リターンの分布とランダムな順序での最悪ケースを測定します。

04

セレクション・バイアス

見落とされがち

セレクション・バイアスとは、どの銘柄をバックテストするかの選択が、意識的かどうかにかかわらず、その銘柄の過去の成績に関する知識に左右されることで生じます。過去10年間の最大の勝ち組銘柄だけでモメンタム戦略をテストすれば、偏った結果になります。

銘柄の選定

結果を見る前に取引ユニバースを定義します。ユニバースの基準は、時価総額、流動性、セクターなどの客観的なフィルターに基づき、過去の成績には基づきません。

期間の選定

各銘柄について、都合の良い期間だけを選ぶのではなく、利用可能な全履歴を使用します。2010〜2024年をテストする場合は、2015年の中国株暴落、2018年の調整、2020年のコロナ・ショックも含めます。

戦略の選定

うまくいった戦略だけでなく、テストしたすべての戦略を記録します。公表バイアス(成功例だけを示すこと)もセレクション・バイアスの一種です。

ベンチマークの選定

比較対象のベンチマークはテスト開始前に定義します。結果を見た後に、相対的な成績を良く見せるためにベンチマークを変更することはありません。

05

最適化バイアス

パラメータリスク

最適化バイアスは、オーバーフィッティングの特定の形態です。何百ものパラメータの組み合わせをグリッドサーチして最良のものを選ぶとき、見つかるのは「真の」最適パラメータではなく、ランダムなノイズによってたまたまその特定の過去期間で最も良く機能したパラメータです。

例:「最良」のパラメータが誤解を招く理由

同じデータで100通りのパラメータ組み合わせをテスト → 有意水準5%で予想される偽陽性:偶然だけで約5つの戦略が良く見える
1,000通りの組み合わせをテスト → 予想される偽陽性:約50。「最良」の戦略は完全にランダムな結果かもしれません。
当社のアプローチ:先にパラメータを定義 → 経済的なロジックに基づいてパラメータを選びます。テストは1回のみ。その結果を、これ以上の修正を加えずに報告します。

当社の最適化ルール

  • ● 戦略パラメータは、インサンプルのバックテストを実行する前に設定する
  • ● 最適化を行う場合は、訓練セットのみで実施し、検証セットでは決して行わない
  • ● 読者が堅牢性を確認できるよう、ピークだけでなく最適化曲面も報告する
  • ● 狭いピークではなく、平坦な高原に位置するパラメータ値を優先する
  • ● ウォークフォワード最適化:パラメータを定期的に再最適化し、実際の適応的な運用を模擬する
06

アウトオブサンプル検証

最終関門

アウトオブサンプル(OOS)テストは、最も重要な検証ステップです。戦略を訓練セットで開発・最適化した後、完全に切り離されたホールドアウト期間で1回だけテストします。OOSの結果を戦略の更なる改良に使うことはできません。使ってしまえば、そのホールドアウトはもはや真のアウトオブサンプルではなくなります。

15年間のバックテストにおける典型的なデータ分割

訓練期間 (60%)
戦略開発
検証
(20%)
OOSホールドアウト
(20%)
1年目 9年目 12年目 15年目

ウォークフォワードテスト

ウォークフォワードテストは、実際のトレーダーが定期的に戦略を再最適化する様子を模擬する、より高度なOOSテストです。固定された1回の訓練/テスト分割の代わりに、ローリングウィンドウを使用します。最初のN本のバーで最適化し、次のM本のバーでテストし、M本分進めて、これを繰り返します。

ローリングウィンドウ

12か月の最適化ウィンドウと3か月のウォークフォワード・ステップを使用します。各ウィンドウは独立しています。

一貫性チェック

ウォークフォワードの成績とインサンプルの成績の比率を測定します。比率が50%を超えると、堅牢な戦略であることを示します。

両方を報告

完全な透明性のため、すべてのレポートでインサンプルとウォークフォワード(アウトオブサンプル)の結果を並べて示します。

バイアス管理の概要

バイアスの種類 典型的な影響 当社の管理策 ステータス
ルックアヘッド 非常に大きい — 報告されるリターンが2倍になることも 次バー始値での執行、イベント駆動型エンジン 管理済み
サバイバーシップ 年間リターンを+3〜8%過大評価 上場廃止銘柄を含むポイント・イン・タイムのユニバース 管理済み
オーバーフィッティング 実運用で戦略が機能しない パラメータ感度、モンテカルロ、100回以上の取引 管理済み
セレクション 都合の良い勝ち組だけが提示される 事前に定義したユニバース、全履歴、すべてのテストを報告 管理済み
最適化 誤った「最適」パラメータ 経済的ロジック、ウォークフォワード、平坦な高原を優先 管理済み
OOS検証なし インサンプルの結果 ≠ 実運用の結果 60/20/20の分割、ウォークフォワードテスト 管理済み