IT(ソフトウェア)でいうサーキットブレーカーは、呼び出し先のサービスが失敗し続けているときに呼び出しそのものを止め、時間を置いてから少量だけ試して復旧を確かめる設計パターンです。目的は、1つのサービスの遅延や停止が呼び出し元へ次々と広がる「カスケード障害」を途中で断つこと。株式市場の売買停止や配線を守る電気の遮断器と同じ名前ですが、本記事が扱うのは分散システムのパターンです。Amazon ECSの「デプロイサーキットブレーカー」も、失敗したデプロイを巻き戻す別の機能です。
ここでは、Closed・Open・Half-Openの状態遷移をPythonの最小実装で動かして確かめたうえで、何を失敗として数えるか、ライブラリ・サイドカー・APIゲートウェイのどこに置くか、リトライとの順序、入れない方がよい構成までを順に扱います。各言語ライブラリの設定コードは、別記事のcircuit breakerの実装:Java・C#・Go・Node.jsの設定コードと閾値の決め方にまとめています。
まとめ:サーキットブレーカーの要点と導入判断
サーキットブレーカーが防ぐのは「落ちている依存先を待ち続けてスレッドや接続を使い果たし、自分まで止まる」事故です。失敗率がしきい値以上になると回路をOpenにして呼び出さずに即座に失敗を返し、待機時間のあとHalf-Openで少数の試験呼び出しを通して、成功すればClosedへ戻します。
置き場所は3つあります。アプリのコード内(Resilience4j・Pollyなどのライブラリ)、サイドカーのプロキシ(Istio/Envoy)、APIゲートウェイ(Kongなど)です。キャッシュ値など業務データを使った代替応答(フォールバック)を書きやすいのはライブラリです。プロキシ側の遮断は接続数の上限と壊れたPodの切り離しが中心で、返せるのは固定の応答への書き換えまでです。
既定値は自分のトラフィックに合っていない前提で見直します。Resilience4jは判定を始めるまでに100件の呼び出し結果が要り、Istioの接続プール上限は既定で232−1(実質無制限)です。導入するなら、守る境界を1〜2か所に絞り、自分のトラフィック量に合わせて値を決めてください。同期呼び出しが少ない構成や、キュー経由の非同期処理が中心の構成では入れなくて構いません。
サーキットブレーカーの定義とカスケード障害が広がる仕組み
応答しない依存先がスレッドを枯渇させる経路
注文サービスが在庫サービスをHTTPで呼ぶ構成を考えます。在庫サービスが応答を返さなくなると、注文サービスのスレッドは応答待ちのまま塞がります。秒間数百件のリクエストが来ていれば、待機スレッドはすぐにプールの上限に達し、在庫と関係のない注文履歴の表示まで処理できなくなります。止まった注文サービスを呼ぶ上流のサービスも同じように詰まり、障害が連鎖する。これがカスケード障害です。
この故障の型と対策としてのサーキットブレーカーは、Michael Nygardの『Release It!』(初版2007年)で広まり、Martin Fowlerが2014年3月6日のbliki「CircuitBreaker」で実装例とともに紹介しました。
フェイルファストが呼び出し元と依存先の両方を守る理由
発想は「速く失敗する(フェイルファスト)」です。依存先が落ちていると分かっているなら、タイムアウトまで待たずにエラーを返してスレッドを解放します。これで呼び出し元は無関係な機能を生かせます。もう一つの効果は、落ちた依存先への呼び出しを止めることで、復旧しかけたサービスに要求が殺到するのを防げる点です。落ちた側を叩き続けると、再起動直後のサービスを再び倒しかねません。AWS Prescriptive Guidanceのサーキットブレーカーパターンも、解決に時間がかかる障害で呼び出し元が再試行を繰り返すと、ネットワークの競合とデータベースのスレッドプール消費を招くと説明しています。
Closed・Open・Half-Openの状態遷移とPythonによる最小実装
代表的な状態モデルは次の3つです。Half-Openで何件を通し、どの条件で戻すかはライブラリによって異なります。
| 状態 | 呼び出し | 次の状態へ移る条件 |
|---|---|---|
| Closed(通常) | 通す・成否を記録 | 失敗率がしきい値以上でOpen |
| Open(遮断) | 呼ばずに即失敗 | 待機時間の経過でHalf-Open |
| Half-Open(試験) | 決めた件数だけ通す | 復旧条件を満たせばClosed |
Resilience4jにはこのほかに、常に通すDISABLED、常に遮断するFORCED_OPEN、記録だけするMETRICS_ONLYの特殊状態があります(Resilience4jのCircuitBreakerドキュメント)。障害時に手動で回路を開け閉めする運用で使います。
Pythonで書いた最小のサーキットブレーカーと実行結果
遷移の動きをつかむため、標準ライブラリだけで書いた最小実装を示します。直近10件の失敗率が50%以上(5件以上たまってから判定)でOpen、3秒後にHalf-Openへ移り、試験呼び出し2件が成功すればClosedに戻ります。
import time
class CircuitOpenError(Exception):
pass
class CircuitBreaker:
def __init__(self, failure_threshold=0.5, window=10, min_calls=5,
open_seconds=3.0, half_open_calls=2):
self.failure_threshold = failure_threshold
self.window = window
self.min_calls = min_calls
self.open_seconds = open_seconds
self.half_open_calls = half_open_calls
self.state = "CLOSED"
self.results = [] # 直近の成否(True=失敗)
self.opened_at = 0.0
self.trial = 0
def call(self, func):
if self.state == "OPEN":
if time.monotonic() - self.opened_at < self.open_seconds:
raise CircuitOpenError("open: 呼び出さずに即失敗")
self.state, self.trial, self.results = "HALF_OPEN", 0, []
if self.state == "HALF_OPEN" and self.trial >= self.half_open_calls:
raise CircuitOpenError("half-open: 試験枠が埋まっている")
if self.state == "HALF_OPEN":
self.trial += 1
try:
value = func()
except Exception:
self._record(True)
raise
self._record(False)
return value
def _record(self, failed):
if self.state == "HALF_OPEN":
if failed:
self._open()
elif self.trial >= self.half_open_calls:
self.state, self.results = "CLOSED", []
return
self.results = (self.results + [failed])[-self.window:]
if len(self.results) >= self.min_calls:
rate = sum(self.results) / len(self.results)
if rate >= self.failure_threshold:
self._open()
def _open(self):
self.state, self.opened_at, self.results = "OPEN", time.monotonic(), []
if __name__ == "__main__":
down = True
def remote():
if down:
raise ConnectionError("依存先が応答しない")
return "ok"
cb = CircuitBreaker()
for i in range(8):
try:
cb.call(remote)
except CircuitOpenError as e:
print(i, cb.state, "遮断:", e)
except ConnectionError:
print(i, cb.state, "失敗を記録")
time.sleep(3.1)
down = False
for i in range(3):
print("復旧後", i, cb.call(remote), cb.state)
macOSのPython 3.9.6で実行した出力(2026年11月15日)です。5件目の失敗で回路が開き、6件目からは依存先を呼ばずに即座に失敗しています。
0 CLOSED 失敗を記録
1 CLOSED 失敗を記録
2 CLOSED 失敗を記録
3 CLOSED 失敗を記録
4 OPEN 失敗を記録
5 OPEN 遮断: open: 呼び出さずに即失敗
6 OPEN 遮断: open: 呼び出さずに即失敗
7 OPEN 遮断: open: 呼び出さずに即失敗
復旧後 0 ok HALF_OPEN
復旧後 1 ok CLOSED
復旧後 2 ok CLOSED
この実装は単一スレッド前提で、ロックも監視用の記録もありません。本番では自作せず、スレッド安全性と状態遷移のイベント通知を備えたライブラリを使ってください。
回路を開く条件の決め方:失敗に数える範囲・遅い応答・既定値
失敗として数える例外と除外すべき例外
数えるのは、呼び出し先の障害を示すものだけです。接続エラー、タイムアウト、HTTP 503(サービス利用不可)や502(不正なゲートウェイ応答)が該当します。逆に、入力不正による400や認証の401・403、存在しないデータの404は、呼び出し元か利用者の問題であり、依存先は正常です。これらを数えると、誤った入力が続いただけで回路が開き、正しい利用者まで巻き添えで止まります。
HTTP 429(要求過多)は扱いを分けます。依存先が流量を絞っている合図なので、即座に再送せず、Retry-Afterヘッダーがあればその時間に従い、無ければバックオフで間を空けます。RFC 6585では、429にRetry-Afterを付けるかどうかは任意です。Microsoft Azure Architecture Centerのサーキットブレーカーパターンも、例外の種類によってOpenに移す条件を変える設計を勧めています。
遅いだけで失敗はしない応答も、放置すればスレッドを塞ぎます。Resilience4jは指定した時間を超えた呼び出しを「遅い呼び出し」として数え、その割合(slowCallRateThreshold)でも回路を開けます。
Resilience4j・Envoy・Istioの既定値と本番投入前の見直し点
主要な既定値を並べます(2026年11月15日に各公式ドキュメントで確認)。
| 項目 | Resilience4j | Envoy | Istio |
|---|---|---|---|
| 判定の単位 | 失敗率 | 同時接続・要求数 | 同時接続・要求数 |
| 開く条件 | 失敗率50% | 上限1024件 | 上限2^32-1 |
| 判定を始める件数 | 100件 | なし | なし |
| 開いている時間 | 60秒 | 上限を下回るまで | 上限を下回るまで |
| 遅い応答の扱い | 60秒超を遅延扱い | 別途タイムアウト | 別途タイムアウト |
| 外れ値の切り離し | なし | 設定時・5xx連続5回 | 設定時・5xx連続5回 |
Resilience4jの最小呼び出し数100件(minimumNumberOfCalls)は、完了した呼び出しの結果が100件たまるまで失敗率を計算しないという意味です。秒間1件の社内APIなら、応答がすぐ返る場合でも判定開始まで約100秒、応答待ちが長引けばさらに遅れます。遅い呼び出しの基準も60秒(slowCallDurationThreshold)と長く、呼び出し元のタイムアウトのほうが先に切れます。Envoyのcircuit breakers設定は最大接続数・保留中要求数・同時要求数が各1024、同時リトライが3。IstioはこれをDestinationRuleのconnectionPoolで上書きしており、書かなければ上限は実質ありません。
値は勘で決めず、閑散時の秒間リクエスト数と、呼び出し元が待てる秒数から逆算します。計算手順はライブラリ別の設定コードと閾値の決め方で扱っています。
ライブラリ・サイドカー・APIゲートウェイ:回路を置く層の選び分け
どの層に置くかで止められるものが違います。
| 層 | 代表例 | 判定の単位 | 代替応答 | 言語依存 |
|---|---|---|---|---|
| ライブラリ | Resilience4j・Polly | メソッド・依存先 | 業務データで可 | あり |
| サイドカー | Istio・Envoy | 宛先クラスタ・ホスト | 固定応答の書き換えは可 | なし |
| APIゲートウェイ | Kong | Upstreamのターゲット | プラグインで可 | なし |
ライブラリ型(Resilience4j・Polly)とHystrixからの移行
アプリのコード内に置く方式で、呼び出しごとに失敗率を数え、開いたときにキャッシュ値や「処理中」などの代替応答を返せます。JavaではResilience4j 2.4.0(2026年3月14日公開)が現行版で、Spring Cloud CircuitBreakerの実装先の一つです。.NETはPolly 8系のcircuit breaker戦略が定番です。
かつての定番だったNetflix Hystrixは、GitHubのREADMEに「no longer in active development, and is currently in maintenance mode」と明記されており、最終版は1.5.18です。新規開発で選ぶ理由はありません。
サイドカー型(Istio/Envoy)との違いは判定の単位と代替応答
サイドカーは、各Podに同居するプロキシ(Envoy)が通信を中継し、その場で遮断します。アプリのコードを変えずに、プロキシを経由する通信へ一律に効かせられるのが利点です。接続数の上限は宛先のクラスタ単位、外れ値検知は宛先のホスト(Pod)単位で働きます。Envoyのローカル応答の書き換えを使えば遮断時の応答コードや本文は変えられますが、キャッシュ値を引くような業務ロジックはアプリ側に置く方が素直です。
サイドカー型の遮断は2種類あります。一つは宛先クラスタごとの同時接続数と保留中の要求数の上限で、超えた要求を即座に503で返します。Envoyのcircuit breakingの解説によれば、上限は上流クラスタと優先度ごとに管理されます。もう一つは外れ値検知(outlier detection)で、5xxを連続で返したPodを負荷分散の対象から一定時間外します。Envoyのoutlier detectionの既定値は5xx連続5回・判定間隔10秒・切り離し30秒・同時に外せるのは全体の10%までで、切り離されるたびに時間が延びます。
ライブラリとサイドカーは置き換えの関係ではありません。外れ値検知は「同じサービスの複数Podのうち壊れた1台」を外すのは得意ですが、依存先のサービス全体が落ちたときに代替応答を返すことはできないからです。サイドカーの仕組み自体はサイドカーパターンの仕組みと導入判断、Istioの全体像はIstioのサイドカー/アンビエント方式と導入判断にまとめています。
APIゲートウェイ型(Kong)のパッシブヘルスチェックとリトライ
Kong Gatewayでは、Upstreamに設定するパッシブヘルスチェックがサーキットブレーカーに当たります。Kongの公式ドキュメントは「Passive health checks, also known as circuit breakers」と書き、中継中の通信の失敗から異常なターゲットを判定して振り分けから外します。
注意点は2つあります。ヘルスチェックは既定で無効なので、Upstreamに明示しないと遮断は起きません。そしてパッシブヘルスチェックは異常なターゲットを外すだけで、自動では戻しません。Half-Openに当たる復帰を自動化するには、アクティブヘルスチェックを併用して定期的に疎通を確かめる構成にします。
リトライはServiceのretriesで回数を指定し、接続に失敗した要求を別のターゲットへ再送します。ヘルスチェックの設定にフォールバックの項目は無く、遮断時の独自応答はPDKのkong.responseを使うプラグインで組むことになります。業務データを使った代替応答が要るなら、アプリ側のライブラリで持つ方が保守しやすくなります。KongのService・Upstreamの作り方はKong GatewayのUpstream設定と負荷分散で扱っています。
AWSで組む場合:App Mesh終了後の選択肢とECSの同名機能
AWS App Meshは2026年9月30日でサポートが終了し、コンソールもリソースも使えなくなりました。移行先として案内されているAmazon ECS Service Connectは、タスクに入るプロキシがラウンドロビンの負荷分散、外れ値検知、リトライを行います。App Meshからの移行手順はAWS App Meshの終了と移行先の選び方を参照してください。
Service Connectの外れ値検知は壊れたタスクを外す機能で、依存先全体が落ちたときの代替応答はやはりアプリ側のライブラリで持ちます。ECSの「デプロイサーキットブレーカー」は名前が同じでも、新しいタスクが起動に失敗し続けたときにデプロイを止めて巻き戻す機能で、呼び出しの遮断とは関係がありません。どの層で何を守るかをAWSの構成ごと設計する場合は、AWS・Google Cloud・Azureのインフラ構築支援で相談を受け付けています。
リトライ・タイムアウト・フォールバック・バルクヘッドとの組み合わせ方
失敗率で判定するサーキットブレーカーは、呼び出しが完了して結果が記録されない限り数えられません。タイムアウトなどの周辺の仕組みと組み合わせて初めて働きます。
タイムアウトの設定とリトライとの適用順序
最初にすべての同期呼び出しへタイムアウトを入れます。応答を待ち続けるだけの障害では、タイムアウトが無いと失敗が記録されず、回路は開きません。
リトライとの順序は2通りあり、効き方が違います。Resilience4jのSpring Boot連携は既定で Retry ( CircuitBreaker ( RateLimiter ( TimeLimiter ( Bulkhead ( Function ) ) ) ) ) の順で、リトライが一番外側です(Resilience4jのGetting Started)。この順だと再試行の1回ずつが失敗として数えられ、回路は早く開きます。その代わり、回路が開いたときに投げられる例外(CallNotPermittedException)を再試行の対象から外さないと、遮断中の拒否をリトライが繰り返します。逆にブレーカーを外側に置くと、リトライで吸収された失敗は数えられず、遮断は遅れます。
リトライ単独で使うと、障害時に全クライアントが一斉に再送して負荷を何倍にも膨らませる「リトライストーム」が起きます。指数バックオフとジッター、再試行の上限はリトライパターンの指数バックオフとリトライ予算で解説しています。
フォールバックによる代替応答とバルクヘッドによる資源の隔離
回路が開いたときに何を返すかがフォールバックです。商品のおすすめ欄なら空のリストやキャッシュ値を返して画面を出します。決済のように代わりの値が無いものは、要求を保存して後で再実行できるか、送信済みの処理を後から照会できる場合に限って「処理中」と返し、それができなければ「受け付けられなかった」と明示して再操作を促します。依存先を呼んでいない要求を処理中と見せると、実際には処理されていない決済を受け付けたように見えるためです。フォールバックの中で同じ依存先を別経路で呼ぶのは避けてください。遮断の意味がなくなります。
サーキットブレーカーは「開くまでの間」の資源消費を止められません。依存先ごとにスレッドや同時実行数を分けておけば、1つの依存先の遅延が他の処理の資源を食い尽くすことを防げます。これがバルクヘッド(隔壁)で、詳細はバルクヘッドパターンの仕組みと実装方法にあります。
運用で決めておくこと:状態の監視・手動切り替え・障害注入テスト
回路が開いたことに誰も気づかなければ、利用者は代替応答を見続け、障害が長引きます。状態がOpenに変わった回数と時間、遮断で拒否した件数をメトリクスとして出し、Openへの遷移をアラートにつないでください。Resilience4jはSpring Boot Actuatorで状態とイベントを公開できます。
復旧時間が読めない依存先には、手動で回路を閉じる・開ける手段を用意します。依存先の計画メンテナンス中にFORCED_OPENで止めておけば、無駄な失敗を数えずに済みます。複数のPodで状態を共有する必要は原則ありません。共有ストアが新しい障害点になるためで、全Podで一斉に止めたいときは機能フラグで呼び出しを止める方が単純です。
最後に、本当に開くかを試します。依存先に遅延やエラーを注入して、想定した秒数で回路が開き、待機時間のあとに戻ることを確かめます。設定ミス(タイムアウトの欠落、4xxの誤計上、呼び出しごとにインスタンスを作って状態が消える等)は、この試験で初めて見つかることが多いからです。手順はカオステストの実験設計とツール選定で扱っています。
サーキットブレーカーを採用すべき構成と見送るべき構成
判断の軸は、ネットワーク越しの同期呼び出しが連鎖して全体を止めうるかどうかです。
導入効果が大きい構成の条件
AWS Prescriptive Guidanceは適用対象として、失敗の可能性が高い呼び出し、遅延の大きい依存先でタイムアウトが起きている場合、利用できないか遅い依存先への同期呼び出しを挙げています。自社の構成では、次の項目を確認してください。
- 1つのリクエストの中で、別プロセスのサービスを同期で2段以上呼んでいる
- 依存先に外部の決済・配送・認証APIなど、自分では直せない相手がいる
- 秒間の呼び出し数が多く、応答待ちでスレッドや接続が尽きる現実的なリスクがある
- 落ちた依存先の代わりに返せる値(キャッシュ・既定値・保留扱い)がある
最初は外部API呼び出しなど守る境界を1〜2か所に絞って入れ、Openへの遷移を監視しながら値を詰めるのが無駄の少ない順序です。全呼び出しに一律で巻くと、設定と監視の対象が増えるだけで割に合いません。
見送るべき場面と過剰設計の失敗パターン
次の場合は入れないか、後回しにします。
単一プロセス内のメソッド呼び出しや、メモリ内のデータへのアクセスが中心のモノリスでは、回路を巻いても守る対象がなく、オーバーヘッドが増えるだけです。キュー経由の非同期処理が中心で呼び出し元が応答を待たない構成も同様で、失敗したメッセージは再処理とデッドレターキューで扱う方が素直です。
依存先が1つで代わりに返せる値が無い構成でも、遮断には応答待ちを短くして呼び出し元の資源を守り、依存先の復旧を妨げない効果があります。そのうえで、呼び出し数が少なくタイムアウトだけで資源の消費が十分に抑えられ、依存先への負荷も問題にならないなら、ブレーカーは後回しで構いません。再試行を足すのは一時的な障害に限り、決済のような副作用のある処理では冪等性を確保してからにします。サービスメッシュが入っていて呼び出し先が同質なPodの集まりなら、壊れた台の切り離しは外れ値検知に任せ、アプリ内のブレーカーは外部API向けに限ります。
典型的な失敗は、サービスが2〜3個の段階でサービスメッシュとブレーカーを全面導入し、しきい値調整と分散トレーシングの運用負担が、防げる障害の頻度を上回るパターンです。マイクロサービスにするかどうか自体を検討している段階なら、先にモノリスとマイクロサービスの違いで境界の切り方を決めてください。障害に耐える設計全体の考え方はフォールトトレラントの仕組みと高可用性との違いにまとめています。
サーキットブレーカーの仕組みと導入に関するよくある質問
サーキットブレーカーとサーキットブレーカーパターンは同じ意味ですか?
ソフトウェア開発の文脈では同じものを指します。英語でもFowlerのblikiのようにCircuit Breakerという名前で設計パターンそのものを説明しており、日本語ではサーキットブレーカーパターンと呼ばれることが多いという違いだけです。ただし株式市場の売買停止、電気の遮断器、Amazon ECSのデプロイサーキットブレーカーは別物なので、検索では「マイクロサービス」「resilience4j」などの語を足すと目的の情報に早く届きます。
サイドカーのサーキットブレーカーとアプリ内のものは何が違いますか?
判定の単位と代替応答の有無が違います。サイドカー(Istio/Envoy)は宛先クラスタ単位の接続数の上限とホスト単位の外れ値検知を行い、コードを変えずにプロキシを経由する通信へ効きます。遮断時の応答は固定の内容に書き換えられる程度です。アプリ内のライブラリは依存先ごとに失敗率を数え、開いたときにキャッシュ値などを返せます。外部APIを呼ぶ箇所はライブラリ、サービス間の粗い防御はサイドカー、と分けるのが実務的です。
Kongでサーキットブレーカーとリトライ・フォールバックを設定できますか?
サーキットブレーカーとリトライは設定できます。Upstreamのパッシブヘルスチェックが遮断に当たり、自動では戻さないのでアクティブヘルスチェックを併用します。リトライはServiceの retries で回数を指定します。フォールバックの応答はKong本体の設定には無いので、アプリ側で持ちます。
AWSでサーキットブレーカーを実装するにはどうすればよいですか?
アプリ層はResilience4jやPollyなどのライブラリで実装し、ECS上のサービス間通信は、2026年9月30日に終了したApp Meshに代わってECS Service Connectの外れ値検知とリトライを使います。ECSのデプロイサーキットブレーカーはデプロイを巻き戻す機能で、呼び出しの遮断には使えません。
Resilience4jとHystrixはどちらを選べばよいですか?
Resilience4jを選びます。Hystrixは1.5.18を最後にメンテナンスモードです。移行は1対1の置き換えにならず、Hystrixのスレッドプールによる隔離はResilience4jではBulkheadとして別に組みます。