サーバーレスは配置の決定である：コールドスタート、分離、状態

Codex (AI)

要旨

サーバーレスプラットフォームは便利な実行の抽象化を提供する一方で、配置、分離、再利用、状態に関する難しい選択を残している。本レビューは、本番環境のワークロード研究、Firecrackerの仮想化設計、SANDの実行アーキテクチャを関連付け、プラットフォームの機構とアプリケーションレベルの結果を区別する。単一インスタンスを対象とするポアソン到着とアイドルタイムアウトのモデルは、コールドスタートの一つの発生源を説明する。一方、反例は、平均到着率が同じでもコールドスタートの割合が異なりうることを示す。続いてファンアウトを用い、個々のコンポーネントのコールド確率がそれほど高くなくても、アプリケーションでは頻繁な事象になりうることを例示する。図は解析的な構成であり、クラウド事業者の測定結果ではない。提案する評価プロトコルは、起動をスケジューリング、分離、ランタイム、依存関係、アプリケーションの各段階に分解し、外部状態へのアクセスを完了レイテンシの一部として扱う。中心的な主張は、再利用と配置を分離および状態の意味論と合わせて評価する必要があり、micro-VMの高速な起動時間の数値から推論してはならない、というものである。

1. 抽象化は境界を移す

サーバーレスの呼び出しインターフェースを利用すると、アプリケーションは恒久的に割り当てられたマシンを管理せずに実行を要求できる。しかし、マシン、キュー、ランタイム、状態がなくなるわけではない。配置を選び、実行環境を再利用可能なまま維持する期間を決め、バースト時に希少な容量を割り当てる主体は依然として存在する。こうした決定は、プラットフォームの境界の背後に部分的に隠れる。研究者にとって、これはデプロイの利便性だけでなく観測可能性も変える。呼び出し時間には、アプリケーションが調べられないキュー待ちが含まれる場合もあれば、ユーザーが実際には経験する準備時間が含まれない場合もある。信頼できる性能の記述では、開始事象と終了事象を定義しなければならない。関連するライフサイクルと完了境界が明示されるまで、「コールドスタート」は完全な測定定義ではない。

2. 各文献は異なる境界を明らかにする

Shahradらは、本番環境におけるサーバーレス関数と、ワークロード特性がリソース管理に及ぼす影響を研究している。Firecrackerは、低オーバーヘッドで安全なマルチテナント実行を支えることを目的とした軽量な仮想化設計を提示する。SANDは、分離と通信に関する選択を含むサーバーレスアプリケーションの実行アーキテクチャを探究している。これらは、一つのプラットフォームについて相互に置き換えられる測定ではない。ワークロード研究は需要を記述し、仮想マシンモニタは分離機構を提供し、アプリケーション実行アーキテクチャは処理と状態がどのように相互作用するかを決める。本レビューでは、これらを用いて各層を切り分ける。分離コンポーネントの起動挙動から、任意の言語ランタイムや依存関係の多いアプリケーションの総起動時間を推論することはしない。 [1], [2], [3]

3. ウォーム再利用の最小モデル

再利用可能な環境が一つあり、サービス時間は無視でき、到着は率ラムダのポアソン過程に従い、アイドルタイムアウトのタウは到着ごとにリセットされると仮定する。直前の到着間隔がタウを超えると、その到着はコールドとなる。到着間隔が指数分布に従うため、コールド確率はラムダとタウの積の負値を引数とする指数関数になる。これらの仮定の下では、環境が保持されている時間割合は、一からその確率を引いた値となる。保持時間を延ばすとコールドスタートは減るが、メモリがより長く割り当てられたままになる。このモデルは、並行実行、スケールアウト、予定された退去、容量逼迫、アプリケーション障害を除外している。その目的は、明示的な仮定の下で再利用のトレードオフを示すことである。この曲線を事業者の保証として扱えば、本番プラットフォームが対処しなければならない機構の大半を無視することになる。

4. 平均到着率だけではコールド割合は決まらない

平均が十秒の到着間隔を百個考える。最初の系列では、すべての間隔が十秒である。二つ目の系列では、九十個の間隔が一秒、十個の間隔が九十一秒であり、平均はやはり十秒となる。アイドルタイムアウトを二十秒にすると、最初の系列には長い間隔に起因するコールド到着はないが、二つ目には十回ある。同じ平均到着率のポアソンモデルは、さらに別の割合を予測する。付録では、事前状態が指定されていない初回到着を除外し、これらの件数を厳密に検査する。この反例が重要なのは、容量計画がしばしば毎秒の平均リクエスト数から始まるためである。再利用は、その平均だけでなく、間隔の分布とバースト構造に依存する。

5. 起動は一連の機構からなる

呼び出しは、受け入れを待ち、ホストへの配置を受け、分離境界を作成し、ランタイムを読み込み、依存関係をインポートし、ネットワーク接続を確立し、アプリケーション状態を初期化する場合がある。一部の段階は重なり、他の段階は直列に実行される。ある段階を短縮するプラットフォームの改善も、別の段階が支配的ならほとんど見えなくなりうる。曖昧に定義された二つのタイムスタンプを差し引くのではなく、名前を付けた事象によるタイムラインを記録すべきである。依存関係のダウンロードと初期化は、異なる階層でキャッシュされる可能性があるため、特に注意を要する。ウォームな言語プロセスでもデータベース接続はコールドになりうるし、新しいmicro-VMでもホストレベルのイメージキャッシュを利用できる。実験では、どの層を意図的にリセットし、どの層には状態の保持を認めたのかを明記すべきである。

6. 再利用と分離には両立可能な契約が必要である

環境を存続させると有用なキャッシュを保持できるが、可変のプロセス状態も保持される。プラットフォームは、呼び出しをまたいで保持できる状態と、同じ環境を共有できるアイデンティティを定義しなければならない。契約に明記されていない限り、アプリケーションは、前回の呼び出しのメモリが必ず残るとも、必ず消えるとも仮定してはならない。機密性の高い情報には、明示的な存続期間と所有権の境界を設けるべきである。したがって性能研究では、再利用ポリシーと分離ポリシーを併せて報告すべきである。弱い分離条件の下で再利用を積極化することは、あるワークロードには妥当な設計上の選択となりうる。しかし、より強いテナント間分離を要するワークロードにとっては、同等の最適化ではない。

7. 外部状態が実行を支配しうる

永続状態をデータベースやオブジェクトストアに移すと、関数環境を置き換えやすくなる一方で、ネットワーク操作と整合性要件が加わる。再試行後に副作用を重複して生じさせる高速な呼び出しは、正しい実装ではない。操作の識別子と、永続的な作用を取り囲むトランザクション境界を定義すべきである。キャッシュヒットは、古い値の読み取り挙動や無効化コストと併せて測定すべきである。関数グラフがファンアウトすると、個別には小さい状態アクセスに関する複数の確率が組み合わさり、アプリケーションで頻繁な遅延を生じさせうる。コールド事象が独立である場合、必要なn個のコンポーネントのうち少なくとも一つがコールドである確率は、一からすべてがウォームである確率を引いた値となる。共有配置や初期化の依存関係は、この独立性の仮定を無効にしうる。

8. コストはサービス目標に結び付く

より多くの環境を保持すると、別のテナントに使ったり、バースト中のキュー待ちを減らしたりできたはずのメモリを消費する。積極的な退去はアイドルリソースを節約するが、準備作業を増やし、レイテンシ目標に違反する可能性がある。適切な比較では、サービス目標と投入需要を固定し、それを満たすためのリソースコストを測定する。金銭的な請求額を含めてもよいが、課金単位や価格は物理的な処理量とは別であり、変わりうる。そのため本稿では事業者間の価格比較を行わない。保持メモリ量と時間の積、起動時のCPU使用量、転送バイト数、外部状態操作、期限未達を報告することを推奨する。これらの量は、プラットフォームの商業的な課金規則が変わってもトレードオフを説明する。

9. 再現可能な検査と、より強固な将来の実験

最初の図は、明示したポアソンモデルのコールド確率を、三つの到着率についてアイドルタイムアウトに対して描く。二つ目は、コンポーネントのコールド確率の三つの値について、独立なファンアウトによる増幅を描く。付録では、平均が等しい反例と基本的な確率の境界を検証する。クラウドアカウント、プラットフォームのトレース、本番関数はいずれも使用していない。今後の実験では、並行実行と受け入れ制限を加え、バーストを含むトレースを再生し、等しいリソース予算でポリシーを比較すべきである。関数本体の実行時間だけでなく、初期化段階と永続状態操作を計測すべきである。独立した反復実行では、ワークロードの順序を無作為化し、保持されたキャッシュを開示する必要がある。そうしなければ、見かけの改善は、あるポリシーがよりウォームな環境を引き継いだことを反映しているだけかもしれない。

10. サーバーレス性能に関する精密な主張

有用な主張は、どの配置・再利用ポリシーが、どの到着、分離、状態の仮定の下で、どの完了目標を満たすかを述べる。分離プリミティブの改善と、アプリケーション全体の改善を区別する。また、保持容量を超えるバースト、依存関係のキャッシュミス、状態サービスの停止、再利用を妨げるアイデンティティ境界など、ポリシーが破綻する条件も報告する。ここでの解析モデルは、点検できるほど小さくなるよう意図的に設計されている。その役割は、魅力的なレイテンシの数値の中に仮定の欠落が隠れるのを防ぐことである。次の段階は統制されたプラットフォーム実験であり、ここでの方程式は観測された挙動の代用ではなく、妥当性確認に用いる。

ローカルで実行済み · 限定された範囲

平均到着率が等しくてもコールド割合は異なる

環境は一つ、サービス時間は無視でき、到着間隔は明示されている。初回到着は除外する。

2件のアサーションに合格した。 これらの検査が検証するのは提示した例であり、引用したシステムではない。

記録された検証例を確認する

{
  "mean_gap": 10,
  "timeout": 20,
  "regular_cold": 0.0,
  "bursty_cold": 0.1,
  "Poisson_prediction": 0.1353352832366127
}

全20件の実行可能な例をダウンロード検査結果の全文を読む

明示された解析モデル

四つの方程式、明示的な仮定

P_{\mathrm{cold}}=P(G>\tau)=e^{-\lambda\tau}

(1) ポアソン到着、保持環境は一つ、無視できるサービス時間、到着時にリセットされるアイドルタイムアウト、その他の退去なし。

f_{\mathrm{retained}}=1-e^{-\lambda\tau}

(2) 同じ理想化モデルにおける定常的な保持時間割合。並行実行と環境作成時間は除外する。

E[L]=L_{\mathrm{warm}}+P_{\mathrm{cold}}\Delta L

(3) 固定されたコールドペナルティを伴う二成分の平均。テールレイテンシやキューの相互作用についての記述ではない。

P(\text{at least one cold component})=1-(1-p)^n

(4) 独立かつ同一のコールド事象と、n個すべてのコンポーネントを必要とするアプリケーション。

構成された例 · 再現可能なデータ

定量的な論証を確認する

これらの曲線は、明示されたモデルから計算されている。引用研究の観測結果ではない。各図には数値データとベクトル版が付属する。

アイドル時の保持は、単純なコールド確率を変える。ポアソン到着、環境は一つ、無視できるサービス時間、到着ごとのタイムアウトのリセット、その他の退去なし。並行実行とスケールアウトは除外する。 — **図1。アイドル時の保持は、単純なコールド確率を変える。** ポアソン到着、環境は一つ、無視できるサービス時間、到着ごとのタイムアウトのリセット、その他の退去なし。並行実行とスケールアウトは除外する。

関数グラフはコールドなコンポーネントの影響を増幅する。独立かつ同一のコールド事象と、全コンポーネントの完了を仮定する。共有配置、依存関係キャッシュ、相関した退去は除外する。 — **図2。関数グラフはコールドなコンポーネントの影響を増幅する。** 独立かつ同一のコールド事象と、全コンポーネントの完了を仮定する。共有配置、依存関係キャッシュ、相関した退去は除外する。

どの証拠がどの問いに答えるのか

境界	有用な事象対	重要な隠れた状態
受け入れ	到着からスケジューリング決定まで	キューと容量の上限
分離	作成要求から実行可能な環境まで	ホストのイメージキャッシュとメモリキャッシュ
ランタイム	ランタイムへの移行から依存関係の準備完了まで	インポートとコンパイル済み生成物
アプリケーション	操作の受理から永続化を伴う完了まで	接続、キャッシュ、冪等性記録

提案する検証プロトコル

これは評価設計の提案である。本番システムやハードウェアのベンチマークは実施していない。別途実行した有限モデルは、実行可能な検査に記録されている。

呼び出し、アイデンティティ、状態、完了に関する契約を明示する。
到着間隔の分布、並行実行、バースト構造を記録する。
受け入れ、分離、ランタイムおよびアプリケーションの初期化をそれぞれ個別に計測する。
サービス目標とリソース予算を揃えてポリシーを比較する。
レイテンシに加え、障害時の再試行と永続的な作用を検査する。
キャッシュのリセット規則、独立した反復、保持状態に関する仮定を公開する。

一次文献が明らかにしていること

Mohammad Shahrad, Rodrigo Fonseca, Inigo Goiri et al. · 2020 [1]

貢献。 本番環境の関数ワークロードは、リソース管理と再利用の決定に知見を与える。

適用範囲。 本稿では、本番トレースやワークロードの数値統計を再利用していない。

参照箇所。 USENIX ATC 2020論文、要旨およびワークロードの位置付け。

Alexandru Agache, Marc Brooker, Andreea Florescu et al. · 2020 [2]

貢献。 軽量な仮想マシンモニタは、分離と実行オーバーヘッドに対処する。

適用範囲。 micro-VMの起動は、アプリケーション起動の一要素にすぎない。

参照箇所。 Firecracker、アーキテクチャおよび設計目標。

Istemi Ekin Akkus, Ruichuan Chen, Ivica Rimac et al. · 2018 [3]

貢献。 サーバーレス実行アーキテクチャは、分離と通信について明示的な選択を行う。

適用範囲。 その設計によって、アプリケーション状態の意味論がなくなるわけではない。

参照箇所。 SAND、アーキテクチャの記述。

本分析の限界

ポアソンモデルは、スケールアウト、キュー待ち、容量に起因する退去を省略している。
系列の反例は構成されたものであり、本番ワークロードではない。
クラウドプラットフォームや価格のベンチマークは実施していない。
独立したコンポーネントのコールド確率では、共有初期化や相関した配置を扱えない。

選定した三つの基礎的一次文献に焦点を絞った解析的レビューであり、独自の計算例を含む。2026年までの文献を網羅的または系統的に調査したものではない。資料へのアクセス範囲と版に関する注記は、参考文献一覧に記録している。

結論を変えうる問い

平均到着率に加えて、どのようなトレースの特徴がコールドスタートのリスクを予測するか。
再利用ポリシーは、テナント分離をどのように厳格な制約として表現できるか。
プラットフォームは、エンドツーエンドの起動に関する主張を独立に監査可能にするだけのライフサイクル事象を公開できるか。

参考文献

Mohammad Shahrad, Rodrigo Fonseca, Inigo Goiri et al.. Serverless in the Wild: Characterizing and Optimizing the Serverless Workload at a Large Cloud Provider. USENIX ATC (2020). Primary source.
Alexandru Agache, Marc Brooker, Andreea Florescu et al.. Firecracker: Lightweight Virtualization for Serverless Applications. USENIX NSDI (2020). Primary source.
Istemi Ekin Akkus, Ruichuan Chen, Ivica Rimac et al.. SAND: Towards High-Performance Serverless Computing. USENIX ATC (2018). Primary source.

文献[1]へのアクセス範囲。 一次記録、要旨、アクセス可能な本文の選択部分。全文や補足資料の網羅的な監査ではない。

文献[2]へのアクセス範囲。 一次記録、要旨、アクセス可能な本文の選択部分。全文や補足資料の網羅的な監査ではない。

文献[3]へのアクセス範囲。 一次記録、要旨、アクセス可能な本文の選択部分。全文や補足資料の網羅的な監査ではない。

書誌情報の同一性は、Crossrefと、出版社、著者または機関の一次記録に照らして確認した。以下の資料へのアクセス範囲と版に関する注記が、その範囲を示す。これは全文の網羅的な監査ではない。

著者と来歴

Codex（AI）が執筆し、技術面の自己レビューを行った。参考文献は元の研究者を示す。解析的な構成と提案した評価設計は、本稿に帰属する。

表紙はImageGenによる概念的なイラストである。技術図は、明示されたモデルまたは有限の例から計算され、PythonとCSVが付属する。デプロイ済み製品の測定結果でも、性能ベンチマークの再現結果でもない。

このローカル草稿には、独立した査読や学術誌での採択の記録はない。範囲を限定した実行可能な例は、明示した小規模モデルを検査するものであり、引用したシステムの形式検証ではない。

[cs-18-1] Mohammad Shahrad, Rodrigo Fonseca, Inigo Goiri et al.. Serverless in the Wild: Characterizing and Optimizing the Serverless Workload at a Large Cloud Provider. USENIX ATC (2020). Primary source.

[cs-18-2] Alexandru Agache, Marc Brooker, Andreea Florescu et al.. Firecracker: Lightweight Virtualization for Serverless Applications. USENIX NSDI (2020). Primary source.

[cs-18-3] Istemi Ekin Akkus, Ruichuan Chen, Ivica Rimac et al.. SAND: Towards High-Performance Serverless Computing. USENIX ATC (2018). Primary source.