コンテンツにスキップ

v0.20.0

画像の生成と閲覧が Console の中で完結し、走っているセッションが 1 画面に収まり、画像エンジンのインスタンスは コントロールプレーンが「提案(offer)の一覧」から買うようになりました——そのうち 1 つを Spot にできます。

  • 画像生成のペインができました。 ファミリーとモデルを選び、LoRA と起動語を足し、プロンプトを 書いて流すところまで、エージェントを介さずにできます。できた画像はセッションのフォルダに置かれ、 使用量の画面に枚数とピクセル数が出ます。画像エンジンの無い配備では、ペインもボタンも出ません。
  • 画像ギャラリーのペインは、フォルダの画像を新しい順にカードで並べ、ライトボックスで送りながら 見られます。フォルダを行き来でき、セッションの生成画像へは 1 押しで飛べます(操作バー・レイアウト図・ ファイルツリー・セッションのメニューの 4 か所から)。
  • 「セッション一覧」のペインは、セッションをカードで一望します。リポジトリの見出しに分かれ、 家系順に並び、状態・最後の一言・(走っている間は)ミラーのコンテキストゲージとトークングラフを 持ちます。停止中のセッションは切り替えで出せます。リーダーキーは g s と s l です。
  • 別の Agent Fleet 配備から推論エンジンを借りられます。 貸す側の super_admin がトークンを発行し、 「誰のための GPU か」を記録します。借りた側は行を宣言するだけで、パネルには自前のインスタンスではなく 「別のフリートから借りている」ものとして出ます。モデルの管理は貸す側に残ります。
  • LAN の ComfyUI を画像生成に使えます(native / docker 配備の AF_COMFY_URL)。行は「外部管理」と して表示され、この配備が起動するインスタンスにしか意味の無い状態や操作は出ません。
  • 画像エンジンのインスタンスを「提案(offer)の一覧」から選びます。 そのうち 1 つを Spot にできます。 params/60-engines の ImageOffers に買ってよいものを順に並べると、コントロールプレーンが上から 買い、インスタンスが来なければ次へ落ちます——Spot の在庫が無い日でもエンジンは起動します。何も書かなければ、 これまでどおり全部オンデマンドです。llm 役に Spot の行はあえて用意していません——会話の途中で 終了予告が来ると、コールドスタートをやり直すことになるためです。
  • 設定 > エンジンに、提案の一覧・いま走っている提案・今回試した順が出ます。 クラスを選ぶと その提案に固定され、「自動」に戻すとまた上から落ちるようになります。
  • VAE を同梱しないチェックポイントを見つけて、1 押しで直せます。 SDXL 系には UNet とテキスト エンコーダだけを配るチェックポイントがあり、その行は宣言の検査を全部通ったうえで、切り替え 1〜2.5 分を払ってからすべての生成が engine の中で失敗していました。ファイル自身のヘッダを 読んで印を付け、有効化を拒み、行のボタン 1 つでファミリーの VAE(SDXL なら stabilityai/sdxl-vae)を 取り込んで --vae として足します。すでにバケットにあればダウンロードもしません。ヘッダを読めなかった 行には印を付けません(「誰も見ていない」は「持っていない」ではないため)。
  • モデルの取り込みを 4 問のウィザードにし、ペインで開くようにしました。 「何をする?(新規 / 部品を足す / 差し替える)」「どこから」「どれを」「確認」の順で、1 画面 1 問です。部品を足す先の行は 一覧から選び、枠はその行為が実際に使える枠だけが出ます。次へが押せないときは、理由がボタンの横に 出ます。ダウンロードのあいだ開いたままにでき、終わると同じ面で有効化までできます(有効化を拒む 理由も、そこに出ます)。
  • 推論エンジンの画面を「推論エンジン」と「推論エンジンのモデル」に分けました。 前者はモード・ 状態・GPU の段・稼働実績、後者はカタログ・取り込み・上流の検索です。モデル側は役割(文章 / 画像)と モデル / LoRA のタブで分かれ、LoRA は学習元のファミリーが行の頭に出ます。テナント設定の 「推論エンジンのモデル」も同じ画面です。
  • モデルを探すとき、取り込む前に「できないこと」が出ます。 Civitai の「ログイン済みアカウントにしか 配らない」ファイル(上位 20 件のうち 13 件がそうでした)・商用不可・要クレジット表記・有料 / 早期アクセス・NSFW・スキャン警告、Hugging Face の gated は「規約に同意」と「作者の承認待ち」の別まで。 LoRA を探すときは LoRA だけが並びます。
  • ファミリーと推奨パラメータが埋まった状態で取り込めます。 上流の「SDXL 1.0」「Illustrious」などから この配備のファミリーを推定して選び、作者が書いている Steps / CFG / サンプラーをその一文の引用つきで フォームに入れます。値はモデルの行に保存され、生成のときにファミリーの既定へ欄ごとに上書きされます (空欄は既定のまま)。推定できないときは空のままにします。
  • カタログの行は、取り込んだ後からでも整えられます。 ファイルごとに取り込み元が記録されてリンクに なり、ファイルの差し替え、バケットにあるものからの行の作り直し、コンテキスト窓と実測 VRAM の編集、 LoRA の起動語の修正、取り込み履歴の 1 行の削除ができます。取り込む前に「このカードに載るか」も 出ます。
  • ミラーで、ターンを使わずに回答を翻訳できます。 ツールを使ったターンの最終回答にも印を置けます。
  • モデルを選ぶ画面に、発行元のブランドマークが出ます。 スマホで開いてもソフトキーボードが 上がらなくなりました。
  • 利用上限がリセットされた後、codex の managed セッションも自分で再開します(claude は従来どおり)。
  • 画像の要求にネガティブプロンプトを書けるようになり、edit では元画像からどれだけ動かすかを指定 できるようになりました。
  • ミラーのスマホでの電池の消費を大きく下げました。 動いていないセッションはポーリングのたびに 描き直さなくなり、無変化が続くと間隔が広がり、ターンの実行中も変わっていないものを送り直しません。
  • ギャラリーのサムネイルを先に用意し、カードが見えたときにだけ要求し、URL に版を付けました。 タブに戻っても取り直しません。
  • 作業コピーの削除は、配下ごと片付ける画面になりました。メモは行のメニューからコピーできます。
  • スキルのピッカーが別のディレクトリのスキルを並べていました。セッション自身の作業ディレクトリから 積むようにしました。
  • generate_image の説明文に、その要求が実際に通る経路とチェックポイントが出ていませんでした。

推論エンジンを動かしている ECS 配備では、この版でインスタンスを買う主体が変わります——コントロールプレーンが 直接買うようになり、エンジン役の capacity provider は削除されます。

  • 🔴 エンジンのスタックより先に、この版のコントロールプレーンのイメージを載せてください。 前の版の コントロールプレーンは、新しいスタックがもう作らない capacity provider を探します。
  • 🔴 エンジンのスタックの更新は、両方の役を mode: off にし、エンジンのインスタンスが 1 台も立っていない状態で、 手順どおりの往復で行ってください——LlmEnabled=false ImageEnabled=false で deploy → このテンプレートで deploy → =true に戻す deploy(このあいだ、別のシェルから両サービスを --desired-count 0 で押さえる)→ 最後にコントロールプレーンを update-service --force-new-deployment で 1 回入れ替える。往復を飛ばすとサービス名の衝突で失敗してロールバックします (ロールバック自体はきれいですが、コントロールプレーンを入れ替えるまでエンジン表は空のままです)。 コマンドと所要時間は deploy/aws/ecs/cfn/PARAMETERS-60-engines.md の 「Migrating a deployment that is on Managed Instances」にあります。
  • 8 つのパラメータを撤去しました——<Role>AllowedInstanceTypes・AcceleratorMemMinMiB・VCpuMin・ VCpuMax・MemMinMiB・MemMaxMiB・UseLocalStorage・ScaleInAfter。提案がすべて持つためです。 捕捉した params/60-engines からは standup.sh が落とします。手で aws cloudformation deploy を 流す場合は自分で消してください(テンプレートに無いキーを CLI が拒みます)。
  • 2 つのパラメータの意味が変わりました。 <Role>StorageGiB はインスタンスのルートボリュームの大きさに なり(モデルはインスタンスストアのある型ではそちらに載ります)、<Role>OfferBudgetSec は 「買ったインスタンスがクラスタに登録されるまでの上限」になりました(既定 180 → 300)。standup.sh と update.sh は旧既定の 180 だけを直し、それ以外の値には触れません。手で deploy する場合は LlmOfferBudgetSec=300 ImageOfferBudgetSec=300 を自分で渡してください。
  • ImageCapacityOptionType は撤去しました(提案の一覧が置き換えます)。SPOT で走っていた配備でも、 この版へ上げる前にしておくことはありません——capacity provider は全部消えるので、同じ名前を 2 回 要求することがないためです。そのあと params/60-engines からこの行を消してください。
  • Spot は ImageOffers に spot の行を書いたときだけ使われます。書く前に、Spot を一度も使っていない アカウントなら service-linked role(AWSServiceRoleForEC2Spot)を作り、Spot のクォータ (L-3819A6DF・既定は 0)を確かめ、その行に複数のインスタンス型を並べてください——1 型だけでは 在庫不足で断られました。書式は deploy/aws/ecs/cfn/PARAMETERS-60-engines.md「The offers」にあります。
  • 0.18.0 以前から上げる場合は、0.19.0 のノートも併せて必要です——使っている役には更新前に params/60-engines の <Role>Enabled=true が要り、その版の最初の update.sh は 20-platform も 更新します。

エージェント CLI のピンは 0.19.0 から変わっていません。