mlx-serveをMac Miniにインストールしてサービス化するメモ
Mac Mini(M4 Pro)にSSH接続し、MLX推論サーバー「mlx-serve」をHomebrewでインストールしてLaunchDaemonで常駐化する手順を解説。モデルのpullからAPI動作確認、運用コマンド、スリープ防止設定までまとめたメモ。
#mlx-serveMac Mini(M4 Pro)にSSH接続し、MLX推論サーバー「mlx-serve」をHomebrewでインストールしてLaunchDaemonで常駐化する手順を解説。モデルのpullからAPI動作確認、運用コマンド、スリープ防止設定までまとめたメモ。
#mlx-serve