LM Studio のインストール
LM Studio は GUI でモデルのダウンロード、ロード、OpenAI 互換 Local Server の開始ができます。
インストール
- https://lmstudio.ai/ から Windows または macOS インストーラを取得。
- インストールして起動。
- アプリ内 Discover/探索 で小さめの対話モデルを検索・ダウンロード(まず通関検証用)。
モデルのロード
- Chat またはモデル管理ページを開く。
- 取得済みモデルを選びメモリへロード(显存/メモリ使用に注意)。
- 本機チャットウィンドウで正常に返信できることを確認してから、スマホ用サーバーを開始。