# llama-loader — デスクトップ向けローカルLLMローダー llama-loaderは、Tauri v2とSvelte 5で構築されたデスクトップアプリケーションです。GGUF形式の大規模言語モデルをローカル環境で読み込み、パラメータを細かく設定できるGUIを提供します。 ## 主な機能 **モデル管理** - GGUFファイルのドラッグ＆ドロップまたはファイル選択による読み込み - モデル情報（アーキテクチャ、パラメータ数、量子化方式、レイヤー数など）の表示 - モデルのロード／アンロード／リロード **パラメータ設定**（4タブ構成） - **モデル**: GPUレイヤー数、mmap/mlock、テンソル検証など - **コンテキスト**: コンテキストサイズ、バッチサイズ、スレッド数、Flash Attention、RoPE設定、KVキャッシュ量子化 - **詳細**: KQVオフロード、埋め込みモード、YaRNによるコンテキスト拡張（トグルで表示切替） - **サンプリング**: Temperature、Top-K、Top-P、Min-P、Presence Penalty、Repeat Penalty **プリセット管理** - パラメータ構成の保存／読込／削除 - インポート／エクスポート対応 モデルを読み込むだけでなく、コンソールで内部ログを確認しながらパラメータの影響を理解できる、開発者・研究者向けのツールです。 未実装： - GPU は使えるようにする - llama-serverの連携 - hugging-face からモデルダウンロード