gitextract_rxb2e4y6/ ├── .github/ │ ├── ISSUE_TEMPLATE/ │ │ ├── bug_report_template.yml │ │ └── feature_request.md │ ├── dependabot.yml │ ├── pull_request_template.md │ └── workflows/ │ ├── build-everything-tgw.yml │ ├── build-portable-release-cuda.yml │ ├── build-portable-release-rocm.yml │ ├── build-portable-release-vulkan.yml │ └── build-portable-release.yml ├── .gitignore ├── LICENSE ├── README.md ├── cmd_linux.sh ├── cmd_macos.sh ├── cmd_windows.bat ├── docker/ │ ├── .dockerignore │ ├── TensorRT-LLM/ │ │ └── Dockerfile │ ├── amd/ │ │ ├── Dockerfile │ │ └── docker-compose.yml │ ├── cpu/ │ │ ├── Dockerfile │ │ └── docker-compose.yml │ ├── intel/ │ │ ├── Dockerfile │ │ └── docker-compose.yml │ └── nvidia/ │ ├── Dockerfile │ └── docker-compose.yml ├── docs/ │ ├── 01 - Chat Tab.md │ ├── 02 - Default and Notebook Tabs.md │ ├── 03 - Parameters Tab.md │ ├── 04 - Model Tab.md │ ├── 05 - Training Tab.md │ ├── 06 - Session Tab.md │ ├── 07 - Extensions.md │ ├── 08 - Additional Tips.md │ ├── 09 - Docker.md │ ├── 11 - AMD Setup.md │ ├── 12 - OpenAI API.md │ ├── 13 - Keyboard Shortcuts.md │ ├── Image Generation Tutorial.md │ ├── Multimodal Tutorial.md │ ├── README.md │ ├── Tool Calling Tutorial.md │ └── What Works.md ├── download-model.py ├── js/ │ ├── dark_theme.js │ ├── global_scope_js.js │ ├── katex/ │ │ └── auto-render.js │ ├── main.js │ ├── save_files.js │ ├── show_controls.js │ ├── switch_tabs.js │ └── update_big_picture.js ├── modules/ │ ├── LoRA.py │ ├── callbacks.py │ ├── chat.py │ ├── evaluate.py │ ├── exllamav3.py │ ├── exllamav3_hf.py │ ├── extensions.py │ ├── grammar/ │ │ ├── grammar_utils.py │ │ └── logits_process.py │ ├── html_generator.py │ ├── image_models.py │ ├── image_utils.py │ ├── llama_cpp_server.py │ ├── loaders.py │ ├── logging_colors.py │ ├── logits.py │ ├── metadata_gguf.py │ ├── models.py │ ├── models_settings.py │ ├── paths.py │ ├── presets.py │ ├── prompts.py │ ├── reasoning.py │ ├── sampler_hijack.py │ ├── sane_markdown_lists.py │ ├── shared.py │ ├── tensorrt_llm.py │ ├── text_generation.py │ ├── tool_parsing.py │ ├── tool_use.py │ ├── torch_utils.py │ ├── training.py │ ├── transformers_loader.py │ ├── ui.py │ ├── ui_chat.py │ ├── ui_default.py │ ├── ui_file_saving.py │ ├── ui_image_generation.py │ ├── ui_model_menu.py │ ├── ui_notebook.py │ ├── ui_parameters.py │ ├── ui_session.py │ ├── utils.py │ └── web_search.py ├── one_click.py ├── requirements/ │ ├── full/ │ │ ├── requirements.txt │ │ ├── requirements_amd.txt │ │ ├── requirements_apple_intel.txt │ │ ├── requirements_apple_silicon.txt │ │ ├── requirements_cpu_only.txt │ │ └── requirements_nowheels.txt │ └── portable/ │ ├── requirements.txt │ ├── requirements_amd.txt │ ├── requirements_apple_intel.txt │ ├── requirements_apple_silicon.txt │ ├── requirements_cpu_only.txt │ ├── requirements_cuda131.txt │ ├── requirements_nowheels.txt │ └── requirements_vulkan.txt ├── server.py ├── setup.cfg ├── start_linux.sh ├── start_macos.sh ├── start_windows.bat ├── update_wizard_linux.sh ├── update_wizard_macos.sh └── update_wizard_windows.bat