feat(nix): add nix-auth and update flake-utils dependencies
This commit is contained in:
@@ -1,13 +1,11 @@
|
||||
{
|
||||
inputs,
|
||||
pkgs,
|
||||
lib,
|
||||
config,
|
||||
...
|
||||
}: {
|
||||
services = {
|
||||
llama-cpp = {
|
||||
enable = false;
|
||||
enable = true;
|
||||
port = 11435;
|
||||
model = pkgs.fetchurl {
|
||||
url = "https://huggingface.co/lmstudio-community/gpt-oss-20b-GGUF/resolve/main/gpt-oss-20b-MXFP4.gguf";
|
||||
@@ -15,6 +13,9 @@
|
||||
};
|
||||
# package = pkgs.ik_llama;
|
||||
};
|
||||
ollama = {
|
||||
enable = true;
|
||||
};
|
||||
caddy = {
|
||||
virtualHosts."llama.ryu.darksailor.dev".extraConfig = ''
|
||||
import hetzner
|
||||
@@ -22,4 +23,7 @@
|
||||
'';
|
||||
};
|
||||
};
|
||||
# environment.systemPackages = with pkgs; [
|
||||
# vllm
|
||||
# ];
|
||||
}
|
||||
|
||||
Reference in New Issue
Block a user