feat: disable smb and enable llama
This commit is contained in:
17
flake.lock
generated
17
flake.lock
generated
@@ -1698,6 +1698,22 @@
|
|||||||
"type": "github"
|
"type": "github"
|
||||||
}
|
}
|
||||||
},
|
},
|
||||||
|
"ik_llama": {
|
||||||
|
"flake": false,
|
||||||
|
"locked": {
|
||||||
|
"lastModified": 1753582432,
|
||||||
|
"narHash": "sha256-jEty/2inFD+OgarlWojwJQgP3sn8SkkFW81ZXhJyoBg=",
|
||||||
|
"owner": "ikawrakow",
|
||||||
|
"repo": "ik_llama.cpp",
|
||||||
|
"rev": "ae0ba31fd078282fe6ac675176862ed6955c52dc",
|
||||||
|
"type": "github"
|
||||||
|
},
|
||||||
|
"original": {
|
||||||
|
"owner": "ikawrakow",
|
||||||
|
"repo": "ik_llama.cpp",
|
||||||
|
"type": "github"
|
||||||
|
}
|
||||||
|
},
|
||||||
"ironbar": {
|
"ironbar": {
|
||||||
"inputs": {
|
"inputs": {
|
||||||
"flake-compat": "flake-compat_4",
|
"flake-compat": "flake-compat_4",
|
||||||
@@ -2602,6 +2618,7 @@
|
|||||||
"home-manager-stable": "home-manager-stable",
|
"home-manager-stable": "home-manager-stable",
|
||||||
"hyprland": "hyprland",
|
"hyprland": "hyprland",
|
||||||
"hyprlock": "hyprlock",
|
"hyprlock": "hyprlock",
|
||||||
|
"ik_llama": "ik_llama",
|
||||||
"ironbar": "ironbar",
|
"ironbar": "ironbar",
|
||||||
"lanzaboote": "lanzaboote",
|
"lanzaboote": "lanzaboote",
|
||||||
"music-player": "music-player",
|
"music-player": "music-player",
|
||||||
|
|||||||
@@ -187,6 +187,11 @@
|
|||||||
# url = "path:/home/servius/Projects/ALVR";
|
# url = "path:/home/servius/Projects/ALVR";
|
||||||
# inputs.nixpkgs.follows = "nixpkgs";
|
# inputs.nixpkgs.follows = "nixpkgs";
|
||||||
# };
|
# };
|
||||||
|
ik_llama = {
|
||||||
|
url = "github:ikawrakow/ik_llama.cpp?submodules=1";
|
||||||
|
# submodules = true;
|
||||||
|
flake = false;
|
||||||
|
};
|
||||||
};
|
};
|
||||||
|
|
||||||
outputs = {
|
outputs = {
|
||||||
|
|||||||
@@ -36,5 +36,6 @@ lib.optionalAttrs device.hasGui {
|
|||||||
./zathura.nix
|
./zathura.nix
|
||||||
./zed.nix
|
./zed.nix
|
||||||
./zen.nix
|
./zen.nix
|
||||||
|
./lmstudio.nix
|
||||||
];
|
];
|
||||||
}
|
}
|
||||||
|
|||||||
11
home/apps/lmstudio.nix
Normal file
11
home/apps/lmstudio.nix
Normal file
@@ -0,0 +1,11 @@
|
|||||||
|
{
|
||||||
|
lib,
|
||||||
|
device,
|
||||||
|
pkgs,
|
||||||
|
...
|
||||||
|
}:
|
||||||
|
lib.optionalAttrs device.hasGui {
|
||||||
|
home.packages = with pkgs; [
|
||||||
|
lmstudio
|
||||||
|
];
|
||||||
|
}
|
||||||
@@ -4,7 +4,8 @@
|
|||||||
# ./sunshine.nix
|
# ./sunshine.nix
|
||||||
# ./zerotier.nix
|
# ./zerotier.nix
|
||||||
# ./dnscrypt.nix
|
# ./dnscrypt.nix
|
||||||
./ollama.nix
|
# ./ollama.nix
|
||||||
|
# ./llama.nix
|
||||||
./tailscale.nix
|
./tailscale.nix
|
||||||
./samba.nix
|
./samba.nix
|
||||||
./mullvad.nix
|
./mullvad.nix
|
||||||
|
|||||||
27
nixos/ryu/services/llama.nix
Normal file
27
nixos/ryu/services/llama.nix
Normal file
@@ -0,0 +1,27 @@
|
|||||||
|
{
|
||||||
|
inputs,
|
||||||
|
pkgs,
|
||||||
|
lib,
|
||||||
|
config,
|
||||||
|
...
|
||||||
|
}: {
|
||||||
|
services = {
|
||||||
|
llama-cpp = {
|
||||||
|
enable = true;
|
||||||
|
model = pkgs.fetchurl {
|
||||||
|
url = "https://huggingface.co/unsloth/gpt-oss-20b-GGUF/resolve/main/gpt-oss-20b-F16.gguf";
|
||||||
|
sha256 = "b93a63c42fc2432396b56031bb1a4aa5f598af1de369de397a900888032cad64";
|
||||||
|
};
|
||||||
|
# package = pkgs.llama-cpp.overrideAttrs (old: {
|
||||||
|
# src = inputs.ik_llama;
|
||||||
|
# version = "5995";
|
||||||
|
# });
|
||||||
|
};
|
||||||
|
# caddy = {
|
||||||
|
# virtualHosts."llama.ryu.darksailor.dev".extraConfig = ''
|
||||||
|
# import hetzner
|
||||||
|
# reverse_proxy localhost:${builtins.toString config.services.llama-cpp.port}
|
||||||
|
# '';
|
||||||
|
# };
|
||||||
|
};
|
||||||
|
}
|
||||||
@@ -17,6 +17,18 @@
|
|||||||
LD_LIBRARY_PATH = "run/opengl-driver/lib";
|
LD_LIBRARY_PATH = "run/opengl-driver/lib";
|
||||||
HTTP_PROXY = "https://ollama.ryu.darksailor.dev";
|
HTTP_PROXY = "https://ollama.ryu.darksailor.dev";
|
||||||
};
|
};
|
||||||
|
package = pkgs.ollama.overrideAttrs {
|
||||||
|
version = "0.11.0";
|
||||||
|
src = pkgs.fetchFromGitHub {
|
||||||
|
owner = "ollama";
|
||||||
|
repo = "ollama";
|
||||||
|
tag = "v0.11.0";
|
||||||
|
hash = "sha256-po7BxJAj9eOpOaXsLDmw6/1RyjXPtXza0YUv0pVojZ0=";
|
||||||
|
fetchSubmodules = true;
|
||||||
|
};
|
||||||
|
doCheck = false;
|
||||||
|
vendorHash = "sha256-SlaDsu001TUW+t9WRp7LqxUSQSGDF1Lqu9M1bgILoX4=";
|
||||||
|
};
|
||||||
};
|
};
|
||||||
# open-webui = {
|
# open-webui = {
|
||||||
# enable = false;
|
# enable = false;
|
||||||
|
|||||||
@@ -1,36 +1,36 @@
|
|||||||
{...}: {
|
{...}: {
|
||||||
services = {
|
# services = {
|
||||||
samba = {
|
# samba = {
|
||||||
enable = true;
|
# enable = false;
|
||||||
openFirewall = true;
|
# openFirewall = true;
|
||||||
settings = {
|
# settings = {
|
||||||
global = {
|
# global = {
|
||||||
"workgroup" = "WORKGROUP";
|
# "workgroup" = "WORKGROUP";
|
||||||
"server string" = "smbnix";
|
# "server string" = "smbnix";
|
||||||
"netbios name" = "smbnix";
|
# "netbios name" = "smbnix";
|
||||||
"security" = "user";
|
# "security" = "user";
|
||||||
"hosts allow" = "192.168.11. 127.0.0.1 localhost";
|
# "hosts allow" = "192.168.11. 127.0.0.1 localhost";
|
||||||
"hosts deny" = "0.0.0.0/0";
|
# "hosts deny" = "0.0.0.0/0";
|
||||||
"guest account" = "nobody";
|
# "guest account" = "nobody";
|
||||||
"map to guest" = "bad user";
|
# "map to guest" = "bad user";
|
||||||
};
|
# };
|
||||||
|
#
|
||||||
public = {
|
# public = {
|
||||||
"path" = "/media";
|
# "path" = "/media";
|
||||||
"browseable" = "yes";
|
# "browseable" = "yes";
|
||||||
"read only" = "no";
|
# "read only" = "no";
|
||||||
"guest ok" = "yes";
|
# "guest ok" = "yes";
|
||||||
"create mask" = "0644";
|
# "create mask" = "0644";
|
||||||
"directory mask" = "0755";
|
# "directory mask" = "0755";
|
||||||
# "force user" = "username";
|
# # "force user" = "username";
|
||||||
# "force group" = "groupname";
|
# # "force group" = "groupname";
|
||||||
};
|
# };
|
||||||
};
|
# };
|
||||||
};
|
# };
|
||||||
samba-wsdd = {
|
# samba-wsdd = {
|
||||||
enable = true;
|
# enable = true;
|
||||||
openFirewall = true;
|
# openFirewall = true;
|
||||||
};
|
# };
|
||||||
};
|
# };
|
||||||
networking.firewall.allowPing = true;
|
networking.firewall.allowPing = true;
|
||||||
}
|
}
|
||||||
|
|||||||
@@ -70,7 +70,7 @@
|
|||||||
pkgs.openssl
|
pkgs.openssl
|
||||||
];
|
];
|
||||||
PKG_CONFIG_PATH = with final; pkgs.lib.makeSearchPath "lib/pkgconfig" [pkgs.openssl.dev];
|
PKG_CONFIG_PATH = with final; pkgs.lib.makeSearchPath "lib/pkgconfig" [pkgs.openssl.dev];
|
||||||
nativeBuildINputs = with final; [pkgs.pkg-config];
|
nativeBuildInputs = with final; [pkgs.pkg-config];
|
||||||
};
|
};
|
||||||
picat = let
|
picat = let
|
||||||
picat-src = final.pkgs.fetchFromGitHub {
|
picat-src = final.pkgs.fetchFromGitHub {
|
||||||
|
|||||||
Reference in New Issue
Block a user