diff --git a/llama.cpp b/llama.cpp
index 3cc3fc9f0f3fb..56d8e765cc112 100644
--- a/llama.cpp
+++ b/llama.cpp
@@ -91,7 +91,7 @@
 #define LLAMA_ATTRIBUTE_FORMAT(...)
 #endif
 
-#define LLAMA_MAX_NODES 4096
+#define LLAMA_MAX_NODES 8192
 
 //
 // logging