FiveTech Support Forums

Hola, buen dia.

No he podido configurar los modelos locales que tengo instalados en mi red.

Via CURL me funciona:

curl http://192.168.1.157:1234/v1/chat/completions ^
-H "Content-Type: application/json" ^
-H "Authorization: Bearer xxxxxxxxxx" ^
-d "{\"model\": \"gpt-4o\", \"messages\": [{\"role\": \"user\", \"content\": \"Hola, prueba de conexion\"}], \"temperature\": 0.7}"

{
"id": "chatcmpl-78q0bwi75c25y9eu7ujmkm",
"object": "chat.completion",
"created": 1774975345,
"model": "llama-3.3-70b-instruct-abliterated",
"choices": [
{
"index": 0,
"message": {
"role": "assistant",
"content": "¡Hola! Parece que la conexión está funcionando correctamente. ¿En qué puedo ayudarte hoy?",
"tool_calls": []
},
"logprobs": null,
"finish_reason": "stop"
}
],
"usage": {
"prompt_tokens": 40,
"completion_tokens": 22,
"total_tokens": 62
},
"stats": {},
"system_fingerprint": "llama-3.3-70b-instruct-abliterated"
},

pero ni con la ayuda de la IA he podido integrarlos.

Alguno ha logrado hacerlo ?

Gracias de antemano.
Saludos
Osvaldo Ramirez

Hola ...

Al parecer, por algun razon, google antigravity no muestra en el listado de modelos, mi modelo local Segun esto el problema puede ser que mi modelo "llama-3.3-70b-instruct-abliterated", no fuera del todo compatible o bien el editor, no pueda poner el nombre de mi modelo.

Pues bien, dentro de listado de modelos que me lista google antigravity esta uno que dice "Gemmini 3 Flash" y al seleccionar este modelo y preguntarle:

"¿Cuál es tu nombre exacto de modelo y en qué IP estás corriendo?"

Me devolvio mi datos del modelo local y el IP donde esta corriendo, asi que supongo que estoy usando mi modelo aunque no se muestre como tal.

Saludos Osvaldo Ramirez

No pierdas el tiempo con eso y ve directo a por el mejor de todos:
Claude code :!: :idea: :wink:

Te cambiará la vida como programador...

Comparto lo mismo.

Claude es otro nivel

Saludos