FiveTech Support Forums

Hola buenas tardes como están?

Queremos empezar a utilizar esta tecnología, nos gustaría saber cual es la mejor opción y cuales son los pasos a seguir, ya que en foro se habla mucho de chatgpt, Antonio también publico algo referente a Copilot, aun es un tema muy nuevo para nosotros, y queremos saber como podemos iniciar con dicha implementación, sin morir en el intento.

Según lo que entendemos para usarlo en producción debemos contratar con openIA, pero lo que no sabemos es como se hace para integrar dicha tecnología a nuestra aplicación, enseñarle ciertas cosas que necesitamos nos resuelva, y al final implementar un proceso transparente para el usuario en donde le hagamos una solicitud y nos entregue la respuesta mas acertada, similar a lo que hace una función natural con su return, entendiendo que la información que queremos recibir es mas compleja.

Alguien tiene mas experiencia sobre este tema que nos pueda orientar?

De antemano gracias

Estimado Leandro,

Lo primero es crear un conjunto de datos (dataset) con preguntas y respuestas, con las que entrenar (fine tune) un modelo base como Microsoft phi-2, TinyLlama, etc

Una vez entrenado, se genera un fichero GGUF que puede ya ser usado desde FWH usando llama64.dll

Esta es la vía gratuita y privada. La vía comercial es pagar a OpenAI y con el inconveniente de proporcionar nuestra información privada a una empresa externa.