Replymessage unavailable
Mohon Info ada yang pernah bikin RAG pake model LLM jadi dan opensource dari hugging face? sbg alternatif open-ai, jadi modelnya on premis di vps? tujuan saya pake opensource menghemat dan memudahkan menghitung biaya server, karena tugas LLM yang saya bikin hanya seputar memahami konteks yang saya berikan dan pertanyaan saja.
jadi intinya saya perlu model yang sudah cukup paham jika saya kasih konteks, dan tidak perlu paham kondisi terkiini. selain itu modelnya juga harus bisa atau ada fitur untuk embedding, spya saya bisa save pengetahuan tekstual melalui embedding (karena embeddingnya harus sama) ke pgsql db vector.
jika ada yang pernah mohon infonya terkait model apa yang bekerja dengan baik terimakasih.