alfredplpl
/

gemma-2-baku-2b-it-gguf

Inference Endpoints

Model card Files Files and versions Community

Edit model card

Model Card For gemma-2-2b-jpn-it-gguf

rinnaさんのgemma-2-baku-2b-itを量子化したものたちです。ライセンスをよく読んだうえでお好きな方法で使ってください。

使い方

llama.cpp
LM Studio (Win,Mac)
LLMFarm (iOS)
etc

作り方

npakaさんのLLM-jp-3 を gguf に変換する手順

Downloads last month: 408

GGUF

Model size

2.61B params

Architecture

gemma2

4-bit

8-bit

Inference API

Unable to determine this model's library. Check the docs .

Model tree for alfredplpl/gemma-2-baku-2b-it-gguf

Base model

rinna/gemma-2-baku-2b-it

Quantized

(2)

this model

Dataset used to train alfredplpl/gemma-2-baku-2b-it-gguf