Transformers documentation

Gemma 3

Transformers

You are viewing main version, which requires installation from source. If you'd like regular pip install, checkout the latest stable version (v5.22.1).

Join the Hugging Face community

and get access to the augmented documentation experience

Collaborate on models, datasets and Spaces

Faster examples with accelerated inference

Switch between documentation themes

to get started

Bu model 2025-03-25 tarihinde HF papers'ta yayımlandı ve 2025-03-12 tarihinde Hugging Face Transformers'a katkıda bulunuldu.

Gemma 3

Gemma 3, 1B, 13B ve 27B parametre seçenekleriyle sunulan, ön eğitilmiş ve talimatla ayarlanmış varyantlara sahip çok modlu bir modeldir. Mimari, önceki Gemma sürümlerinden büyük ölçüde aynıdır. Temel farklar, her küresel öz-dikkat katmanı için 5 yerel kayan pencere öz-dikkat katmanının dönüşümlü olarak kullanılması, 128K token'a kadar daha uzun bağlam uzunluğunun desteklenmesi ve yüksek çözünürlüklü görüntülerde veya kare olmayan en-boy oranlarına sahip görüntülerde bilginin kaybolmasını önlemek için yüksek çözünürlüklü görüntülerde “pan & scan” yapabilen bir SigLip kodlayıcısının bulunmasıdır.

Talimatla ayarlanmış varyant, bilgi damıtma ve pekiştirmeli öğrenme ile son eğitimi yapılmıştır.

Tüm orijinal Gemma 3 kontrol noktalarını Gemma 3 sürümünde bulabilirsiniz.

Gemma'nın farklı görme ve dil görevlerine nasıl uygulanacağına dair daha fazla örnek için sağ kenar çubuğundaki Gemma 3 modellerine tıklayın.

from_pretrained() içinde use_kernels=True değerini ayarlayarak desteklenen katmanları Hub'daki optimize edilmiş çekirdeklerle değiştirin. Daha fazla bilgi için Çekirdekleri yükleme bölümüne bakın.

Aşağıdaki örnek, Pipeline veya AutoModel sınıfı kullanılarak bir görüntüye dayalı metin üretmenin nasıl yapılacağını göstermektedir.

Pipeline

AutoModel

Quantization, ağırlıkları daha düşük bir hassasiyetle temsil ederek büyük modellerin bellek yükünü azaltır. Daha fazla kullanılabilir quantization backend'i için Quantization genel bakışına başvurun.

Aşağıdaki örnek, ağırlıkları yalnızca int4 olarak nicelleştirmek için torchao kullanır.

# pip install torchao
from transformers import AutoProcessor, Gemma3ForConditionalGeneration, TorchAoConfig


quantization_config = TorchAoConfig("int4_weight_only", group_size=128)
model = Gemma3ForConditionalGeneration.from_pretrained(
    "google/gemma-3-27b-it",
    device_map="auto",
    quantization_config=quantization_config
)
processor = AutoProcessor.from_pretrained(
    "google/gemma-3-27b-it",
    padding_side="left"
)

messages = [
    {
        "role": "system",
        "content": [
            {"type": "text", "text": "You are a helpful assistant."}
        ]
    },
    {
        "role": "user", "content": [
            {"type": "image", "url": "https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/pipeline-cat-chonk.jpeg"},
            {"type": "text", "text": "What is shown in this image?"},
        ]
    },
]
inputs = processor.apply_chat_template(
    messages,
    tokenize=True,
    return_dict=True,
    return_tensors="pt",
    add_generation_prompt=True,
).to(model.device)

output = model.generate(**inputs, max_new_tokens=50, cache_implementation="static")
print(processor.decode(output[0], skip_special_tokens=True))

Modelin hangi token'lara dikkat edebildiğini ve edemediğini daha iyi anlamak için AttentionMaskVisualizer'ı kullanın.

from transformers.utils.attention_visualizer import AttentionMaskVisualizer


visualizer = AttentionMaskVisualizer("google/gemma-3-4b-it")
visualizer("<img>What is shown in this image?")

Notlar

Görsel ve metin ile yalnızca görsel girdiler için Gemma3ForConditionalGeneration kullanın.

Gemma 3, birden fazla giriş görselini destekler, ancak görselleri işlemciye iletmeden önce doğru şekilde gruplandığından emin olun. Her grup, bir veya daha fazla görselden oluşan bir liste olmalıdır.

url_cow = "https://media.istockphoto.com/id/1192867753/photo/cow-in-berchida-beach-siniscola.jpg?s=612x612&w=0&k=20&c=v0hjjniwsMNfJSuKWZuIn8pssmD5h5bSN1peBd1CmH4="
url_cat = "https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/pipeline-cat-chonk.jpeg"

messages =[
    {
        "role": "system",
        "content": [
            {"type": "text", "text": "You are a helpful assistant."}
        ]
    },
    {
        "role": "user",
        "content": [
            {"type": "image", "url": url_cow},
            {"type": "image", "url": url_cat},
            {"type": "text", "text": "Which image is cuter?"},
        ]
    },
]

İşlemciye (processor) iletilen metin, bir görselin yerleştirilmesi gereken her yerde <start_of_image> token'ı içermelidir.
İşleyicinin, sohbet mesajlarını model girdilerine dönüştürmek için kendi apply_chat_template() yöntemi vardır.
Varsayılan olarak görüntüler kırpılmaz ve modele yalnızca temel görüntü iletilir. Yüksek çözünürlüklü görüntülerde veya kare olmayan en-boy oranlarına sahip görüntülerde, görme kodlayıcısının 896x896 sabit çözünürlük kullanması nedeniyle artefaktlar oluşabilir. Bu artefaktları önlemek ve çıkarım sırasında performansı artırmak için görüntüyü birden fazla küçük yamaya kırpıp bunları temel görüntü gömmeyle birleştirmek üzere do_pan_and_scan=True değerini ayarlayın. Daha hızlı çıkarım için pan and scan özelliğini devre dışı bırakabilirsiniz.
```
inputs = processor.apply_chat_template(
    messages,
    tokenize=True,
    return_dict=True,
    return_tensors="pt",
    add_generation_prompt=True,
+   do_pan_and_scan=True,
    ).to(model.device)
```

Yalnızca metin modunda eğitilmiş Gemma-3 1B kontrol noktası için bunun yerine AutoModelForCausalLM kullanın.

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer

tokenizer = AutoTokenizer.from_pretrained(
    "google/gemma-3-1b-pt",
)
model = AutoModelForCausalLM.from_pretrained(
    "google/gemma-3-1b-pt",
    device_map="auto",
    attn_implementation="sdpa"
)
input_ids = tokenizer("Plants create energy through a process known as", return_tensors="pt").to(model.device)

output = model.generate(**input_ids, cache_implementation="static")
print(tokenizer.decode(output[0], skip_special_tokens=True))

Transformers

Gemma 3

Notlar

Gemma3ImageProcessor

sınıf transformers.Gemma3ImageProcessor

ön işleme

Gemma3ImageProcessorPil

sınıf transformers.Gemma3ImageProcessorPil

ön işleme

Gemma3Processor

sınıf transformers.Gemma3Processor

__call__

Gemma3TextConfig

sınıf transformers.Gemma3TextConfig

Gemma3Config

sınıf transformers.Gemma3Config

Gemma3TextModel

sınıf transformers.Gemma3TextModel

forward

Gemma3Model

sınıf transformers.Gemma3Model

forward

get_image_features

get_placeholder_mask

Gemma3ForCausalLM

sınıf transformers.Gemma3ForCausalLM

forward

Gemma3ForConditionalGeneration

sınıf transformers.Gemma3ForConditionalGeneration

forward

get_image_features

Gemma3ForSequenceClassification

sınıf transformers.Gemma3ForSequenceClassification

forward

Gemma3TextForSequenceClassification

sınıf transformers.Gemma3TextForSequenceClassification

forward

call