Transformers documentation

FocalNet

You are viewing main version, which requires installation from source. If you'd like regular pip install, checkout the latest stable version (v5.22.1).
Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

Bu model 2022-03-22 tarihinde HF papers'ta yayımlanmış ve 2023-04-23 tarihinde Hugging Face Transformers'a katkıda bulunmuştur.

FocalNet

Genel Bakış

FocalNet modeli, Jianwei Yang, Chunyuan Li, Xiyang Dai, Lu Yuan ve Jianfeng Gao tarafından Focal Modulation Networks makalesinde önerilmiştir. FocalNets, görüde token etkileşimlerini modellemek için ViT ve Swin gibi modellerde kullanılan öz-dikkati (self-attention) tamamen bir odaklanma modülasyonu (focal modulation) mekanizmasıyla değiştirir. Yazarlar, FocalNets'in görüntü sınıflandırma, nesne algılama ve segmentasyon görevlerinde benzer hesaplama maliyetlerine sahip öz-dikkat tabanlı modellerden daha iyi performans gösterdiğini iddia etmektedir.

Makalenin özeti aşağıdaki gibidir:

Focal modülasyon ağlarını (kısaltmasıyla FocalNet) öneriyoruz; bu ağlarda, görüde token etkileşimlerini modellemek için öz-dikkat (SA) tamamen bir odak modülasyon mekanizmasıyla değiştirilmektedir. Odak modülasyon üç bileşenden oluşur: (i) kısa ve uzun menzilli görsel bağlamları kodlamak için derinlik içi konvolüsyon katmanlarından oluşan bir yığın kullanılarak uygulanan hiyerarşik bağlamsallaştırma, (ii) her sorgu token'ı için içeriğine göre bağlamları seçici olarak toplamak için kapılı toplanma ve (iii) toplanan bağlamı sorguya enjekte etmek için eleman bazlı modülasyon veya afin dönüşüm. Kapsamlı deneyler, FocalNet'lerin, görüntü sınıflandırma, nesne algılama ve segmentasyon görevlerinde benzer hesaplama maliyetleriyle en iyi SA muadillerini (ör. Swin ve Focal Transformers) geride bıraktığını göstermektedir. Özellikle, küçük ve temel boyutlu FocalNet'ler, ImageNet-1K üzerinde sırasıyla %82,3 ve %83,9 top-1 doğruluğa ulaşmaktadır. 224 çözünürlükte ImageNet-22K üzerinde ön eğitildikten sonra, sırasıyla 224 ve 384 çözünürlükte ince ayar yapıldığında %86,5 ve %87,3 top-1 doğruluğa ulaşmaktadır. Aşağı akış görevlerine aktarıldığında FocalNet'ler belirgin bir üstünlük sergilemektedir. Mask R-CNN ile nesne algılamada, 1\times ile eğitilen FocalNet base, Swin muadilini 2,1 puan geride bırakmakta ve 3\times zaman çizelgesiyle eğitilen Swin'i zaten geçmektedir (49,0 v.s. 48,5). UPerNet ile anlamsal segmentasyonda, tek ölçekli FocalNet base, Swin'i 2,4 puan geride bırakmakta ve çok ölçekli Swin'i geçmektedir (50,5 v.s. 49,7). Büyük FocalNet ve Mask2former kullanarak ADE20K anlamsal segmentasyonu için 58,5 mIoU ve COCO Panoptic Segmentation için 57,9 PQ elde ediyoruz. Dev FocalNet ve DINO kullanarak COCO minival ve test-dev üzerinde sırasıyla 64,3 ve 64,4 mAP elde ettik ve Swinv2-G ve BEIT-3 gibi çok daha büyük dikkat tabanlı modellerin üzerine yeni SoTA'lar kurduk.

Bu model nielsr tarafından katkıda bulunmuştur. Orijinal kod burada bulunabilir.

FocalNetConfig

sınıf transformers.FocalNetConfig

< >

( transformers_version: str | None = Nonearchitectures: list[str] | None = Noneoutput_hidden_states: bool | None = Falsereturn_dict: bool | None = Truedtype: str | torch.dtype | None = Nonechunk_size_feed_forward: int = 0is_encoder_decoder: bool = Falseid2label: dict[int, str] | dict[str, str] | None = Nonelabel2id: dict[str, int] | dict[str, str] | None = Noneproblem_type: Literal['regression', 'single_label_classification', 'multi_label_classification'] | None = Noneimage_size: int | list[int] | tuple[int, int] = 224patch_size: int | list[int] | tuple[int, int] = 4num_channels: int = 3embed_dim: int = 96use_conv_embed: bool = Falsehidden_sizes: list[int] | tuple[int, ...] = (192, 384, 768, 768)depths: list[int] | tuple[int, ...] = (2, 2, 6, 2)focal_levels: list[int] | tuple[int, ...] = (2, 2, 2, 2)focal_windows: list[int] | tuple[int, ...] = (3, 3, 3, 3)hidden_act: str = 'gelu'mlp_ratio: float = 4.0hidden_dropout_prob: float | int = 0.0drop_path_rate: float | int = 0.1use_layerscale: bool = Falselayerscale_value: float = 0.0001use_post_layernorm: bool = Falseuse_post_layernorm_in_modulation: bool = Falsenormalize_modulator: bool = Falseinitializer_range: float = 0.02layer_norm_eps: float = 1e-05encoder_stride: int = 32_out_features: list[str] | None = None_out_indices: list[int] | None = None )

Parametreler

  • image_size (Union[int, list[int], tuple[int, int]], isteğe bağlı, varsayılan 224) — Her bir görüntünün boyutu (çözünürlüğü).
  • patch_size (Union[int, list[int], tuple[int, int]], isteğe bağlı, varsayılan 4) — Her yamanın boyutu (çözünürlüğü).
  • num_channels (int, isteğe bağlı, varsayılan 3) — Giriş kanal sayısı.
  • embed_dim (int, isteğe bağlı, varsayılan 96) — Gömme ve gizli durumların boyutluluğu.
  • use_conv_embed (bool, isteğe bağlı, varsayılan False) — Kovansiyonel gömme kullanılıp kullanılmayacağı. Yazarlar, kovansiyonel gömme kullanımının genellikle performansı artırdığını belirtmişlerdir ancak varsayılan olarak kullanılmaz.
  • hidden_sizes (Union[list[int], tuple[int, ...]], isteğe bağlı, varsayılan (192, 384, 768, 768)) — Modelin her aşamasındaki boyut (gizli boyut).
  • depths (Union[list[int], tuple[int, ...]], isteğe bağlı, varsayılan (2, 2, 6, 2)) — Transformer'daki her katmanın derinliği.
  • focal_levels (list(int), isteğe bağlı, varsayılan [2, 2, 2, 2]) — Encoder'daki ilgili aşamaların her katmanındaki odak seviyesi sayısı.
  • focal_windows (list(int), isteğe bağlı, varsayılan [3, 3, 3, 3]) — Encoder'daki ilgili aşamaların her katmanındaki odak pencere boyutu.
  • hidden_act (str, isteğe bağlı, varsayılan gelu) — Çözücüdeki doğrusal olmayan aktivasyon fonksiyonu (fonksiyon veya dize). Örneğin, "gelu", "relu", "silu" vb.
  • mlp_ratio (float, isteğe bağlı, varsayılan 4.0) — MLP gizli boyutunun gömme boyutuna oranı.
  • hidden_dropout_prob (float, isteğe bağlı, varsayılan 0.0) — Gömme ve kodlayıcıdaki tüm tam bağlı katmanlar için dropout olasılığı.
  • drop_path_rate (Union[float, int], isteğe bağlı, varsayılan 0.1) — Patch füzyonu için drop path oranı.
  • use_layerscale (bool, isteğe bağlı, varsayılan False) — Encoder'da layer scale kullanılıp kullanılmayacağı.
  • layerscale_value (float, isteğe bağlı, varsayılan 0.0001) — Katman ölçeğinin başlangıç değeri.
  • use_post_layernorm (bool, isteğe bağlı, varsayılan False) — Encoder'da katman normalizasyonunun sonrasının (post layer normalization) kullanılıp kullanılmayacağı.
  • use_post_layernorm_in_modulation (bool, isteğe bağlı, varsayılan False) — Modülasyon katmanında post layer normalization kullanılıp kullanılmayacağı.
  • normalize_modulator (bool, isteğe bağlı, varsayılan False) — Modülatörün normalize edilip edilmeyeceğini belirtir.
  • initializer_range (float, isteğe bağlı, varsayılan 0.02) — Tüm ağırlık matrislerini başlatmak için kullanılan truncated_normal_initializer'ın standart sapması.
  • layer_norm_eps (float, isteğe bağlı, varsayılan 1e-05) — Katman normalizasyon katmanları tarafından kullanılan epsilon.
  • encoder_stride (int, isteğe bağlı, varsayılan 32) — Maskeli görüntü modellemede, decoder başlığında uzamsal çözünürlüğü artırmak için kullanılan çarpan.

Bu, bir FocalNetModel'in yapılandırmasını depolamak için kullanılan yapılandırma sınıfıdır. Belirtilen argümanlara göre bir Focalnet modelini örneklemek ve model mimarisini tanımlamak için kullanılır. Varsayılan değerlerle bir yapılandırma örneklendiğinde, microsoft/focalnet-tiny ile benzer bir yapılandırma elde edilir.

Yapılandırma nesneleri PreTrainedConfig sınıfından devralır ve model çıktılarını kontrol etmek için kullanılabilir. Daha fazla bilgi için PreTrainedConfig belgesini okuyun.

Örnek:

>>> from transformers import FocalNetConfig, FocalNetModel

>>> # Initializing a FocalNet microsoft/focalnet-tiny style configuration
>>> configuration = FocalNetConfig()

>>> # Initializing a model (with random weights) from the microsoft/focalnet-tiny style configuration
>>> model = FocalNetModel(configuration)

>>> # Accessing the model configuration
>>> configuration = model.config

FocalNetModel

sınıf transformers.FocalNetModel

< >

( config: FocalNetConfigadd_pooling_layer = Trueuse_mask_token = False )

Parametreler

  • config (FocalNetConfig) — Modelin tüm parametrelerini içeren model yapılandırma sınıfı. Bir yapılandırma dosyasıyla başlatmak, modelle ilişkili ağırlıkları yüklemez, yalnızca yapılandırmayı yükler. Model ağırlıklarını yüklemek için from_pretrained() yöntemine bakın.
  • add_pooling_layer (bool, isteğe bağlı, varsayılan True) — Bir havuzlama katmanı eklenip eklenmeyeceği
  • use_mask_token (bool, isteğe bağlı, varsayılan False) — Maskeli görüntü modelleme için bir mask token'ı kullanılıp kullanılmayacağı.

Üzerinde herhangi bir özel başlık olmadan ham gizli durumları (hidden-states) üreten çıplak Focalnet Modeli.

Bu model PreTrainedModel sınıfından devralır. Kütüphanenin tüm modelleri için uyguladığı genel yöntemler (indirme veya kaydetme, giriş gömme boyutlarını yeniden boyutlandırma, başları budama vb.) için üst sınıf belgelendirmesine bakın.

Bu model aynı zamanda bir PyTorch torch.nn.Module alt sınıfıdır. Bunu standart bir PyTorch Module olarak kullanın ve genel kullanım ve davranışla ilgili tüm konular için PyTorch dokümantasyonuna başvurun.

forward

< >

( pixel_values: typing.Optional[torch.Tensor] = Nonebool_masked_pos: typing.Optional[torch.BoolTensor] = Noneoutput_hidden_states: bool | None = Nonereturn_dict: bool | None = None**kwargs ) → FocalNetModelOutput or tuple(torch.Tensor)

Parametreler

  • pixel_values (torch.Tensor, şekli (batch_size, num_channels, image_size, image_size), isteğe bağlı) — Girdi görüntülerine karşılık gelen tensörler. Piksel değerleri BitImageProcessor kullanılarak elde edilebilir. Ayrıntılar için BitImageProcessor.call() bölümüne bakın (processor_class, görüntü işleme için BitImageProcessor kullanır).
  • bool_masked_pos (torch.BoolTensor, şekli (batch_size, num_patches)) — Boolean maskeli konumlar. Hangi yamaların maskelendiğini (1) ve hangilerinin maskelenmediğini (0) belirtir.
  • output_hidden_states (bool, isteğe bağlı) — Tüm katmanların gizli durumlarının (hidden states) döndürülüp döndürülmeyeceğini belirtir. Daha fazla ayrıntı için döndürülen tensörler altındaki hidden_states bölümüne bakın.
  • return_dict (bool, isteğe bağlı) — Düz bir tuple yerine ModelOutput döndürülecek mi?

Dönüş değeri

FocalNetModelOutput veya tuple(torch.Tensor)

FocalNetModelOutput veya bir torch.Tensor demeti (return_dict=False geçirildiğinde veya config.return_dict=False olduğunda), yapılandırmaya (FocalNetConfig) ve girdilere bağlı olarak çeşitli öğelerden oluşur.

FocalNetModel forward metodu, __call__ özel metodunu geçersiz kılar.

İleri geçiş tarifi bu fonksiyon içinde tanımlanmalı olsa da, sonrasında bunun yerine Module örneğini çağırmak gerekir; çünkü önceki, ön ve son işleme adımlarını çalıştırmaktan sorumluyken ikincisi bunları sessizce yok sayar.

  • last_hidden_state (torch.Tensor, şekli (batch_size, sequence_length, hidden_size), isteğe bağlı) — Modelin son katmanının çıktısındaki gizli durumlar dizisi.

  • pooler_output (torch.Tensor, şekli (batch_size, hidden_size), isteğe bağlı, add_pooling_layer=True geçirildiğinde döndürülür) — Son katman gizli durumunun ortalama havuzlaması.

  • hidden_states (tuple[torch.Tensor], isteğe bağlı, output_hidden_states=True geçirildiğinde veya config.output_hidden_states=True olduğunda döndürülür) — torch.Tensor (gömme katmanı varsa gömme katmanının çıktısı için bir tane + her katmanın çıktısı için bir tane) içeren, (batch_size, sequence_length, hidden_size) biçiminde bir demet.

    Her katmanın çıktısında modelin gizli durumları ve isteğe bağlı başlangıç gömme çıktıları.

  • reshaped_hidden_states (tuple(torch.Tensor), isteğe bağlı, output_hidden_states=True geçirildiğinde veya config.output_hidden_states=True olduğunda döndürülür) — torch.Tensor (gömme çıktısı için bir tane + her aşamanın çıktısı için bir tane) içeren bir tuple, şekli (batch_size, hidden_size, height, width).

    Her katmanın çıktısında modelin gizli durumları ile uzamsal boyutları içerecek şekilde yeniden şekillendirilmiş başlangıç gömme çıktıları.

Örnek:

FocalNetForMaskedImageModeling

sınıf transformers.FocalNetForMaskedImageModeling

< >

( config: FocalNetConfig )

Parametreler

  • config (FocalNetConfig) — Modelin tüm parametrelerini içeren model yapılandırma sınıfı. Bir yapılandırma dosyasıyla başlatmak, modelle ilişkili ağırlıkları yüklemez, yalnızca yapılandırmayı yükler. Model ağırlıklarını yüklemek için from_pretrained() yöntemine bakın.

Maskeli görüntü modelleme için üstünde bir çözücüye sahip FocalNet Modeli.

Bu, SimMIM'de olduğuyla aynı uygulamayı izler.

Bu model PreTrainedModel sınıfından devralır. Kütüphanenin tüm modelleri için uyguladığı genel yöntemler (indirme veya kaydetme, giriş gömme boyutlarını yeniden boyutlandırma, başları budama vb.) için üst sınıf belgelendirmesine bakın.

Bu model aynı zamanda bir PyTorch torch.nn.Module alt sınıfıdır. Bunu standart bir PyTorch Module olarak kullanın ve genel kullanım ve davranışla ilgili tüm konular için PyTorch dokümantasyonuna başvurun.

forward

< >

( pixel_values: typing.Optional[torch.Tensor] = Nonebool_masked_pos: typing.Optional[torch.BoolTensor] = Noneoutput_hidden_states: bool | None = Nonereturn_dict: bool | None = None**kwargs ) → FocalNetMaskedImageModelingOutput or tuple(torch.Tensor)

Parametreler

  • pixel_values (torch.Tensor, şekli (batch_size, num_channels, image_size, image_size), isteğe bağlı) — Girdi görüntülerine karşılık gelen tensörler. Piksel değerleri BitImageProcessor kullanılarak elde edilebilir. Ayrıntılar için BitImageProcessor.call() bölümüne bakın (processor_class, görüntü işleme için BitImageProcessor kullanır).
  • bool_masked_pos (torch.BoolTensor, şekli (batch_size, num_patches)) — Boolean maskeli konumlar. Hangi yamaların maskelendiğini (1) ve hangilerinin maskelenmediğini (0) belirtir.
  • output_hidden_states (bool, isteğe bağlı) — Tüm katmanların gizli durumlarının (hidden states) döndürülüp döndürülmeyeceğini belirtir. Daha fazla ayrıntı için döndürülen tensörler altındaki hidden_states bölümüne bakın.
  • return_dict (bool, isteğe bağlı) — Düz bir tuple yerine ModelOutput döndürülecek mi?

Dönüş değeri

FocalNetMaskedImageModelingOutput veya tuple(torch.Tensor)

FocalNetMaskedImageModelingOutput veya bir torch.Tensor demeti (eğer return_dict=False geçirildiyse veya config.return_dict=False ise), yapılandırmaya (FocalNetConfig) ve girdilere bağlı olarak çeşitli öğelerden oluşur.

FocalNetForMaskedImageModeling forward metodu, __call__ özel metodunu geçersiz kılar.

İleri geçiş tarifi bu fonksiyon içinde tanımlanmalı olsa da, sonrasında bunun yerine Module örneğini çağırmak gerekir; çünkü önceki, ön ve son işleme adımlarını çalıştırmaktan sorumluyken ikincisi bunları sessizce yok sayar.

  • loss (torch.Tensor, şekli (1,), isteğe bağlı, bool_masked_pos sağlandığında döndürülür) — Maskeli görüntü modelleme (MLM) kaybı.

  • yeniden yapılandırma (torch.Tensor, şekli (batch_size, num_channels, height, width)) — Yeniden yapılandırılmış piksel değerleri.

  • hidden_states (tuple[torch.Tensor], isteğe bağlı, output_hidden_states=True geçirildiğinde veya config.output_hidden_states=True olduğunda döndürülür) — torch.Tensor (gömme katmanı varsa gömme katmanının çıktısı için bir tane + her katmanın çıktısı için bir tane) içeren, (batch_size, sequence_length, hidden_size) biçiminde bir demet.

    Her katmanın çıktısında modelin gizli durumları ve isteğe bağlı başlangıç gömme çıktıları.

  • reshaped_hidden_states (tuple(torch.Tensor), isteğe bağlı, output_hidden_states=True geçirildiğinde veya config.output_hidden_states=True olduğunda döndürülür) — torch.Tensor (gömme çıktısı için bir tane + her aşamanın çıktısı için bir tane) içeren bir tuple, şekli (batch_size, hidden_size, height, width).

    Her katmanın çıktısında modelin gizli durumları ile uzamsal boyutları içerecek şekilde yeniden şekillendirilmiş başlangıç gömme çıktıları.

Örnekler:

>>> from transformers import AutoImageProcessor, FocalNetConfig, FocalNetForMaskedImageModeling
>>> import torch
>>> from PIL import Image
>>> from huggingface_hub.utils import httpx
>>> from io import BytesIO

>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> with httpx.stream("GET", url) as response:
...     image = Image.open(BytesIO(response.read()))

>>> image_processor = AutoImageProcessor.from_pretrained("microsoft/focalnet-base-simmim-window6-192")
>>> config = FocalNetConfig()
>>> model = FocalNetForMaskedImageModeling(config)

>>> num_patches = (model.config.image_size // model.config.patch_size) ** 2
>>> pixel_values = image_processor(images=image, return_tensors="pt").pixel_values
>>> # create random boolean mask of shape (batch_size, num_patches)
>>> bool_masked_pos = torch.randint(low=0, high=2, size=(1, num_patches)).bool()

>>> outputs = model(pixel_values, bool_masked_pos=bool_masked_pos)
>>> loss, reconstructed_pixel_values = outputs.loss, outputs.logits
>>> list(reconstructed_pixel_values.shape)
[1, 3, 192, 192]

FocalNetForImageClassification

sınıf transformers.FocalNetForImageClassification

< >

( config: FocalNetConfig )

Parametreler

  • config (FocalNetConfig) — Modelin tüm parametrelerini içeren model yapılandırma sınıfı. Bir yapılandırma dosyasıyla başlatmak, modelle ilişkili ağırlıkları yüklemez, yalnızca yapılandırmayı yükler. Model ağırlıklarını yüklemek için from_pretrained() yöntemine bakın.

Üstünde bir görüntü sınıflandırma başlığı (toplanmış çıktının üzerinde doğrusal bir katman) bulunan FocalNet Modeli, örneğin ImageNet için.

Bu model PreTrainedModel sınıfından devralır. Kütüphanenin tüm modelleri için uyguladığı genel yöntemler (indirme veya kaydetme, giriş gömme boyutlarını yeniden boyutlandırma, başları budama vb.) için üst sınıf belgelendirmesine bakın.

Bu model aynı zamanda bir PyTorch torch.nn.Module alt sınıfıdır. Bunu standart bir PyTorch Module olarak kullanın ve genel kullanım ve davranışla ilgili tüm konular için PyTorch dokümantasyonuna başvurun.

forward

< >

( pixel_values: typing.Optional[torch.Tensor] = Nonelabels: typing.Optional[torch.LongTensor] = Noneoutput_hidden_states: bool | None = Nonereturn_dict: bool | None = None**kwargs ) → FocalNetImageClassifierOutput or tuple(torch.Tensor)

Parametreler

  • pixel_values (torch.Tensor, şekli (batch_size, num_channels, image_size, image_size), isteğe bağlı) — Girdi görüntülerine karşılık gelen tensörler. Piksel değerleri BitImageProcessor kullanılarak elde edilebilir. Ayrıntılar için BitImageProcessor.call() bölümüne bakın (processor_class, görüntü işleme için BitImageProcessor kullanır).
  • labels (torch.LongTensor, şekli (batch_size,), isteğe bağlı) — Görüntü sınıflandırma/geri dönüşüm kaybını hesaplamak için etiketler. Endeksler [0, ..., config.num_labels - 1] aralığında olmalıdır. config.num_labels == 1 ise bir geri dönüşüm kaybı (Ortalama Kare kaybı) hesaplanır, config.num_labels > 1 ise bir sınıflandırma kaybı (Çapraz Entropi) hesaplanır.
  • output_hidden_states (bool, isteğe bağlı) — Tüm katmanların gizli durumlarının (hidden states) döndürülüp döndürülmeyeceğini belirtir. Daha fazla ayrıntı için döndürülen tensörler altındaki hidden_states bölümüne bakın.
  • return_dict (bool, isteğe bağlı) — Düz bir tuple yerine ModelOutput döndürülecek mi?

Dönüş değeri

FocalNetImageClassifierOutput veya tuple(torch.Tensor)

FocalNetImageClassifierOutput veya bir torch.Tensor demeti (eğer return_dict=False geçirildiyse veya config.return_dict=False ise), yapılandırmaya (FocalNetConfig) ve girdilere bağlı olarak çeşitli öğelerden oluşur.

FocalNetForImageClassification forward metodu, __call__ özel metodunu geçersiz kılar.

İleri geçiş tarifi bu fonksiyon içinde tanımlanmalı olsa da, sonrasında bunun yerine Module örneğini çağırmak gerekir; çünkü önceki, ön ve son işleme adımlarını çalıştırmaktan sorumluyken ikincisi bunları sessizce yok sayar.

  • loss (torch.Tensor, şekli (1,), isteğe bağlı, labels sağlandığında döndürülür) — Sınıflandırma (config.num_labels==1 ise regresyon) kaybı.

  • logits (torch.Tensor, şekli (batch_size, config.num_labels)) — Sınıflandırma (veya config.num_labels==1 ise regresyon) puanları (SoftMax öncesi).

  • hidden_states (tuple[torch.Tensor], isteğe bağlı, output_hidden_states=True geçirildiğinde veya config.output_hidden_states=True olduğunda döndürülür) — torch.Tensor (gömme katmanı varsa gömme katmanının çıktısı için bir tane + her katmanın çıktısı için bir tane) içeren, (batch_size, sequence_length, hidden_size) biçiminde bir demet.

    Her katmanın çıktısında modelin gizli durumları ve isteğe bağlı başlangıç gömme çıktıları.

  • reshaped_hidden_states (tuple(torch.Tensor), isteğe bağlı, output_hidden_states=True geçirildiğinde veya config.output_hidden_states=True olduğunda döndürülür) — torch.Tensor (gömme çıktısı için bir tane + her aşamanın çıktısı için bir tane) içeren bir tuple, şekli (batch_size, hidden_size, height, width).

    Her katmanın çıktısında modelin gizli durumları ile uzamsal boyutları içerecek şekilde yeniden şekillendirilmiş başlangıç gömme çıktıları.

Örnek:

>>> from transformers import AutoImageProcessor, FocalNetForImageClassification
>>> import torch
>>> from datasets import load_dataset

>>> dataset = load_dataset("huggingface/cats-image")
>>> image = dataset["test"]["image"][0]

>>> image_processor = AutoImageProcessor.from_pretrained("microsoft/focalnet-tiny")
>>> model = FocalNetForImageClassification.from_pretrained("microsoft/focalnet-tiny")

>>> inputs = image_processor(image, return_tensors="pt")

>>> with torch.no_grad():
...     logits = model(**inputs).logits

>>> # model predicts one of the 1000 ImageNet classes
>>> predicted_label = logits.argmax(-1).item()
>>> print(model.config.id2label[predicted_label])
...
Update on GitHub