Transformers documentation
FocalNet
Bu model 2022-03-22 tarihinde HF papers'ta yayımlanmış ve 2023-04-23 tarihinde Hugging Face Transformers'a katkıda bulunmuştur.
FocalNet
Genel Bakış
FocalNet modeli, Jianwei Yang, Chunyuan Li, Xiyang Dai, Lu Yuan ve Jianfeng Gao tarafından Focal Modulation Networks makalesinde önerilmiştir. FocalNets, görüde token etkileşimlerini modellemek için ViT ve Swin gibi modellerde kullanılan öz-dikkati (self-attention) tamamen bir odaklanma modülasyonu (focal modulation) mekanizmasıyla değiştirir. Yazarlar, FocalNets'in görüntü sınıflandırma, nesne algılama ve segmentasyon görevlerinde benzer hesaplama maliyetlerine sahip öz-dikkat tabanlı modellerden daha iyi performans gösterdiğini iddia etmektedir.
Makalenin özeti aşağıdaki gibidir:
Focal modülasyon ağlarını (kısaltmasıyla FocalNet) öneriyoruz; bu ağlarda, görüde token etkileşimlerini modellemek için öz-dikkat (SA) tamamen bir odak modülasyon mekanizmasıyla değiştirilmektedir. Odak modülasyon üç bileşenden oluşur: (i) kısa ve uzun menzilli görsel bağlamları kodlamak için derinlik içi konvolüsyon katmanlarından oluşan bir yığın kullanılarak uygulanan hiyerarşik bağlamsallaştırma, (ii) her sorgu token'ı için içeriğine göre bağlamları seçici olarak toplamak için kapılı toplanma ve (iii) toplanan bağlamı sorguya enjekte etmek için eleman bazlı modülasyon veya afin dönüşüm. Kapsamlı deneyler, FocalNet'lerin, görüntü sınıflandırma, nesne algılama ve segmentasyon görevlerinde benzer hesaplama maliyetleriyle en iyi SA muadillerini (ör. Swin ve Focal Transformers) geride bıraktığını göstermektedir. Özellikle, küçük ve temel boyutlu FocalNet'ler, ImageNet-1K üzerinde sırasıyla %82,3 ve %83,9 top-1 doğruluğa ulaşmaktadır. 224 çözünürlükte ImageNet-22K üzerinde ön eğitildikten sonra, sırasıyla 224 ve 384 çözünürlükte ince ayar yapıldığında %86,5 ve %87,3 top-1 doğruluğa ulaşmaktadır. Aşağı akış görevlerine aktarıldığında FocalNet'ler belirgin bir üstünlük sergilemektedir. Mask R-CNN ile nesne algılamada, 1\times ile eğitilen FocalNet base, Swin muadilini 2,1 puan geride bırakmakta ve 3\times zaman çizelgesiyle eğitilen Swin'i zaten geçmektedir (49,0 v.s. 48,5). UPerNet ile anlamsal segmentasyonda, tek ölçekli FocalNet base, Swin'i 2,4 puan geride bırakmakta ve çok ölçekli Swin'i geçmektedir (50,5 v.s. 49,7). Büyük FocalNet ve Mask2former kullanarak ADE20K anlamsal segmentasyonu için 58,5 mIoU ve COCO Panoptic Segmentation için 57,9 PQ elde ediyoruz. Dev FocalNet ve DINO kullanarak COCO minival ve test-dev üzerinde sırasıyla 64,3 ve 64,4 mAP elde ettik ve Swinv2-G ve BEIT-3 gibi çok daha büyük dikkat tabanlı modellerin üzerine yeni SoTA'lar kurduk.
Bu model nielsr tarafından katkıda bulunmuştur. Orijinal kod burada bulunabilir.
FocalNetConfig
sınıf transformers.FocalNetConfig
< source >( transformers_version: str | None = Nonearchitectures: list[str] | None = Noneoutput_hidden_states: bool | None = Falsereturn_dict: bool | None = Truedtype: str | torch.dtype | None = Nonechunk_size_feed_forward: int = 0is_encoder_decoder: bool = Falseid2label: dict[int, str] | dict[str, str] | None = Nonelabel2id: dict[str, int] | dict[str, str] | None = Noneproblem_type: Literal['regression', 'single_label_classification', 'multi_label_classification'] | None = Noneimage_size: int | list[int] | tuple[int, int] = 224patch_size: int | list[int] | tuple[int, int] = 4num_channels: int = 3embed_dim: int = 96use_conv_embed: bool = Falsehidden_sizes: list[int] | tuple[int, ...] = (192, 384, 768, 768)depths: list[int] | tuple[int, ...] = (2, 2, 6, 2)focal_levels: list[int] | tuple[int, ...] = (2, 2, 2, 2)focal_windows: list[int] | tuple[int, ...] = (3, 3, 3, 3)hidden_act: str = 'gelu'mlp_ratio: float = 4.0hidden_dropout_prob: float | int = 0.0drop_path_rate: float | int = 0.1use_layerscale: bool = Falselayerscale_value: float = 0.0001use_post_layernorm: bool = Falseuse_post_layernorm_in_modulation: bool = Falsenormalize_modulator: bool = Falseinitializer_range: float = 0.02layer_norm_eps: float = 1e-05encoder_stride: int = 32_out_features: list[str] | None = None_out_indices: list[int] | None = None )
Parametreler
- image_size (
Union[int, list[int], tuple[int, int]], isteğe bağlı, varsayılan224) — Her bir görüntünün boyutu (çözünürlüğü). - patch_size (
Union[int, list[int], tuple[int, int]], isteğe bağlı, varsayılan4) — Her yamanın boyutu (çözünürlüğü). - num_channels (
int, isteğe bağlı, varsayılan3) — Giriş kanal sayısı. - embed_dim (
int, isteğe bağlı, varsayılan96) — Gömme ve gizli durumların boyutluluğu. - use_conv_embed (
bool, isteğe bağlı, varsayılanFalse) — Kovansiyonel gömme kullanılıp kullanılmayacağı. Yazarlar, kovansiyonel gömme kullanımının genellikle performansı artırdığını belirtmişlerdir ancak varsayılan olarak kullanılmaz. - hidden_sizes (
Union[list[int], tuple[int, ...]], isteğe bağlı, varsayılan(192, 384, 768, 768)) — Modelin her aşamasındaki boyut (gizli boyut). - depths (
Union[list[int], tuple[int, ...]], isteğe bağlı, varsayılan(2, 2, 6, 2)) — Transformer'daki her katmanın derinliği. - focal_levels (
list(int), isteğe bağlı, varsayılan[2, 2, 2, 2]) — Encoder'daki ilgili aşamaların her katmanındaki odak seviyesi sayısı. - focal_windows (
list(int), isteğe bağlı, varsayılan[3, 3, 3, 3]) — Encoder'daki ilgili aşamaların her katmanındaki odak pencere boyutu. - hidden_act (
str, isteğe bağlı, varsayılangelu) — Çözücüdeki doğrusal olmayan aktivasyon fonksiyonu (fonksiyon veya dize). Örneğin,"gelu","relu","silu"vb. - mlp_ratio (
float, isteğe bağlı, varsayılan4.0) — MLP gizli boyutunun gömme boyutuna oranı. - hidden_dropout_prob (
float, isteğe bağlı, varsayılan 0.0) — Gömme ve kodlayıcıdaki tüm tam bağlı katmanlar için dropout olasılığı. - drop_path_rate (
Union[float, int], isteğe bağlı, varsayılan0.1) — Patch füzyonu için drop path oranı. - use_layerscale (
bool, isteğe bağlı, varsayılanFalse) — Encoder'da layer scale kullanılıp kullanılmayacağı. - layerscale_value (
float, isteğe bağlı, varsayılan 0.0001) — Katman ölçeğinin başlangıç değeri. - use_post_layernorm (
bool, isteğe bağlı, varsayılanFalse) — Encoder'da katman normalizasyonunun sonrasının (post layer normalization) kullanılıp kullanılmayacağı. - use_post_layernorm_in_modulation (
bool, isteğe bağlı, varsayılanFalse) — Modülasyon katmanında post layer normalization kullanılıp kullanılmayacağı. - normalize_modulator (
bool, isteğe bağlı, varsayılanFalse) — Modülatörün normalize edilip edilmeyeceğini belirtir. - initializer_range (
float, isteğe bağlı, varsayılan0.02) — Tüm ağırlık matrislerini başlatmak için kullanılan truncated_normal_initializer'ın standart sapması. - layer_norm_eps (
float, isteğe bağlı, varsayılan1e-05) — Katman normalizasyon katmanları tarafından kullanılan epsilon. - encoder_stride (
int, isteğe bağlı, varsayılan 32) — Maskeli görüntü modellemede, decoder başlığında uzamsal çözünürlüğü artırmak için kullanılan çarpan.
Bu, bir FocalNetModel'in yapılandırmasını depolamak için kullanılan yapılandırma sınıfıdır. Belirtilen argümanlara göre bir Focalnet modelini örneklemek ve model mimarisini tanımlamak için kullanılır. Varsayılan değerlerle bir yapılandırma örneklendiğinde, microsoft/focalnet-tiny ile benzer bir yapılandırma elde edilir.
Yapılandırma nesneleri PreTrainedConfig sınıfından devralır ve model çıktılarını kontrol etmek için kullanılabilir. Daha fazla bilgi için PreTrainedConfig belgesini okuyun.
Örnek:
>>> from transformers import FocalNetConfig, FocalNetModel
>>> # Initializing a FocalNet microsoft/focalnet-tiny style configuration
>>> configuration = FocalNetConfig()
>>> # Initializing a model (with random weights) from the microsoft/focalnet-tiny style configuration
>>> model = FocalNetModel(configuration)
>>> # Accessing the model configuration
>>> configuration = model.configFocalNetModel
sınıf transformers.FocalNetModel
< source >( config: FocalNetConfigadd_pooling_layer = Trueuse_mask_token = False )
Parametreler
- config (FocalNetConfig) — Modelin tüm parametrelerini içeren model yapılandırma sınıfı. Bir yapılandırma dosyasıyla başlatmak, modelle ilişkili ağırlıkları yüklemez, yalnızca yapılandırmayı yükler. Model ağırlıklarını yüklemek için from_pretrained() yöntemine bakın.
- add_pooling_layer (
bool, isteğe bağlı, varsayılanTrue) — Bir havuzlama katmanı eklenip eklenmeyeceği - use_mask_token (
bool, isteğe bağlı, varsayılanFalse) — Maskeli görüntü modelleme için bir mask token'ı kullanılıp kullanılmayacağı.
Üzerinde herhangi bir özel başlık olmadan ham gizli durumları (hidden-states) üreten çıplak Focalnet Modeli.
Bu model PreTrainedModel sınıfından devralır. Kütüphanenin tüm modelleri için uyguladığı genel yöntemler (indirme veya kaydetme, giriş gömme boyutlarını yeniden boyutlandırma, başları budama vb.) için üst sınıf belgelendirmesine bakın.
Bu model aynı zamanda bir PyTorch torch.nn.Module alt sınıfıdır. Bunu standart bir PyTorch Module olarak kullanın ve genel kullanım ve davranışla ilgili tüm konular için PyTorch dokümantasyonuna başvurun.
forward
< source >( pixel_values: typing.Optional[torch.Tensor] = Nonebool_masked_pos: typing.Optional[torch.BoolTensor] = Noneoutput_hidden_states: bool | None = Nonereturn_dict: bool | None = None**kwargs ) → FocalNetModelOutput or tuple(torch.Tensor)
Parametreler
- pixel_values (
torch.Tensor, şekli(batch_size, num_channels, image_size, image_size), isteğe bağlı) — Girdi görüntülerine karşılık gelen tensörler. Piksel değerleri BitImageProcessor kullanılarak elde edilebilir. Ayrıntılar için BitImageProcessor.call() bölümüne bakın (processor_class, görüntü işleme için BitImageProcessor kullanır). - bool_masked_pos (
torch.BoolTensor, şekli(batch_size, num_patches)) — Boolean maskeli konumlar. Hangi yamaların maskelendiğini (1) ve hangilerinin maskelenmediğini (0) belirtir. - output_hidden_states (
bool, isteğe bağlı) — Tüm katmanların gizli durumlarının (hidden states) döndürülüp döndürülmeyeceğini belirtir. Daha fazla ayrıntı için döndürülen tensörler altındakihidden_statesbölümüne bakın. - return_dict (
bool, isteğe bağlı) — Düz bir tuple yerine ModelOutput döndürülecek mi?
Dönüş değeri
FocalNetModelOutput veya tuple(torch.Tensor)
FocalNetModelOutput veya bir torch.Tensor demeti (return_dict=False geçirildiğinde veya config.return_dict=False olduğunda), yapılandırmaya (FocalNetConfig) ve girdilere bağlı olarak çeşitli öğelerden oluşur.
FocalNetModel forward metodu, __call__ özel metodunu geçersiz kılar.
İleri geçiş tarifi bu fonksiyon içinde tanımlanmalı olsa da, sonrasında bunun yerine
Moduleörneğini çağırmak gerekir; çünkü önceki, ön ve son işleme adımlarını çalıştırmaktan sorumluyken ikincisi bunları sessizce yok sayar.
last_hidden_state (
torch.Tensor, şekli(batch_size, sequence_length, hidden_size), isteğe bağlı) — Modelin son katmanının çıktısındaki gizli durumlar dizisi.pooler_output (
torch.Tensor, şekli(batch_size, hidden_size), isteğe bağlı,add_pooling_layer=Truegeçirildiğinde döndürülür) — Son katman gizli durumunun ortalama havuzlaması.hidden_states (
tuple[torch.Tensor], isteğe bağlı,output_hidden_states=Truegeçirildiğinde veyaconfig.output_hidden_states=Trueolduğunda döndürülür) —torch.Tensor(gömme katmanı varsa gömme katmanının çıktısı için bir tane + her katmanın çıktısı için bir tane) içeren,(batch_size, sequence_length, hidden_size)biçiminde bir demet.Her katmanın çıktısında modelin gizli durumları ve isteğe bağlı başlangıç gömme çıktıları.
reshaped_hidden_states (
tuple(torch.Tensor), isteğe bağlı,output_hidden_states=Truegeçirildiğinde veyaconfig.output_hidden_states=Trueolduğunda döndürülür) —torch.Tensor(gömme çıktısı için bir tane + her aşamanın çıktısı için bir tane) içeren bir tuple, şekli(batch_size, hidden_size, height, width).Her katmanın çıktısında modelin gizli durumları ile uzamsal boyutları içerecek şekilde yeniden şekillendirilmiş başlangıç gömme çıktıları.
FocalNetForMaskedImageModeling
sınıf transformers.FocalNetForMaskedImageModeling
< source >( config: FocalNetConfig )
Parametreler
- config (FocalNetConfig) — Modelin tüm parametrelerini içeren model yapılandırma sınıfı. Bir yapılandırma dosyasıyla başlatmak, modelle ilişkili ağırlıkları yüklemez, yalnızca yapılandırmayı yükler. Model ağırlıklarını yüklemek için from_pretrained() yöntemine bakın.
Maskeli görüntü modelleme için üstünde bir çözücüye sahip FocalNet Modeli.
Bu, SimMIM'de olduğuyla aynı uygulamayı izler.
Bu model PreTrainedModel sınıfından devralır. Kütüphanenin tüm modelleri için uyguladığı genel yöntemler (indirme veya kaydetme, giriş gömme boyutlarını yeniden boyutlandırma, başları budama vb.) için üst sınıf belgelendirmesine bakın.
Bu model aynı zamanda bir PyTorch torch.nn.Module alt sınıfıdır. Bunu standart bir PyTorch Module olarak kullanın ve genel kullanım ve davranışla ilgili tüm konular için PyTorch dokümantasyonuna başvurun.
forward
< source >( pixel_values: typing.Optional[torch.Tensor] = Nonebool_masked_pos: typing.Optional[torch.BoolTensor] = Noneoutput_hidden_states: bool | None = Nonereturn_dict: bool | None = None**kwargs ) → FocalNetMaskedImageModelingOutput or tuple(torch.Tensor)
Parametreler
- pixel_values (
torch.Tensor, şekli(batch_size, num_channels, image_size, image_size), isteğe bağlı) — Girdi görüntülerine karşılık gelen tensörler. Piksel değerleri BitImageProcessor kullanılarak elde edilebilir. Ayrıntılar için BitImageProcessor.call() bölümüne bakın (processor_class, görüntü işleme için BitImageProcessor kullanır). - bool_masked_pos (
torch.BoolTensor, şekli(batch_size, num_patches)) — Boolean maskeli konumlar. Hangi yamaların maskelendiğini (1) ve hangilerinin maskelenmediğini (0) belirtir. - output_hidden_states (
bool, isteğe bağlı) — Tüm katmanların gizli durumlarının (hidden states) döndürülüp döndürülmeyeceğini belirtir. Daha fazla ayrıntı için döndürülen tensörler altındakihidden_statesbölümüne bakın. - return_dict (
bool, isteğe bağlı) — Düz bir tuple yerine ModelOutput döndürülecek mi?
Dönüş değeri
FocalNetMaskedImageModelingOutput veya tuple(torch.Tensor)
FocalNetMaskedImageModelingOutput veya bir torch.Tensor demeti (eğer return_dict=False geçirildiyse veya config.return_dict=False ise), yapılandırmaya (FocalNetConfig) ve girdilere bağlı olarak çeşitli öğelerden oluşur.
FocalNetForMaskedImageModeling forward metodu, __call__ özel metodunu geçersiz kılar.
İleri geçiş tarifi bu fonksiyon içinde tanımlanmalı olsa da, sonrasında bunun yerine
Moduleörneğini çağırmak gerekir; çünkü önceki, ön ve son işleme adımlarını çalıştırmaktan sorumluyken ikincisi bunları sessizce yok sayar.
loss (
torch.Tensor, şekli(1,), isteğe bağlı,bool_masked_possağlandığında döndürülür) — Maskeli görüntü modelleme (MLM) kaybı.yeniden yapılandırma (
torch.Tensor, şekli(batch_size, num_channels, height, width)) — Yeniden yapılandırılmış piksel değerleri.hidden_states (
tuple[torch.Tensor], isteğe bağlı,output_hidden_states=Truegeçirildiğinde veyaconfig.output_hidden_states=Trueolduğunda döndürülür) —torch.Tensor(gömme katmanı varsa gömme katmanının çıktısı için bir tane + her katmanın çıktısı için bir tane) içeren,(batch_size, sequence_length, hidden_size)biçiminde bir demet.Her katmanın çıktısında modelin gizli durumları ve isteğe bağlı başlangıç gömme çıktıları.
reshaped_hidden_states (
tuple(torch.Tensor), isteğe bağlı,output_hidden_states=Truegeçirildiğinde veyaconfig.output_hidden_states=Trueolduğunda döndürülür) —torch.Tensor(gömme çıktısı için bir tane + her aşamanın çıktısı için bir tane) içeren bir tuple, şekli(batch_size, hidden_size, height, width).Her katmanın çıktısında modelin gizli durumları ile uzamsal boyutları içerecek şekilde yeniden şekillendirilmiş başlangıç gömme çıktıları.
Örnekler:
>>> from transformers import AutoImageProcessor, FocalNetConfig, FocalNetForMaskedImageModeling
>>> import torch
>>> from PIL import Image
>>> from huggingface_hub.utils import httpx
>>> from io import BytesIO
>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> with httpx.stream("GET", url) as response:
... image = Image.open(BytesIO(response.read()))
>>> image_processor = AutoImageProcessor.from_pretrained("microsoft/focalnet-base-simmim-window6-192")
>>> config = FocalNetConfig()
>>> model = FocalNetForMaskedImageModeling(config)
>>> num_patches = (model.config.image_size // model.config.patch_size) ** 2
>>> pixel_values = image_processor(images=image, return_tensors="pt").pixel_values
>>> # create random boolean mask of shape (batch_size, num_patches)
>>> bool_masked_pos = torch.randint(low=0, high=2, size=(1, num_patches)).bool()
>>> outputs = model(pixel_values, bool_masked_pos=bool_masked_pos)
>>> loss, reconstructed_pixel_values = outputs.loss, outputs.logits
>>> list(reconstructed_pixel_values.shape)
[1, 3, 192, 192]FocalNetForImageClassification
sınıf transformers.FocalNetForImageClassification
< source >( config: FocalNetConfig )
Parametreler
- config (FocalNetConfig) — Modelin tüm parametrelerini içeren model yapılandırma sınıfı. Bir yapılandırma dosyasıyla başlatmak, modelle ilişkili ağırlıkları yüklemez, yalnızca yapılandırmayı yükler. Model ağırlıklarını yüklemek için from_pretrained() yöntemine bakın.
Üstünde bir görüntü sınıflandırma başlığı (toplanmış çıktının üzerinde doğrusal bir katman) bulunan FocalNet Modeli, örneğin ImageNet için.
Bu model PreTrainedModel sınıfından devralır. Kütüphanenin tüm modelleri için uyguladığı genel yöntemler (indirme veya kaydetme, giriş gömme boyutlarını yeniden boyutlandırma, başları budama vb.) için üst sınıf belgelendirmesine bakın.
Bu model aynı zamanda bir PyTorch torch.nn.Module alt sınıfıdır. Bunu standart bir PyTorch Module olarak kullanın ve genel kullanım ve davranışla ilgili tüm konular için PyTorch dokümantasyonuna başvurun.
forward
< source >( pixel_values: typing.Optional[torch.Tensor] = Nonelabels: typing.Optional[torch.LongTensor] = Noneoutput_hidden_states: bool | None = Nonereturn_dict: bool | None = None**kwargs ) → FocalNetImageClassifierOutput or tuple(torch.Tensor)
Parametreler
- pixel_values (
torch.Tensor, şekli(batch_size, num_channels, image_size, image_size), isteğe bağlı) — Girdi görüntülerine karşılık gelen tensörler. Piksel değerleri BitImageProcessor kullanılarak elde edilebilir. Ayrıntılar için BitImageProcessor.call() bölümüne bakın (processor_class, görüntü işleme için BitImageProcessor kullanır). - labels (
torch.LongTensor, şekli(batch_size,), isteğe bağlı) — Görüntü sınıflandırma/geri dönüşüm kaybını hesaplamak için etiketler. Endeksler[0, ..., config.num_labels - 1]aralığında olmalıdır.config.num_labels == 1ise bir geri dönüşüm kaybı (Ortalama Kare kaybı) hesaplanır,config.num_labels > 1ise bir sınıflandırma kaybı (Çapraz Entropi) hesaplanır. - output_hidden_states (
bool, isteğe bağlı) — Tüm katmanların gizli durumlarının (hidden states) döndürülüp döndürülmeyeceğini belirtir. Daha fazla ayrıntı için döndürülen tensörler altındakihidden_statesbölümüne bakın. - return_dict (
bool, isteğe bağlı) — Düz bir tuple yerine ModelOutput döndürülecek mi?
Dönüş değeri
FocalNetImageClassifierOutput veya tuple(torch.Tensor)
FocalNetImageClassifierOutput veya bir torch.Tensor demeti (eğer return_dict=False geçirildiyse veya config.return_dict=False ise), yapılandırmaya (FocalNetConfig) ve girdilere bağlı olarak çeşitli öğelerden oluşur.
FocalNetForImageClassification forward metodu, __call__ özel metodunu geçersiz kılar.
İleri geçiş tarifi bu fonksiyon içinde tanımlanmalı olsa da, sonrasında bunun yerine
Moduleörneğini çağırmak gerekir; çünkü önceki, ön ve son işleme adımlarını çalıştırmaktan sorumluyken ikincisi bunları sessizce yok sayar.
loss (
torch.Tensor, şekli(1,), isteğe bağlı,labelssağlandığında döndürülür) — Sınıflandırma (config.num_labels==1 ise regresyon) kaybı.logits (
torch.Tensor, şekli(batch_size, config.num_labels)) — Sınıflandırma (veya config.num_labels==1 ise regresyon) puanları (SoftMax öncesi).hidden_states (
tuple[torch.Tensor], isteğe bağlı,output_hidden_states=Truegeçirildiğinde veyaconfig.output_hidden_states=Trueolduğunda döndürülür) —torch.Tensor(gömme katmanı varsa gömme katmanının çıktısı için bir tane + her katmanın çıktısı için bir tane) içeren,(batch_size, sequence_length, hidden_size)biçiminde bir demet.Her katmanın çıktısında modelin gizli durumları ve isteğe bağlı başlangıç gömme çıktıları.
reshaped_hidden_states (
tuple(torch.Tensor), isteğe bağlı,output_hidden_states=Truegeçirildiğinde veyaconfig.output_hidden_states=Trueolduğunda döndürülür) —torch.Tensor(gömme çıktısı için bir tane + her aşamanın çıktısı için bir tane) içeren bir tuple, şekli(batch_size, hidden_size, height, width).Her katmanın çıktısında modelin gizli durumları ile uzamsal boyutları içerecek şekilde yeniden şekillendirilmiş başlangıç gömme çıktıları.
Örnek:
>>> from transformers import AutoImageProcessor, FocalNetForImageClassification
>>> import torch
>>> from datasets import load_dataset
>>> dataset = load_dataset("huggingface/cats-image")
>>> image = dataset["test"]["image"][0]
>>> image_processor = AutoImageProcessor.from_pretrained("microsoft/focalnet-tiny")
>>> model = FocalNetForImageClassification.from_pretrained("microsoft/focalnet-tiny")
>>> inputs = image_processor(image, return_tensors="pt")
>>> with torch.no_grad():
... logits = model(**inputs).logits
>>> # model predicts one of the 1000 ImageNet classes
>>> predicted_label = logits.argmax(-1).item()
>>> print(model.config.id2label[predicted_label])
...