# MobileViTV2

## Обзор

Модель MobileViTV2 была предложена в статье [Separable Self-attention for Mobile Vision Transformers](https://huggingface.co/papers/2206.02680) Sachin Mehta и Mohammad Rastegari.

MobileViTV2 — это вторая версия MobileViT, созданная путём замены многоголовного само-внимания в MobileViT на сепарабельное само-внимание.

Аннотация из статьи следующая:

*Мобильные визуальные трансформеры (MobileViT) способны обеспечить передовую производительность в нескольких мобильных визуальных задачах, включая классификацию и обнаружение объектов. Хотя эти модели имеют меньшее количество параметров, их задержка выше, чем у моделей на основе свёрточных нейронных сетей. Основным узким местом эффективности в MobileViT является многоголовное само-внимание (MHA) в трансформерах, которое требует временной сложности O(k2) относительно количества токенов (или патчей) k. Кроме того, для вычисления само-внимания MHA требует дорогостоящих операций (например, матричного умножения по батчам), что влияет на задержку на устройствах с ограниченными ресурсами. В данной статье представлен метод разделимого само-внимания с линейной сложностью, то есть O(k). Простая, но эффективная особенность предложенного метода заключается в том, что для вычисления само-внимания используются поэлементные операции, что делает его хорошим выбором для устройств с ограниченными ресурсами. Улучшенная модель, MobileViTV2, демонстрирует передовую производительность в нескольких мобильных визуальных задачах, включая классификацию объектов ImageNet и обнаружение объектов MS-COCO. Имея около трёх миллионов параметров, MobileViTV2 достигает точности top-1 75,6% на наборе данных ImageNet, превосходя MobileViT примерно на 1% при работе в 3,2 раза быстрее на мобильном устройстве.*

Эта модель была предоставлена пользователем [shehan97](https://huggingface.co/shehan97). Исходный код можно найти [здесь](https://github.com/apple/ml-cvnets).

## Советы по использованию

- MobileViTV2 больше похож на CNN, чем на модель Transformer. Он работает не с последовательностями, а с батчами изображений. В отличие от ViT, здесь нет эмбеддингов. Базовая модель (backbone) выводит карту признаков.
- Для подготовки изображений к модели можно использовать [MobileViTImageProcessor](/docs/transformers/v5.23.0/ru/model_doc/mobilevit#transformers.MobileViTImageProcessor). Обратите внимание, что при самостоятельной предобработке предобученные контрольные точки ожидают, что изображения будут в порядке пикселей BGR (а не RGB).
- Доступные контрольные точки для классификации изображений предварительно обучены на [ImageNet-1k](https://huggingface.co/datasets/ILSVRC/imagenet-1k) (также известном как ILSVRC 2012, набор из 1,3 миллиона изображений и 1000 классов).
- Модель сегментации использует головку [DeepLabV3](https://huggingface.co/papers/1706.05587). Доступные контрольные точки семантической сегментации предварительно обучены на [PASCAL VOC](http://host.robots.ox.ac.uk/pascal/VOC/).

## MobileViTV2Config[[transformers.MobileViTV2Config]]

#### transformers.MobileViTV2Config[[transformers.MobileViTV2Config]]

```python
transformers.MobileViTV2Config(transformers_version: str | None = None, architectures: list[str] | None = None, output_hidden_states: bool | None = False, return_dict: bool | None = True, dtype: str | torch.dtype | None = None, chunk_size_feed_forward: int = 0, is_encoder_decoder: bool = False, id2label: dict[int, str] | dict[str, str] | None = None, label2id: dict[str, int] | dict[str, str] | None = None, problem_type: Literal['regression', 'single_label_classification', 'multi_label_classification'] | None = None, num_channels: int = 3, image_size: int | list[int] | tuple[int, int] = 256, patch_size: int | list[int] | tuple[int, int] = 2, expand_ratio: float = 2.0, hidden_act: str = 'swish', conv_kernel_size: int = 3, output_stride: int = 32, classifier_dropout_prob: float | int = 0.1, initializer_range: float = 0.02, layer_norm_eps: float = 1e-05, aspp_out_channels: int = 512, atrous_rates: list[int] | tuple[int, ...] = (6, 12, 18), aspp_dropout_prob: float | int = 0.1, semantic_loss_ignore_index: int = 255, n_attn_blocks: list[int] | tuple[int, ...] = (2, 4, 3), base_attn_unit_dims: list[int] | tuple[int, ...] = (128, 192, 256), width_multiplier: float | int = 1.0, ffn_multiplier: int = 2, attn_dropout: float | int = 0.0, ffn_dropout: float | int = 0.0)
```

[Источник](https://github.com/huggingface/transformers/blob/v5.23.0/src/transformers/models/mobilevitv2/configuration_mobilevitv2.py#L24)

**Параметры:**

num_channels (`int`, *необязательный*, по умолчанию `3`) : Количество входных каналов.

image_size (`Union[int, list[int], tuple[int, int]]`, *необязательный*, по умолчанию `256`) : Размер (разрешение) каждого изображения.

patch_size (`Union[int, list[int], tuple[int, int]]`, *необязательный*, по умолчанию `2`) : Размер (разрешение) каждого патча.

expand_ratio (`float`, *необязательный*, по умолчанию `2.0`) : Коэффициент расширения для задания выходных размеров

hidden_act (`str`, *необязательный*, по умолчанию `swish`) : Нелинейная функция активации (функция или строка) в декодере. Например, `"gelu"`, `"relu"`, `"silu"` и т. д.

conv_kernel_size (`int`, *optional*, по умолчанию `3`) : Размер свёрточного ядра.

output_stride (`int`, *необязательный*, по умолчанию `32`) : Соотношение между пространственным разрешением входных и выходных карт признаков.

classifier_dropout_prob (`Union[float, int]`, *необязательный*, по умолчанию `0.1`) : Коэффициент dropout для классификатора.

initializer_range (`float`, *необязательный*, по умолчанию `0.02`) : Стандартное отклонение truncated_normal_initializer для инициализации всех матриц весов.

layer_norm_eps (`float`, *необязательный*, по умолчанию `1e-05`) : Значение epsilon, используемое слоями нормализации.

aspp_out_channels (`int`, *optional*, по умолчанию 512) : Количество выходных каналов, используемых в слое ASPP для семантической сегментации.

atrous_rates (`list[int]`, *optional*, по умолчанию `[6, 12, 18]`) : Коэффициенты дилатации (atrous), используемые в слое ASPP для семантической сегментации.

aspp_dropout_prob (`float`, *optional*, по умолчанию 0.1) : Коэффициент dropout для слоя ASPP, используемого для семантической сегментации.

semantic_loss_ignore_index (`int`, *необязательный*, по умолчанию `255`) : Индекс, который игнорируется функцией потерь модели семантической сегментации.

n_attn_blocks (`list[int]`, *необязательный*, по умолчанию `[2, 4, 3]`) : Количество блоков внимания в каждом MobileViTV2Layer

base_attn_unit_dims (`list[int]`, *необязательный*, по умолчанию `[128, 192, 256]`) : Базовый множитель для размерностей блоков внимания в каждом MobileViTV2Layer

width_multiplier (`float`, *необязательный*, по умолчанию 1.0) : Множитель ширины для MobileViTV2.

ffn_multiplier (`int`, *необязательный*, по умолчанию 2) : Множитель FFN для MobileViTV2.

attn_dropout (`Union[float, int]`, *необязательный*, по умолчанию `0.0`) : Коэффициент dropout для вероятностей внимания.

ffn_dropout (`float`, *необязательный*, по умолчанию 0.0) : Dropout между слоями FFN.

Это класс конфигурации для хранения настроек модели MobileViTV2Model. Он используется для создания модели Mobilevitv2 в соответствии с указанными аргументами, определяя архитектуру модели. Создание конфигурации с параметрами по умолчанию даст конфигурацию, аналогичную конфигурации модели [apple/mobilevitv2-1.0](https://huggingface.co/apple/mobilevitv2-1.0)

Объекты конфигурации наследуются от [PreTrainedConfig](/docs/transformers/v5.23.0/ru/main_classes/configuration#transformers.PreTrainedConfig) и могут использоваться для управления выводами модели. Подробнее см. в документации [PreTrainedConfig](/docs/transformers/v5.23.0/ru/main_classes/configuration#transformers.PreTrainedConfig).

Пример:

```python
>>> from transformers import MobileViTV2Config, MobileViTV2Model

>>> # Initializing a mobilevitv2-small style configuration
>>> configuration = MobileViTV2Config()

>>> # Initializing a model from the mobilevitv2-small style configuration
>>> model = MobileViTV2Model(configuration)

>>> # Accessing the model configuration
>>> configuration = model.config
```

## MobileViTV2Model[[transformers.MobileViTV2Model]]

#### transformers.MobileViTV2Model[[transformers.MobileViTV2Model]]

```python
transformers.MobileViTV2Model(config: MobileViTV2Config, expand_output: bool = True)
```

[Источник](https://github.com/huggingface/transformers/blob/v5.23.0/src/transformers/models/mobilevitv2/modeling_mobilevitv2.py#L590)

**Параметры:**

config ([MobileViTV2Config](/docs/transformers/v5.23.0/ru/model_doc/mobilevitv2#transformers.MobileViTV2Config)) : Класс конфигурации модели со всеми параметрами модели. Инициализация с файлом конфигурации не загружает веса, связанные с моделью, только конфигурацию. Используйте метод [from_pretrained()](/docs/transformers/v5.23.0/ru/main_classes/model#transformers.PreTrainedModel.from_pretrained) для загрузки весов модели.

expand_output (`bool`, *необязательный*, по умолчанию `True`) : Определяет, следует ли расширять выход модели. Если `True`, модель выводит пул-фичи в дополнение к скрытым состояниям. Если `False`, возвращаются только скрытые состояния.

Модель Mobilevitv2 без дополнительных слоёв, выводящая необработанные скрытые состояния.

Эта модель наследуется от [PreTrainedModel](/docs/transformers/v5.23.0/ru/main_classes/model#transformers.PreTrainedModel). Общие методы, которые библиотека реализует для всех своих моделей (например, загрузка или сохранение, изменение размера входных эмбеддингов, обрезка головок и т. д.), описаны в документации родительского класса.

Эта модель также является подклассом [torch.nn.Module](https://pytorch.org/docs/stable/nn.html#torch.nn.Module) в PyTorch. Используйте её как обычный модуль PyTorch и обращайтесь к документации PyTorch по всем вопросам, связанным с общим использованием и поведением.

#### forward[[transformers.MobileViTV2Model.forward]]

```python
forward(pixel_values: typing.Optional[torch.Tensor] = None, output_hidden_states: bool | None = None, return_dict: bool | None = None, **kwargs)
```

[Источник](https://github.com/huggingface/transformers/blob/v5.23.0/src/transformers/models/mobilevitv2/modeling_mobilevitv2.py#L619)

**Параметры:**

pixel_values (`torch.Tensor` формы `(batch_size, num_channels, image_size, image_size)`, *необязательно*) : Тензоры, соответствующие входным изображениям. Значения пикселей можно получить с помощью [MobileViTImageProcessor](/docs/transformers/v5.23.0/ru/model_doc/mobilevit#transformers.MobileViTImageProcessor). Подробности см. в [MobileViTImageProcessor.__call__()](/docs/transformers/v5.23.0/ru/model_doc/molmo2#transformers.Molmo2ImageProcessor.__call__) (`processor_class` использует [MobileViTImageProcessor](/docs/transformers/v5.23.0/ru/model_doc/mobilevit#transformers.MobileViTImageProcessor) для обработки изображений).

output_hidden_states (`bool`, *необязательный*) : Нужно ли возвращать скрытые состояния всех слоёв. Подробнее о `hidden_states` в разделе возвращаемых тензоров.

return_dict (`bool`, *необязательный*) : Нужно ли возвращать [ModelOutput](/docs/transformers/v5.23.0/ru/main_classes/output#transformers.utils.ModelOutput) вместо обычного кортежа.

**Возвращает:** `BaseModelOutputWithPoolingAndNoAttention` или `tuple(torch.Tensor)`

Объект `BaseModelOutputWithPoolingAndNoAttention` или кортеж `torch.Tensor` (если передано `return_dict=False` или если `config.return_dict=False`), содержащий различные элементы в зависимости от конфигурации ([MobileViTV2Config](/docs/transformers/v5.23.0/ru/model_doc/mobilevitv2#transformers.MobileViTV2Config)) и входных данных.

Метод forward модели [MobileViTV2Model](/docs/transformers/v5.23.0/ru/model_doc/mobilevitv2#transformers.MobileViTV2Model) переопределяет специальный метод `__call__`.

Хотя рецепт для прямого прохода должен быть определён внутри этой функции, после этого следует вызывать экземпляр `Module`, а не эту функцию, поскольку первый выполняет шаги предварительной и постобработки, тогда как второй молча их игнорирует.

- **last_hidden_state** (`torch.Tensor` формы `(batch_size, num_channels, height, width)`) -- Последовательность скрытых состояний на выходе последнего слоя модели.
- **pooler_output** (`torch.Tensor` формы `(batch_size, hidden_size)`) -- Скрытое состояние последнего слоя после операции пулинга по пространственным измерениям.
- **hidden_states** (`tuple(torch.Tensor)`, *необязательный*, возвращается при передаче `output_hidden_states=True` или когда `config.output_hidden_states=True`) -- Кортеж `torch.Tensor` (один для вывода слоя встраиваний, если модель имеет слой встраиваний, + один для вывода каждого слоя) формы `(batch_size, num_channels, height, width)`.

  Скрытые состояния модели на выходе каждого слоя, а также необязательные выходные значения начального слоя встраивания.

Пример:

```python
```

## MobileViTV2ForImageClassification[[transformers.MobileViTV2ForImageClassification]]

#### transformers.MobileViTV2ForImageClassification[[transformers.MobileViTV2ForImageClassification]]

```python
transformers.MobileViTV2ForImageClassification(config: MobileViTV2Config)
```

[Источник](https://github.com/huggingface/transformers/blob/v5.23.0/src/transformers/models/mobilevitv2/modeling_mobilevitv2.py#L669)

**Параметры:**

config ([MobileViTV2Config](/docs/transformers/v5.23.0/ru/model_doc/mobilevitv2#transformers.MobileViTV2Config)) : Класс конфигурации модели со всеми параметрами модели. Инициализация с файлом конфигурации не загружает веса, связанные с моделью, только конфигурацию. Используйте метод [from_pretrained()](/docs/transformers/v5.23.0/ru/main_classes/model#transformers.PreTrainedModel.from_pretrained) для загрузки весов модели.

Модель MobileViTV2 с головой для классификации изображений (линейный слой поверх пул-функции), например, для ImageNet.

Эта модель наследуется от [PreTrainedModel](/docs/transformers/v5.23.0/ru/main_classes/model#transformers.PreTrainedModel). Общие методы, которые библиотека реализует для всех своих моделей (например, загрузка или сохранение, изменение размера входных эмбеддингов, обрезка головок и т. д.), описаны в документации родительского класса.

Эта модель также является подклассом [torch.nn.Module](https://pytorch.org/docs/stable/nn.html#torch.nn.Module) в PyTorch. Используйте её как обычный модуль PyTorch и обращайтесь к документации PyTorch по всем вопросам, связанным с общим использованием и поведением.

#### forward[[transformers.MobileViTV2ForImageClassification.forward]]

```python
forward(pixel_values: typing.Optional[torch.Tensor] = None, output_hidden_states: bool | None = None, labels: typing.Optional[torch.Tensor] = None, return_dict: bool | None = None, **kwargs)
```

[Источник](https://github.com/huggingface/transformers/blob/v5.23.0/src/transformers/models/mobilevitv2/modeling_mobilevitv2.py#L687)

**Параметры:**

pixel_values (`torch.Tensor` формы `(batch_size, num_channels, image_size, image_size)`, *необязательно*) : Тензоры, соответствующие входным изображениям. Значения пикселей можно получить с помощью [MobileViTImageProcessor](/docs/transformers/v5.23.0/ru/model_doc/mobilevit#transformers.MobileViTImageProcessor). Подробности см. в [MobileViTImageProcessor.__call__()](/docs/transformers/v5.23.0/ru/model_doc/molmo2#transformers.Molmo2ImageProcessor.__call__) (`processor_class` использует [MobileViTImageProcessor](/docs/transformers/v5.23.0/ru/model_doc/mobilevit#transformers.MobileViTImageProcessor) для обработки изображений).

output_hidden_states (`bool`, *необязательный*) : Нужно ли возвращать скрытые состояния всех слоёв. Подробнее о `hidden_states` в разделе возвращаемых тензоров.

labels (`torch.LongTensor` формы `(batch_size,)`, *необязательный*) : Метки для вычисления потерь классификации/регрессии изображений. Индексы должны находиться в диапазоне `[0, ..., config.num_labels - 1]`. Если `config.num_labels == 1`, вычисляется потеря регрессии (среднеквадратичная потеря), если `config.num_labels > 1`, вычисляется потеря классификации (кросс-энтропия).

return_dict (`bool`, *необязательный*) : Нужно ли возвращать [ModelOutput](/docs/transformers/v5.23.0/ru/main_classes/output#transformers.utils.ModelOutput) вместо обычного кортежа.

**Возвращает:** [ImageClassifierOutputWithNoAttention](/docs/transformers/v5.23.0/ru/main_classes/output#transformers.modeling_outputs.ImageClassifierOutputWithNoAttention) или `tuple(torch.Tensor)`

Объект [ImageClassifierOutputWithNoAttention](/docs/transformers/v5.23.0/ru/main_classes/output#transformers.modeling_outputs.ImageClassifierOutputWithNoAttention) или кортеж `torch.Tensor` (если передано `return_dict=False` или если `config.return_dict=False`), содержащий различные элементы в зависимости от конфигурации ([MobileViTV2Config](/docs/transformers/v5.23.0/ru/model_doc/mobilevitv2#transformers.MobileViTV2Config)) и входных данных.

Метод forward класса [MobileViTV2ForImageClassification](/docs/transformers/v5.23.0/ru/model_doc/mobilevitv2#transformers.MobileViTV2ForImageClassification) переопределяет специальный метод `__call__`.

Хотя рецепт для прямого прохода должен быть определён внутри этой функции, после этого следует вызывать экземпляр `Module`, а не эту функцию, поскольку первый выполняет шаги предварительной и постобработки, тогда как второй молча их игнорирует.

- **loss** (`torch.Tensor` формы `(1,)`, *необязательный*, возвращается, если задан `labels`) -- Потери классификации (или регрессии, если config.num_labels==1).
- **logits** (`torch.Tensor` формы `(batch_size, config.num_labels)`) — Оценки классификации (или регрессии, если config.num_labels==1) до применения SoftMax.
- **hidden_states** (`tuple(torch.Tensor)`, *необязательный*, возвращается при передаче `output_hidden_states=True` или при `config.output_hidden_states=True`) -- Кортеж `torch.Tensor` (один для вывода слоя встраиваний, если модель имеет слой встраиваний, + один для вывода каждого этапа) формы `(batch_size, num_channels, height, width)`. Скрытые состояния (также называемые картами признаков) модели на выходе каждого этапа.

Пример:

```python
>>> from transformers import AutoImageProcessor, MobileViTV2ForImageClassification
>>> import torch
>>> from datasets import load_dataset

>>> dataset = load_dataset("huggingface/cats-image")
>>> image = dataset["test"]["image"][0]

>>> image_processor = AutoImageProcessor.from_pretrained("apple/mobilevitv2-1.0")
>>> model = MobileViTV2ForImageClassification.from_pretrained("apple/mobilevitv2-1.0")

>>> inputs = image_processor(image, return_tensors="pt")

>>> with torch.no_grad():
...     logits = model(**inputs).logits

>>> # model predicts one of the 1000 ImageNet classes
>>> predicted_label = logits.argmax(-1).item()
>>> print(model.config.id2label[predicted_label])
...
```

## MobileViTV2ForSemanticSegmentation[[transformers.MobileViTV2ForSemanticSegmentation]]

#### transformers.MobileViTV2ForSemanticSegmentation[[transformers.MobileViTV2ForSemanticSegmentation]]

```python
transformers.MobileViTV2ForSemanticSegmentation(config: MobileViTV2Config)
```

[Источник](https://github.com/huggingface/transformers/blob/v5.23.0/src/transformers/models/mobilevitv2/modeling_mobilevitv2.py#L838)

**Параметры:**

config ([MobileViTV2Config](/docs/transformers/v5.23.0/ru/model_doc/mobilevitv2#transformers.MobileViTV2Config)) : Класс конфигурации модели со всеми параметрами модели. Инициализация с файлом конфигурации не загружает веса, связанные с моделью, только конфигурацию. Используйте метод [from_pretrained()](/docs/transformers/v5.23.0/ru/main_classes/model#transformers.PreTrainedModel.from_pretrained) для загрузки весов модели.

Модель MobileViTV2 с головой семантической сегментации, например, для Pascal VOC.

Эта модель наследуется от [PreTrainedModel](/docs/transformers/v5.23.0/ru/main_classes/model#transformers.PreTrainedModel). Общие методы, которые библиотека реализует для всех своих моделей (например, загрузка или сохранение, изменение размера входных эмбеддингов, обрезка головок и т. д.), описаны в документации родительского класса.

Эта модель также является подклассом [torch.nn.Module](https://pytorch.org/docs/stable/nn.html#torch.nn.Module) в PyTorch. Используйте её как обычный модуль PyTorch и обращайтесь к документации PyTorch по всем вопросам, связанным с общим использованием и поведением.

#### forward[[transformers.MobileViTV2ForSemanticSegmentation.forward]]

```python
forward(pixel_values: typing.Optional[torch.Tensor] = None, labels: typing.Optional[torch.Tensor] = None, output_hidden_states: bool | None = None, return_dict: bool | None = None, **kwargs)
```

[Источник](https://github.com/huggingface/transformers/blob/v5.23.0/src/transformers/models/mobilevitv2/modeling_mobilevitv2.py#L849)

**Параметры:**

pixel_values (`torch.Tensor` формы `(batch_size, num_channels, image_size, image_size)`, *необязательно*) : Тензоры, соответствующие входным изображениям. Значения пикселей можно получить с помощью [MobileViTImageProcessor](/docs/transformers/v5.23.0/ru/model_doc/mobilevit#transformers.MobileViTImageProcessor). Подробности см. в [MobileViTImageProcessor.__call__()](/docs/transformers/v5.23.0/ru/model_doc/molmo2#transformers.Molmo2ImageProcessor.__call__) (`processor_class` использует [MobileViTImageProcessor](/docs/transformers/v5.23.0/ru/model_doc/mobilevit#transformers.MobileViTImageProcessor) для обработки изображений).

labels (`torch.LongTensor` формы `(batch_size, height, width)`, *необязательный*) : Карты семантической сегментации для вычисления функции потерь. Индексы должны находиться в диапазоне `[0, ..., config.num_labels - 1]`. Если `config.num_labels > 1`, вычисляется функция потерь классификации (Cross-Entropy).

output_hidden_states (`bool`, *необязательный*) : Нужно ли возвращать скрытые состояния всех слоёв. Подробнее о `hidden_states` в разделе возвращаемых тензоров.

return_dict (`bool`, *необязательный*) : Нужно ли возвращать [ModelOutput](/docs/transformers/v5.23.0/ru/main_classes/output#transformers.utils.ModelOutput) вместо обычного кортежа.

**Возвращает:** [SemanticSegmenterOutput](/docs/transformers/v5.23.0/ru/main_classes/output#transformers.modeling_outputs.SemanticSegmenterOutput) или `tuple(torch.Tensor)`

Объект [SemanticSegmenterOutput](/docs/transformers/v5.23.0/ru/main_classes/output#transformers.modeling_outputs.SemanticSegmenterOutput) или кортеж из `torch.Tensor` (если передано `return_dict=False` или если `config.return_dict=False`), содержащий различные элементы в зависимости от конфигурации ([MobileViTV2Config](/docs/transformers/v5.23.0/ru/model_doc/mobilevitv2#transformers.MobileViTV2Config)) и входных данных.

Метод forward класса [MobileViTV2ForSemanticSegmentation](/docs/transformers/v5.23.0/ru/model_doc/mobilevitv2#transformers.MobileViTV2ForSemanticSegmentation) переопределяет специальный метод `__call__`.

Хотя рецепт для прямого прохода должен быть определён внутри этой функции, после этого следует вызывать экземпляр `Module`, а не эту функцию, поскольку первый выполняет шаги предварительной и постобработки, тогда как второй молча их игнорирует.

- **loss** (`torch.Tensor` формы `(1,)`, *необязательный*, возвращается, если задан `labels`) -- Потери классификации (или регрессии, если config.num_labels==1).
- **logits** (`torch.Tensor` формы `(batch_size, config.num_labels, logits_height, logits_width)`) — Оценки классификации для каждого пикселя.

  

  Возвращаемые logits не обязательно имеют тот же размер, что и переданные на вход `pixel_values`. Это сделано для того, чтобы избежать двух интерполяций и потери качества, когда пользователю необходимо изменить размер logits до исходного размера изображения на этапе постобработки. Всегда проверяйте форму logits и изменяйте размер по мере необходимости.

  
- **hidden_states** (`tuple(torch.Tensor)`, *необязательный*, возвращается при передаче `output_hidden_states=True` или когда `config.output_hidden_states=True`) -- Кортеж `torch.Tensor` (один для вывода слоя встраиваний, если модель имеет слой встраиваний, + один для вывода каждого слоя) формы `(batch_size, patch_size, hidden_size)`.

  Скрытые состояния модели на выходе каждого слоя, а также необязательные выходные значения начального слоя встраивания.
- **attentions** (`tuple(torch.Tensor)`, *необязательный*, возвращается, если передано `output_attentions=True` или если `config.output_attentions=True`) -- Кортеж `torch.Tensor` (по одному на каждый слой) формы `(batch_size, num_heads, patch_size, sequence_length)`.

  Веса внимания после softmax в механизме внимания, используемые для вычисления взвешенного среднего в головах само-внимания.

Примеры:

```python
>>> from huggingface_hub.utils import httpx
>>> from io import BytesIO
>>> import torch
>>> from PIL import Image
>>> from transformers import AutoImageProcessor, MobileViTV2ForSemanticSegmentation

>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> with httpx.stream("GET", url) as response:
...     image = Image.open(BytesIO(response.read()))

>>> image_processor = AutoImageProcessor.from_pretrained("apple/mobilevitv2-1.0-imagenet1k-256")
>>> model = MobileViTV2ForSemanticSegmentation.from_pretrained("apple/mobilevitv2-1.0-imagenet1k-256")

>>> inputs = image_processor(images=image, return_tensors="pt")

>>> with torch.no_grad():
...     outputs = model(**inputs)

>>> # logits are of shape (batch_size, num_labels, height, width)
>>> logits = outputs.logits
```

