Mô hình này được công bố trên HF papers vào ngày 2015-12-10 và được đóng góp cho Hugging Face Transformers vào ngày 2022-03-14.

ResNet

Tổng quan

Mô hình ResNet được đề xuất trong Deep Residual Learning for Image Recognition bởi Kaiming He, Xiangyu Zhang, Shaoqing Ren và Jian Sun. Bản triển khai của chúng tôi tuân theo những thay đổi nhỏ do Nvidia thực hiện, chúng tôi áp dụng stride=2 cho việc giảm mẫu trong conv 3x3 của bottleneck thay vì trong conv 1x1 đầu tiên. Điều này thường được biết đến với tên “ResNet v1.5”.

ResNet đã giới thiệu các kết nối dư, cho phép huấn luyện các mạng với số lượng lớp chưa từng thấy (lên đến 1000). ResNet đã giành chiến thắng trong cuộc thi ILSVRC & COCO năm 2015, một cột mốc quan trọng trong thị giác máy tính sâu.

Tóm tắt từ bài báo như sau:

Mạng nơ-ron sâu hơn khó huấn luyện hơn. Chúng tôi trình bày một khung học tập dư thừa (residual learning) để giảm bớt khó khăn trong việc huấn luyện các mạng sâu hơn đáng kể so với các mạng được sử dụng trước đó. Chúng tôi tái định dạng rõ ràng các lớp để học các hàm dư thừa với tham chiếu đến đầu vào của lớp, thay vì học các hàm không có tham chiếu. Chúng tôi cung cấp bằng chứng thực nghiệm toàn diện cho thấy các mạng dư thừa này dễ tối ưu hơn và có thể đạt được độ chính xác cao hơn từ độ sâu tăng lên đáng kể. Trên bộ dữ liệu ImageNet, chúng tôi đánh giá các mạng dư thừa với độ sâu lên đến 152 lớp---sâu gấp 8 lần so với mạng VGG nhưng vẫn có độ phức tạp thấp hơn. Một tập hợp (ensemble) các mạng dư thừa này đạt được lỗi 3,57% trên bộ kiểm tra ImageNet. Kết quả này đã giành giải nhất trong nhiệm vụ phân loại ILSVRC 2015. Chúng tôi cũng trình bày phân tích trên CIFAR-10 với 100 và 1000 lớp. Độ sâu của các biểu diễn có tầm quan trọng trung tâm đối với nhiều nhiệm vụ nhận dạng thị giác. Hoàn toàn nhờ vào các biểu diễn cực kỳ sâu của chúng tôi, chúng tôi đạt được cải thiện tương đối 28% trên bộ dữ liệu phát hiện đối tượng COCO. Các mạng dư thừa sâu là nền tảng cho các bài nộp của chúng tôi trong các cuộc thi ILSVRC & COCO 2015, nơi chúng tôi cũng giành giải nhất trong các nhiệm vụ phát hiện ImageNet, định vị ImageNet, phát hiện COCO và phân đoạn COCO.

Hình dưới đây minh họa kiến trúc của ResNet. Trích từ bài báo gốc.

Mô hình này được đóng góp bởi Francesco. Mã gốc có thể được tìm thấy tại đây.

Tài nguyên

Danh sách các tài nguyên chính thức của Hugging Face và cộng đồng (được đánh dấu bằng 🌎) để giúp bạn bắt đầu với ResNet.

• ResNetForImageClassification được hỗ trợ bởi notebook này.
• Xem thêm: Hướng dẫn tác vụ phân loại hình ảnh

Nếu bạn quan tâm đến việc gửi một tài nguyên để được đưa vào đây, hãy thoải mái mở một Pull Request và chúng tôi sẽ xem xét! Lý tưởng nhất là tài nguyên nên minh họa một điều gì đó mới thay vì sao chép một tài nguyên hiện có.

ResNetConfig

>>> from transformers import ResNetConfig, ResNetModel

>>> # Initializing a ResNet resnet-50 style configuration
>>> configuration = ResNetConfig()

>>> # Initializing a model (with random weights) from the resnet-50 style configuration
>>> model = ResNetModel(configuration)

>>> # Accessing the model configuration
>>> configuration = model.config

ResNetModel

ResNetForImageClassification

>>> from transformers import AutoImageProcessor, ResNetForImageClassification
>>> import torch
>>> from datasets import load_dataset

>>> dataset = load_dataset("huggingface/cats-image")
>>> image = dataset["test"]["image"][0]

>>> image_processor = AutoImageProcessor.from_pretrained("microsoft/resnet-50")
>>> model = ResNetForImageClassification.from_pretrained("microsoft/resnet-50")

>>> inputs = image_processor(image, return_tensors="pt")

>>> with torch.no_grad():
...     logits = model(**inputs).logits

>>> # model predicts one of the 1000 ImageNet classes
>>> predicted_label = logits.argmax(-1).item()
>>> print(model.config.id2label[predicted_label])
...