Transfer pembelajaran dengan model CNN ResNet50 yang disempurnakan untuk klasifikasi
COVID-19 dari gambar rontgen dada
Md.Belal Hossain a , SM Hasan Sazzad Iqbala, Md.Monirul Islam ,bMd.Nasim Akhtar c,
Iqbal H. Sarker d,ÿ
A
Departemen Ilmu dan Teknik Komputer, Universitas Sains dan Teknologi Pabna, Pabna 6600, Bangladesh
B
Departemen Teknik Tekstil, Universitas Uttara, Dhaka 1230, Bangladesh
C
Departemen Ilmu dan Teknik Komputer, Universitas Teknologi Teknik Dhaka, Gazipur, 1707, Bangladesh
D
Departemen Ilmu dan Teknik Komputer, Universitas Teknik & Teknologi Chittagong, Chittagong 4349, Bangladesh
Kata kunci: Kasus COVID-19 memberi tekanan pada sistem perawatan kesehatan di seluruh dunia. Karena kurangnya alat tes yang
Pembelajaran mendalam tersedia, tidak praktis untuk melakukan skrining setiap pasien dengan penyakit pernapasan menggunakan metode
Mentransfer pembelajaran
tradisional (RT-PCR). Selain itu, tes memiliki waktu penyelesaian yang tinggi dan sensitivitas yang rendah. Mendeteksi
ResNet50
dugaan infeksi COVID-19 dari rontgen dada dapat membantu mengisolasi orang berisiko tinggi sebelum tes RT-PCR.
COVID 19
Sebagian besar sistem perawatan kesehatan sudah memiliki peralatan sinar-X, dan karena sebagian besar sistem sinar-X
saat ini sudah terkomputerisasi, tidak perlu mentransfer sampel. Penggunaan rontgen dada untuk memprioritaskan
pemilihan pasien untuk pengujian RT-PCR selanjutnya adalah motivasi dari pekerjaan ini. Transfer learning (TL) dengan fine-
tuning pada model ResNet50 berbasis jaringan saraf konvolusional dalam telah diusulkan dalam pekerjaan ini untuk
mengklasifikasikan pasien COVID 19 dari Database Radiografi COVID-19. Sepuluh bobot pra-pelatihan yang berbeda, dilatih
pada berbagai kumpulan data skala besar menggunakan berbagai pendekatan seperti pembelajaran yang diawasi,
2021_
pembelajaran yang diawasi sendiri, dan lainnya, telah digunakan dalam pekerjaan_ ini. Model _1 yang kami usulkan , dilatih
sebelumnya pada kumpulan data iNat2021 Mini menggunakan algoritme SwaV, mengungguli model TL ResNet50 lainnya.
Untuk kasus COVID dalam klasifikasi dua kelas (Covid dan Normal), pekerjaan kami mencapai akurasi validasi 99,17%,
akurasi kereta 99,95%, presisi 99,31%, sensitivitas 99,03%, dan skor F1 99,17%. Beberapa model yang diadaptasi domain ÿ
_ ÿ 14) dan dalam domain (ChexPert, ChestX-ray14) tampak menjanjikan dalam citra medis ( klasifikasi dengan
skor yang jauh lebih tinggi daripada model lain.
ÿ
Penulis yang sesuai.
Alamat email: iqbal@cuet.ac.bd (IH Sarker).
https://doi.org/10.1016/j.imu.2022.100916 Diterima
30 Januari 2022; Diterima dalam bentuk revisi 7 Maret 2022; Diterima 9 Maret 2022 Tersedia online 19 Maret
2022 2352-9148/© 2022 Para Penulis.
Diterbitkan oleh Elsevier Ltd. Ini adalah artikel akses terbuka di bawah lisensi CC BY-NC-ND (http://creativecommons.org/licenses/by nc-nd/4.0/).
Machine Translated by Google
jenis penyakit paru menular dan radang lainnya memiliki kesamaan pencitraan yang Tabel 1
Database radiografi COVID-19.
signifikan. Oleh karena itu tidak mudah untuk membedakan antara COVID-19 dan
Covid Opasitas paru-paru Pneumonia virus Normal Total
pneumonia virus lainnya. Ahli radiologi juga dapat membutuhkan waktu lama untuk
mengidentifikasi karakteristiknya. Selain itu, pembacaan gambar CT secara manual adalah 3616 6012 1345 10 192 21 165
tugas yang panjang dan melelahkan, yang pada gilirannya menyebabkan kesalahan
manusia. Dengan demikian, teknologi yang menggunakan analisis otomatis berbasis
kecerdasan buatan (AI) dapat membantu ahli radiologi dalam menganalisis COVID-19 dari citra CT.
dari 86%. Nardelli dkk. [32] menggunakan CNN 3-D untuk mengkategorikan arteri-vena
Pencapaian penting dalam AI adalah deep learning (DL) [11]. Convolutional Neural
paru CT dada. Untuk mengklasifikasikan gambar CT dari penyakit paru interstitial, CNN
Network (CNN) adalah salah satu arsitektur khas DL [12]. Karena karakteristiknya yang
yang dalam diterapkan [33]. Pendekatan TL diterapkan pada model VGG16 dan ResNet50
kuat [13-17], CNN banyak diterapkan di bidang kesehatan. Teknik CNN dapat membantu
untuk mengklasifikasikan COVID-19, infeksi pneumonia, dan tanpa infeksi [34]. Studi
dalam deteksi dan klasifikasi COVID-19 yang akurat seiring dengan penerapan pencitraan
menunjukkan akurasi 97,67% menggunakan model VGG16 TL pada dataset radiografi
radiologi [18]. Gambar CNN terbaru dari COVID-19 dan Non-COVID-19 telah diklasifikasikan
Covid-19. CNN CoroNet yang dalam [35] diusulkan dan menunjukkan akurasi 89% pada
menggunakan pendekatan CT-Classification [19-22].
gambar rontgen dada untuk klasifikasi 4 kelas termasuk kelas COVID-19. DarkCovid Net
[18], model dalam diusulkan pada gambar sinar-X dada. Model CNN DeTraC [36] yang
dalam diusulkan untuk mengklasifikasikan gambar rontgen dada COVID-19 dan
Eksperimen kami menggunakan metode transfer learning (TL) [12] pada model CNN
menunjukkan akurasi 93,1%.
terkenal bernama ResNet50 untuk membangun model deteksi COVID-19 kami. Kami
menggunakan 10 bobot pra-terlatih yang berbeda dan semua bobot model ResNet50
Berbeda dengan studi di atas, dalam karya ini, kami mengusulkan model ResNet50
tersebut dilatih pada kumpulan data gambar yang berbeda.
yang disetel dengan baik yang menerapkan teknik pembelajaran transfer untuk
Kami menggunakan bobot yang telah dilatih sebelumnya dan menerapkan pendekatan
mengklasifikasikan COVID-19 secara efektif dari gambar rontgen dada, di mana kami telah
pembelajaran transfer pada kumpulan data gambar sinar-X dada yang berbeda untuk
memodifikasi model ResNet50 dengan menambahkan dua lapisan ekstra yang sepenuhnya
mengklasifikasikan pasien Covid atau Normal. Beberapa model pra-pelatihan bekerja
terhubung daripada standar Model ResNet50.
dengan sangat baik dan kami menemukan beberapa wawasan tentang pendekatan TL
untuk sistem klasifikasi citra medis terutama pada citra sinar-X dada. Kami menerapkan
3. Usulan metodologi
penyempurnaan pada model ResNet50 untuk kinerja yang lebih baik. Pekerjaan ini
mencapai akurasi lebih dari 99% untuk mengklasifikasikan pasien Covid dan Normal pada
Dalam karya ini, kami mengusulkan metode pembelajaran transfer untuk
gambar rontgen dada. Kontribusi pekerjaan kami adalah sebagai berikut:
mengklasifikasikan pasien Covid vs Normal dari gambar rontgen dada dengan
• Kami mengusulkan model ResNet50 yang disempurnakan yang menerapkan teknik memanfaatkan berbagai bobot model ResNet50 TL yang telah dilatih sebelumnya. Diagram
pembelajaran transfer dengan sepuluh bobot berbeda yang telah dilatih metode yang diusulkan digambarkan pada Gambar. 1.
sebelumnya untuk mengklasifikasikan COVID-19 dari gambar rontgen dada. Dataset gambar rontgen dada digunakan dan kami membagi dataset secara acak
• Kami telah memodifikasi model ResNet50 dengan menambahkan dua lapisan ekstra menjadi set pelatihan dan pengujian (validasi). Transformasi data diterapkan tanpa
yang terhubung sepenuhnya daripada model ResNet50 default untuk menerapkan augmentasi data. Sepuluh bobot model ResNet50 pra-pelatihan yang berbeda digunakan
penyempurnaan dalam tugas kami. yang dilatih pada berbagai jenis dataset gambar alam dan medis. Model ResNet50 [37]
• Kami melakukan eksperimen pada set data Radiografi COVID-19 dengan telah dimuat dengan bobot yang telah dilatih sebelumnya ini dengan menyempurnakan
menggunakan anak timbangan yang telah dilatih sebelumnya yang dilatih pada model untuk kinerja yang lebih baik.
berbagai set data berskala besar dan dibandingkan dengan model yang ada untuk Kemudian pelatihan dan evaluasi diterapkan pada model TL ResNet50 yang disempurnakan
menunjukkan keefektifan model yang diusulkan. ini. Setelah pelatihan dan evaluasi dilakukan, kami membandingkan model TL ini dan
mengusulkan model TL ResNet50 terbaik yang telah disesuaikan.
Sisa kertas disusun sebagai berikut. Di Bagian 2, kami menyajikan tinjauan literatur
Akhirnya, gambar sinar-X dada dimasukkan ke dalam model yang diusulkan dan
singkat. Metodologi yang diusulkan dinyatakan dalam Bagian 3, yang juga menjelaskan
memberikan keluaran yang diprediksi sebagai Covid atau Normal menggunakan klasifikasi
Penyiapan eksperimental, Pelatihan Model, dan Evaluasi. Analisis hasil dan pembahasan
biner.
disajikan pada Bagian 4. Terakhir, Bagian 5 menyimpulkan makalah.
2. Tinjauan literatur
Para peneliti menggunakan Basis Data Radiografi COVID-19 untuk melakukan
Belakangan ini banyak peneliti yang melakukan penelitian di bidang medis khususnya eksperimen [38,39]. Sebuah tim peneliti dan kolaborator dengan dokter medis membuat
teknik pengolahan citra medis. Mereka menggunakan teknik pembelajaran mesin (ML) database ini dari berbagai sumber internasional pada rentang waktu yang berbeda [14,40–
dan teknik DL dan sebagainya. Alat ML diterima secara luas sebagai alat yang menonjol 42]. Ada empat kategori (Covid, Lung Opacity, Viral Pneumonia, dan Normal) gambar
untuk meningkatkan prediksi dan diagnosis banyak penyakit [23,24]. Namun, untuk rontgen dada (CXR) dalam database ini. Semua gambar beresolusi 299 × 299 piksel dan
mendapatkan model ML yang lebih baik, diperlukan teknik ekstraksi yang efisien. Dalam dalam format file Portable Network Graphics (PNG). Gambar dalam skala abu-abu memiliki
sistem pencitraan medis, model DL diterima secara luas karena dapat secara otomatis tiga saluran yang berisi nilai RGB berulang.
mengekstraksi fitur atau menggunakan beberapa jaringan pra-terlatih seperti ResNet [25].
Pada [26], model VGG16 diusulkan untuk mengklasifikasikan pneumonia COVID-19 dan
pneumonia non-COVID-19 pada gambar rontgen dada. Dalam [27], penulis menggunakan Tabel 1 menyajikan jumlah gambar dari kelas yang berbeda dalam Database Radiografi
nodul paru pada gambar CT melalui jaringan konvolusi multifaset. Jaringan yang dalam COVID-19. Jumlah gambar tidak seimbang untuk keempat kelas konsep. Dua kelas dari
[28] digunakan untuk mensegmentasi gambar CT abdomen oleh lawan yang dalam. Penulis empat kelas yang terdiri dari Covid dan Normal digunakan dalam pekerjaan kami. Untuk
menggunakan CNN 3-D pada CT Dada untuk mendeteksi nodul dada [29]. Untuk membuat dataset seimbang, kami memilih subset dari kelas Normal.
mengklasifikasikan plak arteri koroner dan stenosis pada CT Koroner, penulis menerapkan
prosedur klasifikasi menggunakan CNN berulang [30]. Model CNN baru diusulkan untuk Tabel 2 menyajikan jumlah citra yang digunakan untuk rangkaian latih dan uji (validasi)
klasifikasi gambar sinar-X dada [31]. dari dua kelas yang berbeda. Kami membagi dataset menjadi dua set set kereta dan set uji
atau validasi dengan memilih gambar secara acak dengan proporsi masing-masing 80%
dan 20%. Set kereta digunakan untuk pelatihan model dan set tes digunakan untuk
Karena model CNN terlatih diketahui menghadirkan masalah praktis, penulis memvalidasi model.
mengembangkan arsitektur CNN yang dangkal. Para penulis telah menggunakan dataset Beberapa gambar CXR pasien Covid dan Normal dari kumpulan data ini ditunjukkan pada
citra rontgen dada kelas 12 dengan akurasi terukur Gambar. 2 dan 3.
2
Machine Translated by Google
3
Machine Translated by Google
MB Hossain dkk.
Informatika dalam Kedokteran Tidak Terkunci 30 (2022) 100916
1024 kernel) masing-masing diulang enam kali dan tiga lapisan konv dengan probabilitas 0,5 diterapkan. Lapisan fc terakhir terdiri dari 2048
lainnya (1 × 1, 512 kernel), (3 × 3, 512 kernel) dan (1 × 1, 2048 kernel) fitur dan hanya 2 fitur keluar untuk klasifikasi dua kelas (Covid vs Normal).
masing-masing diulang 3 kali. Kemudian polling rata-rata (kumpulan rata-
rata) diterapkan. Sebagian besar lapisan tersembunyi menggunakan Dalam karya ini, kami bereksperimen dengan pembelajaran transfer
Normalisasi Batch, dan ReLU diikuti oleh lapisan konv. Lapisan terakhir dari 10 bobot berbeda yang telah dilatih sebelumnya dari model ResNet50.
dari model ResNet50 asli adalah lapisan (fc) yang terhubung sepenuhnya Bobot pra-pelatihan ini dihasilkan dari kumpulan data yang berbeda.
dengan 1000 fitur luar (untuk kelas 1000). Kami menyempurnakan model Dataset ini memiliki banyak variasi. Saat kami bereksperimen dengan
ResNet50 dengan mengganti lapisan fc ini dengan satu set lapisan fc. kumpulan data gambar medis. Gambar medis (rontgen dada) sangat berbeda dari gam
Lapisan fc pertama memiliki 2048 fitur keluar, kemudian diterapkan Para peneliti sedang bereksperimen pada berbagai aspek pembelajaran
dropout dengan probabilitas 0,5. Lapisan fc kedua sama dengan lapisan fc pertama.
transfer
Setelah
untuk
lapisan
gambarfc medis
kedua,seperti
ReLU dan
rontgen
dropout
dada dan gambar CT scan. Diawasi
4
Machine Translated by Google
Tabel 3 bahwa model pra-pelatihan pada data berbutir halus cocok untuk analisis
Arsitektur untuk ResNet50 TL yang telah disempurnakan yang diusulkan. Blok bangunan
medis dan pra-pelatihan berkelanjutan dapat mengurangi kesenjangan
ditampilkan dalam tanda kurung, dengan jumlah blok yang ditumpuk. Downsampling dilakukan
oleh conv3_1, conv4_1, dan conv5_1 dengan langkah 2.
domain antara citra alam dan medis. The iNat dan NeWT adalah dua koleksi
konv3_x 28 × 28 [1 × 1, 128 3
× 3, 128 1 × 3.2.1. ChestX-ray14
1, 512] × 4 Pemberat pra-pelatihan ini adalah model ResNet50 dalam domain yang
konv4_x 14 × 14 [1 × 1, 256 dilatih pada dataset ChestX-ray14 [51] terdiri dari 112K gambar frontal-
3 × 3, 256 1
view chest X ray dari 30K pasien unik. Informasi rinci tentang bobot yang
× 1, 1024] × 6
telah dilatih sebelumnya ini dapat ditemukan di Taher et al. [49].
konv5_x 7×7 [1 × 1, 512 3
× 3, 512 1 ×
1, 2048] × 3 3.2.2. ChexPert
Kumpulan Bobot terlatih ini adalah model ResNet50 dalam domain yang dilatih
fc1 1×1
rata-rata in_features = 2048, out_features = 2048 pada dataset ChexPert skala besar yang tersedia untuk umum [52] yang
fc2 1×1
Putus terdiri dari gambar rontgen dada 224K dari 65K pasien. Detail tentang
sekolah 0,5 in_features = 2048, out_features = 2048 bobot yang telah dilatih sebelumnya ini dapat ditemukan di Taher et al. [49].
relu, putus 0,5
fc3 1×1
in_features = 2048, out_features=2
3.2.3. ImageNet
Bobot pra-pelatihan ini adalah model ResNet50 yang dilatih pada
kumpulan data ImageNet yang terkenal [53]. Bobot pra-pelatihan ini dimuat
model pembelajaran transfer yang dilatih pada dataset ImageNet telah dari koleksi model pra-pelatihan framework PyTorch (
sering digunakan dalam analisis citra medis. Studi terbaru [49] mengusulkan ÿ. . _ ).
5
Machine Translated by Google
Gambar 7. Latih dan validasi kerugian dan akurasi semua model TL ResNet50.
3.2.5. 2021_ _ _
_ ÿ
beratnya adalah 2021_
Ini juga merupakan bobot model ResNet50 pra-terlatih yang diadaptasi domain
yang dilatih pada dua kumpulan data yang berbeda. Model ini diinisialisasi
3.2.9. _ 1
dengan bobot ImageNet yang telah dilatih sebelumnya dan kemudian dilatih lagi
Salah satu metode self-supervised learning (SSL) adalah MoCo (Momen tum
pada dataset ChexPert [49].
Contrast) v1. Ini adalah metode pembelajaran kontrastif. Bobot model ResNet50
pra-pelatihan yang dilatih pada kumpulan data ImageNet menggunakan MoCo v1
3.2.6. 2021_
dikumpulkan [55]. Bobot ini dilatih selama 200 zaman.
iNat2021 [50] adalah kumpulan data alam berskala besar yang terdiri dari 2,7
juta gambar dari 10 ribu spesies berbeda. Bobot model ResNet50 terawasi pra-
pelatihan ini dikumpulkan. Bobot pra-pelatihan ini diunduh secara manual dari 3.2.10. 2
_
sumber yang diberikan pada kertas itu dan nama file bobotnya adalah 2021_ . Metode SSL _ 2 adalah versi perbaikan dari 1. _
Model ini diinisialisasi dengan bobot ImageNet yang
_ . ÿ. dilatih sebelumnya, lalu
telah
Bobot model ResNet50 TL pra-pelatihan yang dilatih pada kumpulan data ImageNet
dilatih pada kumpulan data iNat2021. menggunakan 2 dikumpulkan dari makalah penelitian [55,56] ini. Bobot ini dilatih
_
6
Machine Translated by Google
paket pembelajaran mesin yang sebagian besar dibuat oleh departemen Riset AI Tabel 4
Facebook. Pemuat data PyTorch digunakan untuk memuat data dengan ukuran Hyperparameter model ResNet50 TL.
Parameter Nilai parameter
batch 32. Kami menggunakan konfigurasi yang sama dan kumpulan data yang sama
untuk semua model. Set data diunduh dari set data Kaggle (Database Radiografi Ukuran batch 32
Pengoptimal adam
COVID 19) menggunakan Kaggle API. Google drive digunakan untuk menyimpan
Tingkat pembelajaran 0,001
nama file set data serta titik pemeriksaan model terlatih.
Beta (0.9, 0.999)
Teknik pelatihan berulang diambil untuk beberapa epoch. Kami melatih semua 1eÿ08
Eps
model 50 zaman. Dataset pelatihan digunakan untuk pelatihan model, dan dataset Penurunan berat badan 0
pengujian digunakan untuk evaluasi model. Di setiap zaman, kami menghitung Kriteria Kerugian Lintas Eentropi
7
Machine Translated by Google
menunjukkan peningkatan selama jumlah zaman yang lebih tinggi. Hal lain yang kami Tabel 5
Berbagai skor dihitung dalam kumpulan data uji untuk model ResNet50 TL yang berbeda di mana Pre
perhatikan adalah bahwa tingkat penurunan kerugian sangat tinggi pada tahap awal
= Presisi, Re = Recall, F1 = F1-score, Sup = Dukungan, Acc = Akurasi, INCXR14 = , iNSup = 2021_ ÿ,
(lebih sedikit zaman) dan tingkat ini menjadi hampir konstan pada zaman yang lebih ÿ
_ ÿ ÿ 14, INCxP = _ iNMSwAV = 2021_ ,
tinggi. Ini bisa jadi karena teknik pembelajaran transfer dengan bobot yang sudah iNSupFS = 2021_ _ _ _ _1 .
dilatih sebelumnya. Model Kelas Pra Ulang F1 Sup Rek
Akurasi pelatihan dan validasi model yang berbeda digambarkan pada Gambar. Covid 0,9791 0,9737 0,9764 723
Rontgen dada14 0,9766
6. Ini menunjukkan bahwa sebagian besar model mencapai akurasi tertinggi dengan Normal 0,9741 0,9795 0,9768 730
sangat cepat karena pembelajaran transfer dengan bobot yang telah dilatih Covid 0,9861 0,9834 0,9848 723
ChexPert 0,9849
sebelumnya. Tidak ada overfitting yang ditampilkan di _model apa pun. 1 menunjukkan Normal 0,9836 0,9863 0,9850 730
fluktuasi akurasi validasi pada epoch ke-29 yang secara tajam menurunkan akurasi Covid 0,8394 0,7953 0,8168 723
ImageNet 0,8224
validasi. Kita juga dapat melihat pola serupa di ÿ ÿ 14 tetapi perbedaan akurasinya
_ Normal 0,8073 0,8493 0,8278 730
lebih kecil dari 1. Di sisi lain, kita melihat pola yang menarik di ImageNet
_ dan akurasi Covid 0,9902 0,9737 0,9819 723
INCXR14 0,9821
validasi lebih tinggi daripada akurasi kereta tetapi tidak melebihi _ 2 model Normal 0,9744 0,9904 0,9823 730
putaran seperti 2021_ dan 2021_ ÿ. Covid 0,9650 0,9544 0,9597 723
INCxP 0,9601
_ Normal 0,9553 0,9658 0,9605 730
_
Gambaran sebaliknya dapat kita lihat pada model ChexPert, ÿ ÿ 14,_ dan 2021_ _1 di Covid 0,9635 0,9488 0,9561 723
iNSup 0,9566
mana akurasi kereta lebih Normal 0,9501 0,9644 0,9572 730
_ tinggi daripada akurasi validasi tetapi selisih akurasi
Recall adalah jumlah kasus yang diidentifikasi dengan benar dari semua _ ÿ ÿ
1 , 1 = 2 × ( × )ÿ( + ) (3)
8
Machine Translated by Google
Kereta 0,8024 44 0,6729 1 0,7925 dan implikasinya terhadap intervensi kesehatan masyarakat. J Clin Med 2020;9(2):462.
ImageNet
Tes 0,8259 31 0,7688 1 0,8123
[3] Tang B, Xia F, Bragazzi NL, McCarthy Z, Wang X, He S, Sun X, Tang S, Xiao Y, Wu J. Pelajaran
Kereta 0,9904 34 0,9206 1 0,9823
INCXR14 yang diambil dari China dan Korea Selatan untuk mengelola epidemi COVID-19: wawasan
Tes 0,9828 46 0,5561 2 0,9644
dari studi pemodelan komparatif. ISA Trans 2021.
Kereta 0,9583 18 0,8879 1 0,9519 [4] Ahmadi A, Fadaei Y, Shirani M, Rahmani F. Pemodelan dan tren peramalan epidemi COVID-19
INCxP
Tes 0,9621 43 0,6965 1 0,9514 di Iran hingga 13 Mei 2020. Med J Islamic Repub Iran 2020;34:27.
Kereta 0,9379 44 0,8179 1 0,9289 [7] Chu DK, Pan Y, Cheng SM, Hui KP, Krishnan P, Liu Y, Ng DY, Wan CK, Yang P, Wang Q, dkk.
_ 1 Diagnosis molekuler dari novel coronavirus (2019-nCoV) yang menyebabkan wabah
Tes 0,9353 45 0,8665 29 0,9256
pneumonia. Klinik Chem 2020;66(4):549–55.
Kereta 0,8027 42 0,7447 1 0,7917
_ 2 [8] Zhang N, Wang L, Deng X, Liang R, Su M, He C, Hu L, Su Y, Ren J, Yu F, dkk. Kemajuan terbaru
Tes 0,8135 47 0,5045 1 0,7961
dalam deteksi infeksi virus pernapasan pada manusia. J Med Virol 2020;92(4):408–17.
[9] Ai T, Yang Z, Hou H, Zhan C, Chen C, Lv W, Tao Q, Sun Z, Xia L. Korelasi pengujian CT dada
Tabel 7
dan RT-PCR untuk penyakit coronavirus 2019 (COVID-19) di Tiongkok : laporan 1014 kasus.
Perbandingan model yang diusulkan menggunakan studi serupa yang sudah ada.
Radiologi 2020;296(2):E32–40.
Metode Referensi SN Akurasi (%) [10] Wang S, Kang B, Ma J, Zeng X, Xiao M, Guo J, Cai M, Yang J, Li Y, Meng X, dkk. Algoritme
01 [59] COVIDX-Net 90 pembelajaran mendalam menggunakan gambar CT untuk menyaring penyakit virus corona
02 [60] CNN berbasis MADE 94,65 ± 2,1 (COVID-19). Eur Radiol 2021;1–9.
03 [61] VGG16 80 [11] Sarker IH. Pemodelan berbasis AI: Teknik, aplikasi, dan masalah penelitian menuju otomatisasi,
04 [62] 05 CNN yang dalam 93 sistem cerdas dan pintar. SN Comput Sci 2022;1–20.
[63] 06 [21] Jaringan Dalam UNet3D 90,80 [12] Sarker IH. Pembelajaran mendalam: tinjauan komprehensif tentang teknik, taksonomi,
07 [36] 08 ResNet + Perhatian Lokasi 86.70 aplikasi dan arah penelitian. SN Comput Sci 2021;2(6):1–20.
[34] DeTraC Deep CNN 93.1 [13] Choe J, Lee SM, Do KH, Lee G, Lee JG, Lee SM, Seo JB. Konversi gambar berbasis pembelajaran
VGG16 97.67 mendalam dari kernel rekonstruksi CT meningkatkan reproduktifitas radiomik untuk nodul
09 Usulan 2021_ _ _1 (ResNet50 yang Disempurnakan) 99.17 atau massa paru. Radiologi 2019;292(2):365–73.
[14] Kermany DS, Goldbaum M, Cai W, Valentim CC, Liang H, Baxter SL, McKeown A, Yang G, Wu
X, Yan F, dkk. Mengidentifikasi diagnosis medis dan penyakit yang dapat diobati dengan
pembelajaran mendalam berbasis gambar. Sel 2018;172(5):1122–31.
5. Kesimpulan dan pekerjaan masa depan [15] Negassi M, Suarez-Ibarrola R, Hein S, Miernik A, Reiterer A. Penerapan jaringan saraf tiruan
untuk analisis otomatis gambar sistoskopik: tinjauan status saat ini dan prospek masa depan.
Dunia J Urol 2020;1–10.
[16] Wang P, Xiao X, Brown JRG, Berzin TM, Tu M, Xiong F, Hu X, Liu P, Song Y, Zhang D, dkk.
Pengembangan dan validasi algoritma pembelajaran mendalam untuk mendeteksi polip
Dalam makalah ini, kami telah menyajikan model ResNet50 yang
selama kolonoskopi. Nat Biomed Eng 2018;2(10):741–8.
disempurnakan yang menerapkan teknik pembelajaran transfer untuk [17] Yan Q, Wang B, Gong D, Luo C, Zhao W, Shen J, Shi Q, Jin S, Zhang L, You Z.
Segmentasi citra CT dada COVID-19–solusi jaringan saraf konvolusional yang dalam. 2020,
mengklasifikasikan COVID 19 secara efektif dari gambar rontgen dada.
pracetak arXiv arXiv:2004.10987.
Untuk ini, kami telah memodifikasi model ResNet50 dengan menambahkan [18] Ozturk T, Talo M, Yildirim EA, Baloglu UB, Yildirim O, Acharya UR. Deteksi otomatis kasus
dua lapisan ekstra yang terhubung sepenuhnya daripada model ResNet50 COVID-19 menggunakan jaringan saraf dalam dengan gambar sinar-X.
Comput Biol Med 2020;121:103792.
default. Kami telah menggunakan sepuluh bobot pra-pelatihan yang [19] Ardakani AA, Kanafi AR, Acharya UR, Khadem N, Mohammadi A. Penerapan teknik pembelajaran
berbeda, dilatih pada berbagai kumpulan data skala besar yang menerapkan mendalam untuk mengelola COVID-19 dalam praktik klinis rutin menggunakan gambar CT:
Hasil 10 jaringan saraf convolutional. Comput Biol Med 2020;121:103795.
berbagai metode seperti pembelajaran
2021_yang diawasi,
_ pembelajaran yang
diawasi sendiri, dll. Di antara model TL ResNet50 ini, model _1 berperforma [20] Li L, Qin L, Xu Z, Yin Y, Wang X, Kong B, Bai J, Lu Y, Fang Z, Song Q, dkk. Kecerdasan buatan
sangat baik yang telah dilatih sebelumnya pada dataset Mini iNat2021 membedakan COVID-19 dari pneumonia yang didapat masyarakat pada CT dada. Radiologi
2020.
dengan algoritme SwaV. Pekerjaan kami mencapai akurasi validasi 99,17%, [21] Xu X, Jiang X, Ma C, Du P, Li X, Lv S, Yu L, Ni Q, Chen Y, Su J, dkk.
akurasi kereta 99,95%, presisi 99,31%, penarikan kembali 99,03%, dan skor F1 99,17% untuk kasus covid
Sistem pembelajaran dalamuntuk
mendalam klasifikasi
menyaring dua kelas novel coronavirus disease 2019.
pneumonia
Teknik 2020;6(10):1122–9.
(Covid dan Normal). Beberapa model yang _ ÿ - 14)
[22] Chen J, Wu L, Zhang J, Zhang L, Gong D, Zhao Y, Chen Q, Huang S, Yang M, Yang X, dkk. Model
diadaptasi domain ( dan dalam domain (ChexPert, ChestX-ray14) menunjukkan berbasis pembelajaran mendalam untuk mendeteksi novel coronavirus pneumonia 2019 pada
computed tomography resolusi tinggi. Sci Rep 2020;10(1):1–11.
pentingnya yang menjanjikan dalam klasifikasi citra medis dengan mencapai
[23] Shukla PK, Shukla PK, Sharma P, Rawat P, Samar J, Moriwal R, Kaur M. Prediksi interaksi obat-
skor yang relatif lebih baik daripada model yang hanya dilatih pada kumpulan obat yang efisien menggunakan model pembelajaran mendalam. IET Syst Biol 2020;14(4):211–
data ImageNet. Sebagai pekerjaan di masa mendatang, kami dapat melakukan 6.
[24] Kaur M, Gianey HK, Singh D, Sabharwal M. Hutan acak berbasis evolusi diferensial multi-tujuan
studi lebih lanjut untuk menyajikan representasi kualitatif dari transfer
untuk aplikasi e-health. Modern Phys Lett B 2019;33(05):1950022.
pengetahuan ke model kami dan mendeteksi wilayah minat COVID-19 dalam citra medis.
9
Machine Translated by Google
[25] Yu Y, Lin H, Meng J, Wei X, Guo H, Zhao Z. Pembelajaran transfer mendalam untuk [44] Huang G, Liu Z, Van Der Maaten L, Weinberger KQ. Jaringan konvolusional yang
klasifikasi modalitas citra medis. Informasi 2017;8(3):91. terhubung dengan rapat. Dalam: Prosiding konferensi IEEE tentang visi komputer dan
[26] Nishio M, Noguchi S, Matsuo H, Murakami T. Klasifikasi otomatis antara pneumonia pengenalan pola; 2017, hal. 4700–8.
COVID-19, pneumonia non-COVID-19, dan gambar rontgen dada yang sehat: kombinasi [45] Szegedy C, Vanhoucke V, Ioffe S, Shlens J, Wojna Z. Memikirkan kembali arsitektur awal
metode augmentasi data. Sci Rep 2020;10(1):1–6. untuk visi komputer. Dalam: Prosiding konferensi IEEE tentang visi komputer dan
[27] Setio AAA, Ciompi F, Litjens G, Gerke P, Jacobs C, Van Riel SJ, Wille MMW, Naqibullah pengenalan pola; 2016, hal. 2818–26.
M, Sánchez CI, Van Ginneken B. Deteksi nodul paru pada gambar CT: reduksi positif [46] Krizhevsky A. Satu trik aneh untuk memparalelkan jaringan saraf convolutional.
palsu menggunakan multi-view convolutional jaringan. IEEE Trans Med Imaging 2014, pracetak arXiv arXiv:1404.5997.
2016;35(5):1160–9. [47] Sandler M, Howard A, Zhu M, Zhmoginov A, Chen LC. Mobilenetv2: Residual terbalik
[28] Xia K, Yin H, Qian P, Jiang Y, Wang S. Algoritma segmentasi semantik hati berdasarkan dan kemacetan linier. Dalam: Prosiding konferensi IEEE tentang visi komputer dan
jaringan adversarial dalam yang ditingkatkan dalam kombinasi fungsi weighted loss pengenalan pola; 2018, hal. 4510–20.
pada gambar CT perut. Akses IEEE 2019;7:96349–58. [48] Szegedy C, Liu W, Jia Y, Sermanet P, Reed S, Anguelov D, Erhan D, Vanhoucke V,
[29] Pezeshk A, Hamidian S, Petrick N, Sahiner B. Jaringan saraf convolutional 3-D untuk Rabinovich A. Lebih dalam dengan konvolusi. Dalam: Prosiding konferensi IEEE
deteksi otomatis nodul paru di CT dada. IEEE J Biomed Health Inf 2018;23(5):2080–90. tentang visi komputer dan pengenalan pola; 2015, hal. 1–9.
[49] Hosseinzadeh Taher MR, Haghighi F, Feng R, Gotway MB, Liang J. Analisis pembandingan
[30] Zreik M, Van Hamersvelt RW, Wolterink JM, Leiner T, Viergever MA, Išgum I. sistematis pembelajaran transfer untuk analisis citra medis. Dalam: Adaptasi domain
CNN berulang untuk deteksi otomatis dan klasifikasi plak arteri koroner dan stenosis dan transfer representasi, dan perawatan kesehatan yang terjangkau dan ai untuk
pada CT angiografi koroner. IEEE Trans Med Imaging 2018;38(7):1588–98. kesehatan global yang beragam sumber daya. Peloncat; 2021, hal. 3–13.
[50] Van Horn G, Cole E, Beery S, Wilber K, Belongie S, Mac Aodha O. Pembandingan
[31] Klasifikasi gambar dada Kesim E, Dokur Z, Olmez T. X-ray oleh jaringan saraf pembelajaran representasi untuk koleksi gambar alam. Dalam: Prosiding konferensi
convolutional berukuran kecil. Dalam: Pertemuan ilmiah 2019 tentang elektro-elektronik IEEE/CVF tentang visi komputer dan pengenalan pola; 2021, hal. 12884–93.
& teknik biomedis dan ilmu komputer (EBBT). IEEE; 2019, hal. 1–5.
[32] Nardelli P, Jimenez-Carretero D, Bermejo-Pelaez D, Washko GR, Rahaghi FN, Ledesma- [51] Wang X, Peng Y, Lu L, Lu Z, Bagheri M, Summers RM. Chestx-ray8: Database rontgen
Carbayo MJ, Estépar RSJ. Klasifikasi arteri-vena paru pada gambar CT menggunakan dada skala rumah sakit dan tolok ukur pada klasifikasi yang diawasi secara lemah dan
pembelajaran mendalam. IEEE Trans Med Imaging 2018;37(11):2428–40. lokalisasi penyakit thorax yang umum. Dalam: Prosiding konferensi IEEE tentang visi
[33] Shin HC, Roth HR, Gao M, Lu L, Xu Z, Nogues I, Yao J, Mollura D, Summers RM. Jaringan komputer dan pengenalan pola; 2017, hal. 2097–106.
saraf konvolusional dalam untuk deteksi berbantuan komputer: arsitektur CNN, [52] Irvin J, Rajpurkar P, Ko M, Yu Y, Ciurea-Ilcus S, Chute C, Marklund H, Haghgoo B, Ball
karakteristik kumpulan data, dan pembelajaran transfer. IEEE Trans Med Imaging R, Shpanskaya K, dkk. Chexpert: Dataset rontgen dada besar dengan label
2016;35(5):1285–98. ketidakpastian dan perbandingan pakar. Dalam: Prosiding konferensi AAAI tentang
[34] Das AK, Kalam S, Kumar C, Sinha D. TLCoV-Sebuah model skrining Covid-19 otomatis kecerdasan buatan, Vol. 33; 2019, hal. 590–7.
menggunakan pembelajaran transfer dari gambar rontgen dada. Chaos Soliton Fractal [53] Deng J, Dong W, Socher R, Li LJ, Li K, Fei-Fei L. Imagenet: Database gambar hierarkis
2021;144:110713. berskala besar. Di: 2009 konferensi IEEE tentang visi komputer dan pengenalan pola.
[35] Khan AI, Shah JL, Bhat MM. CoroNet: Jaringan saraf dalam untuk deteksi dan diagnosis Iee; 2009, hal. 248–55.
COVID-19 dari gambar rontgen dada. Program Metode Komputasi Biomed [54] Caron M, Misra I, Mairal J, Goyal P, Bojanowski P, Joulin A. Pembelajaran fitur visual
2020;196:105581. tanpa pengawasan dengan mengkontraskan penugasan cluster. 2020, pracetak arXiv
[36] Abbas A, Abdelsamea MM, Gaber MM. Klasifikasi COVID-19 pada gambar rontgen dada arXiv:2006.09882.
menggunakan DeTraC deep convolutional neural network. Appl Intell 2021;51(2):854– [55] He K, Fan H, Wu Y, Xie S, Girshick R. Kontras momentum untuk pembelajaran
64. representasi visual tanpa pengawasan. Dalam: Prosiding konferensi IEEE/CVF tentang
[37] He K, Zhang X, Ren S, Sun J. Pembelajaran sisa yang mendalam untuk pengenalan visi komputer dan pengenalan pola; 2020, hal. 9729–38.
gambar. Dalam: Prosiding konferensi IEEE tentang visi komputer dan pengenalan [56] Chen X, Fan H, Girshick R, He K. Peningkatan baseline dengan pembelajaran kontrastif
pola; 2016, hal. 770–8. momentum. 2020, pracetak arXiv arXiv:2003.04297.
[38] Chowdhury ME, Rahman T, Khandakar A, Mazhar R, Kadir MA, Mahbub ZB, Islam KR, [57] Kingma DP, Ba J. Adam: Sebuah metode untuk optimasi stokastik. 2014, arXiv
Khan MS, Iqbal A, Al Emadi N, dkk. Bisakah AI membantu dalam skrining virus dan pracetak arXiv:1412.6980.
pneumonia COVID-19? Akses IEEE 2020;8:132665–76. [58] Islam MM, Kashem MA, Uddin J. Prediksi kelangsungan hidup ikan di lingkungan
[39] Rahman T, Khandakar A, Qiblawey Y, Tahir A, Kiranyaz S, Kashem SBA, Islam MT, Al perairan menggunakan model hutan acak. Int J Artif Intell ISSN 2021;2252(8938):8938.
Maadeed S, Zughaier SM, Khan MS, dkk. Mengeksplorasi pengaruh teknik image [59] Hemdan EE-D, Shouman MA, Karar ME. Covidx-net: Kerangka kerja pengklasifikasi
enhancement pada deteksi COVID-19 menggunakan foto rontgen dada. pembelajaran mendalam untuk mendiagnosis covid-19 dalam gambar x-ray. 2020,
Comput Biol Med 2021;132:104319. pracetak arXiv arXiv:2003.11055.
[40] Vayá MdlI, Saborit JM, Montell JA, Pertusa A, Bustos A, Cazorla M, Galant J, Barber X, [60] Singh D, Kumar V, Yadav V, Kaur M. Model skrining berbasis jaringan saraf dalam untuk
Orozco-Beltrán D, García-García F, dkk. Bimcv covid-19+: kumpulan data gambar RX pasien yang terinfeksi COVID-19 menggunakan gambar rontgen dada. Pengenalan
dan CT beranotasi besar dari pasien covid-19. 2020, pracetak arXiv arXiv:2006.01174. Pola Int J Artif Intell 2021;35(03):2151004.
[61] Sahinbas K, Catak FO. Mentransfer jaringan saraf convolutional berbasis pembelajaran
[41] Cohen JP, Morrison P, Dao L, Roth K, Duong TQ, Ghassemi M. Pengumpulan data untuk deteksi COVID-19 dengan gambar sinar-X. Dalam: Ilmu data untuk COVID-19.
gambar Covid-19: Prediksi prospektif adalah masa depan. 2020, pracetak arXiv Elsevier; 2021, hal. 451–66.
arXiv:2006.11988. [62] Jamil M, Hussain I, dkk. Deteksi otomatis infeksi COVID-19 dari dada
[42] Haghanifar A, Majdabadi MM, Choi Y, Deivalakshmi S, Ko S. Covid-cxnet: Mendeteksi X-ray menggunakan pembelajaran mendalam. 2020, MedRxiv.
covid-19 pada gambar rontgen dada bagian depan menggunakan pembelajaran [63] Zheng C, Deng X, Fu Q, Zhou Q, Feng J, Ma H, Liu W, Wang X. Deteksi berbasis
mendalam. 2020, pracetak arXiv arXiv:2006.13807. pembelajaran mendalam untuk COVID-19 dari CT dada menggunakan label lemah.
[43] Simonyan K, Zisserman A. Jaringan konvolusional yang sangat dalam untuk pengenalan 2020, MedRxiv.
gambar berskala besar. 2014, pracetak arXiv arXiv:1409.1556.
10