NAMA : Nila Permatasari

NPM : 2106784775
TUGAS : Ringkasan New Aspect and Challenges in
Consumer Protection
MATA KULIAH : Hukum Perlindungan Konsumen
Hukum Ekonomi Sore

Ringkasan New Aspect and Challenges in Consumer Protection

Dampak Artificial Intelligence (AL) pada perlindungan konsumen dalam konteks e-
commerce dan undang-undang Layanan digital. Bahwa AL dapat memberikan peluang baru
yang besar bagi individu dan masyrakat meniongkatkan kemampuan manusia, meningkatkan
produktivitas, meningkatkan keamanan dan efisiensi dalam layanan public dan swasta,
memungkinkan penyediaan pengetahuan dan keterampilan secara universal. Konsumen
online sering menemukan diri mereka dalam hubungan yang tidak seimbang dengan penyedia
layanan dan pedagang. Berbagai perantara yang kuat telah muncul, yang memberikan
layanan utama, seperti akses ke infrastruktur Internet, pencarian online, berbagi konten,
komputasi awan, dan pembayaran online. Bahwa munculnya model ini adalah karena
konvergensi dua pada satu ideoligi atau kerangka nilai, keduanya memainkan peramn yang
kuat dalam budaya internet yang memberikan untaian egaliter libertarian, yang menurut
informasi harus beredar secara bebas dan layanan online harus dapat diakses secara bebas
oleh semua orang, dan di sisi lain merupakan untaian kewirausahaan, yang berfokus pada
bisnis yang sukses dan menghasilkan uang.
Sayangnya, meskipun model bisnis ini tidak diragukan lagi sukses di sisi
kewirausahaan, yang mengarah pada munculnya beberapa perusahaan terkaya dan paling
inovatif dalam ekonomi saat ini, seperti Facebook dan Google, catatannya dari perspektif
liberal-egaliter dipertanyakan, karena ini model bisnis berkontribusi pada pengawasan dan
pengaruh yang meluas terhadap warga negara, dan khususnya terhadap konsumen. AI telah
menyediakan teknologi yang dapat digunakan untuk mengeksploitasi kekayaan informasi
konsumen sehingga dapat menargetkan individu dengan lebih baik. Kemampuan untuk
memprediksi reaksi konsumen memberi pedagang kemampuan untuk memicu reaksi tersebut
melalui iklan yang sesuai dan pesan lainnya. Kemampuan ini dapat berubah menjadi
manipulasi, karena tanggapan konsumen dapat didasarkan pada aspek psikologi yang tidak
rasional, atau kurangnya informasi, atau pada situasi kebutuhan.
Pendekatan ini menggunakan kumpulan data besar untuk secara otomatis membangun
model yang melacak korelasi, dan kemudian menggunakan model tersebut untuk membuat
prediksi untuk kasus baru. Sistem pembelajaran berbasis AI tidak berperilaku buruk dengan
sengaja, mereka tidak tidak bermoral, melainkan amoral, yaitu, mereka menemukan dan
menerapkan solusi yang paling efektif mengingat tujuannya mendorong konsumen untuk
melakukan pembelian, terlepas dari implikasi etis dari hal tersebut. Keberhasilan iklan
mungkin disebabkan oleh kesesuaian antara apa yang disajikan dan preferensi konsumen
yang beralasan atau, sebaliknya. orang mungkin juga terdorong untuk membeli barang-
barang yang tidak mereka butuhkan, membelanjakan lebih banyak, terlibat dalam transaksi
keuangan yang berisiko, untuk menikmati kelemahan mereka.
Faktanya, korelasi yang ditemukan oleh sistem AI mungkin sesuai dengan beberapa
mekanisme kausal dalam psikologi konsumen: mungkin ada kesesuaian yang nyata antara
preferensi yang beralasan dan pembelian yang disarankan oleh iklan bertarget, dan ini
menjelaskan mengapa konsumen mengikuti saran tersebut; atau mungkin mesin pengirim
iklan hanya mengambil keuntungan dari kelemahan konsumen yang dibidik: memanfaatkan
kecemasan, ketidakamanan, kepercayaan, dan tambahan untuk mengarahkan mereka ke
dalam pilihan yang nantinya akan mereka sesali. ujuan mengirimkan iklan bertarget yang
lebih banyak dan lebih efektif kepada konsumen memberikan insentif utama untuk
pengawasan massal, yang mengarah pada pengumpulan data konsumen secara besarbesaran:
semua aktivitas online, setiap klik atau pesan, dapat direkam untuk digunakan kemudian
temukan kemungkinan korelasi yang mungkin berguna dalam mempengaruhi konsumen
melalui penambahan yang paling efektif. Ini mengungkapkan peluang baru untuk
manipulasi, karena konsumen dapat ditargetkan dengan iklan yang lebih efektif, relatif
terhadap kepribadian mereka Teknik deteksi emosi juga semakin tersedia bagi para
pedagang: ini memungkinkan pemantauan ekspresi wajah dan merekam suara untuk
menyimpulkan keadaan dan reaksi emosional konsumen dan menggunakan pengetahuan ini
dalam transaksi.
. Model bisnis yang didasarkan pada penyediaan layanan berbayar "gratis" melalui
iklan memiliki dampak yang melampaui pemahaman e-commerce secara ketat. Untuk
mengekspos konsumen ke iklan, platform harus menarik dan mempertahankan konsumen di
halaman web mereka. Metode pembelajaran mesin juga dapat digunakan untuk tujuan ini,
yaitu untuk menemukan jenis pesan dan informasi apa yang lebih mungkin untuk mencapai
tujuan ini. Kerja sistem juga tidak bermoral di sini: yang penting adalah perhatian pengguna
diperoleh, tidak peduli apakah ini diperoleh dengan mengirimkan mereka informasi yang
relevan dan berguna, atau lebih tepatnya dengan memaparkan mereka ke pesan termasuk
rumor atau palsu yang menyenangkan atau menggairahkan mereka, mengkonfirmasi
prasangka mereka, memicu perasaan negatif, kemarahan atau jijik seperti itu, memberikan
hadiah dan hukuman simbolis tambahan. Telah diamati bahwa tujuan menargetkan setiap
pengguna dengan informasi yang kemungkinan besar "terlibat" atau lebih tepatnya membuat
dia kecanduan mungkin memiliki efek mengukir garis patahan ke dalam ruang publik: warga
tidak lagi dapat bergantung pada kesepakatan bersama. serangkaian fakta, lebih ditekankan
kecenderungan ke arah pemisahan dan polarisasi.
Secara lebih umum, ekonomi data pribadi sedang muncul, di mana semua jenis data
pribadi dikumpulkan dan dipertukarkan, nilainya terdiri dari kemungkinan penggunaannya
untuk mengantisipasi dan mengubah perilaku orang (dan khususnya konsumen). Tujuan
akhirnya adalah untuk mengubah perilaku pembelian orang melalui iklan yang ditargetkan.
Pedagang, atau lebih tepatnya data besar dan sistem berbasis AI yang mendukung mereka
(mungkin berkat data dan teknologi yang disediakan oleh perantara online) mungkin tahu apa
yang dapat memengaruhi konsumen dengan satu atau lain cara. Data, atau lebih tepatnya
layanan berdasarkan mereka (misalnya, layanan periklanan), dapat dijual untuk keuntungan,
nilai tukar data tersebut didasarkan pada kemungkinan penggunaannya untuk mengantisipasi
dan mengubah perilaku orang (dan khususnya konsumen).
. Data pribadi konsumen paling sering diambil dari layanan online tanpa biaya, dan
kemudian digunakan dan ditukar untuk kepentingan penyedia. Salah satu jalan keluar dari
kesulitan ini adalah menerima bahwa data pribadi adalah komoditas yang dapat
diperdagangkan, tetapi memastikan bahwa subjek data juga mendapat manfaat dari
penggunaan data mereka, sambil juga melakukan kontrol atas data ini. Jalan keluar lainnya
adalah dengan mengecualikan bahwa data pribadi dapat menjadi komoditas yang dapat
diperdagangkan, yaitu, dengan melarang vendor menawarkan layanan atau manfaat sebagai
ganti data pribadi. Pada pendekatan yang terakhir, data pribadi harus digunakan hanya bila
diperlukan untuk memberikan layanan yang diminta oleh konsumen, bukan sebagai sesuatu
yang diberikan untuk ditukar dengan layanan yang berbeda. Hukum UE belum memilih di
antara kedua model ini, juga belum menemukan cara untuk mendamaikannya.
Alternatif pertama, yaitu, melihat data pribadi sebagai properti yang dapat
diperdagangkan terdiri dari menerima pandangan bahwa pasar untuk data pribadi ada dan
akan tetap ada. Dengan demikian, kemampuan untuk mempengaruhi orang, dalam konsumsi
serta dalam dimensi lain dari kehidupan individu dan sosial mereka yang dapat diperoleh
dengan memproses data pribadi harus dilihat sebagai komoditas yang dapat diperdagangkan
dalam ekonomi informasi. Oleh karena itu, tujuan kebijakan haruslah untuk mencegah
pertukaran yang kasar dan memberikan alokasi keuntungan yang lebih adil yang dihasilkan
dari pasar semacam itu. Secara khusus, harus dipastikan bahwa bagian dari keuntungan
tersebut juga masuk ke subjek data yang menerima untuk dilacak dan ditargetkan. Bahwa
data konsumen harus dilihat sebagai property yang dapat ditukarkan oleh konsumen yang
terinformasi dengan pertimbangan yang adil, yang dapat berupa layanan atau uang.
Alternatif kedua akan sebaliknya terdiri dari mengesampingkan bahwa data pribadi
dapat menjadi properti yang dapat diperdagangkan. Pada pendekatan ini, pedagang akan
dilarang menawarkan layanan atau manfaat dengan imbalan data pribadi. Pertama-tama, tidak
boleh ada "dinding pelacakan", yaitu, penggunaan layanan "gratis" tidak boleh dikondisikan
pada persetujuan pengguna untuk dilacak: pengguna tidak boleh dihadapkan pada pilihan
antara dilacak saat menggunakan layanan, dan tidak dapat menggunakan layanan tidak akan
dianggap gratis, dan oleh karena itu pemrosesannya akan melanggar hukum.
Pemrosesan data konsumen berbasis AI untuk tujuan iklan yang dipersonalisasi
berada di bawah konsep pembuatan profil menurut GDPR yaitu, pada penggunaan data
pribadi untuk menyimpulkan informasi lebih lanjut dan mengambil keputusan dan dengan
demikian tunduk pada kerangka peraturan yang sesuai. Semua pertimbangan mengenai
legitimasi pembuatan profil, yaitu, pemrosesan data pribadi untuk tujuan membuat
kesimpulan mengenai individu dan mengadopsi tindakan konsekuensial (misalnya, mengirim
atau tidak mengirim penawaran atau dan iklan) berlaku untuknya. Informasi yang sederhana
dan jelas harus diberikan tentang cara ikut serta atau Perlindungan privasi konsumen yang
efektif mensyaratkan bahwa konsumen tidak tertipu oleh “trik desain” atau “pola gelap”,
yang dengan menipu mendorong mereka untuk menyetujui pemrosesan data mereka memilih
keluar relatif terhadap pemrosesan kritis, seperti pelacakan pengguna atau transmisi data ke
pihak ketiga. Dapat dikatakan bahwa pilihan untuk menolak semua pemrosesan data pribadi
yang tidak diperlukan untuk layanan yang diberikan harus secara jelas ditawarkan opsi
default untuk semua pengguna, setidaknya dalam kasus di mana akses ke layanan tidak dapat
disyaratkan untuk pelacakan pengguna dan memproses data mereka.
Secara khusus, sangat relevan bahwa ada kemungkinan untuk memilih keluar dengan
alasan pribadi, seperti yang diakui secara umum setiap kali persetujuan memberikan dasar
hukum pemrosesan. Ide ini dapat ditemukan dalam Resital (71) dari GDPR, yang
menurutnya pembuatan profil tidak hanya didasarkan pada prinsipprinsip matematika-
statistik yang baik dan pada data yang akurat, tetapi juga harus diatur sedemikian rupa untuk
memberikan keamanan dan menghindari diskriminasi. Selain itu, batasan terkait
pengambilan keputusan otomatis menurut Pasal 22 GDPR dapat berlaku untuk penentuan
otomatis yang berdampak serius pada kepentingan konsumen. Selain itu, setiap konsumen
individu hanya dapat mencurahkan upaya terbatas untuk mengumpulkan informasi dan
penalaran dengannya, sementara pedagang dapat mengandalkan pemrosesan terus-menerus
yang dilakukan oleh jaringan sistem komputer yang luas, yang menyebarkan kekuatan
komputasi mereka yang besar atas kumpulan data yang luas, dan menggunakan yang terbaru
teknologi AI.
Selain itu, diskriminasi dapat dihasilkan dari cacat yang berbeda dari sistem AI yang
digunakan, khususnya terkait dengan set pelatihannya, dan mungkin sulit untuk memberikan
penjelasan tentang perilaku sistem tersebut. Selain itu, penggunaan Dalam penerapan AI di
domain konsumen, diskriminasi yang disengaja jarang terjadi, namun keputusan otomatis
mungkin tidak menguntungkan bagi individu dan kategori tertentu, tanpa alasan yang dapat
diterima. Ketiga, penggunaan AI relevan dengan diskriminasi, karena AI dan data besar
memungkinkan bentuk-bentuk stereotip dan diferensiasi baru yang jauh lebih halus dan
sistematis terjadi.
Pertama-tama, seperti disebutkan di atas, penggunaan AI oleh penyedia/pedagang
dapat menimbulkan ketidakseimbangan lebih lanjut antara pedagang dan konsumen.
Pedagang, dengan menggunakan data besar dan sistem AI, dapat memperoleh lebih banyak
informasi tentang konsumen daripada yang dimiliki konsumen tentang pedagang. Selain itu,
setiap konsumen individu hanya dapat mencurahkan upaya terbatas untuk mengumpulkan
informasi dan penalaran dengannya, sementara pedagang dapat mengandalkan pemrosesan
terus-menerus yang dilakukan oleh jaringan sistem komputer yang luas, yang menyebarkan
kekuatan komputasi mereka yang besar atas kumpulan data yang luas, dan menggunakan
yang terbaru teknologi AI. Seperti disebutkan di atas, sistem adaptif terus meningkatkan
kinerjanya, berdasarkan data baru dan eksperimen terus-menerus.
Selain itu, diskriminasi dapat dihasilkan dari cacat yang berbeda dari sistem AI yang
digunakan, khususnya terkait dengan set pelatihannya, dan mungkin sulit untuk memberikan
penjelasan tentang perilaku sistem tersebut. Selain itu, penggunaan Dalam penerapan AI di
domain konsumen, diskriminasi yang disengaja jarang terjadi, namun keputusan otomatis
mungkin tidak menguntungkan bagi individu dan kategori tertentu, tanpa alasan yang dapat
diterima. Ketiga, penggunaan AI relevan dengan diskriminasi, karena AI dan data besar
memungkinkan bentuk-bentuk stereotip dan diferensiasi baru yang jauh lebih halus dan
sistematis terjadi. Meningkatnya minat dalam perlindungan data dan perlindungan konsumen
telah menghasilkan beberapa proposal untuk alat lebih lanjut bagi konsumen, seringkali
didasarkan pada teknologi AI.
Memang, AI dan data besar digunakan di domain yang sudah ditandai dengan
ketidakseimbangan kekuatan yang besar, yang dapat memperburuknya. Seperti catatan di
atas big data dan AI dapat meningkatkan ketidakseimbangan kekuatan antara
penyedia/pedagang di satu sisi, dan konsumen di sisi lain. Mungkin ada baiknya
mempertimbangkan bagaimana publik dapat mendukung dan memberi insentif pada
pembuatan dan distribusi alat AI untuk kepentingan subjek data dan warga negara. Alat
tersebut akan memberikan peluang baru untuk penelitian, pengembangan, dan
kewirausahaan. Mereka akan berkontribusi untuk mengurangi perilaku pasar yang tidak adil
dan melanggar hukum dan mendukung pengembangan model bisnis yang sehat secara legal
dan etis. Kesimpulannya, teknologi pemberdayaan warga akan mendukung keterlibatan
masyarakat sipil dalam memantau dan menilai perilaku aktor publik dan swasta dan teknologi
yang digunakan oleh yang terakhir, mendorong kewarganegaraan aktif, sebagai pelengkap
aktivitas regulasi dan penegakan hukum dari badan publik.
Dalam konteks situasi baru yang dijelaskan di bagian sebelumnya, kita mungkin
bertanya-tanya apakah peraturan tentang kewajiban penyedia harus dipertimbangkan
kembali. Pertama, kita mungkin bertanya-tanya apakah UE juga harus memiliki seperangkat
aturan terpisah tentang kewajiban sekunder penyedia atas pelanggaran hak cipta (seperti
dalam model AS). Faktanya, banyak contoh pelanggaran hak cipta dapat lebih mudah
dideteksi dan dinilai daripada jenis pelanggaran lainnya, sementara pemberitahuan dan
prosedur tindakan untuk pelanggaran hak cipta sudah ada di berbagai negara Uni Eropa.
Kedua, agar relevan saat ini, ruang lingkup peraturan perantara apa pun yang perlu
melampaui tiga kategori harus memiliki ruang lingkup pribadi yang luas, termasuk khususnya
perantara konten utama zaman kita, yaitu mesin pencari, repositori online, dan jejaring sosial,
masih dalam masa pertumbuhan mereka pada tahun 2000. Ketiga,bahwa praktik dan fungsi
sosial dari perantara konten dalam ekologi Internet saat ini menantang pandangan bahwa
kepasifan harus dilihat sebagai kondisi yang diperlukan untuk pembatasan kewajiban
(pandangan yang telah didukung dalam beberapa kasus hukum nasional). Keempat, masih
ada keraguan tentang diterimanya perintah dengan cakupan luas untuk memantau konten
pengguna, masalah yang baru-baru ini dibahas oleh Pengadilan Uni Eropa dalam keputusan
Glawischnig Piesczek 2019 (Kasus C-18/18). Bagi saya, larangan perintah
pemblokiran/pencopotan di luar negeri oleh pejabat yang berwenang masih masuk akal.
Namun perlu ditegaskan bahwa keluasan yang berlebihan tidak hanya bergantung pada
keumuman kewajiban, tetapi lebih pada teknologi.
Akhirnya, harus diklarifikasi bahwa pengecualian dari tanggung jawab sekunder
(berkenaan dengan tanggung jawab perdata, dan sanksi administratif yang proporsional) tidak
lagi berlaku ketika dapat dipastikan bahwa penyedia telah melanggar tugas perawatan
mereka, yaitu bahwa mereka telah berkontribusi pada perilaku yang melanggar hukum.
penggunanya dengan gagal melakukan tindakan yang wajar yang dapat mencegah perilaku
tersebut atau mengurangi efeknya Penilaian mengenai apakah penyedia gagal melakukan
tindakan yang wajar dengan mengabaikan tindakan yang dapat mencegah perilaku ilegal
harus didasarkan pada beberapa faktor, seperti:

 beratnya risiko perilaku pengguna yang melanggar hukum yang diakibatkan

oleh kelalaian tindakan, risiko ini termasuk kemungkinan perilaku tersebut dan
keseriusan kerusakan yang mungkin ditimbulkannya;
 teknologi yang tersedia untuk menerapkan tindakan tersebut;
 keberlanjutan ekonomi dari Tindakan tersebut, mengingat model bisnis
(menguntungkan secara sosial) diadopsi oleh perantara
 cara tindakan tersebut dapat mempengaruhi hak dan kepentingan pengguna
perantara, serta nilai-nilai sosial.
Secara khusus, penetapan tanggung jawab hukum kepada perantara harus memerlukan
penilaian tentang ketersediaan langkah-langkah pengurangan risiko yang efektif dan
proporsional. Dalam istilah lain, tanggung jawab perantara atas perilaku pengguna harus
mengandaikan tindakan pengurangan risiko yang proporsional misalnya, menyaring atau
menghapus konten pengguna, memantau perilaku pengguna, melarang pengguna terlibat
dalam perilaku yang tidak pantas, menonaktifkan atau membuat fitur-fitur yang kurang dapat
digunakan.
Hubungan antara teknologi AI untuk pemfilteran/moderasi relevan dengan
perlindungan konsumen di platform online, karena teknologi tersebut menentukan konten apa
yang dapat diakses oleh pengguna platform tersebut, konten apa yang akan mereka ekspos
terhadap preferensi mereka, dan konten apa yang mereka inginkan. akan dapat memposting
secara online dan tetap terlihat oleh orang lain. AI dapat digunakan untuk meningkatkan
tahap pra-moderasi dan menandai konten untuk ditinjau oleh manusia, meningkatkan akurasi
proses moderasi. AI juga dapat membantu moderator manusia dengan meningkatkan
produktifitas. Ini juga dapat digunakan untuk mengurangi efek yang berpotensi berbahaya
dari moderasi konten pada moderator individu (misalnya, dengan menyembunyikan bagian
dari gambar atau film yang menunjukkan tindakan menjijikkan yang menjijikkan).