Opini Terbaru

Between Facts and Norms, Pemikiran Hukum Jürgen Habermas (2): Pengantar dari Jürgen Habermas

Gambar
PENGANTAR Jürgen Habermas  | Penerjemah: Anom Surya Putra | Di Jerman, filsafat hukum telah lama tidak lagi menjadi materi pembahasan bagi para filsuf. Jika saya jarang menyebut nama Hegel dan lebih mengandalkan teori hukum Kantian, hal ini juga mengungkapkan keinginan saya untuk menghindari suatu model yang menetapkan standar yang tidak dapat dicapai bagi kita. Memang, bukan kebetulan bahwa filsafat hukum, dalam mencari kontak dengan realitas sosial, telah bermigrasi ke aliran-aliran (mazhab) hukum. [1] Namun, saya juga ingin menghindari ilmu hukum teknis yang terfokus pada fundasi-fundasi hukum pidana. [2] Apa yang dulunya dapat dianut secara koheren dalam konsep-konsep filsafat Hegelian saat ini menuntut pendekatan pluralistis yang menggabungkan perspektif teori moral, teori sosial, teori hukum, serta sosiologi dan sejarah hukum. Saya menyambut ini sebagai kesempatan untuk menampilkan pendekatan pluralistis yang sering tidak diakui/disadari teori tindakan komunikatif. Konsep-konse

Transformasi Hukum dalam Konteks Digitalisasi

Digital Law Journal memberi ulasan kontemporer mengenai perkembangan hukum dalam kehidupan digitalisasi. Dalam perspektif sosiologi hukum, regulasi hukum mengenai teknologi digital merupakan perkembangan dari globalisasi hukum. Bagaimana perspektif kita menganalisa transformasi hukum digital dalam skala regulasi dan legislasi? Kita belajar dari transformasi hukum Rusia. Simak sampai tuntas.

Sumber: Diterjemahkan oleh Anom Surya Putra dari E. L. Sidorenko, P. von Arx, https://doi.org/10.38044/DLJ-2020-1-1-24-38


Transformasi Hukum dalam Konteks Digitalisasi: 

Mendefinisikan Prioritas yang Tepat

E. L. Sidorenko dan P. von Arx

Abstrak

Subjek yang dianalisis adalah kekhasan seputar regulasi hukum teknologi digital dan produk yang timbul dari teknologi digital. Pilihan topik ini telah ditentukan sebelumnya oleh perkembangan aktif layanan digital dan aset keuangan digital, serta kebutuhan untuk menyesuaikan legislasi modern dengan kebutuhan ekonomi digital. Terlepas dari kenyataan bahwa beberapa strategi untuk pengembangan hukum digital sedang dilakukan di tingkat organisasi internasional, baik secara teori maupun dalam praktiknya tidak ada pemahaman tunggal tentang sifat hukum teknologi digital dan dasar-dasar regulasi hukumnya.

Dari perspektif ini, tujuan artikel adalah memahami sistem dan kategori utama ekonomi digital melalui prisma institusi hukum yang mendasar, berdasarkan prinsip-prinsip tradisional analisis ilmiah dan hasil yang dikukus (steamed) dari metode pengolahan data yang diterapkan.

Dengan menggunakan metode pemodelan teoretis, idealisasi, dan eksperimen teoretis, penulis mempertimbangkan kategori personalitas hukum, keamanan, dan kesalahan teknologi dan produk digital, membandingkannya dengan institusi hukum serupa, dan menentukan opsi yang memungkinkan untuk mengintegrasikan kategori hukum baru ke dalam supremasi hukum tradisional tentang kontrak, kewajiban, dan perlindungan hak intelektual.

Sebagai hasil dari studi tersebut, penulis telah menyusun visi hukum tentang tolok ukur, yang mana strategi internasional untuk mengatur ekonomi digital harus dibangun. Penulis berangkat dari fakta bahwa kemampuan adaptif hukum tradisional sangat terbatas dalam kaitannya dengan teknologi digital; lebih lanjut, dalam kaitannya dengan banyak dari hukum tradisional, model hukum baru yang kualitatif harus dikembangkan. Artikel ini menyajikan hasil tinjauan parameter hukum utama teknologi digital. Diusulkan suatu formulasi personalitas dan perlindungan hukum, dirumuskan pula definisi produk teknologi digital dalam hukum perdata dan hak cipta.

Kesimpulan yang dicapai dalam tulisan ini memperhatikan inkonsistensi pendekatan untuk menilai sifat hukum objek digital, dan pertimbangan yang tidak memadai dari aspek teknis teknologi digital, serta kebutuhan untuk mengembangkan —di tingkat internasional— strategi hukum terpadu untuk hukum perdata dan hukum perlindungan intelektual yang berhubungan dengan teknologi digital. Studi ini menggarisbawahi, di antara tugas dan arahan prioritas, masalah personalitas hukum teknologi digital, dan mekanisme penting tentang perlindungan produk yang menggunakan teknologi digital. Kesimpulan yang dirumuskan dalam artikel ini memiliki makna praktis dan metodologis yang penting, dan dapat dipertimbangkan ketika melakukan reformasi legislasi saat ini.

Kata Kunci: digital technologies, legal personality, digital technologies as an object of legal protection, international strategies, legal responsibility, digital law, civil law, intellectual property object

Pengantar

Dengan pesatnya perkembangan ekonomi digital, maka perlu diciptakan perlindungan hukum yang koheren, global, dan komprehensif, termasuk jaminan perlindungan hukum yang andal yang mengatur penggunaan teknologi digital untuk meminimalkan risiko digitalisasi dan untuk melegitimasi aset baru, baik aset yang berwujud. dan aset tidak berwujud. Organisasi dan negara internasional secara aktif mengembangkan strategi untuk mengadaptasi legislasi tentang penggunaan teknologi digital modern. Masalah utama, bagaimanapun, adalah bahwa, di satu sisi, strategi yang diusulkan bersifat sektoral dan hanya menangani aspek-aspek tertentu dari digitalisasi, dan, di sisi lain, solusi sering bertujuan mengejar agenda politik dengan mengorbankan kemajuan yang koheren --mencari strategi hukum global.

Secara fundamental, dua pendekatan utama untuk masa depan hukum dalam konteks digitalisasi dapat diidentifikasi. Yang pertama adalah pendekatan utilitarian, yang berfokus pada penyelesaian tugas-tugas fungsional yang didefinisikan secara ketat (intelijen keuangan, persetujuan peraturan teknis, dll.) yang melayani kepentingan dan kepentingan negara dan organisasi internasional tertentu. Yang kedua adalah pendekatan metodologis, yang memungkinkan solusi global dan komprehensif.

Pendekatan Utilitarian

Pendekatan utilitarian dicirikan oleh kerjasama internasional sektoral yang terfokus pada isu-isu tertentu. Di bawah kepemimpinan negara-negara anggota mereka dan penerapan yang ketat terhadap mandat mereka, organisasi internasional mengembangkan mekanisme hukum untuk meminimalkan risiko yang terkait dengan penggunaan aset digital tertentu. Pendekatan ini sering mencerminkan pendekatan politik, di mana beberapa negara bagian atau kelompok negara memainkan peran utama sedangkan yang lain dikecualikan. Pendekatan utilitarian adalah tentang kepentingan.

Misalnya, dalam rekomendasi 2019, FATF meminta Negara-negara untuk memperkenalkan peraturan hukum untuk aset kripto untuk mencegah pencucian hasil kejahatan[1]. Posisi yang dipegang oleh regulator keuangan didukung oleh rekomendasi Komite Basel untuk Pengawasan Perbankan tentang pencegahan risiko penggunaan aset kripto oleh bank. Rekomendasi khusus untuk mengembangkan peraturan hukum untuk layanan pembayaran digital baru dibuat oleh Uni Eropa, yang mengadopsi Standar Perbankan Terbuka dan Petunjuk Layanan Pembayaran yang Direvisi (PSD2), yang mewajibkan bank untuk menyediakan perusahaan keuangan dan teknis dengan akses ke informasi pelanggan[2].

Berbicara regulasi teknis, perlu disebutkan peran International Organization for Standardization (ISO). Misalnya, ISO memainkan peran untuk mendefinisikan kerangka kerja internasional untuk Artificial Intelligence (AI). Subkomite ISO "ISO/IEC JTC 1/SC" telah menerbitkan 4 (empat) standar dan berencana untuk mengembangkan 12 (dua belas) standar berikutnya untuk Artificial Intelligence; subkomite ini juga menyiapkan 21 (duapuluh satu) standar untuk Internet of Things dan 38 standar untuk Teknologi Cloud. ISO juga mengadopsi standar internasional untuk Sistem Pesawat Tanpa Awak (UAS) pada tahun 2019. Sebelumnya, pada tahun 2015, Parlemen Eropa mengadopsi resolusi tentang penggunaan Sistem Pesawat Tanpa Awak yang aman dan menekankan pentingnya mengembangkan undang-undang kerangka kerja Eropa tentang penggunaan drone[3].

Ada juga beberapa contoh upaya global yang dilakukan oleh organisasi internasional. Misalnya, OECD memberikan panduan universal tentang cara menerapkan dan mengubah hukum sehubungan dengan ICO4 dan menetapkan prinsip-prinsip umum untuk regulasi Artificial Intelligence[5]. Menurut dokumen, undang-undang masing-masing negara harus mencerminkan ketentuan berikut:

  1. fokus teknologi AI pada pertumbuhan inklusif, pembangunan berkelanjutan, dan kesejahteraan;
  2. menghormati supremasi hukum, hak asasi manusia, nilai-nilai demokrasi dan keragaman, dan memperkuat kemungkinan intervensi manusia jika diperlukan untuk memastikan masyarakat yang adil;
  3. transparansi dan pengungkapan yang bertanggung jawab mengenai informasi tentang sistem AI;
  4. untuk keandalan dan keamanan teknologi, penilaian berkelanjutan dan meminimalkan risiko;
  5. tanggung jawab pengembang dan pengguna atas pengoperasian teknologi digital[6].

Pendekatan ini didukung oleh G20, yang dalam deklarasi menterinya, menetapkan 5 (lima) prinsip untuk mengatur AI, yang sebagian besar konsisten dengan prinsip-prinsip OECD7.

Dorongan untuk elaborasi hukum keuangan ini ditetapkan oleh Komisi Eropa, yang menyiapkan 30 (tigapuluh) rekomendasi untuk pengembangan hukum dalam konteks digitalisasi. Pentingnya menyesuaikan peraturan yang ada dengan pengenalan teknologi baru ditekankan, dan seruan dibuat untuk mengatasi fragmentasi undang-undang tentang peraturan fintech dan untuk memastikan kondisi hukum yang sama bagi perusahaan teknologi. Rekomendasi khusus termasuk: pentingnya menjaga data pribadi dan yang tidak dipersonalisasi, memastikan keterbukaan sistem, dan kepatuhan terhadap etika penggunaan teknologi digital.

PBB berperan aktif dalam mengimplementasikan agenda keamanan. Resolusi Majelis Umum menyerukan untuk memastikan keamanan informasi dan meningkatkan undang-undang nasional dalam menanggapi peningkatan yang stabil dalam kejahatan digital. Laporan yang disampaikan pada sidang ke-74 Majelis Umum PBB juga patut mendapat perhatian. Ini menekankan perlunya mekanisme legislatif untuk menahan risiko yang terkait dengan penggunaan massal perangkat pintar murah, kesenjangan dalam dekripsi informasi, dll. Penting untuk menekankan bahwa, menurut para ahli, prioritas transformasi hukum meliputi: melibatkan ahli teknis dalam proses legislatif, pemutakhiran tindakan hukum domestik tentang kejahatan dunia maya, dan pengembangan mekanisme hukum untuk mengendalikan kejahatan transnasional.

Prinsip dan ketentuan untuk mengubah hukum yang terkandung dalam Konvensi Dewan Eropa tentang Kejahatan Dunia Maya dilanjutkan dalam arahan dan kerangka keputusan Uni Eropa tentang kerangka hukum untuk berfungsinya berbagai segmen ekonomi digital. Sebagian besar tindakan hukum ditujukan untuk mengatur hubungan hukum di bidang hukum perdata dan keuangan, tetapi ketentuannya memberikan dasar untuk adopsi aturan hukum pidana, dan secara signifikan meningkatkan tanggung jawab atas tindak pidana di bidang Teknologi Informasi.

Pendekatan Metodologis

Pendekatan kedua mempertimbangkan untuk menciptakan model regulasi hukum yang global dan komprehensif. Penting untuk memahami apa dasar-dasar digitalisasi. Pendekatan global memungkinkan dasar-dasar digitalisasi ditangani dengan mengintegrasikan dimensi-dimensi penting seperti aspek etika, sosial, teknologi, dan politik digitalisasi. Sementara pendekatan utilitarian adalah tentang mengembangkan berbagai undang-undang dan strategi sektoral, kebutuhan untuk memahami status teknologi digital dan dampaknya bagi umat manusia tetap ada. Pendekatan metodologis adalah tentang nilai dan tanggung jawab; itu menyiratkan tindakan penyeimbangan antara perkembangan teknologi yang cepat dan pilihan model masyarakat. Dengan demikian, hukum harus menang dan fondasi digital harus legal. Ada kebutuhan untuk menciptakan perlindungan hukum yang koheren, global dan komprehensif. Cara yang tepat untuk menyelesaikan pendekatan internasional masih harus dilihat: baik menggunakan konstruksi hukum tradisional, atau penciptaan tatanan hukum baru. Prevalensi hukum untuk memastikan ketertiban dunia digital tidak perlu dipertanyakan lagi.

Pertumbuhan inklusif dan kerja sama internasional di bidang ekonomi digital sangat penting. Hal ini membutuhkan pengembangan strategi yang berhubungan dengan transformasi hukum digital, serta pembentukan model yang bertujuan untuk mencegah risiko digitalisasi.

Saat ini, banyak tantangan yang tidak dapat diatasi karena kurangnya kerangka hukum komprehensif yang diakui secara internasional. Sangat penting untuk menemukan jawaban atas sejumlah pertanyaan strategis, seperti sifat hukum teknologi digital baru dan produknya, kemungkinan penyesuaian instrumen hukum tradisional dengan fenomena hukum baru, atau pengembangan pendekatan terpadu terhadap regulasi hukum. ekonomi digital di tingkat antarnegara bagian, antara lain. Sayangnya, isu-isu ini saat ini tidak ditangani baik oleh komunitas ilmiah atau oleh organisasi internasional. Dalam hal ini, lebih mendesak dari sebelumnya untuk mengembangkan kerangka teoretis tunggal untuk undang-undang digital dan memilih vektor untuk pengembangannya. Peraturan perundang-undangan internasional dan nasional di masa mendatang harus memberikan jaminan hukum bagi perkembangan digitalisasi dan pada saat yang sama meminimalkan risikonya.

Beberapa organisasi internasional mencoba menerapkan pendekatan metodologis global sejalan dengan pendekatan komprehensif mereka terhadap keamanan. Penerapan teknologi digital dapat memecahkan banyak masalah ekonomi dan sosial, dan dapat digunakan sebagai alat untuk membangun kepercayaan antar negara.

Transformasi digital secara tradisional telah dibahas oleh OSCE secara komprehensif. Dalam dimensi politik-militernya, OSCE telah mengembangkan perangkat kepercayaan dan langkah-langkah pembangunan keamanan pertama antara negara-negara di ranah siber. Ekonomi digital menjadi alat penting bagi kerjasama antar negara, dimana kerjasama ekonomi dan keamanan merupakan elemen penting untuk membangun kepercayaan dan keyakinan, sehingga mencegah konflik, serta meningkatkan kesejahteraan warga. Ekonomi digital memiliki potensi untuk mendorong pertumbuhan dan pembangunan ekonomi yang berkelanjutan dan inklusif, konektivitas, transparansi, dan akuntabilitas.

Perlindungan ruang privat juga merupakan isu mendasar yang dibahas dalam dimensi manusia dan secara lintas dimensi di OSCE. Sebagai bagian dari kegiatan internasionalnya, organisasi ini mendorong penelitian dan diskusi lebih lanjut tentang teknologi ujung ke ujung; itu juga menganjurkan perlunya mengembangkan prinsip dan rekomendasi yang akan menjaga keseimbangan antara aspek keamanan digitalisasi (seperti mengendalikan konten yang mengarah ke radikalisasi atau tindakan kriminal) dan menghormati ruang pribadi dan kebebasan orang untuk membuat konten digital. Misi OSCE di Bishkek telah mengembangkan dan meluncurkan yang pertama dalam sejarah Program Master Asia Tengah dalam Ilmu Hukum Digital, yang ditujukan untuk melatih para spesialis untuk memastikan regulasi yang tepat dari teknologi digital baru. Spesialis berikut sedang dilatih di bawah program ini: advokat digital untuk administrasi negara bagian dan kota, pengacara digital untuk perusahaan, dan advokat keamanan digital.

Agenda Perlindungan Infrastruktur Informasi Kritis Uni Eropa saat ini dibangun di atas lima prinsip: kesiapan dan pencegahan; deteksi dan respon; mitigasi dan pemulihan; kerjasama internasional; dan harmonisasi dan unifikasi legislasi di negara-negara Uni Eropa.

Hasil Analisis

Makalah ini menganalisis kebutuhan dan persyaratan untuk mengadaptasi aturan hukum, untuk mengatasi tantangan hukum yang timbul dari pengembangan dan penggunaan teknologi digital dan produknya. Ini mempertimbangkan kategori kepribadian hukum dan perlindungan teknologi digital, serta dasar-dasar peraturan hukum mereka. Makalah ini mendefinisikan cara untuk melindungi hak kekayaan intelektual di bidang digital, dan mempertimbangkan pengembangan undang-undang dalam hal menetapkan tanggung jawab pengembang dan pengguna program digital.

Selain itu, artikel tersebut mengungkapkan model penulis untuk mempertimbangkan status hukum teknologi digital melalui prisma masalah umum regulasi status dan menetapkan tanggung jawab dan aspek terapan penerapan teknologi individu (Artificial Intelligence, Internet of Things, Blockchain, Big Data , dll.).

Makalah ini mencatat tren di bidang hukum digital yang terpinggirkan, dan menekankan kemampuan adaptif yang terbatas dari undang-undang tradisional dalam regulasi teknologi digital. Para penulis mengusulkan pengembangan konstruksi hukum baru yang mendasar untuk teknologi digital mengenai kepribadian hukum dan kemampuan mereka untuk dilindungi; ini akan memungkinkan tujuan pengembangan progresif ekonomi digital dan kemampuan teknis masing-masing teknologi untuk diperhitungkan.

Diskusi Pembahasan

Literatur ilmiah modern tidak membahas status hukum teknologi digital, atau penggunaan produknya, secara holistik. Seperti diilustrasikan di bawah ini, para ahli memusatkan perhatian utama mereka pada masalah teknis tertentu dan solusi praktis mengenai topik tertentu.

Misalnya, masalah regulasi hukum di bidang Artificial Intelligence sebagian besar duduk dalam kerangka evaluasi keandalan teknologi (Yu & All, 2019); kemungkinan penerapannya di bidang kegiatan tertentu, khususnya dalam ilmu hukum (Mowbray et al., 2019); atau memprovokasi perubahan dalam hukum gugatan dan kontrak modern (Hacker et al., 2020). Para spesialis terutama membahas masalah pengakuan AI sebagai objek hak perdata/sipil, dan objek atau subjek aktivitas intelektual.

Regulasi hukum drone dan aplikasi teknologi terobosan lainnya ditujukan terkait dengan reformasi undang-undang khusus (penerbangan (Bassi, 2020), transportasi (Bassi, 2020), perawatan kesehatan (Konert et al., 2019), informasi (Marques, 2019 ) dan lainnya. Dalam literatur ilmiah, sangat penting dilampirkan pada regulasi smart contract mengenai pertukaran sekuritas (Lee & Joseph, 2019), deklarasi niat para pihak (Gomes & Silvana, 2018), dan formalisasi de jure dari smart contract (Liu & Huang, 2019).

Manajemen aset kripto juga dibahas. Sebagian besar karya dikhususkan untuk prinsip-prinsip dasar hukum keuangan (Giudici et al., 2020), regulasi pasar instrumen pembayaran digital (Huang et al., 2020), perpajakan (Sixt & Himmer, 2019) dan prinsip-prinsip pengaturan norma di bidang keuangan digital (Edwards, Hanley, Litan & Weil, 2019).

Isu status hukum Big Data juga tak kalah mendesak; contoh masalah ini termasuk penggunaannya dalam aktivitas hukum (Goanta, 2017; Custers & Leeuw, 2017), kontrol hukum (Lei, 2019), serta model dan penilaian risiko hukum terkait penggunaan Big Data (Low & Mik, 2019).

Kami tidak akan mencoba menganalisis secara rinci semua tantangan hukum yang terkait dengan digitalisasi, melainkan menguraikan dua kelompok masalah yang perlu ditangani sebagai prioritas, baik di tingkat nasional maupun internasional. Klaster pertama akan fokus pada aspek umum transformasi hukum digital: kapasitas adaptif legislasi modern, sipil, keuangan dalam transformasi digital; sifat hukum teknologi digital sebagai objek hak perdata/sipil; dan setiap kekhususan hubungan kontraktual dalam ekonomi digital. Klaster kedua akan fokus pada penerapan teknologi tertentu, seperti Internet of Things, AI, data besar, pembelajaran mesin, drone, robot, dan bidang serupa, yang memerlukan analisis ilmiah terperinci dan aplikasi terbatas.

Saat menilai prospek pengembangan hukum dalam konteks digitalisasi, para ilmuwan mempertimbangkan dua kemungkinan skenario: yang pertama meramalkan restrukturisasi model hukum tradisional untuk mengakomodasi isu-isu digital baru; yang kedua meramalkan perubahan mendasar dalam undang-undang saat ini yang bertujuan untuk menggantikan kerangka hukum tradisional dengan model yang lebih abstrak dan universal.

Konflik antara dua skenario paling terlihat dalam analisis perlindungan dan identitas hukum teknologi digital. Perlindungan teknologi digital berarti kemampuan mereka untuk bertindak sebagai objek hak sipil dan intelektual. Dalam kaitan ini, penting untuk mempertimbangkan apakah emansipasi diperbolehkan antara hak/hak in rem yang sebenarnya dan hak cipta dari lembaga hukum tradisional.

Penentang emansipasi menantang fakta bahwa Artificial Intelligence dan pembelajaran mesin dapat menjadi dasar hukum, atau mereka dapat menggantikan prinsip-prinsip dasar hukum, karena prinsip-prinsip ini telah berkembang selama berabad-abad melalui apa yang disebut 'pembelajaran konsolidasi' dalam AI, sementara manusia perilaku secara inheren terlalu irasional dan tidak konsisten (Fernandez-Villaverde, 2020).

Para pendukung, sebaliknya, melihat emansipasi sebagai konflik alami kepentingan publik dan swasta di dunia digital (Entin, 2017) dan mengakui kemungkinan teknologi digital untuk mendapatkan identitas hukum mereka jika mereka memperoleh otonomi fungsional, nilai, dan utilitas ekonomi (Kharitonova , 2019).

Dalam undang-undang Rusia saat ini, objek hak perdata/sipil, bersama dengan hak milik, termasuk hak digital. Semuanya merupakan jenis hak milik dan disebutkan bersama dengan hak intelektual, yang memberi beberapa peneliti alasan untuk menolak kemungkinan menghubungkan objek digital dengan perlindungan hak cipta.  Objek digital didefinisikan sebagai hak kewajiban atau hak lainnya; pelaksanaan, pembuangan, atau pembatasan mereka hanya dimungkinkan dalam sistem informasi (Pasal 141.1, KUH Perdata Federasi Rusia) dan oleh karena itu mereka memiliki arti atau penerapan yang sangat terbatas. Seluruh kelompok masalah yang terkait dengan pelaksanaan hak-hak ini di luar lingkungan digital - yaitu, hasil implementasi hak (konsolidasi dan analisis data besar, hasil pembelajaran mesin, dll.) - tetap berada di luar mekanisme peraturan.

Sementara hukum Rusia mengatur pengaturan hak digital sebagai bagian dari hukum informasi, dalam hukum Inggris perlindungan hak digital terkait dengan perlindungan properti. Pendekatan ini sejalan dengan semangat pernyataan berikut: Hak digital bersifat moneter dan oleh karena itu harus dilindungi sebagai benda (Rahmatian, 2013). Dari sudut pandang ini, teknologi digital memperoleh status objek hukum perdata, serta produk yang diproduksi menggunakan teknologi ini.

Dengan demikian, undang-undang Anglo-Saxon memudahkan untuk menjawab pertanyaan tentang siapa yang memiliki (a) kode baru dari program belajar mandiri, yang mewujudkan 'pengalaman' dalam menjalankan perintah; (b) hak atas produk yang dibuat oleh program dan robot tersebut; dan (c) siapa yang menanggung properti atau kewajiban lain atas dampak negatif dari teknologi digital atau produk mereka. Namun, pengalaman negara lain tidak cukup untuk pengembangan ekonomi digital yang berkelanjutan dan sukses. Penting untuk mengembangkan pendekatan satu ukuran untuk semua untuk masalah sipil terkait dengan teknologi digital, produk, dan hak.

Kami percaya bahwa pendekatan ini harus didasarkan pada ketentuan metodologis berikut:

  1. Pengakuan produk digital sebagai objek hak perdata/sipil tidak boleh didasarkan pada esensi material atau nilai ekonominya. Sebagai aturan, objek digital memiliki sifat hukum yang komprehensif dan dapat dipertimbangkan baik dari sudut pandang intelektual maupun kepemilikan;
  2. Penilaian teknologi digital harus didasarkan pada model hukum, memungkinkan kepatuhan dengan sifat hukum hubungan, dan yang mampu menyeimbangkan kepentingan pribadi dan publik dalam sirkulasi digital;
  3. Ketika mengembangkan pendekatan universal terhadap regulasi teknologi digital sebagai subjek hak-hak sipil, emansipasi objektif hukum digital dari lembaga hukum tradisional harus diperhitungkan. Dengan kata lain, kapasitas adaptif hukum tradisional dalam kaitannya dengan teknologi digital sangat terbatas karena sifat benda yang multifungsi, kejenuhan teknis, ketidakpastian dalam pengelolaan tugas, dan kemungkinan risiko terkait integrasinya ke dalam sirkulasi sipil.

Berkenaan dengan perkembangan hak intelektual di ranah digital, penting untuk dicatat bahwa salah satu isu yang paling mendesak adalah pilihan antara memberikan manfaat digital kepada individu atau mengakuinya sebagai domain publik. Namun, jelas tidak mungkin mengambil keputusan selama sifat hukum hak produk digital tidak ditentukan; ini khususnya kasus tentang AI.

Tantangan muncul dari karakteristik objektif produk digital: hasil teknologi yang sangat berulang, kontribusi kreatif manusia yang rendah, otomatisasi beberapa proses, ketidakmungkinan untuk membedakan antara komponen kreatif dan nonkreatif, kompleksitas membedakan antara hak pencipta dan hak cipta. kompiler, dan sebagainya. Tantangan seperti itu juga ditemui saat mengacu pada platform digital dan solusi platform, database, algoritma pemrosesan data yang dibuat selama pembelajaran mesin, dll.

Ekonomi digital mengajukan pertanyaan kepada undang-undang tentang bagaimana melindungi produk aktivitas intelektual dan sepenuhnya menghormati kepentingan pencipta, pengguna, dan investor. Tiga model yang mungkin terkait dengan perlindungan produk intelektual dipertimbangkan oleh para ilmuwan dan dalam praktiknya:

  1. Pertimbangkan produk teknologi digital melalui prisma hak cipta. Pendekatan ini didasarkan pada European Union Directive 96/9/EC (EC, 1996) dan berlaku untuk kasus di mana objek digital memenuhi kriteria orisinalitas untuk pemilihan dan pemrosesan data. Namun, pendekatan ini meniadakan perbedaan antara penulis dan pemilik teknologi. Selain itu, mungkin ada kesulitan dalam membedakan kepengarangan ketika, misalnya, satu penulis membuat produk mereka berdasarkan solusi digital penulis lain (digital platform, block chain registry, cloud technology), atau ketika beberapa data ditransfer dari sistem database pencipta ke sistem lain tanpa persetujuan mereka. Selain itu, solusi yang diusulkan bertentangan dengan salah satu prinsip dasar hak cipta --melindungi produk yang memiliki bentuk asli, tidak dapat diubah, dan hanya sekali pakai. Solusi digital biasanya memiliki beberapa format presentasi, metode pengkodean, dan teknik, yang menghalangi mempertimbangkannya sebagai produk asli yang tak terpisahkan.
  2. Regulasi teknologi digital dalam neighbouring right's format. Pendekatan ini umum untuk hukum Rusia, yang mana aktivitas basis data atau pencipta produk digital lainnya dapat ditentukan sebagai organisasi dan teknis (Maggon, 2006). Dalam hal ini, pencipta dan pengembang arsitektur basis data memperoleh hak eksklusif atas produk intelektual mereka secara umum. Namun, batas-batas neighbouring right menjadi kabur, dan risiko pelanggaran hak pengguna produk digital meningkat.
  3. Mendirikan lembaga independen hak intelektual dalam objek digital, menggabungkan hak milik dan hak non-properti, serta mencerminkan kekhususan teknologi dari objek yang dilindungi (Lauts, 2019). Pengembangan mekanisme baru yang mendasar akan memungkinkan model yang benar untuk mengelola penggunaan produk digital untuk dirancang (produk yang dibuat oleh robot, kode program belajar-mandiri, dll.).

Aspek penting berikutnya adalah menyediakan kapasitas hukum untuk teknologi digital. Usulan ini telah melampaui kerangka teorinya. Ada usulan untuk mengakui robot dan produk robotika sebagai subjek mengenai hak dan kewajiban dan menganggapnya sebagai agen dalam membuat kontrak dengan pihak ketiga yang bertindak atas nama pemiliknya dan atas nama mereka sendiri (Neznamov & Naumov, 2008). Hukum Arizona memberikan robot pengiriman hak yang sama dengan pejalan kaki, tetapi mereka harus mematuhi aturan yang sama: mereka tidak boleh menabrak seseorang dan harus memberi jalan kepada pejalan kaki lainnya. Negara bagian Utah saat ini sedang mempertimbangkan RUU dengan kata-kata yang sama.

Hukum tradisional mengidentifikasi identitas hukum sebagai kombinasi kapasitas hukum, kapasitas aktif, dan kapasitas dispositif deliktual. Saat ini, tiga jenis kapasitas hukum diakui: orang fisik, perusahaan, dan badan hukum publik. Pada saat yang sama, daftar ini secara bertahap diperluas, jika perlu, untuk memasukkan para pihak sirkulasi baru (new circulation parties) dan untuk menyesuaikan landasan teoritis identitas hukum. Secara khusus, pemberian identitas hukum kepada perusahaan membutuhkan pendekatan yang berubah untuk memahami kehendak, kepentingan, dan motif subjek. Selain itu, tampaknya tidak tepat untuk menyangkal identitas hukum teknologi digital karena kurangnya komponen kehendak (Ponkin & Redkina, 2018).

Jauh lebih penting untuk mengevaluasi teknologi melalui prisma identitas hukum perusahaan: yaitu, dari sudut pandang otonomi dan pengambilan keputusan. Kemampuan belajar dan kemampuan untuk secara mandiri mengubah algoritma tindakan dapat melengkapi karakteristik ini.

Namun, perlu dicatat bahwa teknologi digital modern memiliki tingkat otonomi yang berbeda. Dapatkah aturan identitas hukum yang sama berlaku untuk mereka, atau haruskah mereka dibedakan? Dalam hukum modern, belum ada solusi untuk masalah ini. Jika identitas hukum AI dan teknologi digital lainnya diakui, penting untuk mengatasi masalah seperti asuransi kewajiban publik, kriteria untuk menentukan risiko yang mungkin terkait dengan aktivitas robot, menetapkan aturan untuk kerugian digital dan prosedur pencatatan, dan mendaftarkan badan hukum baru.

Secara umum, gagasan tentang identitas hukum teknologi digital masuk akal; namun, seringkali disamakan dengan identitas hukum orang. Menurut para ahli, identitas hukum robot dapat dikenali sama dengan identitas hukum yang diakui organisasi internasional, misalnya PBB (Chung & Zink, 2017).

Penting juga untuk mempertimbangkan otonomi objek digital. Ketergantungan manusia pada teknologi akan menentukan kapasitas dispositif deliknya. Penting untuk disebutkan beberapa aspek yang diterapkan terkait transformasi hukum di lingkungan digital. Secara khusus, masalah aplikasi AI perlu diselesaikan. Sulit untuk mengidentifikasi orang yang bertanggung jawab atas kesalahan perangkat digital. Para ahli secara luas membahas tanggung jawab sistem Artificial Intelligence (AI) IBM "Watson for Oncology" di Korea Selatan, dan identitas hukumnya, dan berpendapat bahwa tanggung jawab harus ditempatkan pada pencipta Watson dan personel medis yang relevan.

Pembentukan jaminan hukum untuk keamanan AI dan robot dibahas secara luas di samping masalah regulasi aktivitas. Secara khusus, Chessman mengangkat masalah penerapan aturan penanganan hewan pada robot --hingga penetapan tanggung jawab atas penyalahgunaan robot atau AI-- karena perenungan atas penyalahgunaan ini dapat menyebabkan kerusakan mental pada manusia (Chessman, 2018). Pengenalan aktif AI dan pembelajaran mesin membuat proses penentuan batasan yang mungkin untuk penggunaan teknologi dalam kegiatan hukum menjadi tantangan. Beberapa penulis menyangkal kemungkinan ini, dan menekankan bahwa pengambilan keputusan hukum tidak dapat diotomatisasi karena mengandung terlalu banyak pertimbangan nilai; norma bersifat kontekstual, dan bergantung pada intuisi serta keadilan dalam segala bentuknya (Wachter et al., 2020). Pendekatan ini tampaknya sangat kategoris, terutama mengingat penggunaan lama teknologi digital oleh advokat. Masalahnya adalah bagaimana partisipasi ini akan diformalkan, dan bagaimana menentukan kewajiban mesin untuk keputusan akhir. Komentar adil Ryan Catterwell adalah bahwa pembelajaran mesin dan AI dapat digunakan untuk interpretasi kontrak otomatis.

Secara umum, gagasan tentang identitas hukum teknologi digital masuk akal; namun, seringkali disamakan dengan identitas hukum orang. Menurut para ahli, identitas hukum robot dapat dikenali sama dengan identitas hukum yang diakui organisasi internasional, misalnya PBB (Chung & Zink, 2017).

Penting juga untuk mempertimbangkan otonomi objek digital. Ketergantungan manusia pada teknologi akan menentukan kapasitas dispositif deliknya. Penting untuk disebutkan beberapa aspek yang diterapkan terkait transformasi hukum di lingkungan digital. Secara khusus, masalah aplikasi AI perlu diselesaikan. Sulit untuk mengidentifikasi orang yang bertanggung jawab atas kesalahan perangkat digital. Para ahli secara luas membahas tanggung jawab sistem Artificial Intelligence (AI) IBM "Watson for Oncology" di Korea Selatan, dan identitas hukumnya, dan berpendapat bahwa tanggung jawab harus ditempatkan pada pencipta Watson dan personel medis yang relevan.

Pembentukan jaminan hukum untuk keamanan AI dan robot dibahas secara luas di samping masalah regulasi aktivitas. Secara khusus, Chessman mengangkat masalah penerapan aturan penanganan hewan pada robot - hingga penetapan tanggung jawab atas penyalahgunaan robot atau AI - karena perenungan penyalahgunaan ini dapat menyebabkan kerusakan mental pada manusia (Chessman, 2018). Pengenalan aktif AI dan pembelajaran mesin membuat proses penentuan batasan yang mungkin untuk penggunaan teknologi dalam kegiatan hukum menjadi tantangan. Beberapa penulis menyangkal kemungkinan ini, dan menekankan bahwa pengambilan keputusan hukum tidak dapat diotomatisasi karena mengandung terlalu banyak pertimbangan nilai; norma bersifat kontekstual, dan bergantung pada intuisi serta keadilan dalam segala bentuknya (Wachter et al., 2020). Pendekatan ini tampaknya sangat kategoris, terutama mengingat penggunaan lama teknologi digital oleh pengacara. Masalahnya adalah bagaimana partisipasi ini akan diformalkan, dan bagaimana menentukan kewajiban mesin untuk keputusan akhir. Komentar adil Ryan Catterwell adalah bahwa pembelajaran mesin dan AI dapat digunakan untuk interpretasi kontrak otomatis.

Adapun regulasi hukum teknologi digital, tidak bisa tidak kami sebutkan aspek penerapan penggunaan pesawat tanpa awak (drone). Meskipun undang-undang di banyak negara, termasuk Rusia, memasukkan norma-norma yang membatasi penggunaan drone, perlindungan privasi tetap menjadi masalah. Secara khusus, tidak ada negara di dunia yang memberikan perlindungan hukum yang memadai kepada pemilik tanah terhadap tindakan jahat pemilik drone yang mungkin menggunakan drone untuk benar-benar menyerang tanah asing, memotret semua orang tanpa izin, atau mengganggu privasi mereka (Holden, 2016). Masalah informasi yang dikumpulkan oleh drone dan kemungkinan penggunaannya oleh pemilik juga belum dibahas (Kaminski, 2015).

Kesimpulan

Meringkas temuan penelitian ini, penting untuk menekankan bahwa legislasi modern baru mulai menetapkan aturan untuk penggunaan teknologi digital. Di tingkat internasional, pembahasan saat ini berfokus pada dua kemungkinan strategi: mendorong perkembangan ekonomi digital (progressive advance strategy) atau meminimalkan risiko terkait penggunaannya (security strategy). Di tingkat negara bagian, upaya dilakukan untuk mengatasi masalah secara paliatif melalui solusi hukum selektif dan adopsi program nasional yang bertujuan menemukan solusi lintas sektoral.

Meskipun tidak menyangkal pentingnya pekerjaan ini, ada kebutuhan untuk pendekatan yang lebih koheren dan sistematis untuk pengembangan hukum digital dengan menangani dua masalah mendasar: (1) Dapatkah konstruksi hukum tradisional disesuaikan dengan ekonomi digital, atau dibutuhkan hukum yang inovatif? (2) Bagaimana model universalisasi hukum teknologi transnasional dapat dirancang?

Solusi dari masalah pertama secara langsung tergantung pada bagaimana ilmu hukum modern akan menilai identitas hukum, dan kemampuan untuk melindungi, teknologi digital. Studi tersebut menunjukkan bahwa dalam perkembangan digital, marginalisasi hukum tradisional terlihat jelas; oleh karena itu, penggunaan struktur lama hanya dapat mengarah pada pengaturan mosaik tanpa cadangan untuk pengembangan lebih lanjut.

Perkembangan progresif ekonomi digital tidak mungkin terjadi tanpa pengembangan dan adopsi struktur hukum baru yang fundamental dengan komitmen jangka panjang. Secara khusus, identitas hukum teknologi, hak cipta dan hukum terkait, kewajiban mesin, dan asuransi perlu ditinjau secara mendasar.

Penting juga untuk dicatat bahwa model-model ini harus dikembangkan di tingkat komunitas internasional daripada di tingkat masing-masing negara; ini untuk memastikan hukum bersifat universal.

Catatan Kaki:

1. FATF (2019, June). Guidance for a Risk-Based Approach to Virtual Assets and Virtual Asset Service Providers. Paper presented at the meeting of FATF, Paris. www.fatf-gafi.org/publications/fatfrecommendations/documents/Guidance-RBAvirtual-assets.html

↑2. Basel Committee on Banking Supervision. (2019). Designing a Prudential Treatment for Cryptoassets. https://www.bis.org/bcbs/publ/d490.pdf

↑3. ISO (2019). Journey to a New Strategy. https://www.iso.org/annual-reports.html

↑4. Organization for Security and Co-operation in Europe (OECD). (2019, January). Initial Coin Offerings (ICOs) for SME Financing. https://www.oecd.org/fr/finances/initial-coin-offerings-for-sme-financing.html

↑5. Organization for Security and Co-operation in Europe (OECD). (2019, March). Artificial Intelligence and Freedom of Expression. https://www.osce.org/representative-on-freedom-of-media/447829?download=true и Organization for Security and Co-operation in Europe (OECD). (2019, May). Recommendation of the Council on Artificial Intelligence. https://www.fsmb.org/siteassets/artificial-intelligence/pdfs/oecd-recommendation-on-ai-en.pdf

↑6. Organization for Security and Co-operation in Europe (OECD). (2019, June). OECD Principles on AI. https://www.oecd.org/going-digital/ai/principles

↑7. G20. (2019, June 9). Ministerial Statement on Trade and Digital Economy. http://trade.ec.europa.eu/doclib/press/index.cfm?id=2027

Referensi

1. Catterwell, R. (2020) Automation in contract interpretation. Forthcoming, Law, Innovation and Technology Journal, 12(1), 81-112. https://doi.org/10.1080/17579961.2020.1727068

↑2. Chen, J., Edwards, L., Urquhart, L., & McAuley, D. (2019). Who is responsible for data processing in smart homes? Reconsidering joint controllership and the household exemption. Edinburgh School of Law Research Paper Forthcoming, 8(2), Article 21. https://doi.org/10.2139/ssrn.3483511

↑3. Chessman, C. F. (2018, June 29). Not quite human: Artificial Intelligence, animals, and the regulation of sentient property. SSRN Electronic Journal. https://doi.org/10.2139/ssrn.3200802

↑4. Chung, J., & Zink, A. (2018). Hey Watson, can I sue you for malpractice? Examining the liability of artificial intelligence in medicine. Asia-Pacific Journal of Health Law & Ethics, 11(2), 51-80.

↑5. Custers, B. H. M., & Leeuw, F. (2017). Legal Big Data: Toepassingen voor de rechtspraktijk en juridisch onderzoek [Legal Big Data: Applications for legal practice and legal research]. Nederlands Juristenblad, 34, 2449-2456. https://www.openrecht.nl?jcdi=JCDI:ALT82:1

↑6. Edwards, F. R., Hanley, F., Litan, R., & Weil, R. L. (2019). Crypto Assets Require Better Regulation: Statement of the Financial Economists Roundtable on Crypto Assets. Financial Analysts Journal, 75(2), 14-19. https://doi.org/10.1080/0015198X.2019.1593766

↑7. Entin, V. L. (2017). Avtorskoye pravo v virtual’noy real’nosti (novyye vozmozhnosti i vyzovy tsifrovoy epokhi) [Copyright in virtual reality (new opportunities and challenges in digital age)]. Statute.

↑8. Fernández-Villaverde, J. (2020, March 20). Simple rules for a complex world with artificial intelligence. PIER Working Paper 20-010. https://doi.org/10.2139/ssrn.3559378

↑9. Fosch Villaronga, E., & Millard, C. (2018, December 23). Cloud robotics law and regulation. Queen Mary School of Law Legal Studies Research Paper 295/2018.

↑10. Giudici, G., Milne, A., & Vinogradov, D. (2020). Cryptocurrencies: Market analysis and perspectives. Journal of Industrial and Business Economics, 47, 1-18. https://doi.org/10.1007/s40812-019-00138-6

↑11. Goanta, C. (2017, October). Big law, big data. Law and Method, Special Issue - Comparative Law. https://doi.org/10.5553/REM/.000029

↑12. Gomes, S. (2018). Smart contracts: Legal frontiers and insertion into the creative economy. Brazilian Journal of Operations & Production Management, 15(3), 376-385. https://doi.org/10.14488/BJOPM.2018.v15.n3.a4

↑13. Hacker, P., Krestel, R., Grundmann, S., & Naumann, F. (2020, January 19). Explainable AI under contract and tort law: Legal incentives and technical challenges. Artificial Intelligence and Law. https://doi.org/10.1007/s10506-020-09260-6

↑14. Holden, P. (2016). Flying robots and privacy in Canada. Canadian Journal of Law and Technology, 14(1), Article 3. https://doi.org/10.2139/ssrn.2571490

↑15. Huang, R., Yang, D., & Loo, F. (2020). The development and regulation of cryptoassets: Hong Kong experiences and a comparative analysis. European Business Organization Law Review, 21, 319-347. https://doi.org/10.1007/s40804-020-00174-z

↑16. Kaminski, M. E. (2015). Robots in the home: What will we have agreed to? Ohio State Public Law Working Paper No. 292, 51(3), 661-677. https://doi.org/10.2139/ssrn.2592500

↑17. Lauts, E. B. (Ed.). (2019). Sovremennyye informatsionnyye tekhnologii i pravo [Legal regime for Artificial Intelligence modern information technologies and law]. Statute.

↑18. Konert, A., Smereka, J., & Szarpak, L. (2019). The use of drones in emergency medicine: Practical and legal aspects. Emergency Medicine International, 2019, Article 3589792. https://doi.org/10.1155/2019/3589792

↑19. Lee, J. (2019, January 31). Smart contracts for securities transactions on the DLT Platform (Blockchain): Legal obstacles and regulatory challenges. SSRN Electronic Journal. https://doi.org/10.2139/ssrn.3523317

↑20. Lei, C. (2019). Legal control over Big Data criminal investigation. Social Sciences in China, 40, 189-204. https://doi.org/10.1080/02529203.2019.1639963

↑21. Lin, C., Shah, K., Mauntel, C. & Shah, S. (2017). Drone delivery of medications: Review of the landscape and legal considerations. American Journal of Health-System Pharmacy, 75(3), 153-158. https://doi.org/10.2146/ajhp170196

↑22. Liu, Y., & Huang, J. (2019). Legal creation of smart contracts and the legal effects. Journal of Physics: Conference Series, 1345(4), Article 042033. https://doi.org/10.1088/1742-6596/1345/4/042033

↑23. Low, K., & Mik, E. (2020). Pause the Blockchain legal revolution. International and Comparative Law Quarterly, 69(1), 135-175. https://doi.org/10.1017/S0020589319000502

↑24. Maggon, H. (2006). Legal protection of databases: An Indian perspective. Journal of Intellectual Property Rights, 11, 140-144.

↑25. Marquès, M. C. (2019). Drones recreativos: Normativa aplicable, responsabilidad civil y protección de datos [Recreational drones: Legal framework, civil liability and data protection]. Revista de Derecho Civil, 6(1), 297-333. https://www.nreg.es/ojs/index.php/RDC/article/view/380

↑26. Modh, K. (2015, November 25). Drones and their legality in the context of privacy. SSRN Electronic Journal. https://doi.org/10.2139/ssrn.2773598

↑27. Mohamed, S., & Zulhuda, S. (2015). The concept of internet of things and its challenges to privacy. South East Asia Journal of Contemporary Business, Economics and Law, 8(4), 1-6.

↑28. Mowbray, A., Chung, P., & Greenleaf, G. (2019, June). Utilising AI in the legal assistance sector-testings role for legal information institutes. Paper presented at the 1st International Workshop on AI and Intelligent Assistance for Legal Professionals in the Digital Workplace (LegalAIIA),Canada. https://doi.org/10.2139/ssrn.3379441

↑29. Neznamov, A. V., & Naumov, V. B. (2018). Strategiya regulirovaniya robototekhniki i kiberfizicheskikh sistem [Regulation for the robotics and cyberphysical systems regulation]. Zakon, 2, 69-89.

↑30. Ponkin, I. V., & Redkina, A. I. (2018). Iskusstvennyy intellekt s tochki zreniya prava [Artificial intelligence from the point of view of law]. RUDN Journal of Law, 22(1), 91-109. https://doi.org/10.22363/2313-2337-2018-22-1- 91-109

↑31. Rahmatian, A. (2013). Originality in UK copyright law: The old “skill and labour” doctrine under pressure. International Review of Intellectual Property and Competition Law, 44, 4-34. https://doi.org/10.1007/s40319- 012-0003-4

↑32. Sanz Bayón, P. (2019). Key legal issues surrounding smart contract applications. KLRI Journal of Law and Legislation, 9(1), 63-91.

↑33. Sixt, E., & Himmer, K. (2019, July 15). Accounting and taxation of cryptoassets. SSRN Electronic Journal. https://doi.org/10.2139/ssrn.3419691

↑34. Wachter, S., Mittelstadt, B., & Russell, C. (2020, March 3). Why fairness cannot be automated: Bridging the gap between EU non-discrimination law and AI. SSRN Electronic Journal. https://doi.org/10.2139/ssrn.3547922

↑35. Yu, R., & Alì, G. (2019). What‘s inside the black box? AI challenges for lawyers and researchers. Legal Information Management, 19(1), 2-13. https://doi.org/10.1017/S1472669619000021

↑36. Yunquera Sehwani, R. (2018). One cloud in the sky and conflicting laws on the ground: Regulating law enforcement access to e-evidence in cloud computing in the European Union and the United States (Unpublished thesis). College of Europe, Belgium. https://doi.org/10.2139/ssrn.3271580

↑37. Zimmerman, E. (2015, February 12). Machine minds: Frontiers in legal personhood. SSRN Electronic Journal. https://doi.org/10.2139/ssrn.2563965



Komentar

Artikel Terpopuler

21-Days of Abundance Meditation Challenge Deepak Chopra

Konstitusionalisme Deliberatif dan Judicial Review

Day 10 21-Day Meditation Challenge Creating Abundance (Deepak Chopra)

Day 16 21-Day Meditation Challenge Creating Abundance (Deepak Chopra)

Day 6 21-Day Meditation Challenge Creating Abundance (Deepak Chopra)

Day 4 21-Day Meditation Challenge Creating Abundance (Deepak Chopra)

Day 8 21-Day Meditation Challenge Creating Abundance (Deepak Chopra)

Day 7 21-Day Meditation Challenge Creating Abundance (Deepak Chopra)

Sosiologi Hukum Mathieu Deflem (2): Pengantar Buku Sosiologi Hukum

Day 17 21-Day Meditation Challenge Creating Abundance (Deepak Chopra)