Sistem AI résiko tinggi: naon anu diwajibkeun ku Undang-Undang AI ti organisasi anjeun

Sistem AI anu résiko luhur mangrupikeun titik fokus tina Peraturan AI Éropa ( Peraturan (EU) 2024/1689 ), anu umumna disebut Undang-Undang AI, anu ngenalkeun kerangka kerja berbasis résiko pikeun ngembangkeun, nyayogikeun, sareng nganggo sistem kecerdasan buatan (AI). Beuki luhur résiko pikeun kaséhatan, kasalametan, sareng hak-hak dasar, beuki beurat kawajibanana.

Ku kituna, pikeun organisasi, patuh kana aturan henteu dimimitian ku nyusun dokuméntasi téknis, tapi ku klasifikasi anu leres. Mimitina tangtukeun sistem AI mana anu dikembangkeun, dipésér, atanapi dianggo dina organisasi. Teras évaluasi naha hiji sistem dilarang , résiko tinggi, tunduk kana kawajiban transparansi, atanapi di luar kawajiban khusus.

Artikel ieu ngajelaskeun iraha sistem AI tiasa dianggap résiko tinggi, kawajiban mana anu lumaku pikeun panyadia sareng panyebar, sareng léngkah mana anu tiasa dilaksanakeun ku organisasi ayeuna. Éta ogé ngajelaskeun garis waktos sapertos ayeuna, saatos panundaan kawajiban résiko tinggi dina Digital Omnibus.

Iraha sistem AI résiko luhur?

Penilaian sistem AI anu résiko luhur dilakukeun utamina dina Pasal 6 sareng Lampiran I sareng III tina Undang-Undang AI. Aya dua rute.

Rute anu kahiji patali sareng sistem AI anu mangrupikeun bagian tina produk anu katutupan ku undang-undang produk Éropa anu didaptarkeun dina Lampiran I sareng meryogikeun penilaian konformitas pihak katilu. Bayangkeun alat médis, mesin, lift, sareng cocooan anu tangtu. Pikeun sistem ieu, Undang-Undang AI ngawangun kana prosedur penilaian konformitas anu tos aya.

Jalur kadua patali jeung sistem AI anu dianggo dina domain anu didaptarkeun dina Lampiran III: biométrik, infrastruktur kritis, pendidikan sareng pelatihan vokasional, manajemen padamelan sareng tenaga kerja, aksés kana layanan swasta sareng umum anu penting, penegak hukum, migrasi, suaka sareng kontrol wates, sareng administrasi kaadilan sareng prosés démokrasi. Henteu unggal panggunaan dina domain sapertos kitu sacara otomatis ngahasilkeun klasifikasi di antara sistem AI anu résiko tinggi: fungsi khusus sistem sareng kaayaan Pasal 6 ogé kedah dipeunteun.

Iwal dina Pasal 6(3)

Sistem anu kalebet dina domain Lampiran III henteu otomatis diitung di antara sistem AI anu résiko tinggi: klasifikasi éta dikaluarkeun upami henteu nimbulkeun résiko anu signifikan pikeun kaséhatan, kasalametan atanapi hak-hak dasar jalma sareng henteu mangaruhan sacara matéri hasil pangambilan kaputusan. Éta tiasa janten kasus dimana sistem ngan ukur ngalaksanakeun tugas prosedural anu sempit, ngan ukur ningkatkeun kagiatan anu parantos dilaksanakeun ku manusa, ngan ukur nandakeun panyimpangan tina pangambilan kaputusan manusa sateuacana tanpa ngagentos penilaian éta, atanapi ngan ukur ngalaksanakeun tugas persiapan.

Katergantungan kana pengecualian ieu kedah diémutan sareng didokumentasikeun sacara saksama. Organisasi henteu ngan ukur ngarékam kacindekan, tapi ogé fakta sareng penilaian anu janten dasar kacindekan éta. Panyadia anu nganggap yén sistem Lampiran III henteu kalebet kana sistem AI résiko tinggi kedah ngadokumentasikeun penilaian éta sateuacan sistem éta ditempatkeun di pasar atanapi dianggo, sareng salajengna tunduk kana kawajiban pendaptaran dina Pasal 49(2).

Dina hiji hal, Peraturan ieu mutlak. Pasal 6(3) netepkeun yén sistem AI anu disebutkeun dina Lampiran III salawasna diitung di antara sistem AI anu résiko tinggi nalika éta ngalakukeun profiling jalma. Iwal teu tiasa dianggo dina kasus éta.

Naon peran organisasi anjeun?

Undang-Undang AI ngabédakeun sababaraha peran dina ranté éta. Dua di antarana penting pikeun kaseueuran organisasi. Pihak anu ngembangkeun sistem AI, atanapi nempatkeunana di pasar kalayan nami atanapi mérek dagangna nyalira, mumpuni salaku panyadia. Pihak anu nganggo sistem AI dina bisnisna nyalira tanpa ngembangkeunana umumna mumpuni salaku panyebar.

Alokasi peran éta henteu statis. Organisasi anu ngarobih sistem anu dipésér sacara substansial, nyayogikeunana kalayan nami atanapi mérek dagangna nyalira, atanapi ngarobih tujuan anu dimaksud, masih tiasa dianggap salaku panyadia sareng ku kituna kalebet kana sakumpulan kawajiban anu langkung beurat. Tangtukeun pikeun unggal sistem peran mana anu anjeun laksanakeun, sareng catet penilaian éta.

Kawajiban utama

Panyadia sistem AI anu résiko luhur tunduk kana kawajiban kalebet anu aya dina Pasal 8 dugi ka 17, 43 sareng 47 dugi ka 49:

• sistem manajemen résiko anu ngawengku sakabéh siklus hirup
• tata kelola data, kalebet ngadeteksi sareng ngoréksi bias dina data anu dianggo, kalebet latihan, validasi sareng uji data
• dokuméntasi téknis luyu sareng Lampiran IV, sareng pencatatan kajadian
• parentah anu jelas pikeun panggunaan pikeun deployer
• desain anu ngamungkinkeun pangawasan manusa anu efektif
• sarat ngeunaan akurasi, kateguhan, sareng kaamanan siber
• sistem manajemen kualitas, penilaian konformitas, deklarasi konformitas EU, penandaan CE sareng pendaptaran dina database EU

Pikeun sistem AI résiko tinggi anu dianggo pikeun idéntifikasi biométrik jarak jauh sapertos anu disebutkeun dina Lampiran III, poin 1(a), Pasal 14(5) maksa sarat tambahan ngeunaan pangawasan manusa: teu aya tindakan atanapi kaputusan anu tiasa dilaksanakeun dumasar kana idéntifikasi kecuali upami parantos diverifikasi sareng dikonfirmasi sacara misah ku sahenteuna dua jalma alami anu gaduh kompetensi, pelatihan sareng otoritas anu diperyogikeun. Ieu katelah prinsip opat panon.

Para panyebar tunduk kana kawajiban anu langkung hampang tapi teu kirang pentingna dina Pasal 26 sareng 27: panggunaan saluyu sareng pitunjuk panggunaan, pangawasan manusa anu kompeten, ngawaskeun operasi sistem, ngalaporkeun résiko sareng kajadian serius, sareng nyimpen log sahenteuna genep bulan. Karyawan anu bakal damel sareng sistem, sareng jalma anu dianggo, kedah dibéjaan sateuacanna.

Sababaraha deployer ogé kedah ngalaksanakeun penilaian dampak hak-hak dasar, Penilaian Dampak Hak-Hak Dasar dina Pasal 27. Ieu lumaku dina sagala hal pikeun badan anu diatur ku hukum publik, pikeun panyadia jasa publik swasta, sareng pikeun deployer anu nganggo sistem pikeun penilaian kiridit atanapi pikeun meunteun résiko asuransi dina asuransi jiwa sareng kaséhatan.

Garis waktu sareng status ayeuna

Undang-Undang AI mimiti lumaku dina tanggal 1 Agustus 2024 sareng bakal lumaku sacara bertahap. Dina praktékna, penting pikeun ngabédakeun antara kawajiban anu parantos lumaku, kawajiban anu gaduh tanggal aplikasi anu bakal datang, sareng amandemen anu diumumkeun anu sacara resmi berlakuna tacan réngsé.

Praktik anu dilarang (Pasal 5): Lumaku ti saprak 2 Pébruari 2025

Literasi AI (Pasal 4): Lumaku ti saprak 2 Pébruari 2025

Modél AI tujuan umum: Lumaku ti saprak 2 Agustus 2025

Kawajiban transparansi (Pasal 50): lumaku ti saprak 2 Agustus 2026; teu ditunda

Résiko luhur via Lampiran III: lumaku ti 2 Désémber 2027, saatos panundaan

Résiko luhur via Lampiran I: lumaku ti 2 Agustus 2028, saatos panundaan anu sami

Panundaan éta parantos ditetepkeun ku hukum. Komisi Éropa ngajukeun pakét Omnibus Digital dina 19 Nopémber 2025 kalayan usulan pikeun nunda kawajiban pikeun sistem AI anu résiko tinggi. Peraturan anu dirobah, Peraturan (EU) 2026/1744, diterbitkeun dina Jurnal Resmi dina 24 Juli 2026 sareng mimiti berlaku dina 27 Juli 2026.

Ngan rezim résiko tinggi anu robah. Kawajiban dina Bab III pikeun sistem anu diklasifikasikeun ngaliwatan Lampiran III ayeuna lumaku ti 2 Désémber 2027, sareng kawajiban pikeun sistem anu diklasifikasikeun ngaliwatan Lampiran I ti 2 Agustus 2028. Sadayana tetep ngajaga tanggal aslina, janten panundaan henteu nyiptakeun jeda umum dina Undang-Undang AI.

Panundaan ieu sanés tanpa syarat sapertos parobahan tanggal anu saderhana. Penerapan kawajiban anu résiko tinggi aya hubunganana sareng kasadiaan standar anu harmonis sareng instrumen pendukung anu diperyogikeun pikeun sasuai sareng éta, sareng tanggal-tanggal énggal beroperasi salaku wates luar tina perjanjian éta tinimbang salaku target anu masih tiasa langkung jauh. Ku kituna, ngarencanakeun kalayan asumsi perpanjangan anu sanés henteu bijaksana.

Dua hal anu pantes diperhatoskeun sacara misah. Kahiji, kawajiban transparansi Pasal 50 sareng kawajiban literasi AI Pasal 4 henteu ditunda: Pasal 50 parantos diterapkeun ti saprak 2 Agustus 2026 sareng Pasal 4 ti saprak 2 Pébruari 2025. Kadua, pakét éta nambihan larangan énggal kana Pasal 5, anu ditujukeun pikeun aplikasi AI anu ngahasilkeun citra intim anu henteu konsensual sareng pikeun matéri pelecehan séksual anak anu dihasilkeun ku AI.

Pikeun organisasi, ieu hartina Désémber 2027 mangrupikeun tanggal pikeun ngarencanakeun dokuméntasi résiko tinggi, sedengkeun transparansi, literasi, sareng kawajiban tujuan umum mangrupikeun masalah patuh ayeuna tinimbang persiapan.

Pangawasan sareng sanksi

Di Walanda, undang-undang palaksanaan pikeun Undang-Undang AI tacan berlaku. Draf parantos dirilis pikeun konsultasi umum dina tanggal 20 April 2026. Éta masihan Otoritas Perlindungan Data Walanda (Autoriteit Persoonsgegevens) peran pangawas pikeun widang anu teu aya pangawas séktor anu ditunjuk, kalayan unit AI khusus, sareng masihan Otoritas Walanda pikeun Infrastruktur Digital (RDI) peran koordinasi, sedengkeun pangawas séktor tetep ngajaga domainna nyalira. Dugi ka undang-undang éta disahkeun sareng diberlakukeun, alokasi kawenangan anu pasti sareng rezim sanksi nasional tacan ditetepkeun.

Pasal 99 tina Undang-Undang AI netepkeun sababaraha kategori hukuman maksimum. Tingkatna gumantung kana sifat palanggaran sareng, upami aya hubunganana, kana omzet taunan perusahaan di sakumna dunya. Maksimum pangluhurna lumaku pikeun palanggaran prakték anu dilarang dina Pasal 5; maksimum anu langkung handap lumaku pikeun palanggaran kawajiban anu sanés, kalebet pikeun panyadia sareng panyebar sistem AI résiko tinggi; sareng anu panghandapna lumaku pikeun nyayogikeun inpormasi anu salah, teu lengkep atanapi nyasabkeun ka otoritas. Rezim anu langkung nguntungkeun lumaku pikeun usaha leutik sareng sedeng (UKM), kalebet perusahaan rintisan. Hukuman anu saleresna ditangtukeun kalayan merhatikeun aturan anu lumaku ngeunaan hukuman sareng kaayaan kasusna.

Peta jalan praktis

• Inventaris sadaya sistem AI anu dikembangkeun, dipésér, atanapi dianggo ku organisasi anjeun.
• Tangtukeun pikeun unggal sistem peran anu anjeun laksanakeun: panyadia atanapi panyebar.
• Tangtukeun kategori résiko pikeun unggal sistem sareng dokuméntasikeun penilaian éta, kalebet naon waé anu ngandelkeun pengecualian dina Pasal 6(3).
• Nyetél tata kelola AI sareng nunjuk petugas anu tanggung jawab.
• Pastikeun literasi AI di antara staf anu damel nganggo sistem ieu; kawajiban éta parantos lumaku.
• Laksanakeun ukuran transparansi dina Pasal 50; éta parantos diterapkeun ti saprak 2 Agustus 2026.
• Mimitian dokumentasi téknis sareng, upami diperyogikeun, penilaian dampak hak-hak dasar dina waktos anu pas.
• Marios kontrak supplier ngeunaan alokasi peran, panyediaan informasi, sareng hak audit.
• Rencanakeun dokuméntasi résiko tinggi sateuacan 2 Désémber 2027 pikeun sistem Lampiran III sareng 2 Agustus 2028 pikeun sistem Lampiran I.

Naon anu dipénta ku Undang-Undang AI ti organisasi anjeun

Undang-Undang AI sacara fundamental mangaruhan kumaha organisasi ngembangkeun, mésér, sareng nganggo AI. Panundaan kawajiban résiko tinggi mésér waktos kanggo bagian anu paling beurat tina rezim éta, tapi éta ngantepkeun sadayana anu sanés: larangan Pasal 5, kawajiban literasi AI, aturan pikeun modél AI tujuan umum sareng kawajiban transparansi Pasal 50 sadayana lumaku ayeuna. Waktos anu diala pangsaéna dianggo pikeun klasifikasi sareng dokuméntasi, sabab éta mangrupikeun léngkah-léngkah anu teu tiasa dikomprés engké. Pikeun tinjauan anu langkung lega ngeunaan peraturan éta, tingali Panduan Lengkep kami pikeun Undang-Undang AI EU , anu ngalengkepan fokus artikel ieu kana sistem AI résiko tinggi.

Law & More ngabantosan organisasi ngainventarisasi sareng ngaklasifikasikeun sistem AI na, nangtukeun peranna salaku panyadia atanapi panyebar, marios sareng nyusun kontrak sareng supplier AI, sareng nyetél tata kelola AI. Upami anjeun hoyong terang kawajiban mana anu ayeuna lumaku pikeun organisasi anjeun sareng léngkah mana anu kedah diprioritaskeun? mangga ngahubungi kami.

Remen ditanyakeun

Di handap ieu kami bakal ngajawab patarosan anu paling sering ditanyakeun ka kami ngeunaan topik ieu.