Kinsa ang manubag kon ang usa ka sistema sa AI hinungdan sa kadaot?

Ang responsibilidad sa mga sistema sa AI sa Netherlands kanunay nga anaa sa usa ka tawo o kompanya, dili sa software. Duha ka posisyon ang importante sa praktis: ang tiggamit, nga nagpasabot sa indibidwal o organisasyon nga nag-deploy sa sistema ug naghimo og mga desisyon uban niini, ug ang prodyuser, nga nagpasabot sa partido nga nagpalambo sa sistema, nagbutang niini sa merkado o nagsuplay niini. Kinsa sa duha ang nagdala sa kapildihan nagdepende kung asa nahimutang ang kapakyasan, kung unsa ang nahibal-an sa matag usa kanila, ug kung unsa ang giingon sa kontrata tali kanila. Kini nga artikulo naglihok pinaagi sa duha ka posisyon; ang balangkas sa balaod kriminal mismo, gikan sa functional perpetration hangtod sa corporate liability ubos sa artikulo 51 sa Criminal Code, gilatid sa among kauban nga artikulo kung ang usa ka algorithm mahimong partially responsible.

Ngano nga ang sistema dili gyud ang akusado

Ang balaod sa Netherlands nag-ila sa duha ka klase sa tawo: natural nga mga tawo ug legal nga mga tawo. Ang sistema sa AI dili pareho sa duha. Dili kini makahupot og mga katungod, dili mapatawag, dili mamultahan ug dili mamandoan sa pagbayad og mga danyos, tungod kay wala kini gipanag-iya ug walay legal nga paglungtad nga lahi sa kompanya nga nagpadagan niini. Ang mga sugyot sa paghimo og ikatulo nga kategorya, usahay gitawag nga electronic personhood, nahisgutan na sa lebel sa Europa ug wala pa gihapon kini maadto, tungod sa usa ka rason nga mas praktikal kaysa pilosopikal: ang usa ka liability vehicle nga walay mga kabtangan ug walay kapasidad sa pag-usab sa pamatasan niini magbalhin sa risgo gikan sa mga partido nga aktuwal nga makapugong sa kadaot.

Busa ang pangutana dili gyud kung ang makina ba ang manubag. Kini ang pangutana kung kinsang tawo o korporasyon nga aktor sa kadena ang napakyas sa usa ka katungdanan, ug kana nga kadena adunay matag-an nga porma: ang partido nga nagtukod sa modelo, ang partido nga naghimo niini nga usa ka produkto, ang partido nga nagsuplay o nag-integrate niini, ang organisasyon nga nag-deploy niini, ug ang indibidwal nga nagpindot sa buton. Ang responsibilidad alang sa mga sistema sa AI mao ang paggamit sa pagpangita sa kapakyasan sa kana nga kadena ug pagpares niini sa usa ka legal nga basehan.

Duha niining mga legal nga basehan ang nagdominar. Para sa tiggamit, ang kinatibuk-ang balaod sa tort ug ang katungdanan sa pag-amping nga moabut uban sa paggamit sa usa ka gamhanang himan sa direksyon sa uban. Para sa prodyuser, ang tulubagon sa produkto, nga wala magkinahanglan og bisan unsang sala. Ang tanan, lakip ang kriminal nga pagkaladlad, gipatong-patong niini.

Posisyon sa tiggamit

Gibalewala sa mga tiggamit ang ilang pagkaladlad tungod kay ilang gihunahuna ang sistema nga usa ka black box nga gihimo sa uban. Sa balaod, ang tawo nga mopili sa pag-deploy sa usa ka himan, mo-configure niini, mopakaon niini og datos ug molihok base sa output niini nagbuhat og usa ka butang, ug kana nga pagbuhat gisusi base sa kaugalingon niining merito.

Kung ang sistema usa lamang ka instrumento sa usa ka kalapasan

Ang pinakasayon ​​nga mga kaso mao kadtong tinuyo nga gigamit ang sistema sa AI. Ang paghimo og makapakombinsir nga invoice aron manlimbong sa usa ka kompanya usa ka panlimbong ubos sa artikulo 326 sa Criminal Code bisan kung ang sulat gisulat sa usa ka tawo o sa usa ka modelo, ug ang pagpeke sa usa ka dokumento nagpabilin nga pagpeke ubos sa artikulo 225 bisan unsa pa ang himan. Ang paggamit og modelo aron pagsulat og code nga makasulod sa usa ka sistema usa gihapon ka pagpanghilabot sa kompyuter ubos sa artikulo 138ab. Ang paghimo ug pag-apod-apod sa gimaniobra nga mga imahe sa usa ka tinuod nga tawo mahimong katumbas sa pagbutangbutang, ug kung ang materyal sekswal ang kinaiya, kini nahisakop sa mga kalapasan sa Sexual Offences Act nga gigamit sukad Hulyo 1, 2024. Ang padayon nga pagpanghadlok nga gitabangan sa AI sa usa ka indibidwal mahimong isipon nga pagpaniid ubos sa artikulo 285b, nga gikiha lamang kung adunay reklamo ang biktima.

Dili kini bag-ong balaod. Ang teknolohiya nag-usab sa sukod ug sa posibilidad sa pagpanglimbong, dili sa mga elemento sa krimen. Ang giusab niini mao ang ebidensya: ang mga prompt, account log, model output ug ang timing sa paghimo og file mao ang materyal nga nagkonektar sa krimen sa usa ka tawo, ug ang mga tiggamit nga naghunahuna nga ang AI-generated content dili masubay kasagaran nasayop.

Pagpabaya sa paggamit: ang mas komon nga risgo

Mas daghang organisasyon ang naa sa problema tungod sa kawalay-pagtagad kaysa sa tuyo. Pamilyar na ang sumbanan. Ang usa ka sistema gipalit alang sa usa ka katuyoan ug gigamit alang sa lain. Ang output niini giisip nga usa ka desisyon imbes nga usa ka signal. Walay nagsusi sa mga kaso diin kini sayup, tungod kay ang mga tawo nga nagpadagan niini wala gyud gisultihan kung unsa ang hitsura sa rate sa sayup niini o kung diin kini napakyas. Kung ang kadaot mahitabo, madiskobrehan sa organisasyon nga wala kini rekord kung giunsa pagkab-ot ang desisyon.

Sa sibil nga termino, kini usa ka prangka nga tort: ​​ang artikulo 6:162 sa Civil Code naghimo sa usa ka tawo nga manubag sa usa ka ilegal nga buhat nga mahimong hinungdan sa kadaot. Ang paglapas sa katungdanan sa pag-amping sa katilingban usa sa mga kategorya sa pagkadili-makatarunganon, ug ang sulud sa maong katungdanan gitakda sa kung unsa ang buhaton sa usa ka mabinantayon nga operator sa maong posisyon. Ang usa ka amo usab manubag sa mga sayop sa iyang mga empleyado ubos sa artikulo 6:170, ug ang usa ka partido nga naggamit ug auxiliary aron pagtuman sa usa ka kontrata nga obligasyon manubag alang niana nga auxiliary ubos sa artikulo 6:76, nga mao ang probisyon nga nagdakop sa usa ka organisasyon nga naggamit sa modelo sa usa ka supplier aron paghatag sa kaugalingon nga serbisyo.

Ang katungdanan sa pag-amping dili na hingpit nga ibilin sa mga korte aron mag-imbento. Ang EU AI Act naghatag sa mga nag-deploy sa mga high-risk system og mga konkretong obligasyon: gamiton ang sistema subay sa mga instruksyon, itudlo ang pagdumala sa tawo ngadto sa mga tawo nga adunay katakus ug awtoridad sa paggamit niini, sigurohon nga ang input data ubos sa ilang kontrol may kalabutan, monitoron ang operasyon ug ihunong ang paggamit kung adunay motumaw nga risgo, tipigan ang mga log, ug ipahibalo ang mga trabahante ug ang ilang mga representante sa dili pa i-deploy ang ingon nga sistema sa trabaho. Kanang mga obligasyon mga regulasyon, apan ang korte nga nagsusi sa kapabayaan magbasa niini isip usa ka paghulagway kung unsa ang hitsura sa maampingong pamatasan. Ang usa ka organisasyon nga wala magtagad sa mga instruksyon sa paggamit dili lamang dili mosunod; gitugyan na niini ang kaso sa nagdemanda.

Ang automation bias angayng hisgutan nga lahi tungod kay dinhi hilom nga mapakyas ang pagdumala. Ang usa ka tigsusi nga moaprubar sa halos tanan nga gisugyot sa sistema wala magpatuman sa pagdumala, ug ang usa ka organisasyon nga nagsukod sa mga kawani niini sa throughput epektibo nga nagdisenyo niana nga resulta. Ang legal nga pangutana mao kung ang desisyon ba sa tawo tinuod nga gihimo, ug ang usa ka rubber stamp dili kwalipikado.

Kung diin ang tiggamit dili makapasa sa risgo

Tulo ka punto ang kanunay nga makapakurat sa mga organisasyon nga nagtuo nga ang supplier ang nagdala sa risgo.

Una, ngadto sa nasamdan nga ikatulo nga partido, ang tiggamit mao ang makita nga partido. Usa ka kustomer ang gibalibaran sa kredito, usa ka empleyado ang gibalibaran sa usa ka himan sa screening, usa ka pasyente nga gihatagan sa sayop nga triage: nakigkontrata sila, o giatubang sa, deployer, ug ilang kihaon ang deployer. Kung ang deployer makabawi ba gikan sa iyang supplier usa ka lahi nga pangutana nga nag-abli sa kontrata ug wala maglangan sa pag-angkon batok niini.

Ikaduha, ang kinatibuk-ang mga lagda sa pagpanalipod sa datos magamit nga independente sa tanan. Kung ang sistema nagproseso sa personal nga datos, ang deployer kasagaran mao ang controller, responsable sa legal nga basehan, transparency, impact assessment ug seguridad. Ang usa ka desisyon nga gihimo lamang pinaagi sa awtomatik nga paagi nga nagpatunghag legal nga mga epekto o susamang makaapekto sa usa ka tawo gilain nga gi-regulate ug naghatag sa maong tawo og katungod sa interbensyon sa tawo ug sa pagsupak sa resulta. Ang among kinatibuk-ang pagtan-aw sa General Data Protection Regulation naglatid niana nga rehimen.

Ikatulo, ang pagbag-o makausab sa imong tahas. Ang usa ka deployer nga nagbutang sa kaugalingon niining ngalan sa usa ka sistema, nag-usab sa gituyo nga katuyoan niini, o nag-usab niini sa dakong paagi mahimong usa ka provider ubos sa AI Act ug makapanunod sa mga obligasyon sa provider. Ang pag-fine-tune sa usa ka general-purpose model ngadto sa usa ka screening tool para sa usa ka regulated nga desisyon mao gyud ang klase sa lakang nga molapas niana nga linya. Ang mga organisasyon nga nagtukod sa modelo sa uban kinahanglan nga magtino kung unsang bahina sila sa dili pa sila maglunsad, dili human sa usa ka insidente.

Ang posisyon sa prodyuser

Lahi ang dalan sa pagkaladlad sa prodyuser, ug kini mas estrikto. Ang tulubagon sa produkto ubos sa artikulo 6:185 ug sa pagsunod sa Civil Code naghimo sa prodyuser nga manubag sa kadaot nga gipahinabo sa usa ka depekto sa iyang produkto nga dili kinahanglan pamatud-an sa nasamdan nga partido ang sayup. Ang usa ka produkto depektoso kung wala kini magtanyag sa kaluwasan nga angay nga mapaabut sa usa ka tawo, nga gikonsiderar ang presentasyon niini, ang paggamit nga makatarunganon nga mapaabut niini ug ang oras nga kini gibutang sa sirkulasyon. Kinahanglan pamatud-an sa nagdemanda ang kadaot, ang depekto ug ang hinungdan nga sumpay tali kanila, nga sa usa ka kaso sa AI mao ang tinuod nga away.

Ang rehimen adunay piho nga mga limitasyon. Ang mga reklamo kinahanglan nga ipasaka sulod sa tulo ka tuig gikan sa adlaw nga ang nasamdan nga partido nahibalo, o kinahanglan unta nga nahibalo, sa kadaot, sa depekto ug sa identidad sa prodyuser, ug ang katungod matapos napulo ka tuig human ang piho nga produkto gibutang sa sirkulasyon. Ang responsibilidad ubos niini nga rehimen dili mahimong iapil o limitahan sa kontrata, ug kini naglangkob sa kamatayon, personal nga kadaot ug kadaot sa ubang kabtangan nga gigamit sa pribado, ubos sa mas ubos nga sukdanan. Ang prodyuser adunay limitado nga hugpong sa mga depensa, lakip ang depensa sa risgo sa pag-uswag, nga magamit kung ang kahimtang sa siyentipiko ug teknikal nga kahibalo sa panahon sa sirkulasyon dili makapadayag sa depekto.

Ang reporma nga nagbag-o sa posisyon alang sa software

Ubos sa kasamtangang rehimeng Dutch, ang usa ka produkto usa ka butang nga mabalhinbalhin, ug kung kwalipikado ba ang stand-alone nga software sulod na sa mga katuigan. Kana nga argumento hapit na matapos. Ang gibag-o nga Product Liability Directive, Directive (EU) 2024/2853, gipatuman niadtong Disyembre 8, 2024 ug kinahanglan nga ibalhin ngadto sa nasudnong balaod sa dili pa ang Disyembre 9, 2026; kini magamit sa mga produkto nga gibutang sa merkado o gibutang sa serbisyo pagkahuman sa maong petsa, busa ang kasamtangang mga probisyon sa Civil Code nagpadayon sa pagdumala sa mga produkto nga gipakatap sa wala pa kini. Upat ka mga pagbag-o ang hinungdanon alang sa liability alang sa mga sistema sa AI.

Ang software, lakip ang mga sistema sa AI ug mga digital manufacturing file, klaro nga usa ka produkto. Ang sirkulo sa mga partido nga manubag nagkalapad lapas sa tiggama aron maapil ang partido nga nag-usab sa usa ka produkto nga wala sa kontrol sa tiggama, ang awtorisado nga representante, ang importer ug, sa gihubit nga mga kahimtang, ang tighatag og serbisyo sa katumanan ug ang online platform. Ang mabawi nga kadaot gipalapdan sa pagkaguba o pagkadunot sa datos nga wala gigamit sa propesyonal, nga usa ka tinuod nga kategorya sa pagkawala sa mga kapakyasan sa software. Ug ang usa ka produkto mahimong depektoso tungod sa kung unsa ang mahitabo pagkahuman kini ibutang sa merkado: usa ka depekto sa usa ka gikinahanglan nga pag-update sa software, usa ka kapakyasan sa paghatag mga update sa seguridad, o ang mga epekto sa padayon nga pagkat-on diin ang prodyuser nagpabilin nga kontrol niini.

Ang reporma direktang nag-atake sa problema sa ebidensya. Mahimong mandoan sa korte ang akusado nga ibutyag ang may kalabutan nga ebidensya sa hangyo sa nagdemanda, ug kung ang akusado dili motuman, ang depekto giisip nga sayop. Ang masalikway nga mga pangagpas sa depekto ug sa hinungdan magamit kung ang nagdemanda nag-atubang sa sobra nga kalisud sa pagpamatuod niini tungod sa teknikal o siyentipikong pagkakomplikado, basta ang nagdemanda naghimo sa posibilidad nga posible. Alang sa usa ka nagdemanda nga giatubang sa usa ka modelo nga walay hingpit nga makapatin-aw, mao kana ang kalainan tali sa usa ka makalalis nga kaso ug usa ka imposible.

Kontrata, pagsunod ug ang mga limitasyon sa mga klausa sa pag-eksklusiyon

Taliwala sa mga negosyo, ang unang natad sa panggubatan kasagaran mao ang kontrata imbes nga ang balaod. Ang supplier sa usa ka sistema sa AI adunay utang sa iyang gikasabutan nga utang: ang sistema nga gihatud kinahanglan nga katumbas sa kontrata ug adunay mga kalidad nga angay nga mapaabut sa pumapalit. Kung ang usa ka supplier misaad og lebel sa katukma, lebel sa pagkaanaa o pagsunod sa AI Act, ang kapakyasan sa paghatag niini usa ka paglapas sa kontrata, ug ang ordinaryong mga remedyo sa performance, danyos ug pagkabungkag mosunod human sa usa ka husto nga pahibalo sa default.

Ang mga supplier motubag nga adunay mga limitation ug exclusion clause, ug kini nga mga clause kasagaran epektibo tali sa mga komersyal nga partido. Dili kini walay kinutuban. Ang usa ka clause mahimong i-disassemble kung ang pagsalig niini dili madawat sumala sa mga sumbanan sa pagkamakatarunganon ug kaangayan, nga mao ang ruta nga gikuha sa korte sa mga kaso sa tinuyo nga pagka-reckless o seryoso nga sayup sa bahin sa supplier, ug kung ang clause sa kinatibuk-an nga termino mahimo kini mapakyas kung ang pikas nga partido wala gyud gihatagan usa ka tinuud nga higayon nga matikdan kini. Ang liability ubos sa product liability regime dili gyud makontrata batok sa nasamdan nga partido. Sa praktis ang negosasyon bahin sa mga caps, carve-outs alang sa mga paglapas sa datos ug paglapas sa IP, mga indemnities alang sa mga multa sa regulasyon, ug ang obligasyon sa supplier sa paghatag sa dokumentasyon ug mga log nga kinahanglan sa kustomer aron madepensahan ang iyang kaugalingon. Ang among panid sa mga pag-angkon alang sa mga danyos naglatid kung giunsa paghimo ang mga pag-angkon.

Unsay gibuhat ug wala gibuhat sa AI Act

Ang AI Act usa ka instrumento sa regulasyon. Gisultihan niini ang mga provider ug deployer kung unsa ang buhaton ug gihatagan ang mga superbisor og gahum sa pagpatuman niini; wala kini magmugna og katungod sa kompensasyon alang sa usa ka tawo nga nadaot sa usa ka sistema sa AI. Ang gisugyot nga AI Liability Directive, nga unta magharmonize sa mga sibil nga pag-angkon ug magpaila sa pagbutyag ug mga pangagpas sa tibuok board, gibawi na. Ang nahabilin mao ang kombinasyon nga gihulagway sa ibabaw: nasudnong balaod sa tort ug kontrata, dugang ang gibag-o nga rehimen sa product liability.

Dili kana makahimo sa AI Act nga dili na may kalabutan sa tulubagon. Importante kini sa tulo ka paagi. Giayo niini ang sumbanan sa pag-atiman, aron ang dili pagsunod mahimong ebidensya sa pagpabaya. Nagmugna kini og mga dokumento, tungod kay ang teknikal nga dokumentasyon, ang mga instruksyon sa paggamit, ang mga log ug ang post-market monitoring file tanan anaa sa balaod ug mahimong pangayoon sa mga proseso. Ug nag-apod-apod kini og mga tahas, aron ang pangutana kung kinsa ang provider ug kinsa ang deployer, nga kaniadto usa ka butang sa argumento, karon adunay legal nga tubag. Ang among praktis sa balaod sa IT nag-atubang niining mga pangutana sa klasipikasyon sa dili pa kini mahimong mga panaglalis.

Kung asa magkita ang tiggamit ug prodyuser

Kadaghanan sa tinuod nga mga insidente dili tungod sa usa ka kapakyasan sa usa ka tumoy sa kadena. Kini tungod sa usa ka modelo nga gibansay sa datos nga wala magrepresentar sa populasyon nga gigamitan niini, nga gi-integrate sa usa ka supplier nga wala kini gisulayan sa maong konteksto, nga gi-deploy sa usa ka organisasyon nga migamit niini alang sa usa ka katuyoan nga wala masakop sa mga instruksyon, ug gidumala sa mga kawani nga wala gyud gisultihan kung unsa ang mga limitasyon niini. Ang balaod sa Netherlands walay kalisud niana: daghang partido ang mahimong manubag sa parehas nga kadaot, ang matag usa manubag sa tanan niini ngadto sa nasamdan nga partido, ug ilang husayon ​​ang internal nga pagbahinbahin tali sa ilang kaugalingon pagkahuman sumala sa ilang tagsatagsa ka kontribusyon.

Ang talaan sa ubos naglatid kung asa kasagarang nahimutang ang responsibilidad ug unsa ang basehan niini.

Ang kaso sa mga benepisyo sa pag-atiman sa bata sa Netherlands mao ang punto sa pakisayran nga gibalikan sa matag diskusyon sa Netherlands, ug kini nagpakita sa sumbanan imbes nga usa ka lagda sa balaod: usa ka dili klaro nga sistema sa klasipikasyon sa peligro, mga desisyon nga gihimo base sa resulta niini nga walay tinuod nga indibidwal nga pagtimbang-timbang, ug mga sangputanan nga hingpit nga nahulog sa mga tawo nga nakadawat. Ang legal nga sangputanan niini administratibo ug politikal imbes nga kriminal, ug among gihisgutan kung unsa ang gipakita ug wala gipakita niini bahin sa kriminal nga responsibilidad sa among artikulo bahin sa AI ug balaod kriminal.

Ang problema sa ebidensya, ug kung giunsa kini nagbag-o

Bisan kinsa ang mopasaka sa reklamo kinahanglan nga mopamatuod niini, ug sa mga kaso sa AI, ang pruweba mao ang lisod nga bahin. Kinahanglan ipakita sa nagdemanda kung unsa ang gibuhat sa sistema, nganong sayop kini, ug nga ang sayop ang hinungdan sa kapildihan. Ang impormasyon nga gikinahanglan aron mahimo kana anaa sa akusado, ug sa usa ka komplikado nga modelo, kini mahimong lisod gyud nga tukuron pag-usab bisan sa sulod.

Tulo ka mga kalamboan ang nag-usab sa maong balanse. Ang pag-log karon usa ka legal nga kinahanglanon alang sa mga sistema nga taas og risgo, busa ang rekord nga kaniadto opsyonal kinahanglan nga maglungtad. Ang pagbutyag sa ebidensya sa mga pag-angkon sa liability sa produkto mahimong magamit ubos sa gibag-o nga rehimen, nga gisuportahan sa usa ka presumption sa depektoso kung ang akusado dili motuman. Ug ang Dutch civil procedure nagtugot na sa usa ka partido sa pagpangayo sa paghimo sa piho nga giila nga mga dokumento diin kini adunay lehitimong interes, nga kanunay nga gigamit aron makakuha og mga test report, incident log ug internal risk assessments.

Para sa usa ka akusado, ang praktikal nga konklusyon dili komportable apan klaro: ang dokumentasyon nga imong gitipigan mao ang dokumentasyon nga basahon batok kanimo, ug ang dokumentasyon nga wala nimo tipigi ipadayon usab batok kanimo. Ang kompleto, napetsahan, matinud-anon nga mga rekord sa pagsulay, nahibal-an nga mga limitasyon, mga insidente ug ang ilang pagdumala mao ang labing kusgan nga magamit nga depensa, tungod kay kini nagpakita nga ang organisasyon naggamit sa paghukom imbes nga naglaum alang sa labing maayo. Kung ang insidente adunay usab kriminal nga dimensyon, pananglitan ang wala gitugutan nga pag-access sa mga sistema o manipulasyon sa datos, ang kriminal nga balangkas alang sa krimen sa kompyuter ug cyber crime sa Netherlands magamit uban sa sibil nga pag-angkon, ug ang usa ka kriminal nga imbestigasyon mokuha sa parehas nga materyal.

Mga sistemang awtonomous sa pisikal nga kalibutan

Kon ang usa ka AI system momaneho og sakyanan, mopalupad og drone o mopalihok og robot arm, adunay dugang nga lut-od sa tulubagon nga ipadapat, ug kini kasagaran mas estrikto kay sa bisan unsa nga nahisgutan sa pagkakaron. Ang pisikal nga kadaot makadani og tulubagon sa risgo, nga wala mangutana kon aduna bay nagpabaya.

Para sa mga sakyanang de-motor, ang artikulo 185 sa Road Traffic Act 1994 naghimo sa tag-iya o tag-iya sa usa ka sakyanang de-motor nga manubag sa kadaot nga nahimo sa mga pedestrian ug siklista gawas kung adunay force majeure, usa ka sumbanan nga lisod kaayo matuman. Kana nga lagda wala magtagad kung tawo o sistema sa tabang sa drayber ang nagmaneho: ang tag-iya ang motubag una, ug ang bisan unsang pagpasaka og kaso batok sa tiggama sa software mosunod pagkahuman. Ang pagsulay sa tinuod nga mga sakyanan nga nagmaneho sa kaugalingon sa mga pampublikong dalan nanginahanglan og permit ubos sa gipahinungod nga balaod sa eksperimento sa Dutch, ug ang mga kondisyon nga gilakip sa kana nga permit, lakip ang presensya ug papel sa usa ka superbisor, mahimong bahin sa sumbanan sa pag-atiman.

Ang mga unmanned aircraft gidumala sa mga regulasyon sa drone sa Europa, diin ang pagparehistro sa operator ug mga kinahanglanon nga nagdepende sa kategorya gidumala sa Netherlands sa Rijksinspectie Digitale Infrastructuur. Ang usa ka operator nga molupad gawas sa kategorya niini, o kung wala ang gikinahanglan nga katakus, dili lamang nakalapas sa mga lagda sa abyasyon; kini milapas usab sa pamatasan nga gitawag sa korte nga careful, nga nagsulbad sa pangutana sa pagpabaya sa wala pa magsugod ang teknikal nga debate bahin sa autopilot.

Uban niining mga regulasyon anaa ang kinatibuk-ang lagda sa mga depektosong butang. Ang tag-iya sa usa ka mabalhin nga butang nga wala makaabot sa mga sumbanan nga mahimong gitakda alang niini, ug nga sa ingon nagmugna og usa ka partikular nga peligro, manubag sa kadaot nga gipahinabo sa peligro. Kana nga lagda makaabot sa pisikal nga makina bisan kung ang nagpahiping depekto anaa sa software niini, nga usa ka hinungdan ngano nga ang tag-iya sa usa ka industrial robot o usa ka automated warehouse system dili lang makatudlo sa vendor. Kung diin magamit ang product liability regime, ang duha ka sistema mag-interact, ug ang nasamdan nga partido kasagaran mosubay sa bisan unsang ruta nga labing dali nga pamatud-an.

Ang praktikal nga sangputanan alang sa mga organisasyon nga nagpadagan sa mga makinarya nga adunay awtonomong mga gimbuhaton mao nga ang insurance ug kontrata kinahanglan nga ihan-ay palibot sa estrikto nga liability, dili palibot sa pag-analisar nga gibase sa sayup. Angayan ang pagpangayo og tabang batok sa usa ka supplier, apan dili kini makapugong sa pag-angkon nga moabot una sa imong pultahan.

Pagpakunhod sa exposure sa duha ka kilid

Ang mga lakang nga makapakunhod sa responsibilidad para sa mga sistema sa AI mao ra gihapon ang mga lakang nga makapahimo sa mga sistema nga mogana sa husto, mao nga kini angayan nga buhaton bisan unsa pa ang kalendaryo sa regulasyon.

Para sa usa ka organisasyon nga nag-deploy, magsugod sa imbentaryo: unsang mga sistema ang gigamit, kinsa ang nagsuplay niini, unsa ang ilang gidesisyonan o giimpluwensyahan, ug kinsa ang nagpadagan niini. Ilha ang imong papel para sa matag usa, tungod kay managlahi ang mga katungdanan sa provider ug deployer. Dayon isulat ang gituyo nga katuyoan ug ipadayon kini; ang labing komon nga hinungdan sa malikayan nga tulubagon mao ang paggamit sa usa ka himan para sa usa ka butang nga wala kini gi-validate. Hatagi ang mga tawo nga nagpadagan sa sistema og tinuod nga awtoridad sa pag-override niini, ug sukda kini sa paghukom imbes sa gidaghanon. Tipigi ang mga log, ug tipigi kini sa igo nga gidugayon aron magamit sa usa ka panaglalis. Irekord ang mga insidente, lakip ang mga hapit na aksidente, ug irekord kung unsa ang nahimo bahin niini.

Para sa usa ka prodyuser o supplier, ang katumbas nga lista moagi sa tibuok siklo sa kinabuhi: dokumentado nga pagdumala sa risgo, pagdumala sa datos nga mahimong ipasabut sa usa ka regulator, pagsulay batok sa populasyon nga aktuwal nga gamiton sa sistema, mga instruksyon sa paggamit nga matinud-anon bahin sa mga limitasyon ug mga rate sa sayup imbes nga makapasalig, usa ka agianan para sa mga kustomer sa pagreport sa mga problema, ug usa ka palisiya sa pag-update nga nag-ingon kung kinsa ang responsable sa mga security patch ug kung unsa kadugay. Ang gibag-o nga rehimen sa liability sa produkto naghimo sa katapusang punto nga mas hait kaysa kaniadto: ang kapakyasan sa paghatag og mga update nga imong gihimo nga ihatag mahimo mismo nga makahimo sa produkto nga depektoso.

Ang duha ka kilid angay nga motratar sa kontrata isip usa ka ehersisyo sa pag-apod-apod sa risgo imbes nga usa ka pormalidad. Ang mga clause nga importante mao ang paghulagway sa gituyo nga katuyoan, ang mga garantiya bahin sa pagsunod ug performance, ang obligasyon sa pagtugyan sa dokumentasyon ug mga log, ang mga katungdanan sa pagpahibalo sa insidente sa duha ka direksyon, ang liability cap ug ang mga carve-out niini, ang mga indemnity alang sa mga third-party claim ug regulatory fines, ug ang mga exit arrangement nga nagtino kung unsa ang mahitabo sa modelo ug sa datos kung matapos ang relasyon. Ang usa ka cap nga gi-negosasyon sa abstract, nga wala magtumong sa kung unsa gyud ang desisyon sa sistema, wala’y gipanalipdan.

Sa katapusan, ipadayon ang kriminal nga pagkaladlad bisan kung ang diha-diha nga risgo sibil. Ang pagkiha sa usa ka kompanya tungod sa usa ka kapakyasan sa AI talagsaon gihapon, apan ang mga elemento ordinaryo ra: usa ka katungdanan, usa ka paglapas, usa ka matag-an nga kadaot ug usa ka organisasyon nga mapamatud-an nga midawat sa risgo. Kung ang usa ka sistema gigamit alang sa usa ka butang nga klaro nga ilegal, o kung ang usa ka kompanya nagpadayon sa pagpadagan sa usa ka sistema nga nahibal-an niini nga hinungdan sa kadaot, ang kriminal nga ruta bukas, ug ang pag-analisar gilatid sa hingpit sa among artikulo sa balaod kriminal sa Dutch ug ang kauban nga artikulo sa mga algorithm ug kriminal nga responsibilidad.

Kanunayng pangutana

Law & More nagtambag sa mga organisasyon nga nagtukod og mga sistema sa AI ug mga organisasyon nga naggamit niini, sa pag-apod-apod sa risgo sa mga kontrata, sa klasipikasyon ug mga katungdanan ubos sa AI Act, ug sa pagdepensa o pagpasaka og mga reklamo kung ang usa ka sistema hinungdan sa kapildihan. Kung ang usa ka sistema sa AI sa imong organisasyon nakamugna og desisyon nga karon gikuwestiyon, kontaka kami aron among masusi dayon ang posisyon.