Pagdumala sa algorithm: mahimo ba nga masusi sa usa ka algorithm ang imong performance?

Ang algorithmic management, ang paggamit sa mga AI system aron mabantayan, mahatagan og puntos, ug magiya ang mga empleyado, gitugotan sa Netherlands apan sulod lamang sa mga limitasyon sa kompanya. Ang usa ka algorithm mahimong mosuporta sa usa ka performance assessment; kini mahimong dili lamang ang basehan sa usa ka desisyon nga adunay dakong epekto kanimo, sama sa pagtangtang sa trabaho, demotion, o pagdumili sa usa ka bonus, tungod kay ang artikulo 22 sa GDPR nagreserba niining mga desisyon alang sa usa ka tawo nga tinuod nga nagrepaso niini. Gawas pa niana, ang EU AI Act nagklasipikar sa mga sistema nga gigamit sa pagmonitor ug pag-evaluate sa mga trabahante isip high-risk, ug gidili niini ang paggamit sa AI aron mahibal-an ang mga emosyon sa mga empleyado sa trabahoan.

Unsa gyud ang algorithmic management

Ang algorithmic management mao ang sitwasyon diin ang software, imbes nga usa ka superbisor, ang mohimo sa pag-obserbar, pagsukod ug kasagaran ang paghukom. Kini makita sa mga bodega ug mga distribution center, sa mga customer contact center, sa platform work, ug nagkadaghan sa mga ordinaryong trabaho sa opisina diin ang productivity tooling gitukod sa mga sistema nga gigamit na sa mga tawo. Ang amo dili kinahanglan nga mopalit og produkto nga gitawag og AI manager aron motumaw ang mga legal nga pangutana; ang usa ka dashboard nga awtomatikong mo-iskor sa mga kawani base sa datos nga nakolekta igo na.

Ang maayo nga nahimo sa ingon nga sistema mao ang pag-ihap. Girehistro niini ang mga buluhaton nga nahuman, oras sa pagdumala, oras sa pagtubag, pagsunod sa usa ka script, mga oras nga gi-log sa usa ka aplikasyon. Ang dili niini mahimo mao ang pagsabot kung ngano nga ang usa ka numero gibalhin. Ang usa ka empleyado kansang output mikunhod tungod kay migugol siya og tulo ka semana sa pagbansay sa usa ka bag-ong kauban, tungod kay ang empleyado nagdumala sa usa ka kliyente nga wala’y lain nga makadumala, o tungod kay ang trabaho nianang panahona dili kasagaran nga komplikado, tan-awon nga parehas sa datos sa usa ka empleyado nga gamay ra ang nahimo. Kana nga kal-ang tali sa pagsukod ug kahulugan mao ang gigikanan sa hapit tanan nga legal nga panaglalis niining bahina.

Ang punto dili nga ang pagsukod sa performance ilegal. Ang mga amo adunay katungod nga mahibal-an kung giunsa ang dagan sa trabaho, ug ang makatarunganon nga pagmonitor usa ka normal nga bahin sa pagpadagan sa usa ka negosyo. Ang punto mao nga ang balaod sa Dutch ug Europe nagbutang mga kondisyon sa paagi sa paghimo sa pagsukod ug, labaw sa tanan, sa paagi sa paggamit sa output niini.

Giunsa pag-iskor niining mga sistema ang imong performance

Importante ang pagsabot sa mekanismo, tungod kay ang imong mga katungod nalangkit sa piho nga mga yugto sa proseso. Sa kinatibuk-an, tulo ka butang ang mahitabo: ang datos gikolekta, ang usa ka modelo naghimo niana nga datos nga usa ka paghukom, ug ang usa ka tawo o usa ka butang molihok base niini.

Unsa ang gikolekta sa sistema

Ang pagkolekta kasagaran dili makita ug padayon. Sa usa ka palibot sa kontak sa kustomer, ang sistema mahimong magrehistro sa gidaghanon sa mga kontak nga gidumala, aberids nga oras sa pagdumala, unang resolusyon, oras sa pag-idle tali sa mga tawag, ug pagsunod sa gitakdang script. Mahimo pa kini nga mopadayon ug mag-analisar sa sulud: pagproseso sa natural nga pinulongan nga gigamit sa email ug mga transcript sa tawag, pag-ila sa keyword, ug pag-iskor sa sentimento sa bahin sa kustomer sa panag-istoryahanay. Sa logistik, kini ang mga rate sa pag-scan ug katulin sa pagpili; sa trabaho sa opisina, ang kalihokan sa mga himan sa kolaborasyon.

Ang matag usa niining mga punto sa datos personal nga datos bahin kanimo, ug ang matag usa kinahanglan nga adunay katarungan. Ubos sa GDPR, ang usa ka amo dili mahimong mangolekta sa tanan nga mahimo sa usa ka sistema nga makolekta; ang pagproseso kinahanglan nga gikinahanglan alang sa usa ka piho nga katuyoan ug proporsyonal niini. Ang usa ka sistema nga nagrekord sa mga keystroke o nagkuha og mga screenshot matag karon ug unya aron mahibal-an kung kinsa ang nagtrabaho og maayo lisud kaayo nga depensahan nga proporsyonal, ug ang Autoriteit Persoonsgegevens (Dutch Data Protection Authority) kanunay nga kritikal sa ingon nga klase sa blanket monitoring.

Gikan sa mga lagda ngadto sa mga modelo, ug ang itom nga kahon

Ang pinakasimple nga mga sistema gibase sa lagda. Kon ang aberids nga oras sa pagdumala molapas sa gitakdang limitasyon labaw sa gitakdang gidaghanon sa mga higayon sa usa ka semana, ang empleyado i-flag. Ang ingon nga sistema estrikto ug buta sa konteksto, apan kini adunay usa ka hinungdanon nga bentaha: mabasa nimo ang lagda ug makita gyud kung ngano nga gi-flag ka, nga naghimo niini nga posible nga makiglalis bahin niini.

Lahi ang paggana sa mga modelo sa machine learning. Gibansay kini base sa historical data kung kinsa ang maayo ang performance ug kinsa ang wala, ug ilang gihubit ang mga sumbanan nga may kalabutan sa maong mga resulta. Mas gamhanan kini ug dili kaayo transparent. Ang modelo mahimong nagpunting sa usa ka butang nga walay madepensahan nga relasyon sa performance, ug dili ang amo o usahay ang supplier makasulti sa tukma kung nganong ingon niini ang resulta sa usa ka partikular nga score.

Kana nga opacity mao ang kasagarang gitawag nga black box problem, ug sa legal nga kahimtang kini makamatay imbes nga dili lang kombenyente. Ang usa ka amo nga dili makapasabut sa basehan sa usa ka assessment dili makatuman sa katungdanan sa paghatag og makahuluganon nga impormasyon bahin sa lohika nga nalambigit, dili makadepensa sa assessment kung kini gikuwestiyon, ug dili makapakita nga kini walay diskriminasyon. Sa praktis, kung dili nimo kini mapasabut, dili ka makasalig niini.

Unsa ang gikinahanglan sa GDPR sa usa ka sistema sa performance sa AI

Ang GDPR mao ang una ug hangtod karon ang labing praktikal nga instrumento niini nga natad, tungod kay kini magamit sa matag amo nga nagproseso sa datos sa empleyado ug kini gipatuman sulod sa mga katuigan. Upat sa mga lagda niini ang nagbuhat sa kadaghanan sa trabaho.

Artikulo 22: walay mahinungdanong desisyon nga gihimo pinaagi lamang sa makina

Ang Artikulo 22 sa GDPR naghatag sa matag tawo sa katungod nga dili masakop sa usa ka desisyon nga gibase lamang sa awtomatikong pagproseso, lakip ang profiling, nga nagpatunghag legal nga mga epekto mahitungod kanila o susamang makaapekto kanila. Ang pagtangtang sa trabaho, dili pagbag-o sa usa ka kontrata, demotion, ang pagpugong sa usa ka bonus ug ang pagdumili sa usa ka promosyon tanan nasakup sa maong paghulagway.

Duha ka pulong ang adunay gibug-aton. Ang "Solely" nagpasabot lamang nga ang usa ka tawo nga mokumpirma lang sa gisugyot sa sistema wala magtangtang sa desisyon gikan sa artikulo 22; ang mga awtoridad sa pagdumala nagpatin-aw sulod sa mga katuigan nga ang "rubber-stamping" dili usa ka pag-apil sa tawo. Ang makahuluganon nga pag-apil nanginahanglan usa ka tigsusi nga adunay awtoridad sa pag-abot sa lahi nga konklusyon, ang katakus sa pagtimbang-timbang sa kaso, ug ang oras sa pagbuhat niini. Ang "Significantly affects" kay mabasa sa kinatibuk-an, ug wala kini magkinahanglan og pormal nga legal nga sangputanan: ang usa ka sistema sa pag-iskor nga nagtino kung unsang mga shift o unsang mga buluhaton ang gitanyag kanimo makaapekto kanimo nga igo nga makaapil sa artikulo.

Kon magamit ang artikulo 22, ang amo kinahanglan sa bisan unsang paagi mohatag sa mga panalipod nga gilatid niini: ang katungod sa pagpangayo og interbensyon sa tawo, sa pagpahayag sa imong panglantaw ug sa pagsupak sa desisyon.

Transparency, access ug ang lohika nga nalambigit

Kinahanglan nga mapahibalo ang mga empleyado, sa dili pa ang kamatuoran, nga ang sistema naglungtad ug kung unsa ang gibuhat niini. Kung adunay awtomatikong paghimo og desisyon sulod sa kahulugan sa artikulo 22, ang amo kinahanglan usab nga maghatag og makahuluganon nga impormasyon bahin sa lohika nga nalambigit ug bahin sa kamahinungdanon ug gilantaw nga mga sangputanan sa pagproseso. Ang parehas nga impormasyon mahimong hangyoon pagkahuman pinaagi sa usa ka hangyo sa pag-access sa hilisgutan, nga naghatag usab kanimo og katungod sa usa ka kopya sa personal nga datos nga giproseso bahin kanimo: ang mga marka, ang nagpahiping mga sukod ug ang mga kategorya nga gi-assign sa sistema kanimo.

Ang giisip nga makahuluganon nahusay na sa direksyon sa substansiya imbes nga pormalidad. Dili kini usa ka paghulagway sa teknolohiya; kini usa ka pagpasabut kung unsang mga hinungdan ang gigamit ug kung giunsa kini pagtimbang-timbang, gibutang sa mga termino nga masabtan ug maaksyonan sa tawo nga hingtungdan.

Legal nga basehan, pagtugot ug ang DPIA

Ang matag operasyon sa pagproseso nanginahanglan ug legal nga basehan. Sa konteksto sa pagpanarbaho, ang pagtugot talagsa ra magamit, tungod gyud sa pagsalig tali sa amo ug empleyado: ang pagtugot nga dili mahimong ibalibad nga walay sangputanan dili gawasnon nga gihatag. Busa, ang mga amo kasagaran nagsalig sa panginahanglan sa pagproseso alang sa pagtuman sa kontrata sa pagpanarbaho, sa usa ka legal nga obligasyon, o sa usa ka lehitimong interes, ug ang katapusan niini nanginahanglan ug dokumentado nga pagbalanse sa interes nga gisunod batok sa pribasiya sa mga trabahante.

Tungod kay ang pagmonitor sa performance niining sukdanan naglambigit sa sistematiko ug halapad nga ebalwasyon sa mga tawo base sa automated processing, ang data protection impact assessment dili opsyonal. Gikinahanglan kini sa dili pa gamiton ang sistema, ug kinahanglan kining maghulagway sa pagproseso, mohatag og katarungan sa panginahanglan ug proporsyonalidad niini, moila sa mga risgo sa mga empleyado, ug molatid sa mga lakang nga motubag niini. Ang mga amo nga dili moapil sa assessment kasagaran makadiskubre sa mga problema sa ulahi, sa usa ka panaglalis, kung ang mga pagpili dili na matul-id sa hilom.

Hangtod asa kutob ang mahimo sa usa ka amo sa pagmonitor?

Ang pag-iskor sa performance dili mabulag gikan sa pagmonitor nga nagpakaon niini, ug ang pagmonitor adunay kaugalingong mga limitasyon. Ang usa ka empleyado dili mosurender sa pribadong kinabuhi sa pultahan sa opisina: ang European Court of Human Rights mihukom sa Barbulescu v Romania nga ang pagmonitor sa mga komunikasyon sa usa ka empleyado naglambigit sa katungod sa pagrespeto sa pribadong kinabuhi ug mga sulat ubos sa artikulo 8 sa Convention, ug nga ang usa ka amo kinahanglan nga nagpahibalo sa empleyado daan sa kinaiya ug gilapdon sa pagmonitor, kinahanglan nga ipadayon ang usa ka lehitimong tumong, ug kinahanglan nga mopili sa labing gamay nga makabalda nga paagi nga makahimo niini. Ang tago nga pagmonitor sa mga trabahante talagsaon ug nanginahanglan usa ka konkreto nga pagduda, usa ka limitado nga gidugayon ug usa ka dokumentado nga pagtimbang-timbang nga wala’y mas gaan nga sukod nga mahimo.

Kon hubaron ngadto sa usa ka algorithmic management project, kini nagpasabot nga ang amo kinahanglan nga makatubag sa tulo ka pangutana bahin sa matag data stream: nganong gikinahanglan kini nga datos alang sa giingon nga katuyoan, nganong ang usa ka dili kaayo makabalda nga pagsukod dili makab-ot kini, ug kon ang mga empleyado gisultihan ba daan. Ang padayon nga pagrekord sa screen, keystroke logging ug pagsubay sa lokasyon gawas sa oras sa trabaho mapakyas niining mga pangutana sa kadaghanan sa ordinaryong mga setting sa trabaho.

Data sa pagkawala, sakit ug espesyal nga kategorya

Usa ka kategorya ang angay hatagan og espesyal nga pag-amping. Ang datos nga nagpadayag sa panglawas kay espesyal nga datos sa kategorya ubos sa GDPR ug sa prinsipyo dili gyud maproseso, gawas lang sa pipila ka eksepsiyon. Estrikto ang mga lagda sa Dutch bahin sa sick absence: ang amo mahimong magparehistro nga ang usa ka empleyado wala ug kung unsa kadugay, apan ang kinaiya sa sakit, ang diagnosis ug ang mga limitasyon iya sa bedrijfsarts (doktor sa kompanya), dili sa amo. Ang usa ka sistema sa pasundayag nga nag-infer sa usa ka kondisyon sa panglawas gikan sa mga sumbanan sa pag-absent, katulin sa pag-type, mga paghunong o tono sa tingog nagproseso sa datos sa panglawas pinaagi sa inference, ug ang kamatuoran nga walay nag-type sa diagnosis niini walay kalainan.

Ang parehas nga pag-amping magamit sa mga sistema kansang mga iskor apektado sa protected absence sama sa pagmabdos, parental leave o care leave. Kung ang modelo nagtratar niining mga panahona isip underperformance, ang amo dili lamang nagproseso sa sensitibo nga datos apan naghimo usab sa usa ka statutory right nga usa ka disbentaha.

Ang taas nga lebel sa pagpatuman

Ang mga paglapas sa kinauyokan nga mga prinsipyo, sa pagka-legal sa pagproseso ug sa mga katungod sa mga sakop sa datos nahisakop sa taas nga multa sa artikulo 83 sa GDPR, ang pinakabug-at nga kategorya nga gihatag sa regulasyon. Sama ka importante alang sa adlaw-adlaw nga praktis, ang usa ka pagtimbang-timbang nga gihimo nga supak niini nga mga lagda lisud saligan sa usa ka panaglalis sa panarbaho: ang usa ka korte nga gihangyo nga tapuson ang usa ka kontrata sa panarbaho base sa ubos nga performance gusto nga makita kung giunsa pag-establisar ang ubos nga performance.

Unsay gidugang sa AI Act para sa mga amo ug mga trabahante

Ang EU AI Act gipatuman na ug gipadapat sa mga hugna, busa ang pangutana dili na kung kini moabot na ba apan hain sa mga obligasyon niini ang nagpasakit na. Duha sa mga lut-od niini ang importante dinhi.

Ang una mao ang lista sa mga gidili nga praktis, nga gigamit sukad pa sa labing una nga hugna sa Balaod. Naglakip kini sa usa ka lagda nga direktang gitumong sa trabahoan: Ang mga sistema sa AI nga gigamit sa pagbanabana sa mga emosyon sa usa ka natural nga tawo sa mga lugar sa trabahoan ug mga institusyon sa edukasyon gidili, gawas kung ang sistema gituyo nga ibutang o ibaligya alang sa medikal o kaluwasan nga mga hinungdan. Ang software nga nag-iskor sa mood, lebel sa stress, pakiglambigit o sinseridad sa mga empleyado gikan sa ilang tingog, nawong o sinulat busa dili usa ka problema sa pagsunod nga kinahanglan dumalahon. Dili kini angay iapil, ug ang pig-ot nga eksepsiyon sa medikal ug kaluwasan wala maglakip sa pagdumala sa produktibidad. Timan-i pag-ayo ang utlanan: ang pag-analisar sa sentimento sa gisulti sa usa ka kustomer lahi nga pangutana gikan sa pagbanabana sa mga emosyon sa empleyado.

Ang ikaduhang lut-od mao ang high-risk nga rehimen. Ang Annex III sa AI Act nagtawag nga high-risk, lakip sa ubang mga butang, sa mga sistema sa AI nga gituyo nga gamiton sa paghimo og mga desisyon nga makaapekto sa mga termino sa mga relasyon nga may kalabutan sa trabaho, ang pagpasiugda o pagtapos sa maong mga relasyon, ang pag-apod-apod sa mga buluhaton base sa indibidwal nga pamatasan o personal nga mga kinaiya, ug ang pagmonitor ug pagtimbang-timbang sa performance ug pamatasan sa mga trabahante. Ang usa ka himan sa pagtimbang-timbang sa performance sa AI anaa sa sulod niana nga paghulagway. Ubos sa digital omnibus package, ang mga petsa sa aplikasyon sa mga obligasyon nga high-risk alang sa mga sistema sa Annex III gi-postpone, aron ang mga amo adunay dugang nga oras sa pagpangandam; ang mga pagdili, ang mga lagda alang sa mga modelo sa AI nga adunay kinatibuk-ang katuyoan ug ang mga katungdanan sa transparency sa artikulo 50 magamit na.

Usa ka obligasyon ang angay nga hisgutan nga lahi tungod kay kanunay kini nga wala tagda sa mga amo. Ang mga deployer nga mga amo kinahanglan nga mopahibalo sa mga representante sa mga trabahante ug sa mga apektadong trabahante sa dili pa magbutang og high-risk AI system sa trabahoan, subay sa magamit nga mga lagda sa impormasyon ug konsultasyon. Kini usa ka katungdanan sa impormasyon nga kauban, ug wala mopuli, sa mga obligasyon sa transparency sa GDPR ug sa mga katungod sa works council ubos sa balaod sa Netherlands. Alang sa mas kompleto nga pag-atiman sa Balaod ug sa iskedyul niini, tan-awa ang among artikulo bahin sa legal nga bahin sa artificial intelligence ug sa EU AI Act.

Kinsa ang responsable: ang supplier o ang amo?

Kanunay nga gihunahuna sa mga amo nga tungod kay ang software gipalit gikan sa usa ka espesyalista nga supplier, ang supplier ang nagdala sa legal nga risgo. Dili kana ang paagi sa pag-apod-apod sa responsibilidad sa bisan hain nga balangkas.

Ubos sa GDPR, ang amo ang modesisyon kon nganong ug unsaon pagproseso ang datos sa empleyado ug busa mao ang tigkontrol. Ang supplier nga nagpadagan sa sistema ubos sa instruksyon sa amo usa ka processor, ug ang relasyon kinahanglan nga ipatuman sa usa ka kasabutan sa pagproseso, apan ang amo ang adunay utang nga responsibilidad sa transparency, lawfulness, ug tawhanong pagdumala ngadto sa kaugalingon niining mga kawani, ug ang amo ang motubag sa Autoriteit Persoonsgegevens ug sa mga empleyado mismo.

Ang AI Act nagbutang ug susamang linya tali sa provider, nga nagpalambo sa usa ka sistema sa AI ug nagbutang niini sa merkado, ug sa deployer, nga naggamit niini ubos sa kaugalingon niining awtoridad. Ang usa ka amo nga naggamit sa usa ka gipalit nga himan kasagaran usa ka deployer ug nagdala sa mga obligasyon sa deployer, lakip ang paggamit sa sistema subay sa mga instruksyon, pagsiguro sa usa ka angay nga lebel sa tawhanong pagdumala sa mga tawo nga adunay gikinahanglan nga katakus ug awtoridad, pagmonitor sa operasyon niini, ug pagpahibalo sa mga trabahante. Ang usa ka amo nga nagbutang sa kaugalingon niining ngalan sa sistema, o nag-usab niini sa dakong paagi o nag-usab sa gituyo nga katuyoan niini, mahimong usa ka provider ug modawat sa mas bug-at nga mga obligasyon nga kauban niana nga tahas.

Ang praktikal nga sangputanan sa pagpamalit mao nga ang kontrata kinahanglan basahon nga gikonsiderar kini nga mga tahas. Kinahanglan sa usa ka amo nga ang supplier maghatag sa impormasyon nga makapahimo sa pagsunod, ug kinahanglan nga magduhaduha kini sa bisan unsang produkto nga dili makapasabut sa kaugalingon nga output, tungod kay ang katungdanan sa pagpasabut mahulog sa amo bisan unsa pa ang giingon sa lisensya.

Trabaho sa plataporma: usa ka dugang nga lut-od sa mga lagda

Alang sa mga tawo nga nagtrabaho pinaagi sa mga digital nga plataporma sa pagtrabaho, usa ka dugang nga instrumento ang nagpadulong na. Ang Direktiba (EU) 2024/2831 sa pagpaayo sa mga kondisyon sa pagtrabaho sa plataporma nga trabaho naggahin ug usa ka kompletong kapitulo sa pagdumala sa algorithm. Gi-obligar niini ang mga plataporma sa pagpahibalo sa mga trabahante bahin sa awtomatik nga pagmonitor ug mga sistema sa paghimog desisyon nga makaapekto pag-ayo sa ilang mga kondisyon sa pagtrabaho, naglimite sa pagproseso sa pipila ka mga kategorya sa datos, lakip ang datos sa emosyonal ug sikolohikal nga kahimtang ug datos sa pribadong mga panag-istoryahanay, nanginahanglan og tawhanong pagdumala sa mga epekto niini nga mga sistema, ug naghatag sa mga trabahante sa katungod sa usa ka pagpasabut, ug tawhanong pagrepaso sa, mga hinungdanon nga desisyon sama sa pagdili o pagsuspinde sa usa ka account. Talalupangdon nga daghan niini nga mga panalipod magamit sa mga tawo nga naghimo sa plataporma nga trabaho kwalipikado man sila o dili isip mga empleyado.

Kinahanglan nga ibalhin sa mga estadong miyembro ang direktiba sa dili pa ang Disyembre 2, 2026. Hangtud nga ang nasudnong balaodnon nga nagpatuman niini ipatuman, ang GDPR ug ang AI Act magpabilin nga mga lagda nga naglihok, ug ang ilang mga kinahanglanon naglangkob na sa halos parehas nga mga butang.

Balaod sa panarbaho sa Netherlands: ang usa ka algorithm dili makatapos sa imong kontrata

Ang mga lagda sa pagpanalipod sa datos sa Europa ug ang AI mao ang nagdumala kon unsaon pagtrabaho ang sistema. Ang balaod sa panarbaho sa Netherlands mao ang nagdumala kon unsa ang mahimong buhaton sa usa ka amo sa iyang output, ug kini mas estrikto kay sa gituohan sa kadaghanan sa mga proyekto sa pagdumala sa algorithm.

Ang usa ka amo sa Netherlands dili basta-basta nga maka-undang sa usa ka kontrata sa pagpanarbaho. Ang pagtangtang sa trabaho nanginahanglan og makatarunganong basehan nga gilista sa artikulo 7:669 sa Dutch Civil Code, ug nanginahanglan kini og una nga pagtugot sa UWV o desisyon sa kantonrechter (subdistrict court), depende sa basehan. Ang ubos nga performance usa niini nga mga basehan, ug kini usa ka mahagiton nga basehan. Kinahanglan ipakita sa amo nga ang empleyado dili angay alang sa trabaho, nga ang empleyado gipahibalo niini sa hustong panahon, ug nga adunay gitanyag nga tinuod nga oportunidad aron mouswag, uban ang suporta kung angay. Ang pagbasa sa dashboard dili usa ka proseso sa pag-uswag, ug ang korte mangutana kung unsa ang nahisgutan, kanus-a, ug unsang tabang ang gihatag. Ang among giya sa balaod sa pagpanarbaho sa Dutch naglatid sa balangkas sa pagtangtang sa trabaho nga mas detalyado.

Ang balaod sa diskriminasyon magamit sa resulta, dili sa intensyon. Kon ang usa ka sistema makadaot sa mga empleyado tungod sa mga hinungdan sama sa sekso, rasa, edad, relihiyon, kakulangan o laygay nga sakit, kini ilegal ubos sa Algemene wet gelijke behandeling (General Equal Treatment Act) ug sa espesipikong mga balaod sa patas nga pagtratar sa edad ug sa kakulangan, bisan kon adunay nagtuyo niana nga resulta. Ang datos sa kasaysayan sa pagbansay mao ang kasagarang hinungdan: ang usa ka modelo nga gibansay kung kinsa ang na-promote kaniadto mosundog sa mga gusto sa nangagi. Ang mga sistema nga nagsukod sa raw availability o output sa paglabay sa panahon lagmit usab nga mosilot sa mga empleyado nga mikuha og parental leave, nagtrabaho og mas mubo nga oras o wala tungod sa sakit, ug ang pagsilot sa usa ka empleyado tungod sa paggamit sa usa ka katungod sa balaod mao gyud ang gidili sa balaod sa patas nga pagtratar.

Kinahanglan nga mouyon ang konseho sa mga trabaho

Sa usa ka kompanya diin adunay works council, ang amo nagkinahanglan og labaw pa sa maayong intensyon. Ang Artikulo 27 sa Wet op de ondernemingsraden (Works Councils Act) nagkinahanglan og pagtugot sa ondernemingsraad (works council) alang sa pagsagop, pag-usab o pagbawi sa mga kahikayan lakip na kadtong bahin sa pagtimbang-timbang sa kawani, sa pagproseso ug pagpanalipod sa personal nga datos sa mga empleyado, ug sa mga pasilidad nga gitumong o angay alang sa pag-obserbar o pagmonitor sa presensya, pamatasan o performance sa mga kawani. Ang usa ka AI performance system naglambigit sa tanan nga tulo sa usa ka higayon.

Ang pagtugot dinhi dili usa ka pormalidad. Ang usa ka desisyon nga gihimo nga wala ang gikinahanglan nga pagtugot mahimong ideklarar nga walay pulos sa works council, ug ang amo mahimong mapugngan sa pag-aplay niini. Alang sa mga empleyado nga mobati nga adunay sistema nga gipahamtang kanila, ang works council kasagaran mao ang labing paspas ug labing epektibo nga ruta sa pagbag-o, sa wala pa maghunahuna ang bisan kinsa bahin sa litigasyon.

Unsa ang nahukman sa mga korte hangtod karon

Ang kaso sa korte nagpadayon pa sa pag-uswag, apan duha ka hukom sa Netherlands ang nagtakda na sa direksyon sa pagbiyahe ug pareho kining gikutlo lapas sa Netherlands.

Ang mga paghukom ni Uber ug Ola

Sa 4 Abril 2023 ang Gerechtshof Amsterdam (Amsterdam (Court of Appeal) mihukom sa sunod-sunod nga mga kaso nga gipasaka sa mga drayber batok sa Uber ug Ola. Gusto mahibal-an sa mga drayber kung nganong gi-deactivate ang ilang mga account ug kung giunsa pag-apod-apod ang trabaho ug presyo kanila. Nakita sa korte nga pabor kanila ang mga punto sa impormasyon. Ang mga drayber nga nawad-an og access sa plataporma, ug uban niini ang ilang kita, naapektuhan pag-ayo sa automated decision-making, ug ang mga kompanya dili makapugong sa pagpasabut pinaagi sa pagtudlo sa mga sekreto sa pamatigayon o sa risgo sa manipulasyon nga wala’y pagpamatuod niana nga pagsupak.

Ang gikinahanglan sa korte kay konkreto: dili usa ka kinatibuk-ang paghulagway sa teknolohiya, apan impormasyon bahin sa mga hinungdan nga gigamit ug ang gibug-aton nga gihatag niini, aron ang tawo nga hingtungdan makasabut ug makiglalis sa resulta. Mao kana ang sukdanan nga angay hunahunaon sa mga amo nga magamit usab sa usa ka performance algorithm. Kung ang imong tubag sa pangutana nganong ubos ang akong iskor mao nga ang modelo ang nagtino niini, wala ka makaabot sa sukdanan.

Ang paghukom sa SyRI

Ang ikaduhang kaso dili usa ka panaglalis sa panarbaho, apan ang pangatarungan niini nakaabot sa trabahoan. Sa hukom niini niadtong Pebrero 5, 2020 (ECLI:NL:RBDHA:2020:865) ang Rechtbank Den Haag (District Court of The Hague) mipahayag nga ang balaod nga nagpaluyo sa SyRI, usa ka sistema sa indikasyon sa risgo sa gobyerno nga gigamit sa pag-ila sa benepisyo ug pagpanglimbong sa buhis, napakyas sa pagsulay sa artikulo 8 sa European Convention on Human Rights. Ang sistema dili igo nga transparent ug mapamatud-an: walay bisan kinsa sa gawas ang makatino kon giunsa pag-flag ang usa ka tawo, nga naghimo niini nga imposible nga depensahan.

Ang prinsipyo kay kinatibuk-an. Ang usa ka sistema kansang mga gimbuhaton dili masusi dili makwestyon, ug ang usa ka desisyon nga dili makwestyon dili usa ka patas nga desisyon. Ang usa ka amo nga gusto nga magbase sa mga pagtimbang-timbang sa usa ka modelo nga dili mapasabut sa empleyado o sa amo nagtukod sa parehas nga basehan nga napakyas sa maong kaso. Kini nga mga pangutana sa responsibilidad alang sa automated nga pamatasan labaw pa sa balaod sa panarbaho lamang, sama sa gipakita sa among artikulo bahin sa AI ug balaod kriminal.

Ang imong mga katungod kung ang usa ka algorithm naghatag kanimo og iskor

Kon ikaw gi-assess sa tabang sa usa ka AI system, ikaw adunay konkreto ug mapatuman nga mga katungod, ug dili nimo kinahanglan nga pamatud-an nga ang sistema sayup sa dili pa nimo kini magamit.

Mahimo kang mangutana kon unsang datos ang anaa bahin kanimo ug makakuha og kopya niini, lakip na ang mga sukod nga gigamit sa pagtimbang-timbang ug ang mga iskor nga nakuha gikan niini. Mahimo kang mangayo og makahuluganong impormasyon bahin sa lohika sa sistema, ang mga hinungdan nga importante ug ang ilang gibug-aton. Kon ang usa ka desisyon nga adunay dakong epekto gihimo pinaagi sa awtomatik nga paagi, mahimo kang mangayo og interbensyon sa tawo, mohatag sa imong kaugalingong panglantaw, ug makiglalis sa desisyon. Mahimo kang magpakorekta og dili tukma nga datos, nga mas importante kay sa paminawon: kadaghanan sa natala niining mga sistema sayop lang, gikan sa sayop nga pag-absent hangtod sa trabaho nga gipasangil sa sayop nga tawo.

Unsaon paghagit sa usa ka automated assessment sa praktis

Sugdi pinaagi sa pagdokumento sa imong kaugalingong posisyon sa dili pa nimo kini ipataas. Timan-i ang piho nga trabaho nga gikonsiderar sa assessment, ang mga panahon diin ang mga sirkumstansya dili kasagaran, ug bisan unsang pag-absent, bakasyon o pagbalhin sa trabaho nga makapamenos sa mga numero tungod sa mga hinungdan nga walay kalabotan sa imong performance. Ang mga nota nga anaa karon mas bililhon pa kay sa usa ka rekonstruksyon paglabay sa unom ka bulan.

Dayon isulat ang hangyo sa imong amo, nga nag-ingon nga imong gigamit ang imong mga katungod ubos sa GDPR, pangayoa ang datos nga gigamit sa imong pagtimbang-timbang ug ang pagpasabut sa lohika, ug hangyoa ang usa ka tawo nga morepaso sa usa ka tawo nga adunay awtoridad nga makaabot sa lahi nga konklusyon. Pagtakda og makatarunganon nga deadline; ang GDPR nagkinahanglan sa amo nga motubag sulod sa usa ka bulan, nga mahimong mapalawig sa mga komplikado nga kaso. Hupti nga tinuod ang tono, tungod kay kini nga sulat lagmit nga matapos isip ebidensya.

Kon ang amo dili motubag og maayo, mahimo kang mopasaka og reklamo sa Autoriteit Persoonsgegevens, ug mahimo nimong dad-on ang panaglalis ngadto sa korte. Kon ang assessment gigamit aron pagsuporta sa pagtangtang sa trabaho o pag-usab sa imong mga termino, ang ruta sa pagpanarbaho kasagaran mas epektibo ug kini molungtad og mubo nga mga deadline, busa pangayo og tambag og sayo. Ang among artikulo bahin sa data privacy ubos sa GDPR sa panahon sa AI ug big data nagpatin-aw sa nagpahiping balangkas.

Unsay angay buhaton sa usa ka amo sa dili pa i-on ang sistema

Para sa mga amo, ang pagsunod niini nga natad kasagaran usa ka butang sa pagkasunod-sunod. Halos tanang seryosong problema motumaw tungod kay ang sistema gipalit ug gi-deploy una, ug ang mga legal nga pangutana gipangutana pagkahuman.

Sugdi sa katuyoan. Isulat kung unsa gyud ang gitinguha nga makab-ot sa organisasyon ug unsang mga desisyon ang maimpluwensyahan sa sistema, tungod kay ang tanan nagsunod gikan niana: ang datos nga mahimong ikatarungan, ang legal nga basehan, ang pagtimbang-timbang sa risgo ug ang lebel sa tawhanong pagdumala nga gikinahanglan. Ang usa ka sistema nga gipalit aron mapaayo ang eskedyul ug dayon hilom nga gigamit sa paghimo og dismissal file mao ang klasiko nga ruta sa usa ka ilegal nga operasyon sa pagproseso.

Himoa ang data protection impact assessment sa dili pa i-deploy, dili isip usa ka dokumento nga gihimo sa ulahi aron ipasabut ang usa ka desisyon nga nahimo na, ug irekord ang resulta. Paghimo ug pagdokumento sa legal nga basehan, hinumdomi nga ang pagtugot sa empleyado talagsa ra magamit. Tinoa kung ang sistema nahisakop ba sa high-risk nga kategorya sa AI Act ug, kung mao, i-map ang mga obligasyon nga gilakip sa usa ka deployer, lakip ang katungdanan sa pagpahibalo sa mga representante sa mga trabahante ug mga apektadong trabahante. Kuhaa ang pagtugot sa works council kung diin magamit ang artikulo 27 sa Works Councils Act, ug iapil kini og sayo aron ang input niini mausab ang usa ka butang.

Dayon idisenyo ang pagdumala nga gikinahanglan sa artikulo 22, ug sulayi kon kini tinuod ba. Pangutan-a kon kinsa ang nagrepaso sa output, kon ang maong tawo makabalibad ba niini nga dili kinahanglan nga ipasabut ang pagtipas ngadto sa usa ka labaw, kon sila ba adunay konteksto sa paghukom, ug kon sila ba adunay panahon. Kon ang matinud-anon nga tubag mao nga ang tigrepaso nagproseso og usa ka gatos ka mga kaso kada hapon, ang organisasyon walay pagdumala sa tawo; kini adunay pirma.

Sa katapusan, sulayi ang mga resulta imbes nga mga intensyon. I-audit ang mga resulta sa sistema pinaagi sa protektadong kinaiya ug pinaagi sa sumbanan sa pagtrabaho, ug tan-awa ilabi na ang mga empleyado nga nagtrabaho og part-time, kinsa nag-leave o kinsa nasakit. Hatagi ang mga empleyado og klaro nga ruta aron mangutana sa usa ka assessment ug irekord kung unsa ang mahitabo sa mga hagit. Tipigi ang dokumentasyon, tungod kay ang palas-anon sa pagpakita sa pagsunod anaa sa amo, ug sa usa ka panaglalis ang file mao ang depensa.

Asa ka niini gibiyaan

Ang pagdumala sa algorithm wala gidili, ug dili kini mawala. Ang gibuhat sa balaod mao ang pagdrowing og linya tali sa pagsukod ug paghukom. Ang mga sistema mahimong mag-ihap, magtandi ug magsenyas; ang mga tawo kinahanglan nga modesisyon, mopasabut ug moangkon sa responsibilidad. Ang mga empleyado adunay katungod nga mahibal-an nga sila gisusi sa ingon nga sistema, aron masabtan kung unsa ang gisukod niini, ug nga ang usa ka tawo motan-aw pag-usab sa bisan unsang desisyon nga hinungdanon nga makaapekto kanila. Ang mga amo nga modawat niana nga pagbahin sa trabaho makagamit niini nga mga himan nga may pagsalig. Kadtong motugot sa dashboard nga modesisyon makakaplag nga ang Autoriteit Persoonsgegevens o ang kantonrechter dili modawat sa output isip kapuli sa usa ka husto nga pagtimbang-timbang.

Law & More nagtambag sa mga amo bahin sa paggamit sa AI sa performance management, gikan sa impact assessment ug sa works council procedure hangtod sa pagdisenyo sa human oversight, ug nagtambag sa mga empleyado nga nag-atubang sa automated assessment nga ilang giisip nga dili patas. Kung adunay algorithm nga gigamit sa paghukom sa imong trabaho o sa trabaho sa imong mga kawani, malipayon kami nga morebyu sa posisyon uban kanimo.

Kasagarang mga pangutana bahin sa mga pagrepaso sa performance sa AI