jtiblog

A Jogtudományi Intézet blogoldala

A brit versenyhatóság jelentése az algoritmusokról

2022. december 11. 1:54
Papp Mónika
tudományos munkatárs, TK JTI; adjunktus, ELTE ÁJK

A brit fogyasztóvédelmi és versenyhatóság jelentésében sokféle, az algoritmusok által okozott, közvetlen fogyasztói kárt azonosított. Többfajta hátrány eredhet például azon algoritmusok használatából, amelyek a fogyasztók és vállalkozások közötti interfészek optimalizálását célozzák. A választási lehetőségek felépítésének rendszerén keresztül a vállalkozások kihasználhatják az inherens fogyasztói gyengeségeket (például a korlátozott figyelem kihasználásával, a veszteségelkerülési hajlandóságát vagy tehetetlenségét kihasználva, a beállítási opciókra fogékonyságukat kihasználva). Ezen túl a termékek/szolgáltatások egyediesítése tisztességtelen elosztási hatásokhoz vezethet, valamint alkalmas lehet a versenytársak kizárására, például a saját szolgáltatások előnyben részesítése által (self-preferencing).

A jelentés szerint a gépi tanulást használó vállalkozások 9%-a mikrovállalkozás (1-9 főt foglalkoztat), ezért is sürgető a fogyasztói hátrányok megelőzését szolgáló ex ante szabályozási rezsim felállítását. A hatóság a fogyasztói kár potenciálisan nagy hatása miatt prioritásként kívánja kezelni a széles körben használt iparági standardot jelentő algoritmusok vizsgálatát, amennyiben azokat jelentős piaci erővel rendelkező vállalkozások alkalmazzák.

1. A károk vizsgálatának technikái

A hatóságok versenyhatósági vizsgálatainak jellege különböző attól függően, hogy ahhoz szükséges-e a vállalkozás adataihoz és algoritmusaihoz való közvetlen hozzáférés.

Amennyiben nincs közvetlen hozzáférése, bonyolult lehet az algoritmus vizsgálata a széles értelemben vett termék vagy automatizált rendszer vizsgálata nélkül. Ehelyett a legvalószínűbb a rendszer inputjainak és outputjainak elemzése. Az algoritmusos szolgáltatás által kiváltott versenykárokat a legjobban a szolgáltatás vagy automatizált rendszer tervezésének, fejlesztésének és tréningjének teljes és megfelelő elemzésével, az input adatok ismeretében, valamint a fogyasztói reakciók és az output fogyasztói felhasználás ismeretében érthetők meg. Az algoritmusok közötti összejátszás több automatizált rendszer vagy algoritmus közötti interakció együttes vizsgálatának segítségével érthető meg. Ebből adódóan az együttes versenykár azonosítható, de sokkal nagyobb kihívást jelent, hogy az egyes algoritmusok egyedi szerepét megértsük az aggregált hatásban. A tudomány már olyan módszereket is kidolgozott, amelyek ellensúlyozhatják az algoritmusokhoz és adatokhoz való közvetlen hozzáférés hiányából eredő problémákat. Amennyiben az algoritmusok transzparens outputokkal járnak, akkor a tesztvásárlás hagyományos módszertanával is vizsgálhatók. A brit versenyhatóság ilyen módszert már használt a weboldalakon és az alkalmazásokban történő vásárlások vizsgálata során és a fogyasztók által használt digitális összehasonlító eszközök megértésére törekedett. Az Európai Bizottság és a brit versenyhatóság is alkalmazta már ezt a módszert a személyre szabott árazáson segítségével megvalósuló online piaci szegmentálására vonatkozó fogyasztói piacelemzésében.[1] Ezekben az elemzésekben valós vásárlók online profiljainak, kattintásainak és vásárlásainak történetét, készülék és szoftver használatának segítségével azonosíthatók a lehetséges versenykárok. Továbbá az outputokat ún. „scraping audit” segítségével is meg lehet figyelni, amely az adatok weboldalakról való kinyerésével valósul meg. Ennél komplexebb technikai megoldás például az alkalmazásprogramozási felületek (API-k) használata.

A releváns input adatok összegyűjtésének és vizsgálatra előkészítésének folyamatában számos etikai és gyakorlati megfontolást kell figyelembe venni (adatgyűjtés jogi és etikai korlátai, az auditált vállalkozásoknak túlzott teher okozásának mellőzése).

Amennyiben az output összegyűlt, megfelelő elemzést kell alkalmazni a vélt versenykár tényleges fennállásának tesztelésére. Az erkölcsi és jogi szempontoknak való megfelelésre a gépi tanulás egyre gyarapodó irodalma is figyelmeztet. A tisztességesség ugyanis mindig kontextus-függő és ezért összetett vizsgálatot igényel.

Amennyiben az adatokhoz és algoritmusokhoz közvetlen hozzáférés biztosított, más módszerek alkalmazhatók a vizsgálat során. Az adatokhoz és/vagy kódhoz való hozzáféréssel lehetővé válik a döntéshozatali rendszer auditálása egy összetett vizsgálat révén. Nem szükséges az adatok összegyűjtése és feldolgozása, az algoritmus kódja tesztadatokon futtatható és az algoritmus outputja, valamint korlátai közvetlenül elemezhetők. Ehhez hasonlóan, nem mindig szükséges a kódhoz való hozzáférés, az algoritmus birtokosától származó releváns adatok önmagukban elegendőek lehetnek számos auditálási cél megvalósításához. A kódhoz való hozzáféréssel három vizsgálati lehetőség nyílik meg: dinamikus elemzés, amikor automatikus tesztelés valósul meg, statikus elemzés, amikor a kódot csak a környezetétől leválasztva lehet elemezni és kézi kód felülvizsgálat, amely bonyolult algoritmikus szoftverek esetén rendkívül nehéz lehet. Az utóbbi két elemzési módszer hiányossága, hogy nem érthető meg, hogy a kód külső tényezőktől való függősége hogyan befolyásolja a viselkedését. Az adatok és a kód vizsgálata előtt be kell gyűjteni a szervezet dokumentációját, pszeudo kódját és az általános magyarázatokat. Ezt követően az input és output adatok elemzése is értékes információkat hozhat felszínre, mint például az Európai Bizottság Google Shoppinggal kapcsolatos eljárásában. Amennyiben a kódhoz való hozzáférés lehetséges, de a teljeskörű hozzáférés a teljes döntési rendszerhez/infrastruktúrához nem, akkor az algoritmus kódjának vizsgálatában egy teljeskörű auditálás is segítségünkre lehet. Ezt alkalmazta az ausztrál verseny- és fogyasztóvédelmi bizottság is a Trivago-val szemben indított eljárásában, ahol szakértőket kértek fel mind a kód, mind az input és output adatok elemzésére. Ez a módszer azonban csak a relatíve egyszerű algoritmusok vizsgálatára alkalmas (a fekete dobozok vizsgálatára például nem).

2. A szabályozók szerepe a versenykárok elhárításában

A piacok fejlődésével szükség lesz új képességek kifejlesztésére és szélesebb versenyhatósági hatáskör biztosítására a fogyasztói és versenykárok megelőzése céljából.

A beavatkozás mellett erőteljes érvek szólnak elsősorban azért, mert az algoritmusos rendszerek átláthatatlansága és működési transzparenciájának hiánya megnehezíti a fogyasztók és üzletfelek számára a vállalkozások hatékony fegyelmezését. Másodsorban néhány fenti gyakorlat az Egyesült Királyság gazdaságában fontos stratégiai pozíciót betöltő cégek algoritmikus rendszereit érinti.

A fentiek azt sugallják, hogy a piaci nyomás valószínűleg nem tudja hatékonyan meggátolni a jelentős versenykárok kifejtésére alkalmas gyakorlatokat. Ezért az adatvédelmi, valamint egyenlő bánásmódot biztosító hatóságokkal való együttműködés szükséges.

A szabályozói beavatkozások alábbi formáit javasolja a brit versenyhatóság.

  • Iránymutatások és világos standardok felállítása

A vállalkozások kockázat-értékeléssel és hatásvizsgálattal segíthetik elő a számonkérhető, etikus és felelős algoritmikus rendszerek tervezését és működését. Néhány cég már maga is alkalmaz olyan nyílt forrású eszközöket, amelyekkel kiküszöbölhetők a torzítások és a tisztességtelenség. Mivel az iránymutatások és elvek alkalmazása nem kötelező, ezért ezeket meg kell haladni. Az adatvédelmi szabályozás alapján személyes adatok kezelése esetén kötelező hatásvizsgálatot végezni. Ezen kívül az adatvédelmi hatóság egy olyan, a mesterséges intelligencia (MI) auditálására szóló keretrendszert is kidolgozott, amely azt szolgálja, hogy az MI adatvédelmi szempontból milyen kockázatot jelenthet az alapvető jogokra és szabadságokra és ezek a kockázatok hogyan mérsékelhetők.

Egy másik gyakran felmerülő téma az algoritmusok átláthatóságának növelése. Az átláthatóság azonban önmagában sokszor nem elégséges a felmerülő problémák teljeskörű felszámolására. Egy potenciális szabályozói beavatkozásra felkészülve a vállalkozások felelőssége az MI megmagyázhatóságával kapcsolatos dokumentumok megőrzése. A brit adatvédelmi hatóság az Alan Turing Intézettel együtt tájékoztatót adott ki azokat a gyakorlatokról, eljárásokról és dokumentumokról, amelyeket a vállalkozások a hatóságok számára szolgáltathatnak az MI megmagyarázhatósága érdekében. Az Európai Bizottság Mesterséges Intelligenciával foglalkozó Magas Szintű Szakértői Csoportja is etikai iránymutatást dolgozott ki a megbízható mesterséges intelligenciával kapcsolatban, amely együttes szabályozási megközelítéseket (co-regulation approaches) is javasol, mint például akkreditációs rendszereket, illetve szakmai etikai szabályokat.Azonosítani és orvosolni kell a fennálló versenykárokat

Az információgyűjtés fázisában a brit versenyhatóság Adat, Technológiai és Analitikai Munkacsoportja a média, a panaszok és a szakirodalom figyelésével azonosít potenciális versenykárhoz vezető gyakorlatokat. Formális eljárás megnyitása esetén a Digitális Piaci Munkacsoport formális információkérést intéz az érintettekhez. A formális eljárást akkor indítja meg a hatóság, ha ésszerűen gyanítható a jogsértés. A formális eljárás helyett a hatóság piacvizsgálatot vagy piaci elemzést rendelhet el, amennyiben a gyakorlat a fogyasztói érdekekre negatív hatást fejthet ki. A atóság vizsgálati jogkörei: bekérhet adatot, kódot és dokumentációt és olyan kötelezettséget is előírhat a vállalkozások felé, hogy segítsék az algoritmusos rendszer megértését és tesztelését. Az eljárás alá vont az eljárás jellegétől függően, a hatóság aggályait kiküszöbölő jogorvoslati intézkedéseket (remedies) ajánlhat fel, illetve a hatóság maga is előírhat ilyet. Ezek hatékonysága és arányossága tesztelésre kerül, az annak való megfelelést pedig a hatóság ellenőrzi és hatékonyságukat értékeli.

  • Folyamatos ellenőrzés

A vállalkozások az algoritmikus rendszereket rendszeresen felülvizsgálják és új adatokkal, dinamikus modellekkel egészítik ki, ezért az egyszeri auditok hamar meghaladottá válnak. A regulatory sandbox-ok hasznosak lehetnek a szabályozók számára, hogy biztonságos környezetben technikailag teszteljék az algoritmust a saját környezetében anélkül, hogy a vállalkozások jogkövetkezményeknek lennének kitéve. Az ilyen jellegű tesztelés megvalósítása azonban sok kihívással járhat.

  • A digitális képességek fejlesztése és az együttműködések ösztönzése

Az adat és technológia képességekbe történő beruházás eredményeképpen az Adat, Technológia és Analitikai Munkacsoportban több szakma képviselői, így adattudósok, mérnökök, viselkedéstudományok képviselői együtt dolgoznak, hogy új analitikai és vizsgálati technikákat fejlesszenek ki és alkalmazzanak. Az adatvédelmi és telekommunikációs hatóságokkal a Digitális Szabályozási Együttműködési Platform keretei között működik együtt a versenyhatóság. A hazai szabályozókkal való együttműködésen túl a nemzetközi együttműködés fejlesztésére is nagy hangsúlyt helyez a hatóság.

Kitekintés

A fentiek jól mutatják, hogy milyen kihívásokkal szembesülnek a fogyasztóvédelmi és versenyhatóságok az algoritmusok vizsgálata során. Az előző a jelen blogposztban megismert jelentések azt vetítik előre, hogy az algoritmusokkal megvalósított jogsértések bizonyítása számos bonyolult jogi és technikai problémát hordoz magában. 

__________________________________________________________

[1] European Commission (2018), ‘Consumer market study on online market segmentation through personalised pricing/offers in the European Union’. 19 July. Annex 1 of CMA (2018), “Pricing algorithms - Economic working paper on the use of algorithms to facilitate collusion and personalised pricing’.

__________________________________________________________

Készült a Mesterséges Intelligencia Nemzeti Laboratórium és a 138965. számú NKFIH pályázat keretében, valamint az Európai Unió RRF-2.3.1-21-2022-00004 projekt, az Innovációs és Technológiai Minisztérium, a Nemzeti Kutatási, Fejlesztési és Innovációs Hivatal támogatásával.

__________________________________________________________

Az írás a szerző véleményét tartalmazza, és nem értelmezhető a TK hivatalos állásfoglalásaként.

Címkefelhő

alapjogok európai bíróság európai bizottság tagállami mozgástér ttip diszkrimináció európai központi bank fogyasztóvédelem tisztességtelen szerződési feltétel jogállamiság belső piac alkotmánybíróság európai parlament előzetes döntéshozatali eljárás gazdasági és monetáris unió demokrácia kúria állami támogatás jogegységi határozat versenyjog uniós értékek eu alapjogi charta szociális jog irányelvek átültetése euró kásler-ítélet eusz 7. cikke arányosság elve választás nemzeti érdek oroszország közös kereskedelempolitika european convention of human rights brexit fizetésképtelenségi rendelet nemzeti bíróságok ultra vires aktus német alkotmánybíróság kötelezettségszegési eljárás európai parlamenti választások európai bizottság elnöke adatvédelem wto bankunió magyarország energiapolitika devizakölcsön fogyatékosok jogai btk alkotmányjog fővárosi közgyűlés közös kül- és biztonságpolitika strasbourgi bíróság szankció ukrán válság migráció szolidaritás egységes piac russia ukraine crisis compliance fundamental rights eu sanctions bevándorlás európai integráció környezetvédelem fenntartható fejlődés menekültkérdés ceta polgári kezdeményezés trump nafta tpp ecthr prison conditions surrogacy human trafficking human rights közigazgatás panpsychism personhood syngamy environment civil törvény irányelvek legitimáció kikényszerítés szociális deficit letelepedés szabadsága kiskereskedelmi különadó központi bankok európai rendszere hatáskör-átruházás elsőbbség elve adatmegőrzési irányelv közerkölcs európai unió alapjogi ügynoksége magyar helsinki bizottság vesztegetés hálapénz vallásszabadság első alkotmánykiegészítés obamacare születésszabályozás hobby lobby büntetőjog jogos védelem áldozatvédelem külkapcsolatok hatáskörmegosztás tényleges életfogytiglan új btk. szabadságvesztés lojális együttműködés végrehajtás gazdasági szankciók állampolgárság nemzetközi magánjog családi jog öröklési jog uniós polgárság alapjogi charta személyek szabad mozgása európai jog európai emberi jogi egyezmény uniós jog sérthetetlensége uniós jog autonómiája infrastruktúrához való hozzáférés versenyképesség adózás gmo-szabályozás gmo-mentesség european neighbourhood policy ukraine uk report európai szomszédságpolitika brit jelentés excessive deficit exclusionarism protectionism national courts consumer protection single market retaliation hungary european court of justice autonomy of eu legal order inviolability of eu legal order european values article 7 teu rule of law democracy reklámadó verseny szabadsága halálbüntetés schuman-nyilatkozat alapító atyák juncker bizottság energiahatékonysági irányelv energiaunió eurasian economic union dcfta european central bank german constitutional court omt görögország pénzügyi válság államcsőd likviditás menekült fal dublin iii 1951-es genfi egyezmény strasbourgi esetjog európai bíróság elnöke lenaerts hatékony jogvédelem franciaország németország értékközösség érdekközösség ügynökprobléma közbeszerzés környezetvédelmi politika áruk szabad áramlása egészségvédelem ártatlanság vélelme törökország történelmi konfliktusok uniós válságkezelés európai tanács válság szíria lengyel alkotmánybíróság jogállamiság normakontroll eljárási alkotmányosság beruházásvédelem szabályozáshoz való jog jog és irodalom erdély konferencia law in literature law as literature lengyel alkotmánybíróság lengyelország jogállamiság-védelmi mechanizmus eu klímapolitika kvótakereskedelem kiotói jegyzőkönyv adójog európai politikai pártok; pártfinanszírozás európai politikai közösség politikai pártok kohéziós politika régió székelyföld mulhaupt ingatlanadó-követelés nyilvános meghallgatás kommunikáció datafication internet platformtársadalom adókövetelés fizetésképtelenségi eljárás sokszínű európa kisebbségek sokféleség fizetésképtelenség; jogharmonizáció; csődjog; többségi demokrácia; olaszország népszavazás common commercial policy egyenlő bánásmód emberi méltóság ebh szülő nők helyzete peschka jogelmélet parlament véleménynyilvánítás szabadsága média országgyűlés sajtószabadság muršić european court of human rights dajkaterhesség egyesült királyság közigazgatási perrendtartás általános közigazgatási rendtartás egyesülési jog velencei bizottság civil felsőoktatás lex ceu közjogtudomány zaklatás szegregáció

Archívum