Élő arcfelismerő kísérlet, amelyről a legtöbb lakos mit sem tudott

Ausztráliában elsőként jellemzett lépésként a nyugat-ausztráliai rendőrség júniusban csendben élő, MI-alapú arcfelismerő kamerákat telepített Perth és Fremantle térségében. A kísérlet egyetlen hete alatt a rendszer több mint 130 000 arcot szkennelt, 33 riasztást generált, és 18 letartóztatáshoz vezetett. A rendőrség azt is közölte, hogy a technológia segített azonosítani és megszólítani 21 regisztrált szexuális bűnelkövetőt a környéken.

A szkennelés mértéke önmagában is figyelemre méltó, de a legnagyobb figyelmet az kapta, ahogyan történt: azokkal az utcán sétáló lakosokkal nem közölték, hogy beszkennelik őket. Nem volt tájékoztató kampány, nyilvános konzultációs időszak vagy egyértelmű kimaradási (opt-out) lehetőség. Sok ausztrál először nem a rendőrség vagy az önkormányzat értesítéséből, hanem utólag, a sajtóból értesült a programról.

Miért fontos az értesítés hiánya?

Az arcfelismerő rendszerek úgy működnek, hogy képeket készítenek az emberekről közterületen, és ezeket gyakran valós időben összehasonlítják egy adatbázissal. Ha ez a folyamat nyilvános tájékoztatás nélkül zajlik, az emberek elveszítik annak lehetőségét, hogy megalapozott döntéseket hozzanak arról, hová mennek, kivel mutatkoznak együtt, vagy hogyan rögzíthetik és vethetik össze mozgásukat. Adatvédelmi szószólók és jogi szakértők rámutattak, hogy ez aláássa a megfigyelés ellenőrzésének egyik alapelvét: az embereknek általában tudniuk kell, mikor és hogyan figyelik meg őket, különösen, ha kormányzati szervek teszik.

A kísérlet legalább egy megerősített téves azonosítást is eredményezett, ami emlékeztet arra, hogy még a kifinomult MI-rendszerek is tévesen azonosíthatnak embereket, aminek következményei a kellemetlentől a súlyosig terjedhetnek. A téves azonosítás kockázatai ráadásul nem egyenletesen oszlanak meg: az arcfelismerő eszközök esetében jól dokumentált, hogy bizonyos demográfiai csoportoknál magasabb a hibázási arány, ami az adatvédelmi aggályok mellett egyenlőségi aggályokat is felvet.

A WA rendőrség az eredményeket a közbiztonság győzelmeiként, letartóztatásokként, azonosított elkövetőkként és generált riasztásokként állította be. Az adatvédelmi szervezetek szerint azonban a valódi költség-haszon értékeléshez átláthatóság kell a kísérlet szabályaival kapcsolatban: meddig őrzik meg a felvételeket és a találati adatokat, ki férhet hozzájuk, megosztják-e más szervekkel, és mi történik annak a több tízezer embernek a biometrikus adataival, akiket ugyan beszkenneltek, de semmilyen nyomozáshoz nem volt közük.

A biometrikus adatgyűjtés tágabb mintázata

Ez a kísérlet nem elszigetelt jelenség. A kormányok és magáncégek világszerte egyre gyakrabban fordulnak biometrikus ellenőrzéshez, legyen szó arcfelismerésről a rendfenntartásban, biometrikus ellenőrzésekről a repülőtereken vagy életkor-ellenőrző rendszerekről, amelyek a tartalomhoz vagy szolgáltatáshoz való hozzáférés előtt beszkennelik az arcot, hogy megbecsüljék a felhasználó életkorát. Mindegyik rendszer hasonló alapkérdést vet fel: mennyi biometrikus adatot engedhetünk egyetlen rendszernek gyűjteni, és mennyi ideig őrizheti meg azokat? Azok az olvasók, akiket érdekel, hogyan zajlanak ezek a kompromisszumok egy másik, de kapcsolódó összefüggésben, megnézhetik, hogyan kényszerítik ki már most a világszerte érvényes életkor-ellenőrzési törvények is hasonló vitákat a biometrikus szkennelésről, az adatmegőrzésről és a beleegyezésről, gyakran sokkal kisebb nyilvános figyelem mellett, mint amilyet a technológia hatóköre sugallna.

A WA rendőrség kísérlete éppen azért hasznos esettanulmány, mert megmutatja, mi történik, amikor a biometrikus megfigyelés a szakpolitikai vitából élő bevetésbe fordul. A technológia sok esetben a várakozásoknak megfelelően működött, de az egyértelmű nyilvános tájékoztatás, a független ellenőrzési nyomvonal és a formális kimaradási lehetőségek hiánya megmutatja, milyen gyorsan elhagyhatja a technikai képesség a felügyeletet.

Mit jelent ez Önnek?

Ha Perthben vagy Fremantle-ben él vagy odalátogat, könnyen lehet, hogy már beszkennelték anélkül, hogy tudott volna róla, és ugyanez a folyamat más városokra is átterjedhet, ahogy máshol is hasonló kísérleti programokat fontolgatnak. Ausztrálián kívül is előrevetíti ez az eset, merre tartanak a közterületi MI-arcfelismerő kísérletek: csendes bevezetések, amelyeket biztonsági statisztikákkal indokolnak, és amelyeknél az adatvédelmi biztosítékokat gyakran utólag adnak hozzá, nem pedig a kezdetektől építik be.

Az élő, közterületi arcfelismerő rendszerből általában nem lehet kiiratkozni, ha már aktív az adott környéken, és éppen ezért olyan fontos az átláthatóság és a nyilvános vita, mielőtt ezek a rendszerek élesednek, nem pedig utána.

Gyakorlati teendők

  • Ellenőrizze, hogy a helyi rendőrség vagy a városi önkormányzat közzétett-e információt bármilyen jelenlegi vagy tervezett arcfelismerő kísérletről, és keressen nyilvános visszajelzési vagy konzultációs lehetőséget.
  • Támogassa azokat a felhívásokat, amelyek egyértelmű adatmegőrzési és törlési szabályokat követelnek, valahányszor arcfelismerő vagy más biometrikus eszközöket javasolnak közterületekre.
  • Szorgalmazza az MI-alapú megfigyelőrendszerek pontosságának és részrehajlásának független auditálását, mielőtt azokat a kísérleti szakaszon túlra bővítenék.
  • Tájékozódjon arról, hogy az egyetlen célból – például rendfenntartásból – gyűjtött biometrikus adatokat hogyan oszthatják meg később más szervekkel vagy magáncégekkel.

Az MI-arcfelismerő kísérletekről szóló vita csak egyre hangosabb lesz, ahogy egyre több város tesztel hasonló rendszereket. Ha tájékozottak maradunk arról, hogyan vezetik be ezeket a programokat, és átláthatóságot követelünk, amikor nem így történik, az az egyik legpraktikusabb módja annak, hogy a nyilvánosság befolyásolja, hogyan használják ezt a technológiát a jövőben.