מערכת זיהוי תווי פנים היא פתרון טכנולוגי אשר מסוגל לזהות או לאמת את זהותו של אדם באופן אוטומטי, על בסיס תצלום דיגיטלי או וידאו, ללא צורך בידיעתו. אחת הדרכים לעשות זאת היא באמצעות השוואת תמונה מתוך המערכת לתמונות המצויות במאגר נתונים – כאשר לעיתים מדובר ברשתות חברתיות. החשש הגדול כי מערכות אלה מחזקות או מבססות צורות משטר ופרקטיקות גזעניות דוגמת פרופיילינג: אפליה הנובעת מכך שאדם מאמין כי לקבוצה מסוימת יש מאפיינים שונים מקבוצה אחרת, וכתוצאה מכך מפלה בין הקבוצות.
מאז החלה משטרת העיר ניו יורק לעשות שימוש במצלמות מתקדמות, אמנסטי אינטרנשיונל חקרה את השפעותיהם ולאחרונה פרסמה את הממצאים שאספה אודות טכנולוגיית זיהוי פנים בניו יורק, וקבעה כי: “הניתוח שלנו מראה שהשימוש של המשטרה בטכנולוגיית זיהוי פנים עוזר לחזק את השיטור המפלה נגד קהילות מיעוטים בעיר ניו יורק”. כמו כן, אמנסטי השיקה אתר אינטרנטי אינטראקטיבי חדש אשר מאפשר למשתמשים לראות כמה מצלמות יש בעיר, האם היה מעקב פולשני בצעדות, לדוגמא, של תנועת Black Lives Matter וכמה מצלמות יש באתרים התיירותיים של העיר.
המחקר החדש חושף כי הברונקס, ברוקלין וקווינס, שכונות שברובן מאוכלסות ע”י תושבים לא-לבנים, חשופות באופן גבוה יותר למעקבים פולשניים. הממצאים מבוססים על נתונים שהושגו על ידי אלפי מתנדבים דיגיטליים כחלק מפרויקט Decode Surveillance NYC, שמיפו יותר מ-25,500 מצלמות במעגל סגור ברחבי העיר ניו יורק. אמנסטי אינטרנשיונל פענחה נתונים סטטיסטיים על תוכנית “עצור-וחפש” (Stop-and-frisk) ונתונים דמוגרפיים.
באופן פרקטי, התוכנית של משטרת ניו-יורק היא מעין מעצר זמני, חקירה ולעיתים חיפוש אחר אזרחים וחשודים בהחזקת חומרים אסורים או כלי נשק. מחקרים הוכיחו כי לאנשים ממוצא אפריקאי או היספני, היה סיכוי גבוה בהרבה להיעצר לתשאול וחיפוש מאשר ללבנים. כמו כן, מחקרים מצאו כי לתוכנית לא הייתה השפעה מועילה על הפחתת הפשיעה – בפועל נמצאו מעט מאוד חומרים אסורים ומספר המעצרים שבוצעו לבסוף בעקבות התוכנית היה נמוך מהמצופה.
טכנולוגיות לזיהוי פנים מפרות את הזכות לפרטיות ומאיימות על הזכויות לחופש התקהלות, שוויון ואי-אפליה. משטרת ניו יורק השתמשה בטכנולוגיה לפחות ב-22,000 מקרים בין 2016 ל-2019. אמנסטי אספה נתונים מ-2002 והוכיחה כי קהילות שחורות ולטיניות היו היעד המרכזי של טקטיקות מפלות באמצעות טכנולוגיות לזיהוי פנים. בשנה שעברה, אמנסטי אינטרנשיונל הגישה תביעה כנגד במשטרה בעיר ניו-יורק לאחר שזאת סירבה לחשוף רישומים ציבוריים בנוגע לרכישות של טכנולוגיות לזיהוי פנים וכלי מעקב אחרים. התיק עודנו מתנהל, ואנו נעדכן באשר להחלטת בית המשפט. מאט מחמודי, חוקר בינה מלאכותית וזכויות אדם באמנסטי אינטרנשיונל אמר:
אנחנו יודעים כבר מזמן שתוכנית “עצור וחפש” בניו יורק היא טקטיקת שיטור גזענית. כעת אנו יודעים כי הקהילות המופלות ביותר, נמצאות גם בסיכון גבוה יותר לשיטור מפלה באמצעות מעקב פולשני […] משטרת ניו יורק חייבת כעת לחשוף כיצד בדיוק נעשה שימוש בטכנולוגיה הפולשנית הזו.
בכל הנוגע לשימוש בטכנולוגיה בכל הנוגע לצעדות והפגנות, מחמודי טוען כי השימוש הנרחב בטכנולוגיית זיהוי פנים הוא למעשה מעצר דיגיטלי, כאשר השימוש בטכנולוגיית מעקב המונים כזאת באתרי מחאה משמשת לזיהוי, מעקב והטרדה של אנשים שפשוט מממשים את זכויות האדם שלהם. מדובר לטענתו ב”טקטיקה של הפחדה מכוונת מצד משטרת ניו יורק שאין לה מקום בחברה חופשית, ויש לעצור אותה מיד”