برای تمام نگرانی های نظری در مورد محدودیت های سیستم های تشخیص چهره، هیچ چیز مانند تجربه شخصی برای چکیدن نقطه خانه وجود دارد. اخیرا تأیید شد که ACLU یک آزمایش جالبی را با استفاده از سیستم شناسایی ابر مبتنی بر ابر آمازون انجام داد که Privacy News Online چند ماه پیش مورد بحث قرار گرفت:
با استفاده از Rekognition، ما یک پایگاه داده شخصی و ابزار جستجو با استفاده از 25،000 عکس دستگیر شده در دسترس عمومی ساختیم . سپس این پایگاه داده را در برابر عکس های عمومی هر عضو فعلی مجلس و سنا جستجو کردیم. ما از تنظیمات مطابقت پیش فرض استفاده کردیم که آمازون برای شناخت شناخته شده است.
نتیجه قابل توجه بود: نرم افزار آمازون با اشتباه 28 عضو کنگره مطابقت داشت و آنها را به عنوان افراد دیگر که برای جرم بازداشت شده بودند شناسایی کردند. به ویژه اضطراب، تعصب نژادی نشان داده شده توسط مسابقات بود: نزدیک به 40٪ از بازی های دروغین Recognition در آزمون ACLU از مردم رنگ بود، حتی اگر آنها تنها 20٪ از کنگره را تشکیل می دهند. همچنين قابل توجه بود که اين آزمايش هزينه صرف فقط 12.33 دلار است که نشان ميدهد که چطور سيستمهاي تشخيص چهره به چهره تبديل شده است. این بدان معنی است که مانع گسترش آنها به طور گسترده ای کم است.
جای تعجب نیست که برخی از سیاستمداران آمریکایی از این نتایج خوشحال نیستند. Cnet نسخه هایی از نامه های ارسال شده توسط برخی از آنها را به مدیر عامل آمازون، جف بیسوس دریافت کرد. یکی اشاره کرد که چرا تعصب نژادی آشکار سازی Rezognition چنین نگرانی – چیزی است که کانکور سیاه کانادایی در ماه مه، زمانی که جزئیات سیستم شناخت شناخته شد در ابتدا کشف شد. همانطور که در نامه اخیر آمده است:
با توجه به نتایج این آزمون، ما در مورد تاثیر مخرب این ابزار – اگر بدون کالیبراسیون مناسب، سازگار و دقیق بدون چیدمان – در جوامع رنگی: مهاجران وجود داشته باشد؛ معترضان به صورت صلح آمیز مونتاژ و دیگران برای درخواست بازپرداخت شکایات از دولت دعوت می کنند؛ یا هر گروه دیگر محروم شده.
کالیبراسیون یک موضوع کلیدی برای سیستم های تشخیص چهره است. اگر داده های آموزشی غیررسمی و یا استفاده نادرست باشد، سیستم نتایج بی نظیر تولید می کند. بسیاری از افراد احتمالا مسابقات به دست آمده با تشخیص چهره به عنوان قابل اعتماد را مشاهده می کنند، به لطف یک نوع استدلال دایره ای که از آن زمان مطابقت دارد، باید درست باشد. این مورد نیست: همانطور که آزمایشی ACLU نشان می دهد، یک سیستم پنهان شده به درستی پیکربندی خواهد ملاقات هایی پیدا کرد که در آنها وجود ندارد. یکی دیگر از مسائل مطرح شده توسط آمازون پاسخ به این حادثه، نوشته شده توسط مت وود، که مسئول آموزش ماشین آلات در خدمات وب آمازون است. او اشاره کرد که یک متغیر مهم وجود دارد که کمک می کند تا تعیین کند که کدام یک از بازی ها مناسب است، چرا که از نظر مثبت کاذب تولید می شود – مسابقات آشکار که نادرست است. این به اصطلاح "آستانه اعتماد" است:
آستانه اطمینان 80٪ که توسط ACLU استفاده می شود بسیار کم برای اطمینان از شناسایی دقیق افراد است. ما انتظار داریم که در این سطح اعتماد به نفع مثبت کاذب باشد. ما توصیه می کنیم که 99٪ موارد مورد استفاده را داشته باشیم که مسابقات شباهت بسیار دقیق روی آنها بسیار مهم است (همانطور که در اسناد عمومی ما نشان داده شده است).
پست آمازون توضیح داد که این شرکت آزمایش خود را انجام داد، از کنگره ایالات متحده در میان مجموعه ای از بیش از 850،000 چهره معمولا در دانشگاه استفاده می شود. با وجود مجموعه داده های بسیار بزرگ، اعتماد به نفس صفر بود که سطح اطمینان به سطح 99٪ دقیق تر تنظیم می شد. همانطور که آمازون به درستی یادآوری می کند، این نشان دهنده اهمیت حیاتی انتخاب سطح اطمینان مناسب هنگام استفاده از سیستم های تشخیص چهره است – چیزی که به ندرت مورد بحث قرار می گیرد. با این حال، سخنگوی ACLU به Ars Technica اشاره کرد که این استدلال به وضوح توسط یک پست در سایت آمازون تشدید شده است که جزئیات آن را توضیح می دهد که چگونه نیروهای پلیس می توانند از Recognition برای شناسایی افراد مورد علاقه برای اجرای قانون استفاده کنند که سطح اطمینان 85٪ ، نه 99٪.
پاسخ آمازون به نتایج ACLU همچنین بیان کرد که در شرایط واقعی در زمینه ایمنی عمومی و اجرای قانون، شناخت آمازون "تقریبا به طور انحصاری برای کمک به محدود کردن زمینه و اجازه دادن به انسان به سرعت در نظر گرفتن و بررسی گزینه ها با استفاده از قضاوت خود" از اجازه دادن به سیستم برای تصمیم گیری کاملا مستقل. این ممکن است دید بیش از حد خوش بینانه باشد.
یکی از دلایل اصلی گسترش گسترده سیستم های تشخیص چهره کم هزینه این است که آنها بخشی معمول از نظارت پلیس خواهند شد، به عنوان مثال بخشی از سیستم جدید FirstNet که هفته گذشته مورد بحث قرار گرفت. احتمالا این فن آوری در موقعیت هایی قرار می گیرد که افسران نیاز به تصمیم گیری سریع دارند؛ ممکن است زمان زیادی برای بررسی و بررسی گزینه ها وجود نداشته باشد – آنها باید عمل کنند. تمایل طبیعی برای اعتماد به سیستم های تشخیص چهره بدون نگرانی در مورد مسائل فنی مانند سطح اطمینان است. تصور اینکه اشتباهات ساخته شده است، شاید با عواقب مرگبار باشد، آسان است. حتی آکسون، بزرگترین ارائه دهنده دوربین های بدن در ایالات متحده، فکر می کند که این نگرانی است.
Matt Wood از آمازون پست خود را با پشتیبانی از درخواست قبلی مایکروسافت برای مقررات دولت به پایان می رساند:
یادگیری ماشین ابزار بسیار ارزشمند برای کمک به سازمان های اجرای قانون و در حالی که نگران است که آن را به درستی اعمال می شود، ما نباید فر را دور بریزیم، زیرا دمای می تواند اشتباه تنظیم شود و پیتزا را بسوزاند. با این حال، ایده بسیار منطقی این است که دولت برای اندازه گیری و تعیین درجه حرارت (یا سطح اطمینان) که می خواهد آژانس های اجرای قانون برای کمک به کار ایمنی عمومی آنها را ارزیابی کند مشخص است.
پیش از این، پیشنهادات این چگونگی وجود دارد انجام شده از طریق تنظیم یک گزارش 2016 تحت عنوان «عضویت دائمی: تشخیص چهره غیرقانونی پلیس در آمریکا» از گروهی در مرکز حفظ حریم خصوصی و فناوری در قانون جورج تاون نه تنها این مشکل را تحلیل کرد، بلکه برخی از راه حل ها را ارائه داد. این شامل قانون تشخیص چهره مدل و سیاست استفاده از تشخیص چهره مدل پلیس است.
با این حال، وودرو هارتزوگ، استاد حقوق و علوم کامپیوتری در دانشکده حقوق دانشگاه و دانشگاه کالج کامپیوتر و اطلاعات علمی شمال شرقی، دیدگاه بدبینانهتری پیدا میکند. او معتقد است که یک چارچوب قانونی کافی نیست – او می گوید ما باید ممنوعیت کامل فن آوری را داشته باشیم:
از آنجا که فناوری تشخیص چهره وعده ترجمه می دهد که ما چه کسی هستیم و در همه جا به اطلاعات پیگیری می پردازیم که تقریبا بلافاصله ذخیره می شود ، به اشتراک گذاشته شده و تجزیه و تحلیل شده است، توسعه آینده آن تهدید می کند که ما دائما در معرض خطر قرار بگیریم. آینده شکوفایی انسان بستگی به فناوری تشخیص چهره دارد که قبل از اینکه سیستم در زندگی ما وارد شود، ممنوع است. در غیر این صورت، مردم نمی دانند که چه چیزی در اختیار عموم قرار می گیرد بدون اینکه به طور خودکار شناسایی، شناسایی شده و به طور بالقوه مورد سوء استفاده قرار گیرد. در چنین جهانی، منتقدان فناوری تشخیص چهره از بین می روند، خاموش می شوند و یا از بین می روند.
فراخوانی هارتزوگ جسور و معقول است اما آیا این واقع گرایی است؟ آیا نیروهای پلیس یا سازمان های اطلاعاتی احتمالا تمایل دارند که قابلیت های نظارتی را که به رسمیت شناختن چهره ارائه می دهند، رد کنند؟ حتی اگر استفاده از فناوری ممنوع است، زمانیکه در حال گسترش است، سخت است که بگوییم: هر دوربین مدار بسته، هر عکس، به طور بالقوه می تواند به یک سیستم تشخیص چهره تبدیل شود و هیچ کس نمی داند. به همان اندازه، فناوری و تخصص در حال حاضر از آنجا خارج شده است، و هیچ راهی برای بازگشت به آن وجود ندارد. این همواره توسط کسانی که می خواهند قدرت خود را مورد استفاده قرار می دهند و مورد آزار و اذیت قرار گیرند و کسانی که مایل به رد کردن یا صرفا نادیده گرفتن عواقب قانونی که ممکن است در بعضی حوزه های قضایی پیگیری شود، مورد استفاده قرار گیرد.
شاید بهترین مواردی که ما امیدوار باشیم، بدترین عوارض سیستم تشخیص چهره. واقعیت این است که مایکروسافت و آمازون در حال حاضر مایل به حرکت در این جهت هستند، به این معنی است که شرکت های تکنولوژی دیگر احتمالا همین کار را خواهند کرد. برخی از سیاستمداران آمریکایی به سختی متوجه شدند که چگونه سیستم های تشخیص چهره نقص می تواند باشد. شاید آنها شروع به قدردانی از عواقب جدی که ممکن است از این نوع مثبت کاذب حاصل شود. در نتیجه، اکنون به نظر می رسد یک لحظه مناسب برای شروع گفتگو گسترده تر در مورد تنظیم فناوری قبل از اینکه دیر شود، و وضعیت به همان اندازه بدتر از هارتزوگ ترس می شود.
تصویر ویژه توسط ACLU
درباره Glyn Moody [19659020] Glyn Moody یک روزنامه نگار آزاد است که در مورد حفظ حریم خصوصی، نظارت، حقوق دیجیتال، منبع باز، کپی رایت، اختراعات و مسائل مربوط به سیاست کلی با فن آوری دیجیتال می نویسد و صحبت می کند. او شروع به پوشش استفاده از اینترنت در سال 1994 کرد و اولین ویژگی اصلی در مورد لینوکس را که در اوت 1997 در Wired ظاهر شد، نوشت. کتاب او "Code Rebel Code" اولین و تنها تاریخ دقیق افزایش منبع باز است VPN Service "title =" VPN Service "/> در حالی که کار بعدی خود،" Code of Life of Life "، به بررسی بیوانفورماتیک ها – تقاطع محاسبات با ژنومیک می پردازد
در چالش های چین: آمازون و مدارس ایالات متحده نرمال سازی خودکار تشخیص چهره و نظارت دائمی هستند
آمازون یک سیستم تشخیص چهره مبتنی بر ابر مبتنی بر Recognition شناخته شده است که پیامدهای عمده ای برای حفظ حریم خصوصی دارد. در حال حاضر توسط چندین نیروی پلیس ایالات متحده برای نظارت و دستگیری استفاده می شود، ACLU آموخته است.
آمازون ادعا می کند که Recognition تطبیق چهره واقعی را در بین ده ها میلیون نفر در پایگاه داده نگهداری می کند و می تواند تشخیص دهد تا 100 عکس در یک عکس از یک جمعیت. شناسایی می تواند مورد استفاده برای تجزیه و تحلیل فیلم ها و پیگیری مردم حتی زمانی که چهره آنها قابل مشاهده نیست و یا به عنوان آنها در داخل و خارج از صحنه.
در نتیجه این افشا، ائتلافی از سازمان های از جمله ACLU فرستاده نامه ای به مدیر عامل شرکت آمازون جف بوزوس که خواستار توقف این شرکت در ارائه ابزار تشخیص چهره به دولت شده است. ACLU همچنین یک پرونده را درخواست کرده است که خواستار آن است.
ایمیلهایی که از طریق درخواست آزادی اطلاعات ارسال شده توسط ACLU دریافت شده نشان می دهد که آمازون با شهر اورلاندو، فلوریدا و اداره كل افسران واشنگتن در اورگون مشغول به کار بوده است. شناسایی در این مکان ها. علاوه بر این، سازمان های اجرای قانون در کالیفرنیا، آریزونا، و چندین مراکز همجوشی نظارت داخلی، علاقه به شناخت را نشان داده اند، هرچند مشخص نیست که چند نفر از این سیستم ها به سیستم اعزام شده اند. اورلاندو از Recognition استفاده کرده است تا افراد را در فیلم هایی که از دوربین های نظارت تصویری شهر ساخته شده است جستجو کنند. در همین حال، واشنگتن کانتی یک برنامه تلفن همراه مبتنی بر شناخت مبتنی بر شناسایی مبتنی بر شناسایی مبتنی بر شناسایی مبتنی بر شناسایی که نمایندگان آن می توانند برای اجرای هر گونه تصویر علیه پایگاه داده ای از 300،000 صورت استفاده کنند، ساخته است. ACLU برخی از مسائل مربوط به حفظ حریم خصوصی جدی مطرح شده توسط اسناد آن را به دست می آورد:
با شناختن، دولت هم اکنون می تواند یک سیستم برای شناسایی و ردیابی هر کسی را به صورت خودکار بسازد. مثلا، اگر دوربین های بدن پلیس با تشخیص چهره در نظر گرفته شوند، دستگاه هایی که برای شفافیت و پاسخگویی افسران طراحی شده اند، بیشتر به دستگاه های نظارت بر هدف می پردازند. با استفاده از این تکنولوژی، پلیس می تواند تعیین کند که چه کسی در اعتراضات شرکت می کند. [US Immigration and Customs Enforcement] می تواند به دنبال مداوم نظارت بر مهاجران در هنگام ورود به زندگی جدید باشد. شهرهای ممکن است به طور منظم ساکنان خود را پیگیری کنند، اینکه آیا آنها دلیلی برای مشکوک بودن فعالیت جنایی دارند یا خیر. همانند سایر تکنولوژی های نظارت، این سیستم ها قطعا در جوامع اقلیت به طور نامنظم هدف قرار می گیرند.
نیروهای پلیس ایالات متحده نه تنها به سیستم های تشخیص چهره برای نظارت مستمر تبدیل می شوند. همانطور که گزارش های بوفالو نیوز، مدارس محلی صدها دوربین ویدئویی را نصب می کنند که برای نظارت بر دانش آموزان و بازدیدکنندگان برای ارائه ایمنی و امنیت استفاده می شود. با این حال، سیستم به نظر می رسد به خصوص برای این نقش مناسب نیست:
نمی تواند سلاح های فلزی، پنهان و مواد منفجره را شناسایی کند.
آنچه که می تواند انجام دهد، مقامات هشدار دهنده است اگر فردی که عکس آن در برنامه سیستم – یک مجرم جنسی ثبت شده، خواهان جرم و جنایت، پدر و مادر غیر محروم، دانش آموز اخراج شده یا کارمند سابق ناراضی – می آید به طیف وسیعی از یکی از 300 دوربین دیجیتال با وضوح بالا.
به این معناست که تنها می تواند ناخواسته افراد اگر عکس آنها به سیستم اضافه شده است. با این وجود، می تواند نظارت بسیار مهیج بر روی گروه دیگری انجام دهد – دانش آموزان:
اگر مقامات مدرسه یک عکس دانشجویی را در سیستم بارگذاری می کنند، می توانند مکان و زمان دانش آموز را در مدرسه طی 60 روزها
آنها می توانند ببینند که دانش آموز صحبت کرد و در آن دانش آموز در طول ساعت کلاس درس رفت.
رابی، مدیر اجرایی Depew، گفت که سیستم Aegis نیز می تواند به رشته مدرسه اعمال شود.
"اگر ما دانش آموزی که مرتکب نوعی تخلف در قانون رفتار شده است، ما می توانیم آن دانش آموز را در طول روز دنبال کنیم تا ببینیم شاید با کسی تعامل داشته باشند، جایی که قبل از این حادثه بود، جایی که آنها پس از حادثه رفتند، بنابراین قانونی می توانستیم رابی گفت: "از نرم افزار نیز استفاده کنید."
پیگیری دانشجویان در طول روز و ضبط همه افرادی که با آنها تعامل دارد، به نظر می رسد مانند پاسخ شدیدی به تخطی از رفتار مدرسه است. این مسئله به ویژه مشکل ساز است، زیرا نظارت پدری را به یک تمرین تبدیل می کند که انتظار می رود دانش آموزان آن را به طور کاملا روتین در نظر بگیرند. به عبارت دیگر، نظارت دائمی فناوری پیشرفته توسط مقامات عادی می شود.
وضعیت در چین نشان می دهد که در آن منجر می شود. به تازگی گزارش داد که اخبار خبری Privacy News Online، مقامات چینی به تشخیص پیشرفته چهره تبدیل شده اند تا افراد را در لیست دلخواه خود قرار دهند که امیدوارند از طریق اخراج در جمعیت های زیادی پناه بگیرند. اما رونق این سیستم ها در کشور بسیار گسترده تر از حادثه ای است که به طور مرتب دیده می شود و تاریخ طولانی و نگران کننده دارد.
مجموع سیستم های نظارتی در تبت آغاز شد و سپس در سین کیانگ تکمیل شد. در منطقه دوم، اسکن چهره برای پیگیری هر حرکت جمعیت محلی اویغور استفاده می شود، با مداخله پلیس اگر آنها در خارج از مناطق مشخص شده حرکت می کنند. در حال حاضر فن آوری در مناطق مشکل حل شده در حال شروع است در شهرهای اصلی چین مستقر شود. به عنوان مثال، متروی پکن به زودی از تشخیص چهره به عنوان یک روال معمول استفاده خواهد کرد.
با توجه به این گسترش دائمی، جای تعجب نیست که نظارت در کسب و کار بزرگ چین است، در حالی که همه شرکت های بزرگ اینترنتی که در یک یا چند مورد . همانطور که دولت چین همچنان این سیستم ها را نصب می کند، قیمت ها بیشتر می شود و تکنولوژی به طور مداوم بهبود می یابد، همانطور که در حال حاضر با سیستم شناخت آمازون اتفاق می افتد. این امر باعث می شود که استفاده از آن در سراسر جهان برای مقامات به طور فزاینده ای جذاب باشد، و امنیت به طور معمول به عنوان دلیل این حملات عظیم به حریم خصوصی است. خطر این است که در همه جا به چین تبدیل می شود، جایی که مردم در تمام طول زمان تحت نظارت قرار می گیرند، با تشخیص چهره مورد استفاده برای نظارت بر جایی که آنها می روند، با آنها صحبت می کنند – و بعضی از آنها حتی مراقبت خواهند کرد. این در حال حاضر در مدرسه های ایالات متحده اتفاق می افتد و آمازون تکنولوژی مبتنی بر ابر را آماده کرده و در انتظار آن است که در هر جای دیگری از آن استفاده کند.
تصویر برجسته آمازون
درباره Glyn Moody
Glyn Moody یک روزنامه نگار آزاد، که در مورد حفظ حریم خصوصی، نظارت، حقوق دیجیتال، منبع باز، کپی رایت، اختراعات و مسائل سیاست عمومی مربوط به فن آوری دیجیتال می نویسد و صحبت می کند. او شروع به پوشش استفاده از اینترنت در سال 1994 کرد و اولین ویژگی اصلی در مورد لینوکس را که در اوت 1997 در Wired ظاهر شد، نوشت. کتاب او "Code Rebel Code" اولین و تنها تاریخ دقیق افزایش منبع باز است VPN Service "title =" VPN Service "/> در حالی که کار بعدی خود،" Code of Life of Life "، به بررسی بیوانفورماتیک ها – تقاطع محاسبات با ژنومیک می پردازد
