ترول ها در ساخت نام های جعلی "خنده دار" لذت می برند، بنابراین وب سایت ها سعی می کنند کلمات خاصی را برای حساب های جدید فیلتر کنند. اگر نام واقعی شما حاوی یکی از این کلمات باشد
ناتالی وینر، نویسنده ای برای SB Nation، اخیرا توسط چنین سیستمی فیلتر شده است.
این بدون شک بهترین چیزی است که تا به حال برای من اتفاق افتاده است pic.twitter.com/rnVkmhB2dy
– ناتالی وینر (natalieweiner) 28 اوت 2018
پاسخ ها یک مشکل بسیار واقعی را نشان می دهد. در اینجا Daniel Oberhaus، برای مادربرد نوشت:
به زودی، یادداشتهای وینر با صدها نظرات از افرادی که با رنج او همدردی داشتند، پر شده بود. کایل مدیک گفت: "من این خیلی زیاد، شگفت آور است." جیمز بیتس "این مشکلات را می داند" و مت کامینگز "آنجا بوده است." آرئون دیکسیت گفت که تعصب الگوریتمی تقریبا یک رویداد روزانه تبدیل شده است. Clark Aycock گفت: "در یکی از مشاغل من، فناوری اطلاعات مجبور به ایجاد یک قاعده در سرور ایمیل برای جلوگیری از رد ایمیل های من به عنوان اسپم های پورنو شد."
این سایت ها فقط سعی دارند از بعضی کلمات نامحدود استفاده کنند در سایت، اما اقدامات خودکار به مردم بیگناه سخت تر می شود. این یک مشکل است.
اوبرهاس این نکته را نشان می دهد: در سال 1996 یک فیلتر AOL کل شهر انگلستان Scunthorpe را از ثبت نام برای حساب ها به دلیل چهار حرفی تعبیه شده ممنوع کرد. بیش از 20 سال بعد، با پیشرفت زیادی در AI، مشکل مشابه همچنان ادامه دارد.
این باید برای مردم خسته کننده باشد. نام خانوادگی من، پت، جوک ها را از نزدیک ترین غریبه ها به کل زندگی من تحمیل کرده است. این به اندازه کافی آزار دهنده است، بنابراین من فقط می توانم تصور کنم که چقدر بد است وقتی که ماشین ها با امتناع از پذیرش نام واقعی خود، به آن اضافه می کنند.
