اگنا-چندی پیش یک نویسندۀ امریکایی به نام هیند مکی» (Hind Makki) زمانی که به دنبال یافتن یک کامنت مشخص در یک وبلاگ بود، عبارتِ «مسلمانان امریکایی تروریسم را گزارش میکنند» (American Muslims Report Terrorism) را در گوگل جستجو کرد، متوجه شد موتور جستجوی گوگل واکنشی عجیب و نژادپرستانه به این جمله نشان میدهد.
او متوجه شد که گوگل، یک عبارت اصلاحی را پیشنهاد داده است با این صورت: «مسلمانان امریکایی از تروریسم حمایت میکنند» (American Muslims Support Terrorism). البته به گفتۀ این نویسنده، گوگل پس از انتشار این خبر، عبارت مزبور را حذف کرد اما ادعای این نویسنده، بحث ها و واکنشهای متفاوتی را بر انگیخت.
کوارتز (Quartz) که برای نخستین بار خبر این کشف مکی را منتشر کرد و یک کپی از اصطلاح پیشنهادی گوگل را حفظ کرده است، معتقد است این یک اتفاق نیست. در حقیقت، گوگل عبارت های پیشنهادی اصلاحی خود را بر مبنای جستجوهای کاربران پیشین خود پیشنهاد میدهد. این موتور جستجو با تحلیل عمومیترین جستجوهای کاربران که نزدیک به عبارتجستجویی شما است، در صورتی که فکر کند شما اشتباهی عبارتی را تایپ کردهاید، آن جستوی عمومی را به شما پیشنهاد میدهد.
گوگل برای بهبود امکانات موتور جستجوی خود، به صورت ناشناس به تحلیل موارد جستجویی کاربران میپردازد و برخی نکات از جمله اشتباهات رایج در تلفظ و تایپ، منطقۀ جغرافیایی کاربر، میزان جدید بودن محتوای وبسایت و کلمههایی که قبل و بعد از هر عبارت نوشته میشوند را مورد توجه قرار میدهد.
به گفتۀ خود این شرکت، الگوریتم های این شرکت بیش از 200 متغیر را به کار میگیرند تا اصلاح های پیشنهادی را مشخص کنند. به این ترتیب، به نظر میرسد الگوریتمهای گوگل بر مبنای عمومیتِ بیشترِ عبارت «حمایت» به جای «گزارش» در میان دادهای ورودی کاربران، چنین تصمیم گرفته است که مکی به دنبال این عبارت جستجویی بوده است.
در هر حال، خود مکی گفته است که از این اتفاق ناراحت شده است، اما تقصیر آن را متوجه گوگل نمیداند. این در اصل نشاندهندۀ این واقعیت است که چه تعداد بزرگی از مردم عبارتِ «مسلمانان امریکا از تروریسم حمایت میکنند» را در گوگل جستجو کرده اند و این یک واقعیت غمانگیز است.
همچنین، این مسئله نشاندهندۀ ضعف کامپیوتر و هوش مصنوعی در آموختن و حمایت از موارد توهین آمیز و تهاجمی است. سال گذشته، مورد مشابهی هم در سرویس عکس گوگل کشف شده بود که دقیقاً به علتی مشابه با آنچه در بالا میبینید؛ اتفاق افتاد و عکس مردم سیاهپوست را با جستجوی عبارت توهین آمیزِ «گوریل» پیشنهاد میکرد. کامپیوترها، قادر نیستند تهاجمی و توهینآمیز بودن را تشخیص دهند و این میتواند یک خطرِ بزرگ باشد./مهدی حیدرپور/تابناک
کانال تلگرامی اگنا- از اینجا عضو شوید
مطالب مرتبط
جهت ارسال دیدگاه ابتدا باید با مشخصات کاربری خود وارد سایت شوید.
