اتحادیه‌ی اروپا اخیراً قوانین زیادی را به‌تصویب رسانده که یکی از آن‌ها، اقدامات جدید ضد افراط‌گرایی است. اکنون به‌نظر می‌رسد گوگل قصد دارد به این اتحاد بپیوندد.
غول جستجوی اینترنت اغلب ازطرف شرکت‌های کوچک‌تر و به‌دلیل اقدامات ضدرقابتی مورد انتقاد و اتهام قرار می‌گیرد. به گزارش Gizmodo این شرکت درحال توسعه‌ی نرم‌افزار تعدیل محتوای رایگانی است تا در نظارت و حذف مطالب تروریستی به سایت‌ها کمک کند. خبر مربوط به ابزار جدید گوگل برای اولین‌بار در فایننشال تایمز گزارش شد. این درحالی است که متا نیز از مدتی قبل با اقدامی مشابه سعی دارد به شرکت‌های کوچک‌تری که منابع کمتری دراختیار دارند کمک کند از جریمه‌های سخت‌گیرانه‌‌ی قوانین خدمات دیجیتال اروپا جلوگیری کنند.
ابزار تعدیل محتوا ازطریق مشارکت واحد تحقیق‌وتوسعه‌ی Jigsaw گوگل و Tech Against Terrorism مورد حمایت سازمان ملل متحد ساخته شده است و از پایگاه داده‌ای استفاده می‌کند که اطلاعات آن از محتوای مشکوک شناسایی‌شده ازطریق انجمن‌های غیرانتفاعی جهانی اینترنت فیسبوک، مایکروسافت، یوتیوب و توییتر تشکیل شده است. اگرچه متا اخیراً اعلام کرده است نرم‌افزار منبع‌باز شناسایی ضد تروریسم به سایت‌ها کمک می‌کند محتوای بالقوه مضر را با آن پایگاه داده مطابقت دهند، گزارش فایننشال تایمز خاطرنشان می‌کند ابزارهای گوگل به ناظران انسانی کمک می‌کند قدم بعدی را بهتر برداشته و تصمیم بگیرند برای قرار دادن محتوایی که به‌عنوان مضر علامت‌گذاری شده است، چه اقداماتی انجام دهند.
قانون خدمات دیجیتال که نوامبر گذشته اجرایی شد، شامل مقرراتی است که وب‌سایت‌ها و پلتفرم‌ها را مجبور می‌کند محتوای تروریستی را درمدت یک‌ساعت پس‌از دریافت حکم مربوطه، حذف کنند و درغیر این‌صورت با جریمه‌ی سنگین مواجه خواهند شد. اگرچه این اقدامات به‌منظور سرکوب مثبت محتوای افراطی درنظر گرفته شده است، اما به‌دلیل عدم تناسب با برخی شرکت‌های کوچک‌تر، پیامدهایی به‌دنبال خواهد داشت. درحالی‌که شرکت‌های بزرگ حوزه‌ی فناوری مثل گوگل و متا از سرمایه‌گذاری‌های هنگفت خود در حوزه‌ی هوش مصنوعی برای افزایش نرخ کشف محتوای مرتبط با تروریسم استفاده می‌کنند، اما بیشتر استارتاپ‌ها و شرکت‌های کوچک، به چنین منابع و امکاناتی دسترسی ندارند.
یاسمین گرین، مدیرعامل Jigsaw در گفت‌وگو با فایننشان تایمز توضیح داد:
آدام هدلی، مدیر اجرایی Tech Against Terrorism نیز صحبت‌هایی مشابه اظهارات گرین مطرح کرده است:
یکی از سخن‌گویان گوگل در ایمیلی به Gizmodo گفت:
البته کمک گوگل به شرکت‌های کوچک‌تر برای تعدیل محتوا مطابق قوانین اتحادیه‌ی اروپا، صرفاً از روی خوش‌قلبی این شرکت نیست. اگرچه پروژه‌ی مذکور در کوتاه‌مدت سودی برای غول جستجوی اینترنت نخواهد داشت اما گرین به فایننشال تایمز گفت چنین اقدامی به‌نفع گوگل است و در بلندمدت بازدهی خواهد داشت.
خبرهای مربوط به توسعه‌ی ابزار تعدیل محتوای گوگل درحالی منتشر می‌شود که متا نیز حدود یک ماه قبل ابزار تعدیل محتوای خود موسوم‌به Hasher-Matcher-Actioner (HMA) را دردسترس تعداد زیادی از شرکت‌های علاقمند به شناسایی محتوای تروریستی یا افراطی قرار داد. ابزار متا برای شناسایی تصاویر یا ویدیوها، از هش‌های محتوای تروریستی شناخته‌شده استفاده می‌کند و سپس اقدامات اجرایی را برای حذف آن‌ها انجام می‌دهد.
