مدل تشخیص خودکار کلاهبرداری در دستگاه‌های موبایل (On-device AI Scam Detection MDDI) یک گام مهم برای محافظت از کاربران در برابر کلاهبرداری‌های دیجیتال است که با همکاری گوگل دیپمایند و نهاد فناوری دولت سنگاپور (GovTech Singapore) توسعه یافته.
کلاهبرداری‌های سرمایه‌گذاری، پیشنهادهای جعلی شغلی و جعل هویت مقامات عمومی بیش از نیمی از جرایم گزارش‌شده در سنگاپور را تشکیل می‌دهند و از سال ۲۰۱۹ تاکنون بیش از ۴ میلیارد دلار سنگاپور از شهروندان آسیب دیده‌اند.
تکتیک‌های کلاهبرداری اکنون به مهندسی اجتماعی پیچیده تبدیل شده که با گفتگوهای قانع‌کننده پیش از درخواست وجه یا اطلاعات حساس عمل می‌کنند و تا ۸۰ درصد کل ضررها را تشکیل می‌دهند. این مدل جدید با تمرکز بر تشخیص الگوهای مشکوک در لحظه، به کاربران کمک میکند تا پیش از هرگونه آسیب مالی اقدام کنند.
همکاری گوگل دیپمایند و دولت سنگاپور
این همکاری بخشی از مشارکت ملی هوش مصنوعی دولت سنگاپور است و هدف آن ارائه راه‌حلی برای حفاظت از کاربران بدون به خطر انداختن حریم خصوصی است.
مدل نهایی با استفاده از مدل سبک Gemma گوگل بهینه‌سازی شده و بر روی دستگاه‌های موبایل نصب‌شده توسط شهروندان اجرا میشود. این امر امکان تحلیل سریع‌تر الگوهای گفتگو را فراهم میکند و به کاربران اجازه میدهد پیش از مواجهه با خطرات مالی یا افشای اعتبار، واکنش مناسب نشان دهند.
جریان راه‌اندازی مدل به‌صورت مرحله‌ای و با مشارکت مستقیم دولت سنگاپور انجام میشود و پس از نصب در اپلیکیشن‌ها، فقط با رضایت صریح کاربر، دادههای مکالمه روی دستگاه پردازش میشود.
تشخیص خودکار کلاهبرداری بدون ارسال داده به سرور
مدل‌های عمومی معمولاً در تشخیص تکنیک‌های جعل محلی ضعیف عمل می‌کنند. برای رفع این محدودیت، گوگل مدل Gemma را روی مکالمات واقعی کلاهبرداری محلی تنظیم کرده است.
این مکالمات شامل جعل هویت نهادهای عمومی، بانک‌ها، شخصیت‌های محلی و طرح‌های نوظهور منطقه‌ای هستند. نتیجه این تنظیم دقیق، مدل قادر به تمایز میان چت‌های بی‌ضرر اجتماعی و تلاش‌های واقعی مهندسی اجتماعی میشود.
برخلاف روش‌های سنتی که نیازمند اسکن پیامها در ابری است، این مدل همه پردازش را مستقیماً روی دستگاه کاربر انجام میدهد و تحلیل الگوها را در زمان واقعی انجام میدهد.
ساختار دو مرحله‌ای برای اجرای کارآمد
اجرای طبقه‌بندی‌کننده پیچیده کلاهبرداری روی گوشی‌های هوشمند امروزی چالش بزرگی به شمار می‌رود و بهره‌وری باتری یکی از عوامل کلیدی است.
مدل با استفاده از یک خط لوله دو مرحله‌ای طراحی شده است:
- مرحله اول: یک دستهکننده سبک و بسیار کارآمد، پیام‌های ورودی را با مصرف کم انرژی و تمرکز بر شناسایی تهدیدهای احتمالی بررسی میکند.
- مرحله دوم: تحلیل در زمینه با مدل Gemma بهروز شده، که یک بازنمایی بزرگ‌تر از مکالمه را برای تأیید تهدید یا رد هشدار نادرست تحلیل میکند.
این رویکرد همزمان دقت بالا و مصرف بهینه باتری را تضمین میکند و امکان هشدار فوری به کاربر را فراهم می‌آورد.
هشدار لحظه‌ای و پیش‌دستانه
وقتی مدل الگوهای مشکوک را تشخیص میدهد، مستقیماً بر روی دستگاه کاربر یک هشدار واقعی‌زمان ظاهر میشود و به فرد می‌گوید مکالمه را متوقف کند و پیش از دادن اطلاعات حساس یا وجوه، احتیاط لازم را به عمل آورد.
این مکانیسم نه تنها خسارت مالی را کاهش میدهد بلکه اعتماد کاربران به چت‌های دیجیتال را حفظ میکند و از مواجهه پیش از موعد با خطرات جلوگیری می‌نماید.
گام‌های حاکمیت و تضمین‌های فنی
برای اطمینان از صحت و اخلاقی بودن توسعه، این پروژه بر مبنای قوانین سخت‌گیرانه‌ای پیش رفت که در جریان همایش بین‌المللی سایبر سنگاپور (SICW 2026) نیز ارائه شد.
تمام تنظیم دقیق درون یک sandbox امن و مدیریت‌شده از گوگل کلاد توسط نهاد فناوری دولت سنگاپور انجام گرفت و دادههای آموزشی کاملاً ایزوله ماندند.
دادههای آموزشی هیچ اطلاعات شخصی یا قابل شناسایی شهروندان را شامل نمی‌شدند و صرفاً از مجموعه‌های ناشناس گزارش‌های کلاهبرداری و منابع اطلاعاتی استخراج شده بودند. مدل نیز در برابر سناریوهای مصنوعی و مجموعه‌های محلی متنوع تست شده تا در برابر تکنیک‌های جعل در حال تکامل مقاوم باشد.
آینده فناوری تشخیص کلاهبرداری
این پروژه نشان میدهد که هوش مصنوعی می‌تواند در مقابله با جرم بدون به خطر انداختن حریم خصوصی شهروندان و ایمنی چت‌ها نقش آفرین کند.
همکاری موفق میان دولت و ارائه‌دهندگان مدل، الگویی برای همکاری‌های مشابه در سایر کشورها ای
پرسش‌های متداول
این مدل چطور کار میکند؟
مدل از دو مرحله استفاده میکند: یک دستهکننده سبک اولیه پیامها را سریع بررسی میکند و سپس با Gemma بهروز شده، تحلیل عمیقتری از مکالمه انجام میدهد.
آیا حریم خصوصی کاربران حفظ میشود؟
بله؛ مدل کاملاً روی دستگاه کاربر اجرا میشود، فقط با رضایت کاربر دادهها را پردازش میکند و هیچ اطلاعاتی به سرور گوگل یا دولت سنگاپور ارسال نمیشود.
کجا میتوان این مدل را تست کرد؟
در پروژه مشترک گوگل دیپمایند و نهاد فناوری دولت سنگاپور، با تمرکز بر حفظ حریم خصوصی و بدون دسترسی به دادههای شخصی شهروندان.
منبع: Google DeepMind
