بالا بردن ایمنی کودکان را در برابر سوء استفاده جنسی با هوش مصنوعی

به گزارش سازمان بهداشت جهانی از هر ۳ کاربر اینترنت در سراسر جهان، یک نفر کودک است و با افزایش سوء‌استفاده جنسی آنلاین از کودکان، از تهدیدهای جنسی گرفته تا ارتباطات عاطفی سایبری، محققان شرکت فناوری ویرجینیا در حال ساخت و آموزش ربات‌های چت مجهز به هوش مصنوعی (AI) هستند تا به کودکان و نوجوانان در شناسایی و دوری کردن از شکارچیان سایبری کمک کنند و بدین ترتیب دنیای دیجیتال را برای نوجوانان ایمن‌تر سازند.

مبارزه با تهدیدهای رو به گسترش

جین هی چو، لیفو هوانگ و سانگ وون لی از دپارتمان فناوری علوم کامپیوتر ویرجینیا تک روی این پروژه کار می‌کنند. جین هی چو، دانشیار علوم کامپیوتر و محقق ارشد این پروژه گفت: «به شکل سنتی، امنیت سایبری بر محافظت از شبکه‌ها در برابر اختلال و همچنین حفاظت از دستگاه‌ها در برابر کاربرانی که به دنبال سرقت داده‌ها هستند، متمرکز است؛ اما امروزه افراد به آنچه امنیت سایبری اجتماعی نامیده می‌شود، تمایل بیشتری نشان می‌دهند. ما در حال بررسی راه‌هایی هستیم که فناوری و افراد با یکدیگر در تعامل باشند و چگونگی تعامل افراد از طریق شبکه‌ها و دستگاه‌ها را بررسی می‌کنیم.»

او ادامه داد: «البته اغلب این تعاملات برای جامعه خوب است؛ چراکه علاوه بر انتشار اطلاعات، آموزش و ارتباطات را نیز امکان‌پذیر می‌کند و باعث تقویت همکاری‌هایی خواهد شد که منجر به توسعه اقتصادی و نوآوری می‌شود؛ اما دراین‌بین، خطراتی نیز به‌ویژه برای گروه‌های آسیب‌پذیری مثل کودکان و نوجوانان وجود دارد.»

سال ۲۰۲۱، نتیجه یک نظرسنجی ملی در سطح ایالات متحده منتشر شد که در آن از ۲۶۳۹ جوان درباره جرائم جنسی‌ای که با کمک تکنولوژی در سنین خردسالی علیه آن‌ها انجام‌شده است سؤال شد. طیف وسیعی از آن‌ها، از سوءاستفاده‌های آنلاین متعددی نام بردند:

• %۱۵٫۶ قربانی آزار جنسی کودکان آنلاین شده بودند
• ۱۱ % قربانی آزار جنسی تصویری شده بودند
• ۷٫۲ %، بدون رضایت، پیغام‌های جنسی (حاوی تصویر) دریافت کرده بودند
• ۵٫۴ % با فرد بزرگ‌سالی به هدف برقراری رابطه جنسی، ارتباط دوستانه‌ای به‌صورت آنلاین برقرار کرده‌اند (گرومینگ)
• ۳٫۵ % برای ارسال تصاویر جنسی فریب خورده‌ بودند و برای جلوگیری از افشای آن، از آن‌ها اخاذی شده؛ جرمی که «جذب جنسی» نامیده می‌شود.

از همین رو این روزها، گروه‌های زیادی برای ایمن‌تر کردن فضای تعاملات آنلاین مشغول به فعالیت شده‌اند. سال ۲۰۰۵، سنای آمریکا ماه ژوئن را به‌عنوان ماه ملی ایمنی اینترنت تعیین کرد تا بدین ترتیب آگاهی‌ها از خطرات اینترنت افزایش یابد و بر نیاز به آموزش درباره ایمنی آنلاین، به‌ویژه در میان جوانان تأکید بیشتری شود.

آموزش به کمک فناوری

بسیاری از تلاش‌ها در راستای پیشگیری از کودک‌آزاری آنلاین، بر شناسایی عاملان جرائم آنلاین متمرکزشده است؛ اما چو اعتقاد دارد که گرچه این اقدامات مفید است، ولی محدود به نظر می‌رسد؛ چراکه هنوز کودکان و نوجوانان در برابر سوءاستفاده‌کنندگان آسیب‌پذیرند.

چندین سال است که چو مشغول توسعه پروژه‌ای است که یک گام فراتر گذاشته و به کودکان آموزش می‌دهد تا در برابر مجرمان اینترنتی که از کودکان و نوجوانان استثمار جنسی می‌کنند، از خود محافظت کنند. به گفته او، این چالش بزرگی است؛ چراکه مسائل اخلاقی زیادی در رابطه با آموزش کودکان درباره سوءاستفاده کنندگان و تاکتیک‌های آن‌ها وجود دارد.

تمرکز این پروژه جدید بر توسعه ربات‌های چت برای شبیه‌سازی تعاملات بین شکارچیان و کودکان به‌صورت آنلاین است که می‌توان از این شبیه‌سازی‌ها برای توسعه برنامه‌ای آموزشی برای افراد ۱۱ تا ۱۵ ساله بهره برد.

هوانگ، استادیار علوم کامپیوتر تمام تلاش خود را روی جنبه‌های مختلف هوش مصنوعی برای قدرتمندسازی ربات‌ها متمرکز کرده است: «من علاقه زیادی به استفاده از تکنیک‌های هوش مصنوعی برای حل مشکلات اجتماعی دارم.»

او در این مسیر از تحقیقات قبلی‌اش درباره هوش مصنوعی محاوره‌ای که از مدل‌های زبان بزرگ استفاده می‌کند، بهره می‌برد تا ربات‌های آموزشی را در تعامل انسان‌ها با یکدیگر باورپذیر کند.

لی، دیگر استادیار علوم کامپیوتر، بر جمع‌آوری داده‌ها در راستای آموزش ربات‌ها کار می‌کند. او گفته که این پروژه، کار خاصی است؛ چراکه باید داده‌هایی را در مورد نحوه تعامل شکارچیان آنلاین پیدا و از آن‌ها استفاده کند. او دراین‌باره توضیح داد: «چالش این کار آنجاست که هیچ مجموعه داده معتبری از گفتگوی گرومینگ سایبری وجود ندارد که بتوان از آن برای آموزش ربات‌ها استفاده کرد. ما قصد داریم با استفاده از رویکردهای انسان‌محور به مشکل نزدیک شویم و با ایجاد پلتفرمی اخلاقی، نوجوانان و والدینشان بتوانند برای تولید چنین داده‌هایی با یکدیگر همکاری کنند و بدین ترتیب آگاهی آن‌ها را از فضای مجازی افزایش دهیم.»

پاملا ویسنیفسکی، دانشیار علوم کامپیوتر در دانشگاه وندربیلت و متخصص حریم خصوصی و امنیت آنلاین نوجوانان، یکی دیگر از افرادی است که در این پروژه مشارکت دارد. او درزمینهٔ سوءاستفاده سایبری و پیشگیری از قاچاق جنسی به نوجوانان و کارشناسان مشورت می‌دهد و داده‌های آموزشی تهیه می‌کند و درعین‌حال اطمینان حاصل می‌کند که چت‌بات‌ها برای استفاده خردسالان ایمن باشند.

او در این مورد گفت: «امیدوارم بتوانیم ابزاری را طراحی، توسعه و ارزیابی کنیم که با آموزش خطرهای فضای مجازی به نوجوانان و همچنین مکانیسم‌های مقابله‌ای برای محافظت از خودشان در برابر این خطرات مفید باشد. هدف ما، محدود کردن و نظارت بر استفاده آن‌ها از اینترنت نیست. بلکه قصد داریم تا ابزارهای موردنیاز برای حضور ایمن در اینترنت را در اختیارشان قرار دهیم.»