سوءاستفاده از هوش مصنوعی برای تولید پورنوگرافی کودکان

پس از افشای داده‌های هک شده یک وبسایت هوش مصنوعی، مشخص شده است که کاربران این وبسایت برای تولید پورنوگرافی کودکان استفاده تلاش می‌کرده‌اند. مشخص نیست که این وبسایت این درخواست‌ها را پاسخ می‌داده است یا خیر، با این وجود یک رسوایی بزرگ به حساب می‌آید.

سایت Muah.AI که به کاربران اجازه می‌دهد با “پارتنر‌های هوش مصنوعی” در قالب چت یا به صورت صوتی ارتباط برقرار کنند، اخیراً با یک رسوایی بزرگ مواجه شده است. این سایت که نزدیک به دو میلیون کاربر دارد و فناوری خود را به عنوان “بدون سانسور” توصیف می‌کند، به نظر می‌رسد در برخی موارد برای تولید محتوای سوءاستفاده جنسی از کودکان مورد استفاده قرار گرفته باشد.

چندی پیش، Joseph Cox، خبرنگار 404 Media، گزارشی بر اساس داده‌های درز یافته از این سایت منتشر کرد. این داده‌ها توسط یک هکر ناشناس افشا شده بودند و نشان‌دهنده درخواست‌های کاربران برای ایجاد محتوای غیر اخلاقی از کودکان خردسال بود. یکی از این درخواست‌ها شامل عباراتی درباره “نوزادان تازه متولد شده” و “کودکان خردسال” بود. هنوز مشخص نیست که آیا سیستم هوش مصنوعی این سایت به چنین درخواست‌هایی پاسخ داده است یا خیر.

در مقایسه با پلتفرم‌های هوش مصنوعی بزرگ‌تر مانند ChatGPT، که از فیلترها و ابزارهای نظارتی برای جلوگیری از تولید محتوای نامناسب استفاده می‌کنند، سایت‌هایی مانند Muah کنترل‌های ضعیف‌تری دارند. این موضوع باعث شده تا خطرات بیشتری از سوءاستفاده وجود داشته باشد.

Troy Hunt، مشاور امنیتی و خالق سایت HaveIBeenPwned.com که داده‌های درز یافته را بررسی کرده، بیان کرد که هزاران درخواست برای تولید محتوای غیراخلاقی در این داده‌ها وجود دارد. او حتی از جستجوهایی که حاوی عباراتی مانند “۱۳ ساله” و “پیش‌ از بلوغ” بودند، به نتایج نگران‌کننده‌ای رسید. Hunt بر این باور است که ممکن است ده‌ها هزار درخواست برای تولید محتواهای سو استفاده جنسی از کودکان در این داده‌ها وجود داشته باشد.

یکی از نکات جالب این ماجرا این است که برخی کاربران حتی تلاش نکرده‌اند هویت خود را مخفی کنند. به گفته Hunt، یک مدیر اجرایی از شرکتی معروف بدون هیچ تلاشی برای پنهان کردن هویت خود از این پلتفرم استفاده کرده است.

مدیر Muah، که با نام Harvard Han شناخته می‌شود، تأیید کرد که سایت آن‌ها توسط یک هکر مورد نفوذ قرار گرفته است. او همچنین اتهامات مربوط به وجود صدها هزار درخواست تولید محتوای غیر اخلاقی کودکان را رد کرد و گفت که تیم کوچکی دارند که قادر به نظارت کامل بر تمام فعالیت‌های کاربران نیست. Han اذعان داشت که فیلترهایی برای جلوگیری از استفاده از برخی کلمات کلیدی مانند “کودکان” و “نوجوانان” در این سایت وجود دارد، اما این سیستم هنوز قادر به جلوگیری کامل از فعالیت‌های نامناسب نیست.

این اتفاق نشان‌دهنده مشکل بزرگتری است که با ظهور هوش مصنوعی مولد در حال گسترش است. پلتفرم‌های کوچکتر ممکن است به دلیل عدم نظارت کافی، به نقاط تاریک اینترنت تبدیل شوند.

جدیدترین خبرها

تشخیص اوتیسم زودهنگام در کودکان با مدل جدید هوش مصنوعی

٪۲۵ کدهای گوگل توسط هوش مصنوعی نوشته می‌شود.

قابلیت جستجو به چت جی‌پی‌تی افزوده شد

سرمایه‌گذاری 3.3 میلیارد دلاری تویوتا و ان‌تی‌تی در هوش مصنوعی برای کاهش تصادفات

توسعه اولین چیپ اختصاصی OpenAI با همکاری Broadcom و TSMC

زبان الکترونیکی مجهز به هوش مصنوعی غذاهای فاسد و مسموم را شناسایی می‌کند.

جدیدترین مقالات
کاربردهای هوش مصنوعی

جدید‌ترین هوش مصنوعی‌ها

Visme

ContentShake

Koala AI

Soundverse

Guidejar

Coda AI

Biread

Hypernatural

Liner

Read AI

Read AI

Hostinger AI

SoBrief

CAD with AI

designcap

photoroom

kapwing

Speechmatics

Prome

Lovo

Deep Dream Generator

artbreeder

Kaliber.ai

Dream.ai

Fotor

Wave.video

Soundraw

Pictory

ٍٍٍElai

Veed

VirtualSpeech

voicemaker

Infinite Album

Scalenut

DeepStory

Dora.run لوگو

dora.run

Hotshot

Simplified

Writecream

Anyword

Let’s Enhance

Poplar Studio

Timely

Semantic Scholar

Otter

Marlee

Supermeme.ai

Yarn

Frase

هوش مصنوعی Dream machine

Dream machine

CodeWP

آیا می‌خواهید ۹ ابزار هوش مصنوعی برتر جهان را با هم یاد بگیرید؟

۴۱۵ دقیقه ویدئو آموزشی،

۴۲۰ هزار تومان با تخفیف 53 درصدی فقط 199 هزار تومان

آیا می‌خواهید ۹ ابزار هوش مصنوعی برتر جهان را با هم یاد بگیرید؟

۴۱۵ دقیقه ویدئو آموزشی،

۴۲۰ هزار تومان

با تخفیف 53 درصدی فقط 199 هزار تومان