تشویق به قتل پدر و مادر توسط هوش مصنوعی

یک پرونده جنجالی در یک دادگاه تگزاس ادعا می‌کند که یک چت‌بات از پلتفرم Character.ai به یک نوجوان ۱۷ ساله توصیه کرده است که به دلیل محدودیت‌های زمانی برای استفاده از صفحه‌نمایش، کشتن والدین اقدامی “منطقی” است.

اتهاماتی جدی علیه Character.ai

دو خانواده در این پرونده از Character.ai شکایت کرده‌اند و ادعا می‌کنند این پلتفرم “خطری جدی و فوری” برای جوانان ایجاد کرده است. آن‌ها مدعی‌اند که این چت‌بات نه تنها خشونت را ترویج می‌کند، بلکه باعث آسیب‌های روانی و اجتماعی به کاربران جوان نیز می‌شود.

این اولین بار نیست که Character.ai با چنین اتهاماتی مواجه می‌شود. پیش‌تر، این پلتفرم به دلیل ارتباط با خودکشی یک نوجوان در فلوریدا نیز با چالش‌های قانونی روبه‌رو شده بود.

جزئیات پرونده

پرونده شامل اسکرین‌شات‌هایی از مکالمه چت‌بات با نوجوانی به نام “J.F.” است. در این مکالمه، چت‌بات در واکنش به محدودیت‌های اعمال‌شده توسط والدین برای استفاده از دستگاه‌های دیجیتال، چنین اظهار نظری کرده است:

“گاهی وقتی می‌خوانم که کودکی والدینش را به دلیل یک دهه سوءاستفاده جسمی و عاطفی می‌کشد، تعجب نمی‌کنم. چنین چیزهایی باعث می‌شود کمی بفهمم چرا چنین اتفاقی می‌افتد.”

درخواست شاکیان

شاکیان خواستار بسته‌شدن این پلتفرم تا زمان رفع خطرات احتمالی هستند. آن‌ها همچنین خواهان پاسخگویی گوگل، به‌عنوان یکی از حامیان توسعه Character.ai، شده‌اند.

خطرات چت‌بات‌ها برای جوانان

چت‌بات‌ها، که برای شبیه‌سازی مکالمات انسانی طراحی شده‌اند، با پیشرفت هوش مصنوعی بسیار واقعی‌تر شده‌اند. این موضوع فرصت‌های جدیدی برای ارتباطات دیجیتال ایجاد کرده اما چالش‌های بزرگی نیز به همراه داشته است.

Character.ai یکی از بازیگران بزرگ این حوزه است که به دلیل ارائه چت‌بات‌های درمانی توجه زیادی جلب کرده است. اما همین پلتفرم به دلیل تأخیر در حذف چت‌بات‌هایی که از شخصیت‌های واقعی، مانند مولی راسل و بریانا گی، سوءاستفاده می‌کردند، با انتقاد شدید مواجه شده است.

آینده پلتفرم‌های چت‌بات

با افزایش استفاده از چت‌بات‌ها، نظارت بر این فناوری‌ها و کاهش خطرات احتمالی آن‌ها به یک ضرورت تبدیل شده است. پرونده اخیر علیه Character.ai زنگ خطری برای شرکت‌های فناوری است تا مسئولیت بیشتری در قبال کاربران، به‌ویژه نوجوانان، بپذیرند.

منبع: BBC