رشد سریع هوش مصنوعی در سالهای اخیر باعث شد بسیاری از مرزهای سنتی ارتباطات، رسانه و سیاست جابهجا شوند؛ اما کمتر کسی انتظار داشت چتباتها روزی بتوانند نقش کنشگران سیاسی را ایفا کنند. امروز با پژوهشی بسیار گسترده و دقیق از سوی مؤسسه امنیت هوش مصنوعی بریتانیا، این تصویر نهتنها ممکن، بلکه به واقعیتی قابلاندازهگیری تبدیل شده است. این پژوهش نشان میدهد که چتباتها توانایی قابلتوجهی در تغییر نگرش سیاسی افراد دارند و این توانایی نه صرفاً یک ویژگی جانبی، بلکه یک ظرفیت ساختاری در قلب مدلهای زبانی است. اگرچه این کشف از نظر علمی جذاب است، اما پیامدهای عمیق آن برای دموکراسی، سیاستگذاری، و زیرساخت اطلاعاتی جوامع نباید نادیده گرفته شود.
در این مقاله از سایت نکست مایند به بررسی یافتههای پژوهش Kobi Hackenburg از موسسه امنیت هوش مصنوعی و همکارانش از دانشگاههای آکسفورد و استنفود و ام آی تی با عنوان The Levers of Political Persuasion with Conversational AI میپردازیم. اصل این مقاله را میتوانید اینجا مشاهده کنید.
انباشت اطلاعات؛ استراتژی طلایی اقناع ماشینی
در نگاه اول ممکن است تصور کنیم چتباتها با هوشمندی روانشناختی یا تکنیکهای پیچیده تأثیرگذاری، آنطور که در کتابهای کلاسیک بازاریابی آمده، میتوانند دیگران را قانع کنند. اما یافتههای پژوهش یک نکته کلیدی را برجسته میکند: اقناع در مدلهای زبانی نه محصول «ترفند»، که نتیجه «انباشت ساختاری اطلاعات» است. وقتی یک چتبات پاسخ خود را با استدلالهای گسترده، مثالهای متعدد، آمار، تحلیل تاریخی و مقایسههای دقیق همراه میکند، ذهن کاربر در برابر حجم دادههای ظاهراً منسجم مقاومت کمتری نشان میدهد. حتی اگر بخشی از این دادهها دقیق نباشد، کاربر تحتتأثیر کلیت ساختار پاسخ قرار میگیرد.
بهبیان ساده، مدلهای زبانی با «قدرت تولید» اقناع میکنند، نه با «نفوذ شخصی».
این سبک اطلاعاتمحور، همانقدر که جذاب است، به همان اندازه خطرناک میشود، چون پژوهش کوبی هاکنبِرگ نشان میدهد با افزایش حجم اطلاعات، نرخ خطا نیز بالا میرود. مدلها در تلاش برای پرکردن پاسخ با دادههای متنوع، گاهی ادعاهایی میسازند که دقیق نیستند یا حتی وجود خارجی ندارند. این مسئله یک تناقض بنیادین ایجاد میکند: قانعکنندهترین چتباتها دقیقترین آنها نیستند. اگر قرار باشد آینده ارتباطات سیاسی بر شانههای چنین سازوکارهایی حرکت کند، ما وارد دورهای میشویم که اقناع سیاسی لزوماً بر پایه «حقیقت» انجام نمیشود، بلکه بر پایه «حجم» و «ساختار» اطلاعات شکل میگیرد.
پساآموزش؛ جایی که مدلهای کوچک به غولهای اقناع تبدیل میشوند
بخش دیگری از یافتههای این پژوهش نشان میدهد که قدرت اقناعی چتباتها بیش از هر چیز به «پساآموزش» وابسته است. برخلاف تصور عمومی که مدلهای بزرگ را ذاتاً قویتر میداند، پژوهش نشان میدهد یک مدل کوچک میتواند با تنظیم صحیح، به اندازه یک مدل تجاری بسیار پیشرفته اقناع داشته باشد. این اتفاق زمانی میافتد که مدل با استفاده از الگوریتمهایی مثل «مدلهای پاداش» برای تولید پاسخهای تأثیرگذار تقویت میشود.
این یعنی ساخت چتباتهای اقناعی دیگر فقط در اختیار شرکتهای بزرگ نیست. اگر قبلاً برای ساخت چنین مدلی به زیرساختهای سنگین و دادههای انحصاری نیاز داشتیم، امروز کافی است کسی مهارت لازم در تنظیم و پساآموزش مدل را داشته باشد.
همین موضوع شرایط تازهای در سیاست ایجاد میکند، چون گروههای کوچک، لابیها، فعالان محلی یا حتی افراد مستقل میتوانند ابزارهایی بسازند که با ظاهری بیطرفانه و قابلاعتماد، روی افکار عمومی تأثیر بگذارند. مشکل اصلی هم این است که در چنین وضعیتی تشخیص منشأ این اقناع بسیار سخت میشود و روشهای معمول شفافیت دیگر جواب نمیدهند.
شخصیسازی؛ کمتر مؤثر از آنچه فکر میکردیم
پژوهش نشان میدهد که حتی اگر چتباتها درباره کاربر اطلاعات شخصی داشته باشند، باز هم توان اقناعی آنها تغییر زیادی نمیکند. این نتیجه کمی شگفتانگیز است، چون بسیاری از شرکتهای فناوری همیشه میگفتند آینده هوش مصنوعی بر پایه شخصیسازی دقیق ساخته میشود.
اما در عمل، مشخص شده که چتباتها بیش از آنکه بر ویژگیهای فردی هر کاربر تکیه کنند، با تولید محتوای دقیق، منظم و پرجزئیات اثر میگذارند. از یک نظر این خبر خوبی است، چون نگرانیها درباره «هدفگیری سیاسی فوقدقیق» را کمتر میکند؛ اما از زاویهای دیگر نشان میدهد که خطر اصلی چیز دیگری است: قدرت اقناع عمومی و گسترده، نه اقناع پنهانی و فردبهفرد.
قدرت اقناع در مکالمه؛ وقتی گفتوگو جای پیام را میگیرد
یکی از نکات مهم این پژوهش این است که چتباتها زمانی بیشترین تأثیر را میگذارند که وارد یک مکالمه واقعی با شما میشوند، نه زمانی که فقط یک پیام یکطرفه ارسال میکنند.
در یک مکالمه چندمرحلهای با شما، مدل فرصت دارد استدلالهای خود را آرامآرام بسازد؛ ابتدا یک دلیل کلی ارائه کند، بعد جزئیات بیشتری اضافه کند، سپس به نگرانیها یا پرسشهای شما پاسخ بدهد و در نهایت بحث را در جهتی هدایت کند که احتمال تغییر نظر شما بیشتر شود. این روند در ظاهر کاملاً طبیعی بهنظر میرسد، چون دقیقاً شبیه گفتوگو با یک مشاور انسانی است؛ فردی که با آرامش پاسخ میدهد، توضیح میدهد، و قدمبهقدم ذهن طرف مقابل را همراه میکند.
قدرت واقعی این نوع مکالمه در همین «قدمبهقدم پیش رفتن» است. شما به عنوان کاربر احساس نمیکنید مورد هدف قرار گرفتهاید یا به سمت یک نتیجه خاص هل داده میشوید. بلکه تصور میکنید در حال صحبت درباره موضوعی هستید که برایتان اهمیت دارد.
پاسخها نیز معمولاً طولانی، مستند و البته با ظاهری منطقی هستند، بنابراین ذهن شما بهجای مقاومت، اتفاقا بیشتر جذب میشود. به همین دلیل است که این پژوهش نشان میدهد مکالمه تعاملی بسیار بیشتر از یک پیام ثابت، توان تغییر نگرش دارد.
اما بخش حساس ماجرا جایی است که این فرایند بهطور خودکار رخ میدهد؛ یعنی چتبات لزوماً نمیداند یا قصد ندارد شما را هدایت کند، اما ساختار مکالمه و توانایی مدل در تولید استدلالهای متوالی، باعث میشود اثر اقناعی شکل بگیرد.
خطر اصلی دقیقاً همینجاست: شما ممکن است احساس کنید که در یک گفتوگوی دوستانه یا تحلیلی شرکت کردهاید، درحالیکه در عمل در معرض یک فرایند اقناع قدرتمند قرار گرفتهاید که منشأ آن کاملاً مشخص نیست. این وضعیتی است که اگر بدون نظارت و شفافیت رها شود، میتواند مسیر گفتوگوهای عمومی و فضای سیاسی را بهشکل نامرئی تغییر دهد.
پیامدهای سیاسی؛ دموکراسی در دورانی بدون مرز اطلاعاتی
گرچه این پژوهش در یک قالب آکادمیک طراحی شده، اما نتایج آن مستقیماً به قلب سیاست و ساختار دموکراسی مرتبط است.
چتباتها نشان دادهاند که میتوانند در مقیاسی گسترده محتوا تولید کنند و با همین قابلیت، نگرش افراد را تغییر دهند. این توانایی، اگر در اختیار بازیگران سیاسی یا گروههای ذینفع قرار بگیرد، میتواند بر روند انتخابات، شکلگیری افکار عمومی و حتی جهتگیری سیاستهای کلان اثر بگذارد. مسئله زمانی جدیتر میشود که بدانیم بسیاری از کاربران اصلاً متوجه نمیشوند که یک مدل هوش مصنوعی ممکن است برای تأثیرگذاری برنامهریزی شده باشد. در نتیجه، مرز میان «گفتوگوی طبیعی» و «اقناع هدفمند» کمرنگ میشود.
در چنین شرایطی، فضا بهگونهای تغییر میکند که جریانسازی اطلاعاتی میتواند در قالب گفتوگوهای دوستانه و بیضرر ظاهر شود. این یعنی یک شهروند ممکن است تصور کند در حال تبادل نظر واقعی درباره یک موضوع حساس است، اما در حقیقت در معرض یک روند اقناع ماشینی قرار گرفته که هدفش تغییر تدریجی و نامحسوس نگرش اوست. این فرایند، در ادامه و در مقیاس وسیعتر، میتواند ساختار دموکراسی را تحت فشار قرار دهد، زیرا جریان اطلاعات دیگر از مسیرهای شناختهشده و قابل ردیابی عبور نمیکند.
برای دولتها، نهادهای نظارتی و سیاستگذاران، این شرایط به معنای یک نیاز فوری است: طراحی چارچوبی شفاف و جدید برای کنترل رفتار مدلهای زبانی.
چنین چارچوبی باید فقط محتوای نهایی را بررسی نکند، بلکه به سراغ لایههای عمیقتر مانند نوع پسآموزش، تنظیمات الگوریتمی، نحوه انتخاب خروجیها و میزان دقت ادعاهای اطلاعاتی نیز برود. اما ایجاد این نظارت آسان نیست.
سؤال اصلی این است که چه نهادی باید چنین نظارتی را بر عهده بگیرد؟ یک سازمان ملی؟ نهادهای بینالمللی؟ یا سازوکاری مشترک بین صنعت و دولت؟
چالش بعدی ایجاد تعادل میان «شفافیت» و «نوآوری» است. اگر مقررات بیش از حد سختگیرانه باشند، توسعه مدلها کند میشود و کشورهای مختلف در رقابت جهانی هوش مصنوعی عقب میمانند. اگر هم مقررات بیش از حد آزاد باشند، زمینه برای سوءاستفاده و تأثیرگذاری پنهان بر افکار عمومی فراهم میشود. این دوگانه هنوز پاسخی روشن ندارد، اما پژوهش حاضر نشان میدهد که ادامه دادن مسیر فعلی، بدون مقررات جدید، خطرناک خواهد بود.
چالش دقت؛ وقتی ظاهر منطقی، حقیقت را پنهان میکند
یکی از خطرناکترین بخشهای این یافتهها مربوط به دقت پایین مدلها در حالت اطلاعاتمحور است.
ترکیب «اقناع بالا» و «خطای زیاد» یک فرمول کلاسیک برای آسیب به اعتماد عمومی است. اگر کاربران به این نتیجه برسند که چتباتها با مهارت استدلال میکنند اما همیشه دقیق نیستند، فضای عمومی در معرض نوعی سردرگمی و بیاعتمادی مزمن قرار میگیرد. این مسئله شبیه وضعیتی است که شبکههای اجتماعی در دهه گذشته ایجاد کردند؛ اما تفاوت بزرگ اینجاست که چتباتها نهفقط منتشرکننده اطلاعات، بلکه تولیدکننده آن هستند؛ آن هم با سرعتی که هیچ نهاد انسانی توان رقابت با آن را ندارد.
چتباتها و انتخابات؛ از شبکههای اجتماعی تا اقناع پنهان
در سالهای گذشته، شاهد ادعاهای مهمی بودیم که شبکههای اجتماعی و پلتفرمهای آنلاین میتوانستند بهطور نامحسوس بر نتایج انتخابات اثر بگذارند. مهمترین نمونه آن مربوط به انتخابات ریاستجمهوری آمریکا در ۲۰۱۶ است، جایی که شرکت Cambridge Analytica با استفاده از دادههای کاربران Facebook، پروفایلهای روانشناختی ساخته و تبلیغات هدفمند برای گروههای مختلف رأیدهندگان ارائه کرد. تیم دیجیتال کمپین دونالد ترامپ نیز از این دادهها بهره برد و بارها ادعا شد که این مداخله میتواند روند رأیگیری را تغییر دهد. این اتفاقات، بحث تأثیرگذاری پنهان شبکهها بر افکار عمومی را به یکی از مهمترین مسائل سیاسی تبدیل کرد.
امروز اما وارد عصری تازه شدهایم: عصری که چتباتها میتوانند با مکالمه و ارائه استدلالهای چندمرحلهای، نگرش افراد را تغییر دهند، بدون آنکه خودشان متوجه شوند. این ابزارها قادرند با ظاهر طبیعی و قابل اعتماد، افکار عمومی را هدایت کنند؛ بهگونهای که حتی مهمترین انتخابات جهان نیز میتواند تحت تأثیر این روند پنهان قرار گیرد.
خطر اصلی نه فقط در میزان تأثیرگذاری، بلکه در نامحسوس بودن آن است. کاربران ممکن است تصور کنند در گفتوگوی عادی و تحلیلی شرکت کردهاند، در حالی که در عمل در معرض فرایند قدرتمند اقناع ماشینی قرار دارند. این شرایط، زنگ خطری جدی برای سیاستگذاران، نهادهای نظارتی و شهروندان است؛ زیرا ابزارهای سنتی شفافیت و کنترل اطلاعات ممکن است توانایی مقابله با این نوع تأثیرگذاری را نداشته باشند.
چشمانداز آینده
در چنین شرایطی، سیاستگذاری هوش مصنوعی باید از نگاههای سنتی فاصله بگیرد و به سراغ سازوکارهای جدیدی برود که با ماهیت این فناوری همخوان است.
نخستین محور، شفافیت در نحوه پسآموزش و تنظیم مدلها است. مردم حق دارند بدانند مدلی که با آن گفتوگو میکنند چگونه شکل گرفته، چه نوع پاداشی دریافت کرده، و آیا هدفش صرفاً پاسخگویی است یا بهصورت هدفمند برای اقناع آموزش دیده است. بدون این شفافیت، اعتماد عمومی نهتنها تقویت نمیشود، بلکه ممکن است بهمرور فرسوده شود.
محور دوم، ایجاد معیارهای مستقل برای ارزیابی دقت و کیفیت اقناع مدلها است. تا زمانی که سنجههای استاندارد و قابلاعتمادی برای سنجش رفتار مدلها وجود نداشته باشد، نظارت عملاً بیاثر میماند. نهادهای ثالث(اعم از دانشگاهی، رسانهای یا تنظیمگر)باید بتوانند عملکرد مدلها را بررسی کنند، خطاهای آنها را بسنجند و گزارشهای شفاف منتشر کنند. این روند نهتنها برای سلامت فضای اطلاعاتی ضروری است، بلکه میتواند شرکتهای فناوری را نیز به بهبود کیفیت مدلها تشویق کند.
سومین محور، آموزش عمومی و سواد رسانهای هوشمند برای عصر هوش مصنوعی است. کاربران باید بدانند که پاسخهای طولانی، پرجزئیات و ظاهراً تخصصی همیشه قابلاعتماد نیستند. توانایی زبانی بالای یک مدل نباید با دقت علمی یا سیاسی اشتباه گرفته شود. شهروندان باید یاد بگیرند که چگونه از چند منبع استفاده کنند، چگونه نسبت به ادعاهای بدون منبع حساس باشند و چگونه بفهمند که یک پاسخ طبیعی و منطقی، الزاماً درست نیست.
در مجموع، ممنوعیت یا محدودسازی افراطی مدلها نهتنها راهحل پایدار نیست، بلکه میتواند نوآوری را متوقف کند. آنچه اهمیت دارد، طراحی چارچوبهای هوشمندانهای است که هم از آزادی و پیشرفت فناوری محافظت کند و هم مانع از سوءاستفاده و گسترش اطلاعات نادرست شود. مسیر آینده به این بستگی دارد که آیا میتوانیم میان قدرت اقناع چتباتها و نیاز به حقیقتمحوری، تعادلی پایدار برقرار کنیم یا خیر. این پژوهش یک حقیقت مهم را آشکار میکند و آن این است که چتباتها نهتنها ابزارهای کمکی برای تولید متن یا پاسخگویی نیستند، بلکه میتوانند به بازیگران فعال در شکلدهی به افکار عمومی تبدیل شوند. آنها سریعتر مینویسند، بیشتر از انسانها اطلاعات تولید میکنند، و با استفاده از ساختارهای پیچیده زبانی، نظر کاربران را تغییر میدهند. اما این قدرت با مسئولیت همراه نیست؛ چتباتها «نمیدانند» که چه اثر سیاسی دارند و نمیتوانند تشخیص دهند کدام پاسخ میتواند مسیر یک دیدگاه عمومی را تغییر دهد. این وظیفه ماست (چه بهعنوان پژوهشگر، سیاستگذار یا حتی کاربر) که این اثر را درک کنیم، درباره پیامدهای آن گفتوگو کنیم و استانداردهای هوشمندانهای برای مواجهه با آن طراحی کنیم.
هوش مصنوعی فرصتهای بیسابقهای برای پیشرفت فرهنگی، اقتصادی و علمی فراهم کرده است، اما اقناع سیاسی بهوسیله چتباتها نشان میدهد که این پیشرفت بدون چارچوبهای اخلاقی و نظارتی کافی میتواند به چالشی جدی برای ساختارهای دموکراتیک تبدیل شود. آینده این فناوری نه به قدرت آن، بلکه به شیوه مدیریت و هدایت آن بستگی دارد.
