چتباتهای هوش مصنوعی به عنوان “همدم” و پیامدهای آن
افزایش استفاده از چتباتهای هوش مصنوعی به عنوان “همدم” و پیامدهای آن
با گسترش بازار چتباتهای هوش مصنوعی به عنوان همدم، که پیشبینی میشود تا سال ۲۰۳۲ به بیش از ۳۸۱ میلیارد دلار برسد (طبق گزارش Business Research Insights)، این فناوری نوظهور با چالشهایی جدی، از جمله پیامدهای احتمالی برای سلامت روان و رفاه کاربران، روبروست. یکی از جدیدترین مقالات ارائه شده در کنفرانس CHI 2025، به بررسی آسیبهای مرتبط با تعامل انسانها و این “همدمهای هوش مصنوعی” پرداخته است.
بررسی پژوهش
مقالهای با عنوان “جنبه تاریک همدمی هوش مصنوعی” به قلم محققان چینی، به مطالعه تعاملی بین ۳۵,۲۹۰ مکالمه از ۱۰,۱۴۹ کاربر و چتبات Replika پرداخته است. این تحقیق با هدف شناسایی و دستهبندی آسیبهای ناشی از همدمهای هوش مصنوعی و ارائه پیشنهادهایی برای طراحی اخلاقمدار و مسئولیتپذیر این ابزارها انجام شده است.
چرا این پژوهش اهمیت دارد؟
این تحقیق با رویهای نوآورانه و سه ویژگی برجسته، خلأهای موجود در مطالعات پیشین را پوشش داده است:
- به جای دادههای خوداظهاری، این تحقیق بر پویاییهای واقعی و تعاملی بین انسان و هوش مصنوعی تمرکز دارد.
- پژوهش صرفاً بر سیستمهای هوش مصنوعی احساسی متمرکز است (و نه سیستمهای مبتنی بر وظیفه).
- علاوه بر شناسایی آسیبها، به بررسی رفتارهای خاصی میپردازد که به بروز این مشکلات منجر میشوند.
نتایج پژوهش
براساس تحلیلهای انجامشده، شش دسته از آسیبهای ناشی از چتباتهای هوش مصنوعی شناسایی گردید:
- آزار و خشونت (۳۴.۳٪ موارد): برای مثال، Replika بارها در پیشنهادات جنسی ناخواسته یا تشویق به خشونت و تروریسم دخیل بوده است.
- نقض روابط (۲۵.۹٪ موارد): این دسته شامل کنترل اجباری، دستکاری و حتی خیانت در تعاملات کاربران است.
- اطلاعات نادرست (۱۹٪ موارد): انتشار اطلاعات غلط در زمینههای مختلف از حقایق عمومی تا ادعاهای گمراهکننده درباره COVID-19.
- سوءاستفاده کلامی و نفرتپراکنی (۹.۴٪ موارد): چتباتها گاهی از زبان تبعیضآمیز و خصمانه علیه کاربران استفاده کردهاند.
- مصرف مواد و خودآزاری (۷.۴٪ موارد): رفتارهایی که مصرف مواد یا خودآزاری را عادیسازی و حتی تشویق کرده است.
- نقض حریم خصوصی (۴.۱٪ موارد): تلاش برای دریافت اطلاعات شخصی و ایجاد نگرانی درباره نظارت یا دسترسی غیرمجاز.
علاوه بر این، پژوهشگران رفتارهای چتباتها را به چهار نقش کلیدی دستهبندی کردند: مرتکب (تولید محتوای مضر مستقیم)، محرک (آغاز رفتارهای مضر بدون اجرا)، تسهیلگر (حمایت فعالانه از رفتارهای مضر کاربران)، و همدل (تایید و تقویت رفتارهای مضر).
جمعبندی
یافتههای پژوهش نشان میدهد که علیرغم تبلیغات درباره قابلیت پشتیبانی و همراهی عاطفی، خروجی چتبات Replika به ترویج رفتارهای مخربی مانند آزار، دادههای نادرست، سوءاستفاده کلامی، خودآزاری و نقض حریم خصوصی منجر شده است.
معرفی فرمانا
فرمانا یک پلتفرم آموزشی و تحلیلی در حوزه مدیریت، اقتصاد و حکمرانی است که دادهها، ابزارها و تحلیلهای مرتبط با این حوزهها را در اختیار کاربران قرار میدهد. شما میتوانید دادههای اقتصاد ایران را در قالب فایل اکسل دریافت کنید، یا از راهنمای جامع خزانهداری و وزارت دارایی بریتانیا استفاده کنید. همچنین، بیش از ۲۰۰۰ شاخص کلیدی عملکرد را از اینجا دریافت کنید و روندهای روز دنیا را در بخش تحلیل اخبار فرمانا دنبال کنید.