جنجال آزمایش مخفیانه هوش مصنوعی در Reddit توسط محققان دانشگاه زوریخ
محققان دانشگاه زوریخ متهم شده‌اند که یک آزمایش غیرمجاز چهار ماهه را در یک صفحه Reddit با استفاده از نظرات تولید شده توسط هوش مصنوعی انجام داده‌اند تا آزمایش کنند که آیا هوش مصنوعی می‌تواند نظرات مردم را تغییر دهد یا خیر. این آزمایش، که بدون اطلاع و رضایت کاربران Reddit انجام شده است، با واکنش‌های تندی از سوی مدیران این پلتفرم و جامعه کاربری مواجه شده است. استفاده از حساب‌های جعلی و جعل هویت‌های مختلف، از جمله یک قربانی تجاوز و یک مشاور آسیب دیدگی، نگرانی‌های جدی در مورد اخلاق و حریم خصوصی را برانگیخته است.
مدیران subreddit r/changemyview در پستی در ۲۶ آوریل اعلام کردند: “زیرمجموعه ما یک فضای کاملاً انسانی است که هوش مصنوعی فاش نشده را به عنوان یک ارزش اصلی رد می‌کند.” آن‌ها تاکید کردند که کاربران Reddit به این فضا نمی‌آیند تا در مورد دیدگاه‌های خود با هوش مصنوعی بحث کنند یا روی آن‌ها آزمایش شود. این موضوع نشان می‌دهد که حفظ اصالت و هویت انسانی در فضاهای آنلاین برای کاربران Reddit از اهمیت بالایی برخوردار است.
در حالی که هدف این تحقیق، بررسی توانایی‌های متقاعدکننده مدل‌های زبانی بزرگ (LLM) بوده است، اما روش‌های غیرمجاز و فریبکارانه مورد استفاده توسط محققان، سوالات جدی در مورد اخلاق تحقیق و مسئولیت‌پذیری را مطرح کرده است. این حادثه همچنین نشان می‌دهد که تشخیص انسان از هوش مصنوعی هنوز با چالش‌های قابل توجهی روبرو است و نیاز به توسعه راهکارهای موثرتر در این زمینه وجود دارد. بیت کوین و سایر ارزهای دیجیتال با ماهیت غیرمتمرکز خود، نیازمند بررسی دقیق و مداوم در مورد استفاده از هوش مصنوعی در این حوزه هستند.
جزئیات آزمایش مخفیانه هوش مصنوعی
بر اساس پیش‌نویس مقاله، محققان از هوش مصنوعی برای تولید پاسخ استفاده کردند، اما تلاش کردند تا پاسخ‌ها را بر اساس اطلاعاتی از سابقه قبلی Reddit ارسال‌کنندگان اصلی، مانند گرایش سیاسی، جنسیت، سن و قومیت، شخصی‌سازی کنند. این شخصی‌سازی، نگرانی‌ها در مورد سوء استفاده از اطلاعات شخصی و دستکاری افکار عمومی را افزایش داده است.
در طول آزمایش چهار ماهه، حساب‌های جعلی هوش مصنوعی دانشگاه زوریخ ۱۷۸۳ نظر ارسال کردند و ۱۳۷ دلتا دریافت کردند – علامتی که نشان می‌دهد چه زمانی یک کاربر Reddit دیگر اذعان کرده است که این حساب آن‌ها را متقاعد کرده است تا نظر خود را در مورد یک موضوع تغییر دهند.
واکنش‌ها به این آزمایش
این آزمایش با واکنش‌های تندی از سوی مدیران Reddit و جامعه کاربری مواجه شده است. مدیران Reddit گفته‌اند که از این آزمایش اطلاعی نداشتند و از دانشگاه درخواست عذرخواهی و جلوگیری از انتشار تحقیق را کرده‌اند. آن‌ها همچنین ممکن است در حال بررسی اقدامات قانونی باشند.
بن لی، مدیر ارشد حقوقی Reddit، در پستی در ۲۸ آوریل گفت که این آزمایش توافق نامه و قوانین کاربر سایت را نقض کرده است و تمام حساب‌های شناخته شده مرتبط با تلاش تحقیقاتی دانشگاه زوریخ اکنون ممنوع شده‌اند. وی افزود: “ما در حال تماس با دانشگاه زوریخ و این تیم تحقیقاتی خاص با خواسته‌های قانونی رسمی هستیم.”
دفاع دانشگاه زوریخ از این آزمایش
تیم دانشگاه زوریخ استدلال کرد که “مزایای بالقوه این تحقیق به طور قابل توجهی بیشتر از خطرات آن است” زیرا آن‌ها دریافته‌اند که مدل‌های زبانی بزرگی که در این آزمایش استفاده شده‌اند می‌توانند بسیار متقاعد کننده باشند و از تمام “معیارهای شناخته شده قبلی از متقاعد کنندگی انسان” فراتر روند.
کمیسیون اخلاق دانشکده هنر و علوم دانشگاه زوریخ در پاسخ خود به subreddit، گفت که این حادثه را بررسی کرده است و قول داده است در آینده هماهنگی بهتری با افراد تحت آزمایش داشته باشد. به بازپرس اصلی این پروژه نیز اخطار رسمی داده شد.
نتیجه‌گیری
آزمایش مخفیانه هوش مصنوعی در Reddit توسط محققان دانشگاه زوریخ، سوالات جدی در مورد اخلاق تحقیق، حریم خصوصی و دستکاری افکار عمومی را مطرح کرده است. این حادثه نشان می‌دهد که نیاز به توسعه راهکارهای موثرتر برای تشخیص هوش مصنوعی و ایجاد چارچوب‌های قانونی و اخلاقی مناسب برای استفاده از این فناوری در فضاهای آنلاین وجود دارد. با توجه به پیشرفت سریع هوش مصنوعی و تاثیرات گسترده آن بر جامعه، ضروری است که تحقیقات و آزمایش‌ها در این زمینه با رعایت اصول اخلاقی و با اطلاع و رضایت افراد انجام شود.
این حادثه همچنین یادآور این نکته است که حفظ اصالت و هویت انسانی در فضاهای آنلاین برای کاربران از اهمیت بالایی برخوردار است و هرگونه تلاش برای فریبکاری و دستکاری افکار عمومی می‌تواند با واکنش‌های منفی مواجه شود.
- Topic: جنجال آزمایش هوش مصنوعی در Reddit
- Subheadings: جزئیات آزمایش مخفیانه هوش مصنوعی, واکنش‌ها به این آزمایش, دفاع دانشگاه زوریخ از این آزمایش
- Main Keyword: هوش مصنوعی
- Selected Keywords: Reddit، آزمایش، اخلاق، دانشگاه زوریخ، جنجال، محققان
- Meta Description: آزمایش مخفیانه هوش مصنوعی در Reddit توسط محققان دانشگاه زوریخ، جنجال برانگیخت. این آزمایش بدون اطلاع کاربران انجام شده و نگرانی‌هایی را در مورد اخلاق و حریم خصوصی ایجاد کرده است.