پیش بینی می شود هوش مصنوعی «بازیگر بد» تا اواسط سال 2024 تهدیدی روزانه برای دموکراسی ها باشد.

یک مطالعه جدید پیش‌بینی می‌کند که فعالیت هوش مصنوعی توسط “بازیگران بد” که مصمم به ایجاد آسیب آنلاین از طریق انتشار اطلاعات نادرست هستند تا اواسط سال 2024 یک اتفاق روزمره خواهد بود. که نتایج آن تاثیری جهانی خواهد داشت.

حتی قبل از انتشار آخرین نسخه‌های سیستم‌های ترانسفورماتور پیش‌آموزشی (GPT)، کارشناسان هوش مصنوعی پیش‌بینی کردند که تا سال 2026 90 درصد محتوای آنلاین توسط رایانه ها بدون دخالت انسان تولید می شود و منجر به انتشار اطلاعات غلط و نادرست می شود.

این فرض وجود دارد که پلتفرم های بزرگ رسانه های اجتماعی با بیشترین تعداد کاربر نیاز به مقررات برای محدود کردن ریسک دارند. این فرض تا حدی درست است و آنها را هدف قوانینی مانند قانون خدمات دیجیتال اتحادیه اروپا و قانون هوش مصنوعی قرار می دهد. با این حال، «بازیگران بد» کوچک‌تر دیگری نیز وجود دارند – افراد، گروه‌ها و کشورهایی که به طور هدفمند رفتاری را انجام می‌دهند که به دیگران آسیب می‌رساند – که از هوش مصنوعی سوء استفاده می‌کنند.

مطالعه جدیدی که توسط محققان دانشگاه جورج واشنگتن (GW) انجام شد، اولین تحلیل علمی کمی است که بررسی می‌کند چگونه بازیگران بد می‌توانند از سیستم‌های هوش مصنوعی و GPT برای ایجاد آسیب جهانی در پلت‌فرم‌های رسانه‌های اجتماعی سوء استفاده کنند و در مورد آن چه می‌توان کرد.

نیل جانسون، نویسنده اصلی این مطالعه گفت: «همه در مورد خطرات هوش مصنوعی صحبت می‌کنند، اما تا زمان مطالعه ما هیچ علمی پشت آن نبود. “شما نمی توانید بدون درک عمیق از میدان نبرد پیروز شوید.”

محققان با نقشه‌برداری از شبکه پویا از جوامع رسانه‌های اجتماعی به هم پیوسته که چشم‌انداز جمعیت آنلاین جهانی را تشکیل می‌دهند، شروع کردند. کاربران – گاهی چند، گاهی چند میلیون نفر – به دلیل منافع مشترکی که ممکن است متضمن آسیب باشد، به این جوامع می‌پیوندند. محققان بر روی جوامع افراطی “ضد-X” تمرکز کردند، که در آن هر جامعه انجمنی است که در آن دو یا بیشتر از 20 پست اخیر آن شامل سخنان نفرت پراکنی و/یا ناسیونالیسم افراطی و/یا نژادپرستی است. این جوامع ضد X شامل کسانی می‌شد که برای مثال، ضد ایالات متحده، ضد زنان، ضد سقط جنین، یا ضد یهود بودند. ارتباطات بین این جوامع در طول زمان شکل می‌گیرد تا خوشه‌هایی از جوامع در داخل و در میان پلتفرم‌های مختلف رسانه‌های اجتماعی ایجاد شود.

«هر جامعه آ ممکن است پیوند (یعنی هایپرلینک) به هر جامعه ای داشته باشد ب اگر بمحتوای مورد علاقه است آمحققان گفتند. “آ ممکن است موافق باشد یا نباشد ب. این لینک هدایت می کند آتوجه عضو بو آسپس اعضای می توانند نظرات خود را در مورد اضافه کنند ب بدون باعضای این رابطه را می دانند – از این رو جامعه باعضای جامعه در معرض و به طور بالقوه تحت تأثیر جامعه هستند آاعضای.”

با استفاده از یک مدل ریاضی، محققان تعیین کردند که چه فعالیت بدی در هوش مصنوعی وجود دارد و چرا. به طور خاص، آنها دریافتند که ابتدایی ترین سیستم GPT، مانند GPT-2، تمام چیزی است که لازم است و همچنین به احتمال زیاد برای بازیگران بد جذاب تر از نسخه های پیچیده تر، مانند GPT-3 یا -4 است. این به این دلیل است که GPT-2 می تواند به راحتی سبک و محتوای انسانی را که قبلاً در جوامع آنلاین شدید دیده شده است، بازتولید کند، و بازیگران بد می توانند از ابزاری اساسی مانند GPT-2 برای ایجاد نتایج تحریک آمیزتر با تغییر نامحسوس شکل درخواست آنلاین بدون تغییر استفاده کنند. معنای آن. برعکس، GPT-3 و -4 حاوی فیلتری هستند که پاسخ‌ها به درخواست‌های بالقوه بحث‌برانگیز را لغو می‌کند و از چنین خروجی جلوگیری می‌کند.

محققان می‌گویند، «میدان نبرد» آنلاینی که احتمالاً فعالیت‌های بد هوش مصنوعی در آن رشد می‌کند، جوامع بازیگران بد به علاوه جوامعی است که مستقیماً با آن‌ها ارتباط برقرار می‌کنند، یعنی جوامع مردمی آسیب‌پذیر. افزودن این جوامع به هم برابر با یک اکوسیستم آنلاین با بیش از یک میلیارد نفر است و به بازیگر بد هوش مصنوعی اجازه می دهد در سطح جهانی رشد کند. محققان با استناد به نفرت و افراط گرایی که با کووید-19 و اخیراً جنگ روسیه، اوکراین و اسرائیل و حماس مرتبط است، نظر خود را نشان می دهند.

آنها پیش بینی می کنند که تا اواسط سال 2024، فعالیت بازیگران بد به امری عادی تبدیل خواهد شد. برای تعیین این موضوع، آن‌ها از داده‌های پراکسی دو حادثه تاریخی و از نظر فناوری مشابه که شامل دستکاری سیستم‌های الکترونیکی آنلاین بود، استفاده کردند: حملات الگوریتمی خودکار در سال 2008 به بازارهای مالی ایالات متحده و حملات سایبری چین در سال 2013 به زیرساخت‌های ایالات متحده. با تجزیه و تحلیل این مجموعه داده ها، آنها فراوانی حملات در این دو رویداد را در زمینه پیشرفت فناوری هوش مصنوعی فعلی برون یابی کردند.

از سال 2024 به عنوان “بزرگترین سال انتخابات در تاریخ” یاد می شود بیش از 50 کشوراز جمله ایالات متحده، قرار است امسال انتخابات سراسری برگزار شود. از روسیه، تایوان، بریتانیا و هند گرفته تا السالوادور و آفریقای جنوبی، نتایج برخی از انتخابات تأثیر جهانی و پیامدهای عظیمی بر حقوق بشر، اقتصاد، روابط بین‌الملل و صلح جهانی خواهد داشت. بنابراین، محققان می گویند، تهدید بازیگران بد استفاده از هوش مصنوعی برای گسترش و گسترش اطلاعات نادرست در این انتخابات واقعی است.

آنها توصیه می کنند که شرکت های رسانه های اجتماعی به جای حذف هر محتوایی که توسط بازیگران بد تولید می شود، از تاکتیک های مهار اطلاعات نادرست استفاده کنند.

با توجه به چشم انداز دائماً در حال تغییر هوش مصنوعی، محققان در مورد یافته های مطالعه خود هشداری صادر کردند. با این حال، این مطالعه برخی از چالش های مهم ناشی از دسترسی بازیگران بد به هوش مصنوعی را برجسته می کند.

محققان می‌گویند: «از آنجایی که با توجه به سرعت سریع فناوری و تغییر چشم‌انداز آنلاین، هیچ‌کس نمی‌تواند دقیقاً پیش‌بینی کند که چه اتفاقی برای بازیگر بد هوش مصنوعی آینده خواهد افتاد، پیش‌بینی‌های این مقاله، به طور دقیق، حدس و گمان هستند.» اما هرکدام قابل اندازه‌گیری و آزمایش هستند – و همچنین قابل تعمیم – و بنابراین نقطه شروع مشخصی برای تقویت بحث‌های سیاستی در مورد بازیگر بد هوش مصنوعی ارائه می‌دهند.

این مطالعه در مجله منتشر شد PNAS Nexus.

منبع: GW