سیاست در عصر الگوریتمها
اقتصادایرانی: هوش مصنوعی در حال تغییر بنیادین سیاست در سراسر جهان است؛ از تقویت نظارت در رژیمهای اقتدارگرا مانند چین تا گسترش اطلاعات نادرست و قطبیسازی در دموکراسیها. پیامدهای این تحول گسترده هنوز بهطور کامل شناخته نشدهاند، اما تاثیرات آن هماکنون قابل مشاهده است.

برخی مطالعات نشان دادهاند که نظارت مبتنیبر هوش مصنوعی، سیاست در رژیمهای اقتدارگرا، بهویژه در چین را متحول کرده است. در همین حال، ما شاهد سطوح بالای اطلاعات نادرست (misinformation) و اطلاعات گمراهکننده (disinformation) و همچنین افزایش چشمگیر قطبیشدگی در دموکراسیها هستیم. شواهدی وجود دارد که نشان میدهد پلتفرمهای آنلاین در گسترش قطبیسازی و انتشار محتوای تفرقهافکن (و اغلب گمراهکننده) نقش عمدهای ایفا میکنند .
عجم اوغلو و همکاران در مطالعه خود نخستین تلاش برای توسعه یک مدل رسمی از برخی اثرات هوشمصنوعی بر سیاست دموکراتیک را انجام دادهاند. آنها اثرات مدلهای تجاری مبتنی بر هوشمصنوعی در پلتفرمهای آنلاین را بر قطبیشدگی رایدهندگان و احزاب بررسی کردند. این انتخاب براساس چند ملاحظه صورت گرفته است: درصد فزایندهای از مردم در دموکراسیها اخبار و اطلاعات سیاسی خود را از طریق شبکههای اجتماعی دریافت میکنند. برای مثال، ۱۸درصد از آمریکاییها شبکههای اجتماعی را به عنوان منبع اصلی اخبار سیاسی و انتخاباتی خود ذکر میکنند و بیش از ۵۰درصد نیز حداقل بخشی از اخبار خود را از این منابع دریافت میکنند. مدت زمانی که مردم برای اهداف دیگر مانند سرگرمی، خرید یا ارتباط در پلتفرمهای آنلاین صرف میکنند حتی بیشتر است. برآورد میشود که یک فرد آمریکایی به طور میانگین روزانه بین دو تا هشت ساعت را در پلتفرمهای دیجیتال آنلاین میگذراند. این امر باعث شده است که تبلیغات دیجیتال یکی از مهمترین کانالهای دسترسی سیاستمداران به رایدهندگان باشد. در انتخابات ۲۰۲۴ ایالات متحده ۲۸درصد از تبلیغات سیاسی به صورت آنلاین منتشر شد.
امروزه تجربه کاربران در شبکههای اجتماعی و فضای آنلاین بهشدت تحتتاثیر الگوریتمهای پیچیدهای است که دادهها را جمعآوری میکنند و به پلتفرمها امکان میدهند اطلاعاتی را که کاربران دریافت میکنند، مدیریت کنند. در اغلب موارد، انگیزه پلتفرمهای آنلاین این است که تعامل کاربران را افزایش دهند، دادههایی درباره نوع و ترجیحات کاربران جمعآوری کنند و مخاطبان خاصی را برای تبلیغدهندگان هدفگذاری کرده و از این طریق دادهها را به درآمد تبدیل کنند. اکوسیستم اطلاعاتی که توسط پلتفرمهای مبتنی بر هوش مصنوعی خلق شده، میتواند از مسیرهای مختلفی بر سیاست تاثیر بگذارد:
– الگوریتمهای شبکههای اجتماعی میتوانند برمبنای دادههایی که درباره کاربران دارند، تصمیم بگیرند که چه اطلاعاتی به چه افرادی نمایش داده شود و چه کسانی باهم ارتباط داشته باشند. این موضوع میتواند تاثیرات عمدهای بر نگرشهای سیاسی افراد از جمله افزایش یا کاهش قطبیشدگی سیاسی داشته باشد.
– پلتفرمهای آنلاین توانایی و انگیزه احزاب برای رساندن پیامهای هدفمند به گروههای خاص رایدهندگان را تقویت میکنند. این مسیر نیز بر قطبی شدن رایدهندگان و احزاب تاثیر میگذارد.
– ابزارهای هوش مصنوعی میتوانند راههای جدیدی برای ارتباط بازیگران غیراحزابی (مانند سازمانهای جامعه مدنی یا گروههای افراطی) با کاربران فراهم کنند. همچنین ابزارهایی برای بررسی صحت اطلاعات و مشارکت در اشکال جدید گفتوگوی دموکراتیک فراهم میکنند.
– الگوریتمهای هوش مصنوعی میتوانند پویاییهای داخلی احزاب را تغییر دهند.
هوش مصنوعی ممکن است تاثیرات اجتماعی گستردهتری از طریق نظام آموزشی یا شبکههای اجتماعی داشته باشد و علاقه یا توانایی مردم را برای مشارکت در سیاست، رای دادن یا بحثهای سیاسی افزایش یا کاهش دهد.
در مطالعه حاضر بر دو کانال نخست تمرکز شده است چرا که تاکنون مهمتر از سایر کانالها به نظر میرسد اهمیت کانال سوم در حال افزایش است. نویسندگان دو کانال اصلی را بررسی میکنند که از طریق آنها هوش مصنوعی در پلتفرمهای آنلاین، بر قطبی شدن سیاسی رایدهندگان و احزاب تاثیر میگذارد: کانال رسانههای اجتماعی و کانال تبلیغات دیجیتال.
دراینباره مدلی از تبادل اطلاعات در یک پلتفرم رسانه اجتماعی بررسی شده که به صورت الگوریتمی الگوی اشتراکگذاری اطلاعات میان کاربران را تعیین میکند. همچنین تکیه بر مدلی از هدفگیری تبلیغات دیجیتال توسط یک پلتفرم آنلاین را هدف قرار دادند. این دو مدل، دو نوع تعامل را پوشش میدهند.
نوع اول که آن را کانال رسانههای اجتماعی نامیده شده، درباره این است که خوراک خبری و محتوای مبتنیبر هوش مصنوعی چگونه بر قطبی شدن رایدهندگان تاثیر میگذارد. نوع دوم که آن را کانال تبلیغات دیجیتال نامیده میشود، به اثرات تبلیغات دیجیتال هدفمند میپردازد. در هر دو حالت، کاربران آنلاین را در یک مدل رقابت سیاسی قرار دادهاند که در آن دو حزب تلاش میکنند با انتخاب پلتفرمها رایدهندگان را جذب کرده و حتی تبلیغات دیجیتال هدفمند برای آنها خریداری کنند. در هر دو مورد، هوش مصنوعی و مدلهای تجاری دیجیتال نقش مهمی در انگیزههای پلتفرم ایفا میکنند.
در مدل رسانههای اجتماعی پلتفرم رسانه اجتماعی ساختار اشتراکگذاری محتوا بین کاربران را با استفاده از ابزارهای هوش مصنوعی و با هدف بیشینه کردن تعامل کاربران انتخاب میکند تا درآمد خود از تبلیغات دیجیتال را افزایش دهد.
در مدل تبلیغات دیجیتال پلتفرم رسانهای از ابزارهای هوش مصنوعی برای هدفگیری تبلیغات دیجیتال برای رایدهندگان به نیابت از احزاب سیاسی استفاده میکند. به طور دقیقتر، تصمیم کلیدی در مدل رسانه اجتماعی توسط پلتفرم اتخاذ میشود و مربوط به ساختار تعامل میان کاربران است. کاربران دارای باور سیاسی (ایدئولوژی) هستند که میتوانند براساس اطلاعات دریافتی آن را بهروزرسانی کنند. این اطلاعات در قالب پستهای رسانهای (مقالات) ارائه میشود که حاوی پیامی خاص (چپگرا یا راستگرا) و درجهای از قابلیت اطمینان هستند (که توسط تمام بازیکنان به طور کامل قابل مشاهده است.)
کاربران تصمیم میگیرند که آیا پیامی را به اشتراک بگذارند، نادیده بگیرند یا نپسندند و منبع اصلی مطلوبیتشان همین تعاملات رسانهای است. همچنین کاربران در یک انتخابات دوحزبی براساس همراستایی باورهایشان با مواضع سیاستی احزاب رای میدهند چون هر فرد به تنهایی بیتاثیر است، رای دادن هیچ انگیزهای برای تغییر رفتار کاربران در رسانه اجتماعی ایجاد نمیکند.
مطابق مدل اول، کاربران تمایل به اشتراکگذاری مقالات دارند اما نه اگر دیگران آن را نپسندند یا به عنوان اطلاعات غلط برچسبگذاری کنند. این باعث میشود افراد تمایل بیشتری به اشتراکگذاری مطالب همراستا با باورهای خود داشته باشند چراکه به صورت منطقی احتمال میدهند چنین مطالبی کمتر نادرست باشند. تصمیم کلیدی پلتفرم مربوط به چگونگی طراحی الگوریتم خوراک خبری کاربران است (که با استفاده از تجزیه و تحلیل سابقه رفتاری کاربران و توانمندی هوش مصنوعی، باورهای قبلی آنها را تشخیص میدهد.) در یک حالت افراطی، پلتفرم ممکن است شبکهای کامل انتخاب کند که در آن پست هر کاربر به صورت مساوی برای دیگران نمایش داده شود؛ در حالت دیگر، ممکن است به طور کامل حبابهای فیلتر ایجاد کند که فقط کاربران با باورهای مشابه به پستهای یکدیگر دسترسی داشته باشند. نتیجه اصلی این است که وقتی مقالات قابلیت اطمینان پایینی دارند و جامعه از قبل دوقطبی شده است، حبابهای فیلتر برای پلتفرم سودآورتر هستند. شبکه کامل ممکن است از نظر تئوری باعث تعامل بیشتر و سود بالاتر شود اما زمانی که مقالات کماعتبار برای افراد با دیدگاه مخالف نمایش داده شوند، به احتمال زیاد به عنوان اطلاعات غلط شناسایی و برچسبگذاری میشوند، که این موضوع باعث کاهش گردش آنها و در نتیجه کاهش درآمد پلتفرم میشود. این کانال نشان میدهد که وقتی محتوای موجود از ابتدا قابلیت اطمینان بالایی ندارد، الگوریتمهای رسانههای اجتماعی باعث افزایش قطبی شدن رایدهندگان بهویژه در میان کاربران با دیدگاههای افراطی میشوند. در نتیجه این قطبی شدن، احزاب نیز موقعیتهای سیاستی افراطیتری اتخاذ میکنند تا رضایت پایگاه رای افراطیشان را حفظ کنند. این در حالی است که رایدهندگان میانهرو معمولا پس از تعامل با رسانههای اجتماعی تغییری در باورهای خود نمیبینند.
در مدل تبلیغات دیجیتال که توسعهای بر کارهای پیشین است، دو حزب سیاسی تلاش میکنند از طریق تبلیغات دیجیتال هدفمند (با کمک هوشمصنوعی) به کاربران در یک پلتفرم سرگرمی آنلاین دسترسی یابند. کاربران میتوانند سادهلوح یا آگاه باشند. تفاوت کلیدی در این است که کاربران سادهلوح راحتتر تحتتاثیر اطلاعات نادرست قرار میگیرند، در حالی که کاربران آگاه درک صحیحی از واقعیت دارند. وجود کاربران سادهلوح سودآوری تبلیغات سیاسی دیجیتال را افزایش میدهد. وقتی احزاب میتوانند از این تبلیغات استفاده کنند، توانایی آنها برای تاثیرگذاری بر رایدهندگان بیشتر شده و انگیزهای برای تعدیل مواضع سیاستی ندارند. بنابراین، هرچند از کانالی متفاوت، این مدل نیز نشان میدهد که هوش مصنوعی و مدلهای تجاری مبتنیبر تبلیغات دیجیتال باعث افزایش قطبی شدن سیاسی رایدهندگان و احزاب میشوند.
در سطح کلی، تحلیل عجم اوغلو و همکاران از هر دو کانال نشان میدهد که پلتفرمهای مجهز به هوشمصنوعی منبعی برای قطبی شدن رایدهندگان هستند و احزاب سیاسی نیز با انتخاب مواضع افراطیتر به آن واکنش نشان میدهند (حتی بیش از خود رایدهندگان.) البته نحوه اثرگذاری این دو کانال با هم متفاوت است. کانال رسانه اجتماعی از طریق ایجاد حبابهای فیلتر کار میکند که احتمال نمایش محتوای همراستا با باورهای کاربران را افزایش میدهد اما در کانال تبلیغات دیجیتال، احزاب پیامهای خود را برای گروههایی از رایدهندگان طراحی میکنند که بیشتر مستعد باور کردن آنها هستند. در هر دو حالت، رقابت بیشتر بین پلتفرمها مشکل قطبی شدن را حل نمیکند. در زمینه تبلیغات دیجیتال، مقررات الگوریتمی برای افزایش شفافیت و کاهش شدت هدفگیری تبلیغات مهم است. تحلیلها نشان میدهد که قطبی شدن سیاسی، هم در میان رایدهندگان و هم در مواضع احزاب، به تغییر در سطح سواد دیجیتال و تاثیرگذاری تبلیغات حساس است.
به طور کلی مطالعه به سه حوزه ادبیات مرتبط است: نخست ادبیات مربوط به رسانههای اجتماعی، اتاقهای پژواک و حبابهای فیلتر؛ دوم ادبیات مرتبط با تبلیغات در بسترهای دیجیتال و غیردیجیتال و سوم ادبیات مربوط به سیاست قطبی شدن. دراینباره بر شواهد تجربی نوظهور در این زمینهها تمرکز میشود اما سهم اصلی آنها نظری است و کانالهای نوینی را درباره استفاده از ابزارهای هوش مصنوعی در رسانههای اجتماعی و دیگر پلتفرمها برای تشدید قطبی شدن رایدهندگان و احزاب سیاسی توسعه میدهد. در زمینه اولین حوزه، در یک آزمایش کنترل شده تصادفی، نشان داده شده که الگوریتم فیسبوک براساس ایدئولوژی کاربران، به صورت گزینشی محتوای سیاسی همنظر با آنها را نمایش میدهد و بدین ترتیب یک اتاق پژواک یا حباب فیلتر درونی ایجاد میکند. دراینباره کانالهای مختلفی در ادبیات بررسی شده که تعاملات رسانههای اجتماعی چگونه میتواند به ظهور اتاقهای پژواک منجر شود.
شاخه دوم ادبیات به نقش تبلیغات اطلاعاتی و تبلیغات دستکاری کننده میپردازد. تمرکز بر تبلیغات دیجیتال هدفمند (و دستکاری کننده) در حوزه سیاسی ، جایی که رقابت حزبی باعث میشود مدلهای کسبوکار آنلاین با تبلیغات دیجیتال کسب درآمد کنند باعث میشود که قطبی شدن بیشتر باورهای سیاسی را تحریک کند که به آن «کانال تبلیغات دیجیتال» میگویند و از کانال رسانههای اجتماعی متفاوت است و عمدتا توسط انگیزههای پلتفرمها برای استفاده از هوش مصنوعی در ساخت تبلیغات فردیسازی شده که کاربران آسیبپذیر در این تبلیغات را هدف میگیرد، هدایت میشود. در مقابل، احزاب برای تبلیغات هزینه میکنند تا رقابت را نرم کنند اما در این فرآیند، قطبی شدن باورها افزایش مییابد. وقتی یک حزب سیاسی غالب وجود دارد، مدل کسبوکار پلتفرم به سمت اشتراک تمایل پیدا میکند و این نیروهای قطبی کننده از بین میروند. شاخه آخر ادبیات شامل مقالات تجربی است که چگونه یادگیری در شرایط خاص میتواند به قطبی شدن منجر شود، در حالی که احزاب از سیاستهای معتدل فاصله میگیرند.
به طور کلی امروزه به طور گسترده پذیرفته شده است که هوش مصنوعی نهتنها زندگی اقتصادی و اجتماعی ما را دگرگون خواهد کرد، بلکه سیاست را نیز متحول میکند. با این حال، تحلیل دقیقی از این که این تاثیرات سیاسی چگونه و از چه مسیرهایی در جوامع گوناگون اعمال میشود، هنوز به طور کافی انجام نشده است. دراینباره دو نوع از تاثیرات در اینجا بررسی شده است.
کانال رسانه اجتماعی
در این مسیر، تاثیرات هوش مصنوعی از طریق الگوریتمهایی اعمال میشود که پلتفرمهای اجتماعی برای تعیین محتوای خبری و نمایشی کاربران به کار میگیرند، با هدف افزایش تعامل کاربران و کسب درآمد تبلیغاتی. جمعآوری داده از کاربران و ابزارهای قدرتمند هوش مصنوعی به پلتفرم این امکان را میدهد که «حبابهای فیلتر» ایجاد کند؛ یعنی کاربران تنها با محتوایی مواجه شوند که از سوی کاربران همفکر منتقل شدهاند. دراینباره در حضور محتوای کماعتبار، ایجاد این حبابهای فیلتر یک استراتژی سودآور برای پلتفرم است چرا که انتشار ویروسی اخبار را تسهیل میکند. اخباری که در غیر این صورت، توسط کاربران دارای باورهای مخالف متوقف شده و برچسب «اطلاعات نادرست» میخوردند. همچنین این حبابها موجب قطبی شدن بیشتر رایدهندگانی میشوند که از قبل گرایشهای افراطی دارند. گرچه رایدهندگان میانهرو در چپ و راست ممکن است دچار تغییر زیادی نشوند اما احزاب سیاسی بهدلیل قطبی شدن در حاشیهها، به اتخاذ سیاستهای افراطیتر گرایش پیدا میکنند.
کانال تبلیغات دیجیتال
در این مسیر، پلتفرمهای سرگرمی بررسی شدهاند که محتوای مورد علاقه کاربران را با تبلیغات دیجیتال سیاسی درهم میآمیزند. فرض شده که کاربران به دو دسته سادهباور و پیچیده تقسیم میشوند که حساسیتهای متفاوتی نسبت به تبلیغات هدفمند دارند. همچنین اجازه داده شده که پلتفرم بین مدل اشتراکی و مدل مبتنیبر تبلیغات دیجیتال یکی را انتخاب کند. نشان داده شده است که در رقابت شدید دو حزب در دو سر طیف سیاسی، مدل مبتنیبر تبلیغات دیجیتال سودآورتر است و این تبلیغات باعث میشود کاربران سادهباور وابستگی بیشتری به حزب خود پیدا کنند. در نتیجه، بار دیگر رایدهندگان دچار قطبی شدن میشوند و احزاب نیز به آن واکنش نشان داده و سیاستهای افراطیتری انتخاب میکنند. در مقابل، اگر مدل کسبوکار پلتفرم مبتنی بر اشتراک باشد، این قطبی شدن اتفاق نمیافتد. همچنین نشان داده شده است که ماهیت رقابت سیاسی است که تبلیغات دیجیتال را سودآور میکند؛ یعنی اگر تنها یک حزب غالب وجود داشته باشد، مدل سودآور پلتفرم همان مدل اشتراکی است و قطبی شدن رخ نمیدهد. بنابراین، ترکیب تبلیغات هدفمند مبتنی بر هوش مصنوعی و رقابت شدید سیاسی، پایهگذار قطبی شدن رایدهندگان است که در ادامه منجر به قطبی شدن احزاب میشود.
در مجموع، تحلیل در هر دو کانال نشان میدهد که پلتفرمهای مبتنیبر هوش مصنوعی منبعی برای تشدید قطبی شدن سیاسی هستند و احزاب نیز در واکنش به این شرایط، سیاستهای افراطیتری اتخاذ میکنند. این دو کانال جداگانه بررسی شده است زیرا سازوکارها و همچنین تاثیرپذیری آنها از مقررات متفاوت است. در کانال رسانه اجتماعی، نقش هوشمصنوعی جمعآوری و تحلیل دادهها برای تشخیص گرایشهای ایدئولوژیک کاربران و سپس ایجاد «حبابهای فیلتر» سفارشی است؛ بدین ترتیب کاربران چپگرا بیشتر در معرض محتوای چپگرا قرار میگیرند و بالعکس. به همین دلیل، پیشنهاد استانداردهای تنوع محتوا میتوانند ابزار موثری برای جلوگیری از تشدید قطبی شدن باشند. در کانال تبلیغات دیجیتال، هوش مصنوعی برای طراحی و هدفگیری تبلیغات متقاعدکننده بهسوی کاربران سادهباور از دو سر طیف سیاسی به کار میرود. این یافتهها نشان میدهد که ابزارهایی مانند شفافسازی تبلیغات دیجیتال میتوانند در کاهش تاثیر این تبلیغات موثر باشند. همچنین مالیات بر تبلیغات دیجیتال که پلتفرمها را به سمت مدل اشتراکی سوق میدهد نیز میتواند در این زمینه اثربخش باشد. البته مسیرهای دیگر تاثیر هوشمصنوعی بر سیاست وجود دارد که باید بررسی شوند.
امکان دسترسی بازیگران جدید به رایدهندگان
هوش مصنوعی میتواند به بازیگران غیرحزبی (مثل سازمانهای جامعه مدنی یا گروههای افراطی) و احزاب سیاسی راههای جدیدی برای رسیدن به کاربران ارائه دهد. شواهدی وجود دارد که الگوریتمهای پلتفرمها در دهه ۲۰۱۰ کاربران را به سمت گروههای افراطی سوق دادهاند و مدلهای پیشرفتهتر هوش مصنوعی میتوانند این فرآیند را تشدید کنند .
ابزار تبلیغات و تلقین برای رژیمهای غیردموکراتیک
رژیمهای غیردموکراتیک میتوانند از هوش مصنوعی برای القائات و انتشار اطلاعات نادرست استفاده کنند اما هنوز پژوهش کافی در مورد حدود این اثرگذاریها وجود ندارد؛ برای مثال، آیا مردم در نهایت نسبت به این روشها ایمن میشوند؟ تحقیقات اولیه در این زمینه تازه آغاز شده است.
نظارت و سرکوب مخالفان
تحقیقات نشان میدهد که ظرفیتهای هوشمصنوعی در زمینه نظارت و سرکوب اعتراضات در حال حاضر در حال استفاده است و میتواند هم در سیستمهای دموکراتیک و هم غیردموکراتیک سیاست را متحول کند.
افزایش بیاعتمادی عمومی به اطلاعات
انبوه محتوای تولید شده توسط هوش مصنوعی میتواند باعث کاهش علاقه مردم به سیاست شود. هانا آرنت، فیلسوف هشدار داده بود که «اگر همه به شما دروغ بگویند، نتیجه آن باور به دروغ نیست، بلکه این است که هیچکس دیگر هیچچیز را باور نمیکند.» چنین فضایی میتواند به فروپاشی اعتبار و بیاعتمادی شدید منجر شود.
استفاده مثبت از هوش مصنوعی برای راستیآزمایی و گفتوگوی سازنده
هوش مصنوعی میتواند در ارزیابی اعتبار منابع، آشکارسازی تناقضات و ارائه دیدگاههای متنوع به کاربران نقش ایفا کند. همچنین میتواند در ساخت پلتفرمهای جدید برای گفتوگوی سازنده، ساختاردهی به مناظرهها و یافتن نقاط مشترک برای سازش سیاسی مفید باشد.
تاثیرات اقتصادی هوش مصنوعی و پیامدهای سیاسی آن
هوش مصنوعی با افزایش بهرهوری، جایگزینی نیروی کار و افزایش نابرابری درآمدی و ثروتی، پیامدهای عمیقی بر سیاست خواهد داشت. این تغییرات میتواند باعث رشد پوپولیسم، تغییر سیاستهای بازار کار و مباحثی درباره مقرراتگذاری بر هوشمصنوعی و نظامهای حمایتی اجتماعی شود.