برای بسیاری از ما، هوش مصنوعی چهرهای شبیه به دستیارهای هوشمند یا ابزارهای تولید تصویر دارد؛ یک دستیار جادویی که میتواند به سوالاتمان پاسخ دهد، تکالیفمان را انجام دهد و آیندهای نویدبخش و پر از نوآوری را ترسیم کند. اما این تکنولوژی قدرتمند، روی دیگری نیز دارد که کمتر دیده میشود: چهره تصمیمگیری، قضاوت و کنترل شئونات زندگی شهروندان. پرسش اساسی این است که وقتی این تکنولوژی وارد ساختار حکمرانی در ایران میشود، دقیقاً باید انتظار چه چیزی را داشته باشیم؟
با نگاهی به اسناد بالادستی مانند سند ملی هوش مصنوعی، با ویترینی زیبا و جاهطلبانه مواجه میشویم که از حکمرانی هوشمند و عدالت دادهمحور سخن میگوید. اما عبور از این ویترین و نگاه به پشت صحنه، واقعیتی کاملاً متفاوت را نمایان میکند. رویکرد توسعه هوش مصنوعی در ایران، نه بر اساس نوآوری، بلکه بر مبنایی کاملاً دولتمحور و امنیتمحور شکل گرفته است. توسعه این ابزارهای قدرتمند در خلأ کامل یک قانون جامع و مستقل برای حفاظت از دادههای شخصی اتفاق میافتد. این بدان معناست که دادههای شهروندان، که سوخت اصلی هوش مصنوعی هستند، بدون هیچ حفاظی در اختیار سیستمی قرار میگیرند که سابقه طولانی در استفاده از دادهها علیه مردم دارد.
در این بلاگ از اولین پادکست تخصصی درباره حقوق دیجیتال و دسترسی به اینترنت، یعنی پادکست لایه هفتم از گروه فیلتربان با اجرای پویش عزیزالدین، به همراه سحر تحویلی، دانشیار سامانههای صنعتی هوش مصنوعی، به کالبدشکافی این موضوع میپردازیم که توسعه هوش مصنوعی در ایران به کدام سمت میرود و چگونه ابزاری برای بهبود زندگی، به ابزاری برای کنترل بیشتر تبدیل میشود.
بحران حکمرانی: جنگ قدرت بر سر دادهها
توسعه هوش مصنوعی در ایران با یک بحران حکمرانی جدی روبرو است. بر سر کنترل این تکنولوژی، یک جنگ قدرت سهجانبه در جریان است: شورای عالی فضای مجازی سند بالادستی صادر میکند، دولت ستاد اجرایی خود را دارد و مجلس به دنبال ایجاد یک سازمان ملی جدید است. اما آیا از نظر زیرساختی، هوش مصنوعی ایران در نقطهای قرار دارد که مستحق این نزاع باشد؟
سحر تحویلی توضیح میدهد که این نزاع، نه بر سر پیشرفتهای فنی فعلی، بلکه بر سر اهمیت استراتژیک و کنترل آینده دادههاست. حکومت اهمیت کنترل هوش مصنوعی را درک کرده است، حتی اگر زیرساختهای آن هنوز ضعیف باشند. این تداخل وظایف و آشفتگی، تأثیرات مخربی به همراه دارد. از یک سو، نوآوری و بخش خصوصی فلج شدهاند؛ استارتاپها نمیدانند از چه نهادی مجوز بگیرند که این امر به فرار مغزها و مرگ نوآوری واقعی منجر میشود. از سوی دیگر، این خلأ نظارتی و آشفتگی در نهادهای مدنی، بهترین فرصت را برای نهادهای امنیتی و نظامی فراهم میکند تا پروژههای نظارتی خود را بدون هیچگونه شفافیت و پاسخگویی پیش ببرند.
عدالت هوشمند یا اتوماسیون تبعیض؟
یکی از نگران کنندهترین روندهای کشف شده در تحقیقات، فشار همهجانبه برای تجمیع کلاندادهها همزمان با فقدان قانون حفاظت از داده است. به عنوان مثال، قوه قضاییه اعلام کرده است که سامانهای حاوی صد و ده میلیون رای قضایی را برای آموزش هوش مصنوعی به کار میگیرد. استفاده از دادههای قضایی سیستمی که به سوگیری علیه زنان، اقلیتها و دگراندیشان شهرت دارد، در یک خلأ قانونی، پیامدهای فاجعهباری خواهد داشت.
سحر تحویلی این روند را نه عدالت هوشمند، بلکه اتوماسیون تبعیض مینامد. هوش مصنوعی جادو نمیکند؛ بلکه الگوهای گذشته را یاد میگیرد و تقویت میکند. اگر آراء قضایی ورودی حاوی سوگیری سیستماتیک باشند، هوش مصنوعی یاد میگیرد که گروههای خاصی پرخطرتر هستند یا مستحق احکام سنگینتری میباشند. این به معنای سیستماتیک کردن بیعدالتیهای گذشته در قالب یک الگوریتم به ظاهر بیطرف و علمی است که در آن، حساسترین دادههای شهروندان بدون نظارت به یک الگوریتم سپرده میشود.
تغییر کاربری پنهانی و رویای زندان دیجیتال
یافته دیگر این تحقیقات، پدیدهای به نام تغییر کاربری پنهانی است. ابزارهایی مانند دستیارهای هوشمند زیارتی، با ظاهری خدماتی معرفی میشوند، اما زیرساختهای فنی آنها، نظیر تشخیص چهره یا موقعیتیابی، کاملاً کارکرد نظارتی دارند. همزمان، تحریمها نیز کشور را به سمت توسعه مدلهای بومی در انزوا و بدون رعایت استانداردهای اخلاقی جهانی سوق داده است.
ترکیب این خدمات نظارتی و مدلهای بومی، یک جعبه سیاه غیرقابل ممیزی ایجاد میکند. تغییر کاربری پنهانی، تاکتیکی کلاسیک در اقتدارگرایی دیجیتال است که در آن مردم برای دریافت خدمات، داوطلبانه دادههای نظارتی خود را تحویل میدهند. به گفته سحر تحویلی، سمت و سوی این روند کاملاً روشن است: کارآمدی در سرکوب. حکومت به دنبال نوآوری برای شهروندان نیست، بلکه هدف نهایی، ساختن یک زندان دیجیتال هوشمند است که در آن، الگوریتمها به جای انسانها نقش زندانبان را بازی میکنند.
فراخوان به مقاومت: قانون، آگاهی و شفافیت
توسعه هوش مصنوعی در ایران بر روی ریلی امنیتمحور و ضد حریم خصوصی در حرکت است. اما جامعه نمیتواند منتظر بماند تا این جعبه سیاه تکمیل شود و سپس به فکر مقابله بیفتد. برای ساخت آیندهای امن، باید همزمان در چند جبهه عمل کرد.
حقوقدانان و وکلا باید برای تصویب فوری یک قانون واقعی حفاظت از داده تلاش کنند؛ قانونی که شهروندان را در برابر حکومت و شرکتهای سودجو محافظت کند، نه آنکه خود ابزاری برای کنترل باشد. از سوی دیگر، متخصصان فنی و دانشگاهیان باید خواهان شفافیت الگوریتمی باشند و حق به چالش کشیدن تصمیمهای الگوریتمی را به عنوان یک حق بنیادین مطرح کنند. ایجاد این آگاهی عمومی ضروری است که هیچ خدمت هوشمند یا رایگانی بیهزینه نیست و هزینه آن اغلب دادهها و آزادیهای ماست.
سوالات متداول
پرسش: منظور از اتوماسیون تبعیض در هوش مصنوعی قوه قضاییه چیست?
پاسخ: هوش مصنوعی از دادههای گذشته یاد میگیرد. اگر میلیونها رای قضایی گذشته که دارای سوگیری علیه گروههای خاصی مانند زنان یا فعالان مدنی هستند برای آموزش هوش مصنوعی استفاده شوند، الگوریتم این سوگیریها را به عنوان یک قانون علمی یاد گرفته و در آینده نیز احکام تبعیضآمیزی را به صورت خودکار صادر یا پیشنهاد میکند.
پرسش: تغییر کاربری پنهانی در اپلیکیشنهای دولتی چگونه اتفاق میافتد؟
پاسخ: در این روش، یک برنامه با ظاهر ارائه خدمات رفاهی یا تسهیلاتی (مانند ثبتنام سفر یا دریافت وام) به کاربران عرضه میشود، اما در پسزمینه اقدام به جمعآوری گسترده دادههای نظارتی مانند موقعیت مکانی دقیق، اطلاعات بیومتریک یا چهرهنگاری میکند که کاربر از استفاده اصلی آنها بیخبر است.
پرسش: بحران حکمرانی چگونه به توسعه ابزارهای نظارتی کمک میکند؟
پاسخ: درگیری نهادهای مختلف مانند دولت، مجلس و شورای عالی فضای مجازی بر سر قانونگذاری و کنترل هوش مصنوعی، باعث ایجاد یک خلأ قانونی و نظارتی شده است. در این فضای آشفته، نهادهای امنیتی میتوانند بدون پاسخگویی به هیچ نهاد مدنی، پروژههای کنترل دیجیتال خود را پیش ببرند.
