هوشمند سازی علیه حقوق شهروندان (بخش دوم)

خلاصه اجرایی

بخش دوم گزارش «روایت توسعه نامتوازن هوش مصنوعی در ایران از اسناد ملی تا ابزارهای نظارتی» به بررسی چگونگی تأثیر راهبردهای رسمی جمهوری اسلامی در حوزه هوش مصنوعی بر ساختار قوه قضاییه، دادگاه‌ها و نظارت بر شهروندان می‌پردازد. راهبردها و سیاست‌گذاری‌هایی که در ظاهر با هدف افزایش کارآمدی، نوآوری و «عدالت داده‌محور» معرفی می‌شوند، اما در عمل نگرانی‌های جدی در رابطه با نقض حریم خصوصی، عدالت و حقوق بشر را برمی‌انگیزند.

سند ملی هوش مصنوعی اهدافی کلی مانند قرار گرفتن ایران در میان ده کشور برتر حوزه هوش مصنوعی، گسترش زیرساخت‌های داده و «بهبود حکمرانی» از طریق فناوری را مطرح می‌کند. با این حال، زبان مبهم این سند، با تأکید بر مفاهیمی چون «عدالت اجتماعی» و «امنیت ملی»، امکان تفسیر و سوءاستفاده را فراهم می‌کند. روندی که می‌تواند زمینه‌ساز افزایش نظارت و کنترل دولتی شود.

هم‌زمان، طرح تحول قضایی به دنبال استقرار ساختاری از «عدالت هوشمند» است که شامل بررسی خودکار پرونده‌ها، ارزیابی الگوریتمی آرای قضات و اخذ نظر کارشناسی بدون دخالت انسانی است. اگرچه هدف این طرح کاهش ناکارآمدی و خطای انسانی است، اما اجرای آن به نحوی که اکنون پیش‌بینی شده است، می‌تواند استقلال قضایی، شفافیت و حق برخورداری از دادرسی عادلانه را به خطر اندازد. سیستم‌هایی که بر اساس داده‌های جانبدارانه آموزش دیده‌اند، همان بی‌عدالتی‌های پیشین را بازتولید می‌کنند و حذف قضاوت انسانی می‌تواند تصمیم‌گیری را مکانیکی و غیر منعطف سازد.

تغییرات نهادی سریع، از جمله جایگزینی سازمان ملی هوش مصنوعی با «ستاد توسعه هوش مصنوعی»، نیز پرسش‌هایی درباره پاسخ‌گویی و شفافیت برمی‌انگیزد. گسترش دسترسی به پایگاه‌های عظیم داده، به‌ویژه داده‌های قضایی، در غیاب قوانین مستقل و شفاف حفاظت از داده‌ها، تهدیدی جدی برای حریم خصوصی شهروندان است و می‌تواند به ابزار گسترده‌ای برای نظارت دولتی بدل شود.

در سطحی کلان‌تر، تلاش جمهوری اسلامی برای توسعه مدل‌های بومی هوش مصنوعی و تسهیل تبادل داده میان نهادهای دولتی، بخشی از روندی فزاینده به‌سوی تمرکز کنترل دیجیتال است. گزارش‌هایی مانند «رکوردد فیچر» نیز نشان می‌دهند که هوش مصنوعی در ایران بیش از پیش در خدمت امنیت داخلی، پایش مخالفان و عملیات سایبری قرار گرفته است. از سوی دیگر نهادینه شدن کاربرد هوش مصنوعی در خدمات عمومی، حساسیت جامعه را نسبت این فناوری کم کرده و راه را برای «لغزش کارکردی» هموار می‌کند؛ یعنی ابزارهای طراحی‌شده برای تسهیل خدمات عمومی، به ابزارهای کنترل و محدود سازی تبدیل می‌شوند.

در مجموع، راهبرد هوش مصنوعی جمهوری اسلامی در دو مسیر موازی حرکت می‌کند: از یک‌سو مدرن‌سازی فناورانه و از سوی دیگر، تعمیق حکمرانی الگوریتمی و نظارت سیستمی. در غیاب نظارت مستقل، قوانین روشن حفاظت از داده و استانداردهای اخلاقی، خطر آن وجود دارد که «حکمرانی هوشمند» به سیستمی تبدیل شود که کنترل و کارآمدی را بر عدالت، شفافیت و کرامت انسانی ترجیح می‌دهد.

رمزگشایی از طرح‌های کلان دولتی: راهبردهای هوش مصنوعی، اصلاحات قضایی و پیامدهای قانونی

بررسی دقیق اسناد، چشم‌انداز‌ها و جهت‌گیری‌های جمهوری اسلامی در حوزه هوش مصنوعی، تاثیرات بالقوه آن بر حقوق شهروندان را روشن‌تر می‌سازد؛ «سند ملی هوش مصنوعی» به عنوان یک سند بالادستی، اهداف متعددی را دنبال می‌کند، از جمله: 

• قرار گرفتن ایران در میان ۱۰ کشور برتر هوش مصنوعی
•  توسعه سرمایه انسانی
• ایجاد زیرساخت‌های حقوقی، داده‌ای و پردازشی
• تقویت تولیدات علمی و فناورانه
• افزایش رقابت‌پذیری اقتصادی
• همکاری فعال بین‌المللی (البته با کشورهای همسو)
• و بهبود حکمرانی با تاکید بر عدالت اجتماعی، امنیت ملی و سرمایه اجتماعی

همزمان «سند تحول قضایی جمهوری اسلامی ایران» نیز چشم‌انداز قوه قضاییه را به شدت درهم‌تنیده با فناوری‌های هوش مصنوعی تعریف می‌کند:

•  هوشمندسازی حداکثری فرایندهای رسیدگی
• شناسایی هوشمند آراء متعارض
• ارجاع کارشناسی به صورت تخصصی و هوشمند و بدون مداخله عامل انسانی
• و تاکید بر تصمیم‌گیری مبتنی بر داده و کارایی

این اهداف مستقیماً با حقوق کاربران، مانند حریم خصوصی (در زمینه زیرساخت داده)، دادرسی عادلانه (در زمینه رسیدگی هوشمند) و عدم تبعیض (در زمینه تصمیم‌گیری الگوریتمی) در ارتباط هستند.

گذشته از اهداف سند ملی هوش مصنوعی و چشم‌انداز تحول قضایی، یک تغییر نهادی مهم هم رخ داده است: تبدیل «سازمان ملی هوش مصنوعی» به «ستاد توسعه فناوری هوش مصنوعی». این تغییر ساختاری، پرسش‌هایی را درباره شفافیت، پاسخگویی و نحوه حکمرانی در این حوزه مطرح کرده است. برخی گزارش‌ها حتی به احتمال «تداخل وظایف» در ساختار جدید هم اشاره کرده‌اند.

عبارات کلی و مبهم به‌کار رفته در این اسناد مانند «ارتقای عدالت اجتماعی»، دست نهادهای مجری را برای تفسیر دلخواه باز می‌گذارد. از سوی دیگر وقتی نظارت مستقل و وضع محدودیت‌های روشن بر پایه حقوق افراد وجود نداشته باشد، همین ابهام می‌تواند راه را برای استفاده‌هایی باز کند که به‌جای تقویت عدالت و حفاظت از حقوق مردم، آن‌ها را تضعیف کند.

مثلاً «عدالت اجتماعی» می‌تواند به معنای دسترسی برابر همه شهروندان به مزایای هوش مصنوعی باشد. اما همین عبارت ممکن است برای توجیه استفاده از سیستم‌هایی به کار رود که ساختار مدنظر حکومت، بر جامعه تحمیل می‌کند. اگر تعاریف و محدودیت‌های قانونی واضح و مبتنی بر استانداردهای حقوق بشری وجود نداشته باشد و اگر نهادهای مستقلی برای نظارت دقیق بر اجرای آن‌ها نباشند، این اهداف مبهم می‌توانند زمینه ساز  اقداماتی شوند که به حقوق شهروندان آسیب می‌زنند.

تاکید بر «هوشمندسازی» و افزایش کارایی در زمینه قضایی ممکن است منجر به اعمال فشار برای پذیرش سریع سیستم‌های هوش مصنوعی شود، آن هم پیش از آنکه پیامدهای اخلاقی، سوگیری‌ها و تأثیرات آن‌ها بر دادرسی عادلانه در بستر تخصصی حقوقی و اجتماعی ایران به طور کامل بررسی شود.

در «سند تحول قضایی» بر هوشمند‌سازی حداکثری فرایندهای رسیدگی تأکید شده است. هرچند در سطح جهانی بحث‌ها معمولاً بر افزایش کارایی هوش مصنوعی متمرکز است، اما برخی منابع هشدار می‌دهند که این فناوری می‌تواند در پرونده‌های نوظهور یا مواردی که نیازمند قضاوت انسانی و ظرافت حقوقی هستند، با چالش‌های جدی حقوقی و اخلاقی روبه‌رو شود.

همچنین اگر کارایی تنها معیار موفقیت در به‌کارگیری هوش مصنوعی باشد، این خطر وجود دارد که قوه قضاییه ابزارهای هوش مصنوعی را بدون اعتبارسنجی کافی، انطباق با هنجارهای حقوقی ایران (فراتر از کاربرد صرف متون قانونی)، یا در نظر گرفتن سوگیری‌های احتمالی و پیامدهایش بر گروه‌های آسیب‌پذیر، اتخاذ کند. این شتابزدگی می‌تواند سرعت را بر انصاف مقدم بدارد.

برنامه‌هایی مثل توسعه مدل‌های بزرگ چندوجهی و استفاده گسترده از کلان‌داده، اگر بدون یک چارچوب مستقل و قدرتمند برای حفاظت از داده اجرا شوند، می‌توانند تهدیدهای جدی برای حریم خصوصی شهروندان ایجاد کنند.

«سند ملی هوش مصنوعی» به وضوح از هدف  «ایجاد مجموعه داده‌ها و مدل‌های بزرگ» نام برده است و قوه قضاییه نیز در ادامه، با اظهاراتی مانند «قوه قضاییه به عنوان یکی از نهادهای حاکمیتی داده‌های زیادی برای ارائه دارد»، آمادگی خود برای به اشتراک گذاشتن داده‌های گسترده برای توسعه هوش مصنوعی را اعلام کرده است، این موضوع نگرانی درباره حریم خصوصی شهروندان را تشدید می‌کند.

واضح است که داده‌ها برای توسعه و بهبود کارایی هوش مصنوعی حیاتی هستند، اما فقدان قوانین حفاظت از داده دقیق و مستقل به این معناست که «طرح‌های جمع‌آوری و اشتراک‌گذاری داده در مقیاس بزرگ» به راحتی می‌تواند منجر به نقض حریم خصوصی و سوءاستفاده از اطلاعات شخصی  بر شهروندان شوند. «سند تحول قضایی» همچنین به «فراهم‌سازی دسترسی برخط به پایگاه‌های اطلاعاتی مراجع حاکمیتی» اشاره دارد که اگر به دقت کنترل نشود، می‌تواند منجر به تجمیع گسترده داده‌های شهروندان قابل دسترس برای دولت شود. لازم به ذکر است که قانون‌گذاری برای حفاظت از داده پیش از گسترش هوش مصنوعی، یک چالش جهانی است و مختص ایران نیست؛ اما در کشورهایی که رویکرد غالب، نظارتی و امنیتی است، این چالش به بحرانی جدی‌تر و پرخطرتر تبدیل خواهد شد.

هوش مصنوعی در محاکم قضایی: افزایش کارایی در برابر تضعیف دادرسی عادلانه

برای بررسی دقیق‌تر کاربردهای خاص هوش مصنوعی در نظام قضایی ایران، اسناد رسمی بالادستی در این حوزه را مرور می‌کنیم:

• در «سند ملی هوش مصنوعی» به ایده‌هایی مانند «مشاور حقوقی هوشمند» و «دستیار هوشمند قاضی» اشاره شده است.
•  «سند تحول قضایی» و گزارش‌های مرتبط، به هوشمندسازی و الکترونیکی شدن فرآیندها و پرونده‌های قضایی تا استفاده از هوش مصنوعی برای «تشخیص رأی خوب و ضعیف» و «ارزیابی اتقان آرای قضایی» اشاره دارد. در این میان، سامانه «تناد» که حاوی میلیون‌ها تصمیم قضایی است، برای آموزش و ارجاع پرونده‌ها و موضوع «ارجاع کارشناسی به صورت تخصصی و هوشمند» نیز مطرح شده است.

در این بخش مخاطرات قابل توجه هوش مصنوعی در نظام قضایی ایران را در مقابل مزایای بالقوه آن مانند پردازش سریعتر پرونده‌ها و دسترسی آسانتر قضات به سوابق قضایی، ارزیابی می کنیم.

 این مخاطرات عبارتند از:

•  سوگیری الگوریتمی نهفته در سیستم‌هایی که بر روی داده‌های تاریخی بالقوه مغرضانه آموزش دیده‌اند
•  عدم شفافیت در تصمیم‌گیری الگوریتمی («عدالت الگوریتمی»)
• کاهش استقلال قضایی در صورتی که قضات بیش از حد به توصیه‌های هوش مصنوعی متکی شوند یا اگر هوش مصنوعی برای اعمال یکنواختی به شکلی استفاده شود که ابتکار و تشخیص انسانی را سرکوب کند. این نگرانی به‌خصوص در پرونده‌های نوظهور یا مواردی که نیازمند ابتکار عمل و قضاوت شخصی قاضی هستند، برجسته می‌شود
• به خطر افتادن حقوق دادرسی عادلانه اگر متهمان نتوانند شواهد یا توصیه‌های تولید شده توسط هوش مصنوعی را درک کرده یا به چالش بکشند
•   چالش‌های حقوقی و اخلاقی استفاده از هوش مصنوعی در سیستم قضایی

معرفی هوش مصنوعی به‌عنوان «دستیار هوشمند قاضی» یا برای «ارزیابی آرای قضایی» آنطور که در سند ملی هوش مصنوعی اشاره شده، می‌تواند به‌طور تدریجی اقتدار را از قضات انسانی به الگوریتم‌های غیر‌شفاف منتقل کند؛ مخصوصاً اگر فشار نهادی برای تبعیت وجود داشته باشد یا قضات آموزش کافی برای ارزیابی انتقادی نتایج  هوش مصنوعی نداشته باشند. در چنین شرایطی، عدالت ممکن است بدون توجه به ویژگی‌های خاص هر پرونده، به‌صورت ماشینی و استاندارد شده اجرا شود.

اگر سیستم‌های هوش مصنوعی رویکردهای قضایی خاصی را «ضعیف» ارزیابی کنند، قضات ممکن است حتی در مواردی که آن رویکردها مناسب‌اند، از ترس بازخورد منفی، از به‌کارگیری‌ آن‌ها صرف‌نظر کنند. این وضعیت به «سوگیری اتوماسیون» منجر می‌شود؛ یعنی جایی که قضاوت و تصمیم انسانی به ماشین واگذار می‌شود. در چنین حالتی، اگر استدلال هوش مصنوعی ناقص یا مغرضانه باشد، نتیجه می‌تواند ناعادلانه شود و استقلال قاضی در ارزیابی را تضعیف کند.

در حالی که سیستم‌هایی مانند «سامانه تناد» با هدف ارائه «۱۱۰ میلیون تصمیم قضایی به عنوان داده» برای آموزش هوش مصنوعی و آموزش قضایی ایجاد شده‌اند، این حجم عظیم داده، بدون گزینش دقیق برای رعایت انصاف، انطباق با هنجارهای حقوق بشری، یا حذف سوابق مغرضانه، می‌تواند به تقویت و تداوم سوگیری‌های سیستمی موجود در نظام عدالت منجر شود.

مدل‌های هوش مصنوعی از داده‌هایی که به آن‌ها خورانده می‌شود، یاد می‌گیرند. اگر این ۱۱۰ میلیون تصمیم قضایی «سامانه تناد»، منعکس‌کننده سوگیری‌های گذشته باشند (مثلاً الگوهای تبعیض‌آمیز در صدور احکام، اعمال مغرضانه قوانین خاص)، هوش مصنوعی این سوگیری‌ها را یاد گرفته و تکرار خواهد کرد. نظام قضایی ایران، مانند هر نظام دیگری، از سوگیری مصون نیست. بدون یک فرآیند شفاف برای ممیزی این مجموعه داده گسترده از نظر سوگیری‌ها قبل از استفاده برای آموزش هوش مصنوعی، ابزارهای هوش مصنوعی حاصل می‌توانند به طور سیستماتیک گروه‌های خاصی را در معرض آسیب قرار داده یا تفاسیر ناعادلانه از قانون را تداوم بخشند. درباره هدف «تشخیص رأی خوب و ضعیف» هم اگر تعریف «خوب» بر اساس داده‌های تاریخی مغرضانه باشد، مشکل‌ساز می‌شود.

در «سند تحول قضایی» صراحتاً به هدف حذف مداخلات انسانی در ارجاع و ارائه نظرات کارشناسی تأکید شده است. چنین رویکردی شاید  سرعت را افزایش دهد، اما خطر از دست رفتن «کارایی» و «درک زمینه‌ای و توانایی انتخاب کارشناسان بر اساس نیازهای خاص و ظریف هر پرونده» را به همراه دارد. چیزی که یک الگوریتم ممکن است نادیده بگیرد. در نتیجه، کیفیت و نقش شهادت کارشناسی می‌تواند آسیب ببیند. هرچند مداخله انسانی گاهی با سوگیری یا ناکارآمدی همراه است، اما همین مداخله می‌تواند نقشی قابل توجه در قضاوت دقیق‌تر فراهم کند.

به عنوان مثال، بررسی‌های یک کارشناس پزشکی قانونی تنها به تخصص عمومی او محدود نمی‌شود؛ تجربه او در نوع خاصی از شواهد یا درک ظریف از شرایط محلی هم اهمیت دارد. یک سیستم خودکار ممکن است صرفاً بر سرعت یا دسترسی تکیه کند و این ظرافت‌ها را نادیده بگیرد. همین مثال ساده نشان می‌دهد نقش کارشناسان درست چه تاثیری بر نتیجه پرونده‌های قضایی دارد. 

نظارت و کنترل مبتنی بر هوش مصنوعی در ایران

در این بخش به سراغ استفاده از هوش مصنوعی برای نظارت و کنترل اجتماعی به عنوان یک نگرانی مهم در حوزه حقوق بشر می‌پردازیم. گزارش «رکوردد فیوچر» با اشاره به پتانسیل هوش مصنوعی برای «تقویت عملیات سایبری و نفوذ» در کنار استفاده از آن در «سرکوب داخلی»، می‌گوید: «ایران احتمالاً تلاش‌های خود را برای استفاده از هوش مصنوعی در زمینه اجرای قوانین اخلاقی و نظارت بر مخالفان افزایش داده است تا کنترل خود را بر جامعه ایران... تقویت کند».

توسعه مدل‌های بزرگ زبانی و قابلیت‌های ترکیب و یکپارچه‌سازی داده‌ها می‌توانند امکان نظارت پیچیده‌تر بر ارتباطات و گفت‌وگوهای عمومی را فراهم کنند.

تأثیر بر حقوق اساسی مردم شامل موارد زیر است:

• حریم خصوصی: نظارت گسترده، جمع‌آوری داده‌ها بدون رضایت
• آزادی بیان: اثرات بازدارنده، خودسانسوری به دلیل ترس از نظارت، سانسور خودکار
• آزادی اجتماعات و تشکل‌ها: نظارت بر فعالان، سازمان‌دهندگان و شرکت‌کنندگان در اعتراضات
• عدم تبعیض: پتانسیل استفاده از هوش مصنوعی برای هدف قرار دادن گروه‌های قومی یا مذهبی خاص، یا مخالفان سیاسی.

در این میان، نقش قوه قضاییه در مشروعیت بخشیدن و استفاده از داده‌های چنین سیستم‌های نظارتی، را هم نمی‌توان نادیده گرفت. در «سند تحول قضایی» به صراحت بر هدف فراهم کردن «دسترسی برخط به پایگاه‌های اطلاعاتی مراجع حاکمیتی» تأکید شده است.

علاوه بر وجود فناوری‌های نظارتی مبتنی بر هوش مصنوعی،‌ نظام حقوقی و سیاسی ایران یک بستر قانونی از پیش تدوین شده برای دخالت گسترده دولت در زندگی خصوصی مردم را فراهم کرده است. بنابراین همگرایی این دو، تهدید نظارت و سرکوب را دو چندان می‌کند؛ هوش مصنوعی، قابلیت‌های نظارتی را افزایش می‌دهد و پشتوانه‌های قانونی، آن‌ها را به یک سیستم کنترل فراگیرتر و پیشگیرانه‌تر تبدیل می‌کند.

قابلیت‌های هوش مصنوعی مانند تشخیص چهره، تحلیل صدا و نظارت بر رسانه‌های اجتماعی، هنگامی که با پایگاه‌های جامع داده‌های دولتی (که با طرح‌هایی مانند دسترسی بین‌نهادی به داده‌ها تسهیل می‌شود) یکپارچه شوند، می‌توانند یک دستگاه نظارتی بسیار قدرتمندتر از روش‌های سنتی ایجاد کنند. این امر فراتر از نظارت واکنشی بوده و به طور بالقوه به گسترش فضای امنیتی «پیش‌بینی‌کننده» یا «شناسایی پیشگیرانه» مخالفان منجر می‌شود، که اساساً رابطه بین شهروند و دولت را تغییر داده و آزادی‌های اساسی را به شدت محدود می‌کند.

گزارش «رکوردد فیوچر» به تلاش ایران برای  دستیابی به «مدل هوش مصنوعی مستقل» و یک «مدل زبان بومی بزرگ ایرانی» اشاره دارد. منابع دیگر نیز  به تمرکز جمهوری اسلامی  برای توسعه پلتفرم‌های بومی تاکید می‌کنند. این تلاش‌ها که از آن‌ها به عنوان دستاوردهای «استقلال فناورانه» یاد می‌شود، در عمل به دولت امکان می‌دهند کنترل بیشتری بر الگوریتم‌ها و داده‌ها داشته باشد. از سوی دیگر موجب می‌شود شهروندان نتوانند به‌راحتی عملکرد این سیستم‌ها را بررسی کنند یا به چالش بکشند. در واقع سیستم‌های هوش مصنوعی که به‌طور بومی و تحت کنترل دولت‌ها توسعه می‌یابند، می‌توانند با قابلیت‌هایی مثل درهای پشتی (میانبرهایی برای دسترسی ویژه) یا ابزارهای ویژه نظارت ساخته شوند، بدون آنکه شفافیتی درباره نحوه کارکرد یا پردازش داده‌ها وجود داشته باشد. همین موضوع، پاسخگو نگه داشتن این سیستم‌ها را بسیار دشوار می‌کند.

عادی‌سازی هوش مصنوعی در خدمات دولتی روزمره مانند «دستیار هوش مصنوعی اربعین» که گزارش «رکوردد فیوچر» هم به آن اشاره کرده است، می‌تواند حساسیت عمومی را نسبت به حضور این فناوری و جمع‌آوری داده‌ها کاهش دهد. وقتی شهروندان به استفاده از هوش مصنوعی برای خدمات روزمره عادت کنند، احتمالاً کمتر به جمع‌آوری داده‌هایشان یا به کارگیری همان فناوری‌های زیربنایی برای اهداف دیگر (مثلا نظارت و کنترل‌گری) اعتراض خواهند کرد. این روند نمونه‌ای از «تغییر پنهانی یا تدریجی کاربری» (Functional Creep) در فناوری‌های نظارتی است؛ سیستمی که ابتدا با ظاهری امن و عادی و با هدفی مانند حفظ امنیت یا تسهیل خدمات عمومی معرفی می‌شود، به‌تدریج می‌تواند برای مقاصد دیگر و حتی ناقض حقوق افراد گسترش یابد.

هوش مصنوعی در تحول قوه قضاییه ایران

سند تحول قضایی: ماموریت نوسازی

«سند تحول قضایی» که در ۳۰ آذر ۱۳۹۹ توسط رییس قوه قضاییه تدوین و ابلاغ شد، بر استفاده حداکثری از هوش مصنوعی تاکید دارد؛ از جمله «دستیار هوشمند قضایی» برای دسترسی یکپارچه قضات به قوانین و سوابق و تهیه پیش‌نویس دادنامه و «بهره‌گیری حداکثری از هوش مصنوعی در ارائه برخی نظریات کارشناسی». در فروردین ماه ۱۴۰۳ این سند به روزرسانی شد و مواردی که به طور کامل اجرا شده بودند از نسخه جدید حذف و مواردی که اجرای کامل نیافته بودند، اصلاح و ابقا شدند.

طبق متن سند، تحول قضایی باید به «دستیابی به عدالت» و «افزایش رضایت مردم» منجر شود و بر موضوعاتی چون مقابله با فساد و تحقق کارآمدی تاکید ویژه‌ای دارد. برای درک بهتر سابقه این تلاش‌ها، می‌توان به «برنامه پنج ساله توسعه قوه قضاییه (۱۳۹۰-۱۳۹۴)» نیز اشاره کرد که اهدافی چون رفع اطاله دادرسی و ارتقای کیفیت آرای صادر شده را دنبال می‌کرد و نشان‌دهنده دغدغه‌های دیرینه این قوه برای بهبود عملکرد است. اخیراً نیز «دستورالعمل هوشمند سازی و الکترونیکی شدن فرآیندها و پرونده‌های قضائی» در تاریخ ۲۷ خرداد ۱۴۰۳ به تصویب رییس قوه قضاییه رسید که پشتوانه قانونی جدیدی برای این تغییرات فراهم می‌کند.

بنابراین جمهوری اسلامی به‌موازات چندین برنامه و دستورالعمل، تلاش کرده قوه قضائیه را متناسب با ظرفیت‌های فناورانه و نیازهای جامعه به‌روز نگه دارد؛ اما وقتی این به‌روزرسانی‌های مکرر بدون شاخص‌های سنجش شفاف، گزارش‌دهی عمومی و سازوکار مشخص پاسخ‌گویی پیش برود، نه جلوی خطاها را می‌گیرد و نه کیفیت اجرا را تضمین می‌کند؛ فقط چرخهٔ آزمون‌وخطا را طولانی‌تر می‌کند. در چنین شرایطی، هدف‌های اولیه با سنجه‌های ساده‌تر جایگزین می‌شوند و کاستی‌ها پشت ساده‌سازی شاخص‌ها پنهان می‌مانند. مثلاً در حالی‌که «دستیابی به عدالت» و «افزایش رضایت مردم» هدف اعلامی است، در عمل ممکن است افزایشِ تعداد پیش‌نویس‌های تولید شده توسط «دستیار هوشمند قضایی» به‌عنوان موفقیت گزارش شود؛ رویکردی که شاید سرعت را بالا ببرد، اما کیفیت آراء و تضمین حق اعتراض سنجیده نمی‌شود. 

همچنین، نباید فراموش کرد که روش‌های هوشمندسازی، از اتوماسیون تا داده‌محوری، به‌طور ذاتی دامنهٔ نظارت و کنترل دولت را گسترش می‌دهد؛ یعنی در کنار هدفِ بهبود خدمات، توان رصد و پایش فعالیت‌های اجتماعی و قضایی نیز تقویت می‌شود.

ابزارها و سامانه‌های قضایی مبتنی بر هوش مصنوعی: کاربردهای خاص

قوه قضاییه ایران به طور فعال در حال توسعه و به‌کارگیری طیف وسیعی از ابزارهای مبتنی بر هوش مصنوعی با هدف بهبود جنبه‌های مختلف فرایند قضایی است. از جمله:

• شناسایی هوشمند آرای متعارض و قوانین و مقررات مبهم: از طریق داده‌کاوی اطلاعات «سامانه مدیریت پرونده» و ایجاد «سامانه آرای متعارض» با هدف افزایش «صدور آرای وحدت رویه».
• ارجاع هوشمند و تخصصی امور کارشناسی: حذف مداخلات انسانی در ارجاع پرونده‌ها به کارشناسان و دریافت سیستمی نظرات کارشناسی.
• هوشمندسازی حداکثری فرایندهای رسیدگی: شامل پذیرش، تشکیل پرونده، پرداخت هزینه دادرسی، و ارسال و ارجاع پرونده‌های قضایی به صورت تخصصی، سامانه‌ای و هوشمند.
• شناسایی برخط دارایی محکومان: فراهم‌سازی دسترسی برخط به پایگاه‌های اطلاعاتی مراجع حاکمیتی برای شناسایی اموال منقول و غیرمنقول محکومان.
• سامانه تناد (تحلیل و نقد آرای دادگاه‌ها): این سامانه حاوی بیش از ۱۱۰ میلیون تصمیم قضایی است و برای آموزش قضات جدید و همچنین استفاده در دیوان عالی کشور کاربرد دارد. پژوهشگاه قوه قضاییه نیز کارگاه‌هایی در زمینه کاربرد هوش مصنوعی در قضاوت برگزار می‌کند.
• ارزیابی کیفیت آرا در دیوان عالی کشور: دیوان عالی کشور از هوش مصنوعی برای تشخیص آرای خوب و ضعیف و همچنین برای نظارت بر محاکم استفاده می‌کند.
• اولویت‌های سند ملی هوش مصنوعی برای بخش قضایی: این سند نیز بر توسعه «مشاور حقوقی هوشمند برای ارائه خدمات به عموم مردم»، «دستیار هوشمند قاضی»، «تدوین و تحلیل محتوای اسناد، قراردادها و احکام قضایی و تشخیص ناسازگاری‌ها» و «تنقیح قوانین و مقررات» تاکید دارد.
• به اشتراک‌گذاری داده‌های قضایی: مرکز آمار و فناوری اطلاعات قوه قضاییه آمادگی خود را برای به اشتراک‌گذاری داده‌ها به منظور توسعه هوش مصنوعی اعلام کرده است.

تلاش برای «حذف مداخلات انسانی» در فرایندهایی مانند ارجاع به کارشناس و اتوماسیون حداکثری امور رسیدگی، با هدف کاهش فساد و سوگیری انجام می‌شود. با این حال، این رویکرد ضمن متمرکز کردن کنترل، ممکن است ظرافت‌ها و ملاحظات انسانی را که به ویژه در پرونده‌های پیچیده ضروری هستند، نادیده بگیرد. همانطور که در برخی تحلیل‌ها نیز مطرح شده، هوش مصنوعی، به ویژه یادگیری ماشین، در مواجهه با پرونده‌های جدید و فاقد سابقه که نیازمند صلاحدید و خلاقیت قضایی هستند، با محدودیت‌هایی روبروست.

پیشرفت و وضعیت اجرای طرح‌های هوش مصنوعی قضایی

گزارش‌های موجود حاکی از پیشرفت ملموس در دیجیتالی‌سازی و اتوماسیون بخش‌هایی از نظام قضایی ایران است:

• فرایند شناسایی اموال محکومان برای اجرای احکام، در حال حاضر ۴ دقیقه به طول می‌انجامد.
• سامانه «تناد» عملیاتی شده و برای آموزش قضات و توسط دیوان عالی کشور مورد استفاده قرار می‌گیرد.
• ارائه خدمات الکترونیکی به وکلا، مراجعات حضوری آنان را تا ۵۰ درصد کاهش داده است.
• بیش از ۸۵ درصد زندانیان به صورت الکترونیکی در جلسات دادرسی شرکت می‌کنند.
• صدور گواهی عدم سوء پیشینه به صورت الکترونیکی افزایش چشمگیری داشته است؛ به طوری که در ۱۰ ماهه سال ۱۴۰۳ (تا پایان دی‌ماه)، حدود دو میلیون و هفتصد هزار گواهی صادر شده که بخش قابل توجهی از آن به صورت خودکار بوده است.
• مرکز آمار و فناوری اطلاعات قوه قضاییه با ۸ شرکت خصوصی در زمینه احراز هویت برخط و با ۳ شرکت در زمینه دادرسی الکترونیک همکاری می‌کند.
• روزآمدسازی سند تحول قضایی در سال ۱۴۰۳ و حذف موارد تکمیل‌شده و اصلاح موارد در حال اجرا، نشان‌دهنده پویایی و پیگیری اجرای این سند است.

یکی از موضوعات چالش برانگیز در این فرآیند، مدل همکاری مرکز آمار و فناوری اطلاعات قوه قضاییه با  شرکت‌های خصوصی منتخب برای ارائه خدمات خاص است. مدلی که در آن هم بتوان از توان فنی و دانش تخصصی شرکت‌ها بهره برد و هم اطلاعات و امنیت داده‌ها در دست شرکت‌ها را مدیریت کرد.

 محمد کاظمی فرد، رییس مرکز آمار و فناوری اطلاعات قوه قضائیه در این باره ادعا کرده است: «اطلاعات نزد ما حریم خصوصی افراد است و بانک اطلاعاتی اشخاص نباید نزد شرکت‌ها وجود داشته باشد. بنابراین ما کاری که کردیم این بود که شرکت‌ها فقط احراز هویت را انجام می‌دهند اما نمی‌دانند متقاضی احراز هویت چه کسی است. فقط عکس و فیلم را تأیید می‌کنند». 

چالش‌های اخلاقی، حقوقی و عملی در پیاده‌سازی هوش مصنوعی به ویژه در قوه قضاییه

پیاده‌سازی هوش مصنوعی، به ویژه در نظام قضایی، با چالش‌های پیچیده‌ای همراه است:

• سوگیری الگوریتمی، شفافیت و پاسخگویی: این موارد از نگرانی‌های عمومی در استفاده از هوش مصنوعی در نظام عدالت هستند.
• چالش‌های حقوقی و اخلاقی: استفاده از هوش مصنوعی در سیستم قضایی، پرسش‌های بنیادین حقوقی و اخلاقی را مطرح می‌کند.
• محدودیت در رسیدگی به پرونده‌های جدید (فاقد سابقه): هوش مصنوعی، به ویژه یادگیری ماشین، برای رسیدگی به پرونده‌هایی که نیازمند صلاحدید قضایی، خلاقیت و درک هنجارهای اجتماعی در حال تحول هستند، به داده‌های گذشته متکی است. این چالش در نظام حقوقی ایران که (مانند بسیاری نظام‌های دیگر) بر تفسیر و تطبیق قضایی، به ویژه در مواردی که قوانین قدیمی یا مبتنی بر اصول کلی هستند، استوار است، چالش‌برانگیز خواهد بود. اتکای بیش از حد به هوش مصنوعی آموزش‌دیده بر اساس داده‌های گذشته می‌تواند مانع تحول حقوقی شده یا منجر به نتایج ناعادلانه در موقعیت‌های بی‌سابقه شود. اصل ۱۶۷ قانون اساسی ایران و ماده ۳ قانون آیین دادرسی مدنی که قضات را در صورت سکوت یا نقص قانون به منابع معتبر اسلامی یا فتاوی معتبر و اصول حقوقی ارجاع می‌دهند، نمونه‌ای از این نیاز به استنباط و خلاقیت قضایی است که فراتر از توانایی‌های فعلی هوش مصنوعی است.
• نگرانی‌های مربوط به حریم خصوصی داده‌ها: حتی زمانی که قوه قضاییه داده‌ها را تحت شرایط کنترل‌شده با نهادهای خصوصی به اشتراک می‌گذارد، نگرانی‌هایی در مورد حفظ حریم خصوصی افراد وجود دارد.

این چالش‌ها نشان می‌دهد که فراتر از موانع فنی و منابع، پیاده‌سازی مؤثر و عادلانه هوش مصنوعی نیازمند توجه دقیق به مسائل پیچیده اخلاقی و حقوقی است.

بخش اول گزارش را اینجا بخوانید.