به گزارش مشرق، مجموعه‌ای عملی از اصول هوش مصنوعی، سنگ‌بنای توسعه اخلاقی و مسئولانه هوش مصنوعی را تشکیل می‌دهد. این اصول نه‌تنها برای ایجاد اعتماد عمومی و تضمین پاسخگویی سازمانی ضروری هستند، بلکه برای تقویت نوآوری فراگیر که به نفع شهروندان، مشاغل و دولت‌هاست نیز اهمیت دارند.

با تکامل چهارچوب‌های نظارتی جهانی، مانند قانون هوش مصنوعی اتحادیه اروپا که در سال ۲۰۲۴ تصویب شد و مبتنی بر دستورالعمل‌های اخلاقی کمیسیون اروپا برای هوش مصنوعی قابل اعتماد است، حاکمیت مبتنی بر اصول به عنوان رویکرد اساسی نظارت بر هوش مصنوعی ظهور کرده است.

امارات با استراتژی هوش مصنوعی ۲۰۳۱ و انتشار منشور هوش مصنوعی امارات برای توسعه و استفاده از هوش مصنوعی تمایل خود به رهبری منطقه‌ای و البته جهانی را نشانه رفته است. این منشور، ۱۲ اصل کلیدی را برای اطمینان از استقرار ایمن، عادلانه و شفاف هوش مصنوعی بیان می‌کند.

این گزارش تفسیر دقیقی از هر یک از ۱۲ اصل منشور هوش مصنوعی امارات، توصیه‌های عملی برای پیاده‌سازی در چرخه عمر هوش مصنوعی، مطابق با چهارچوب هوش مصنوعی، بینش‌های عملی برای پشتیبانی از حاکمیت هوش مصنوعی، مدیریت ریسک و هم‌سویی با مقررات و طرحی برای ساخت سیستم‌های هوش مصنوعی مقاوم و انسان‌محور در راستای اولویت‌های ملی امارات ارائه می‌دهد.

۱- تقویت روابط انسان و ماشین

امارات قصد دارد رابطه هماهنگ و سودمند بین هوش مصنوعی و انسان‌ها را تقویت کرده و اطمینان حاصل کند تمام پیشرفت‌های هوش مصنوعی، رفاه و پیشرفت انسان را در اولویت قرار می‌دهد.

این اصل با هدف اطمینان از این موضوع طرح شده که سیستم‌های هوش مصنوعی قابلیت‌های انسانی را تقویت کرده و با ایجاد راه‌حل‌های هوشمندانه‌تر به انسان‌ها این امکان را می‌دهد که از پتانسیل خود فراتر روند.

در توسعه مدل هوش مصنوعی سیستم‌های هوش مصنوعی باید به‌گونه‌ای توسعه یابند که قابلیت‌های انسانی بدون جایگزینی تصمیم‌گیری انسانی، افزایش یابند. در این مسیر، باید مدل‌هایی ایجاد شود که به انسان‌ها در درک راحت و همکاری با سیستم‌های AI کمک می‌کند. از دیگر موارد، کاهش سوگیری است به‌طوری‌که مدل‌های هوش مصنوعی عاری از سوگیر بوده که به پیشرفت انسان آسیب وارد می‌کند.

در ارزیابی‌هایی که روی این اصل صورت می‌گیرد، باید اثرات مثبت و منفی سیستم‌های هوش مصنوعی توسعه‌یافته بر رفاه انسان موردبررسی قرار گیرد. این اصل بر همکاری مداوم تأکید دارد به‌طوری‌که حفظ همکاری فعال با کاربران انسانی و ذی‌نفعان برای اطمینان از تداوم استقرار سیستم‌های هوش مصنوعی و پیشرفت انسانی را افزایش می‌دهند.

۲- ایمنی

امارات اهمیت زیادی برای ایمنی قائل است و تضمین می‌کند تمام سیستم‌های هوش مصنوعی با بالاترین استانداردهای ایمنی مطابقت دارند. ایمنی هوش مصنوعی به تضمین عملکرد سیستم‌های هوش مصنوعی طبق برنامه، بدون آسیب به افراد، مشاغل یا جامعه اشاره دارد که شامل استحکام فنی، کاهش خطر و گنجاندن روش‌های ایمن‌سازی برای جلوگیری یا رفع عواقب یا خرابی‌های ناخواسته است.

قانون هوش مصنوعی اتحادیه اروپا با الزامی کردن استانداردهای ایمنی سخت‌گیرانه برای برنامه‌های کاربردی هوش مصنوعی پرخطر، این رویکرد را نشان می‌دهد. در فعال‌سازی داده، بررسی یکپارچگی داده‌ها اهمیت می‌یابد. علاوه بر این، تشخیص سوگیری و ناهنجاری نیز از دیگر مزیت‌های فعال‌سازی داده‌ها در هوش مصنوعی به شمار می‌رود.

همچنین داده‌های شبیه‌سازی و تست استرس باید مدل‌های هوش مصنوعی را در سناریوهای متنوع، از جمله آموزش داده تا پایداری آن‌ها در برنامه‌های دنیای واقعی آموزش دهند. همچنین آزمایش موارد خاص شامل عملکرد هوش مصنوعی در شرایط بحرانی مانند عدم شفافیت خودروهای خودران یا نوسانات غیرقابل‌پیش‌بینی بازار در امور مالی عمل می‌کند.

همچنین در استقرار و نظارت باید به طور مداوم ایمنی سیستم‌های هوش مصنوعی موردبررسی قرار گیرد تا ناهنجاری‌ها یا خرابی‌ها شناسایی شوند.

۳- سوگیری الگوریتمی

امارات قصد دارد چالش‌های ناشی از الگوریتم‌های هوش مصنوعی از جنس سوگیری را برطرف کرده و به ایجاد فضایی عادلانه برای اعضای جامعه کمک کند. این امر توسعه مسئولانه فناوری‌های هوش مصنوعی را ارتقا داده و آن‌ها را برای همه، فراگیر و در دسترس قرار می‌دهد. این اصل از تنوع حمایت کرده و به تفاوت‌های فردی احترام می‌گذارد.

در عمل، سوگیری الگوریتمی زمانی رخ می‌دهد که سیستم‌های هوش مصنوعی تصمیم‌هایی می‌گیرند که ناخواسته بر اساس عواملی چون جنسیت، قومیت، سن یا وضعیت اجتماعی - اقتصادی، به نفع یا به ضرر گروه‌های خاصی تمام می‌شود. این امر می‌تواند ناشی از داده‌های آموزشی مغرضانه، فرضیات مدل ناقص یا عدم وجود تنوع در فرایند توسعه باشد.

پرداختن به سوگیری برای ایجاد اعتماد و کاهش خطرات مالی، حقوقی و اعتباری اهمیت بالایی دارد. در فرایند فعال‌سازی داده باید اطمینان داد که مجموعه داده‌ها به طور دقیق نمایانگر جمعیت‌های متنوع باشند، به‌ویژه در زمینه‌هایی مانند استخدام، مراقبت‌های بهداشتی و امور مالی باشند. در ارزیابی و به‌کارگیری این اصل باید به طور مداوم عملکرد سیستم‌های هوش مصنوعی را برای اطمینان از هم‌سو بودن با چهارچوب حاکمیتی موردبررسی قرار دهد.

۴- حریم خصوصی داده‌ها

مطابق با موضع امارات در مورد حقوق حریم خصوصی، درحالی‌که داده‌ها برای توسعه هوش مصنوعی ضروری‌اند، حمایت و ترویج نوآوری در هوش مصنوعی و حریم خصوصی اعضای جامعه همچنان در اولویت اصلی قرار دارد. حریم خصوصی داده‌ها در هوش مصنوعی به حفاظت از اطلاعات شخصی و حساس در طول چرخه حیات هوش مصنوعی اشاره دارد که از جمع‌آوری و ذخیره‌سازی داده‌ها گرفته تا آموزش و استقرار مدل را در برمی‌گیرد.

ازآنجایی‌که مدل‌های هوش مصنوعی به مجموعه‌داده‌های گسترده وابسته هستند، سازمان‌ها باید اطمینان حاصل کنند داده‌های افراد محرمانه باقی می‌مانند و با شفافیت و رضایت، مسئولانه مورداستفاده قرار می‌گیرند. عدم محافظت از حریم خصوصی می‌تواند منجر به مجازات‌های نظارتی، آسیب به اعتبار و فرسایش اعتماد عمومی شود که ممکن است تلاش‌های بلندمدت نوآوری را تضعیف کنند.

در فعال‌سازی داده، بهتر است مجموعه‌داده‌های شخصی محدود شده و در صورت امکان ناشناس باقی بمانند. در تست و ارزیابی این اصل، ابتدا باید اعتبارسنجی کرد که مدل‌ها به طور سهوی داده‌های حساس را فاش نکرده باشند. همچنین، تست استرس حریم خصوصی نیز به‌گونه‌ای انجام می‌شود که سناریوهای احتمالی نقض حریم خصوصی را شبیه‌سازی کند.

۵- شفافیت

امارات به دنبال ایجاد درک بالایی از هوش مصنوعی و چگونگی عملکرد و تصمیم‌گیری سیستم‌هاست که به ایجاد اعتماد، افزایش مسئولیت‌پذیری و ارتقای پاسخگویی در استفاده از این فناوری‌ها کمک می‌کند. برای اطمینان از شفافیت هوش مصنوعی کسب‌وکارها باید مدل‌های هوش مصنوعی را اتخاذ و مستندات واضحی را حفظ و مکانیسم‌های افشای مسئولانه را در سراسر چرخه عمر هوش مصنوعی تعبیه کنند.

با ادغام بهترین شیوه‌ها در یک چهارچوب قوی حاکمیت هوش مصنوعی، سازمان‌ها می‌توانند با اصل شفافیت امارات هم‌سو شده و درعین‌حال اعتماد و اطمینان را در تصمیم‌های مبتنی بر هوش مصنوعی تقویت کنند.

در فعال‌سازی داده، ردیابی منشأ داده‌ها، سوابق منابع داده را نگه‌داری کرده و اطمینان ایجاد می‌کند که داده‌های آموزشی قابل‌ردیابی و حسابرسی باشند. همچنین، قابلیت تفسیر داده‌ها نیز فرایند دیگری است که اطمینان حاصل می‌کند داده‌های ورودی به‌کاررفته توسط مدل‌های هوش مصنوعی قابل‌فهم و مستندسازی‌شده باشند، بنابراین ذی‌نفعان می‌توانند چگونگی تأثیر داده‌ها بر تصمیم‌های هوش مصنوعی را ردیابی کنند. در توسعه مدل، هوش مصنوعی قابل‌توضیح (XAI)، در صورت امکان باید از مدل‌های قابل تفسیری استفاده یا روش‌هایی را پیاده‌سازی کرد.

۶- نظارت انسانی

این منشور بر ارزش قضاوت و نظارت انسانی بر هوش مصنوعی تأکید داشته و آن را با ارزش‌های اخلاقی و استانداردهای اجتماعی همسو می‌کند تا ایجاد هرگونه خطا یا سوگیری را اصلاح کند. نظارت انسانی تضمین می‌کند سیستم‌های هوش مصنوعی صرفاً مسئول تصمیم‌گیری نیستند، بلکه انسان‌ها، به‌ویژه در موقعیت‌های پرخطر، کنترل امور را در دست دارند.

درحالی‌که هوش مصنوعی می‌تواند در پردازش حجم زیادی از داده‌ها و تصمیم‌گیری بر اساس الگوها کمک کند، قضاوت انسانی برای اطمینان از این موضوع ضروری است که این تصمیم‌ها از نظر اخلاقی صحیح، بی‌طرفانه و هم‌سو با ارزش‌های اجتماعی‌اند. سازمان‌ها برای اطمینان از نظارت مؤثر انسانی باید سازوکارهایی را در مدیریت هوش مصنوعی بگنجانند تا امکان مداخله و قضاوت انسانی را فراهم کند.

این شامل ساخت سیستم‌هایی است که به ناظران انسانی اجازه می‌دهد به‌راحتی تصمیم‌های هوش مصنوعی را نظارت، لغو یا تنظیم کنند، به‌ویژه در شرایطی که تصمیم‌ها می‌توانند پیامدهای اجتماعی یا اخلاقی قابل‌توجهی داشته باشند. اتخاذ این شیوه‌ها هم‌سو با اصل نظارت انسانی در امارات و نیز طبق استانداردهای بین‌المللی، مانند قانون هوش مصنوعی اتحادیه اروپاست که بر اهمیت مداخله انسانی، به‌ویژه در کاربردهای پرخطر هوش مصنوعی تأکید می‌کند.

۷- حاکمیت و پاسخگویی

امارات موضعی مسئولانه و پیشگیرانه اتخاذ کرده و بر اهمیت حاکمیت و پاسخگویی در هوش مصنوعی تأکید دارد تا از استفاده اخلاقی و شفاف این فناوری اطمینان حاصل شود. حاکمیت و مسئولیت‌پذیری در هوش مصنوعی به برقراری نظارت و اطمینان از تصمیم‌گیری مسئولانه و حفظ شفافیت در چرخه حیات هوش مصنوعی کمک می‌کند.

حاکمیت و پاسخگویی در هوش مصنوعی به ایجاد نظارت شفاف، تضمین تصمیم‌گیری مسئولانه و حفظ شفافیت در طول چرخه حیات هوش مصنوعی اشاره دارد. این شامل تعریف نقش‌ها و مسئولیت‌ها، تعیین سیاست‌های روشن و اجرای سازوکارهایی برای نظارت، حسابرسی و گزارش‌دهی است. مجهز نبودن سیستم‌های هوش مصنوعی به حاکمیت قوی، باعث بروز پیامدهای ناخواسته‌ای مانند تبعیض، اقدامات ناعادلانه یا نقض اعتماد عمومی می‌شود.

برای ادغام مؤثر حاکمیت و پاسخگویی در سیستم‌های هوش مصنوعی، سازمان‌های اماراتی باید چهارچوب‌های جامعی را توسعه دهند که نقش‌ها، مسئولیت‌ها و فرایندهای تصمیم‌گیری را در کل چرخه عمر هوش مصنوعی تعریف کند. باتکیه‌بر استانداردهای جهانی؛ مانند قانون هوش مصنوعی اتحادیه اروپا که اهمیت نهادهای نظارتی و سازوکارهای نظارتی را برجسته می‌کند، سازمان‌ها قادرند ساختارهای حاکمیتی مشابهی را برای تضمین پاسخگویی و ترویج استفاده اخلاقی از فناوری‌های هوش مصنوعی ایجاد کنند.

۸- برتری فناوری

هوش مصنوعی باید چراغ راه نوآوری و منعکس‌کننده دیدگاه امارات در مورد برتری دیجیتال، فناوری و علمی باشد. این کشور با اتخاذ برتری فناوری در هوش مصنوعی، به دنبال رهبری جهانی است تا نوآوری را هدایت کرده، رقابت را افزایش داده و کیفیت زندگی را از طریق راه‌حل‌های نوآورانه و مؤثر برای چالش‌های پیچیده بهبود بخشد و به پیشرفت پایدار که به نفع کل جامعه است، کمک کند.

برای گنجاندن برتری فناورانه در سیستم‌های هوش مصنوعی سازمان‌ها باید نوآوری، تحقیق‌وتوسعه مداوم را در اولویت قرار دهند. فضایی که به ترغیب برای آزمایش و تکرار سریع کمک می‌کند، پیشرفت‌ها را هدایت می‌کند، اما باید با ارزیابی‌های قوی، خطر هوش مصنوعی و غیره پشتیبانی شود. این سازوکارها سازمان‌ها را قادر می‌سازد تا با اطمینان نوآوری کنند و درعین‌حال به طور فعال خطرات بالقوه را از طریق محافظ‌های تعریف‌شده شناسایی، مدیریت و کاهش دهند.

هوش مصنوعی عامل‌محور باید منعکس‌کننده استانداردهای پیشرو در معماری مدل، قابلیت همکاری و انعطاف‌پذیری باشد. تنظیم مداوم مدل، آزمایش سناریو و سنجش عملکرد حیاتی‌اند. از محیط‌های شبیه‌سازی پیشرفته برای مدل‌سازی رفتار پیچیده عامل استفاده می‌شود.

۹- تعهد انسانی

تعهد انسانی در هوش مصنوعی، منعکس‌کننده روحیه امارات است که برای اطمینان از توسعه این فناوری در خدمت منافع عمومی ضروری است. این تعهد بر افزایش رفاه انسان و حفاظت از حقوق اساسی تمرکز داشته و بر اهمیت قراردادن ارزش‌های انسانی در قلب نوآوری‌های فناورانه برای تضمین تأثیر مثبت و پایدار بر جامعه تأکید می‌کند.

تعهد انسانی در هوش مصنوعی بر لزوم طراحی و استقرار سیستم‌های هوش مصنوعی تأکید دارد که رفاه و حقوق بشر را در اولویت قرار داده و با ارزش‌های اصلی و اصول فرهنگی امارات متحده عربی هم‌سو است. این اصل از ایجاد فناوری‌های هوش مصنوعی حمایت می‌کند که در خدمت منافع اجتماعی بوده و درعین‌حال از آزادی و کرامت فردی محافظت می‌کنند.

تمرکز امارات بر تعهد انسانی تضمین می‌کند که نوآوری‌های هوش مصنوعی به نفع همه مردم باشد و راه‌حل‌هایی ایجاد کند که شایستگی‌های اجتماعی را ارتقا داده و از آزادی‌های اساسی محافظت کند.

برای ادغام تعهد انسانی در فرایند توسعه هوش مصنوعی، رفاه کاربران و جامعه در اولویت قرار می‌گیرند. باید اطمینان حاصل کرد که سیستم‌های هوش مصنوعی به حقوق اساسی، از جمله حریم خصوصی، برابری و استقلال احترام می‌گذارند.

۱۰- هم‌زیستی مسالمت‌آمیز با هوش مصنوعی

هم‌زیستی مسالمت‌آمیز با هوش مصنوعی برای اطمینان از اینکه فناوری، رفاه و پیشرفت جوامع ما را بدون به خطر انداختن امنیت انسانی یا حقوق اساسی افزایش می‌دهد، بسیار اهمیت دارد. هم‌زیستی مسالمت‌آمیز با هوش مصنوعی مستلزم اطمینان از این موضوع است که سیستم‌های هوش مصنوعی، مکمل زندگی انسان و جامعه بوده، بهره‌وری و رفاه را افزایش داده و درعین‌حال کنترل بر فناوری را حفظ می‌کنند. این اصل بر ادغام اخلاقی هوش مصنوعی تمرکز داشته و تضمین می‌کند که سیستم‌های هوش مصنوعی تهدیدی برای حقوق بشر، حریم خصوصی یا امنیت ایجاد نمی‌کنند.

برای تضمین هم‌زیستی مسالمت‌آمیز کسب‌وکارها باید فناوری‌های هوش مصنوعی را توسعه دهند که نه‌تنها باید کارآمد باشند، بلکه از نظر اخلاقی با ارزش‌های اجتماعی، احترام به حریم خصوصی، حقوق بشر و ترویج انسجام اجتماعی هم‌سو باشند. استقرار اخلاقی باید شامل مدیریت تغییر، آموزش مداوم و شاخص‌های کلیدی عملکرد برای نظارت بر تأثیر باشد.

چهارچوبی مانند هوش مصنوعی می‌تواند با گنجاندن ملاحظات اخلاقی، استفاده مسئولانه از داده‌ها و سازگاری در سیستم‌های هوش مصنوعی، چنین اولویت‌هایی را تقویت کرده و به سازمان‌ها کمک کند تا اعتمادسازی کرده و از مقررات در حال تحول، مانند قانون هوش مصنوعی اتحادیه اروپا، جلوتر بیافتند.

۱۱- ارتقای آگاهی در مورد هوش مصنوعی برای آینده‌ای فراگیر

ایجاد آینده‌ای فراگیر که دسترسی عادلانه به پیشرفت‌های هوش مصنوعی را برای همه اقشار جامعه تضمین کند، الزامی است. ارتقای آگاهی در مورد هوش مصنوعی تضمین‌کننده آن است که تمام رهبران کسب‌وکار، دانشجویان، سیاست‌گذاران و عموم مردم بتوانند با فناوری‌های هوش مصنوعی تعامل داشته باشند و آن‌ها را درک کنند.

بدون سواد و آگاهی گسترده، هوش مصنوعی در معرض خطر تبدیل‌شدن به ابزاری انحصاری قرار می‌گیرد و مزایای آن را به گروه کوچکی محدود می‌کند. امارات با تقویت دانش و مشارکت هوش مصنوعی در میان اقشار مختلف جمعیتی، تضمین می‌کند که فناوری‌های هوش مصنوعی به پیشرفت اجتماعی کمک کرده و همه مردم را در برمی‌گیرند. برای ادغام این اصل، باید بر ایجاد برنامه‌های سوادآموزی هوش مصنوعی تمرکز و اطمینان حاصل کرد که راه‌حل‌های هوش مصنوعی برای تمام گروه‌های اجتماعی فراگیر و قابل‌دسترسند.

در این مسیر باید ابتکاراتی را که باعث افزایش مشارکت و آگاهی در مورد هوش مصنوعی می‌شوند، تقویت کرد و اطمینان داد که سیستم‌های هوش مصنوعی باید برای خدمت به همه کاربران، به‌ویژه آن‌هایی طراحی شده‌اند که ممکن است دسترسی محدودی به فناوری یا دانش داشته باشند.

۱۲- تعهدبه معاهدات و قوانین مربوطه

امارات بر اهمیت رعایت معاهدات بین‌المللی و قوانین محلی در توسعه و استفاده از هوش مصنوعی تأکید داشته و تضمین می‌کند که فناوری‌های هوش مصنوعی به‌صورت مسئولانه و قانونی در سراسر مرزها به کار گرفته می‌شوند. این اصل بر ضرورت اطمینان از استفاده قانونی فناوری‌های هوش مصنوعی توسط کسب‌وکارها و سازمان‌ها، با رعایت قوانین محلی و معاهدات جهانی، تأکید دارد.

این امر تضمین می‌کند که برنامه‌های کاربردی هوش مصنوعی نه‌تنها از نظر فناوری بی‌نقص هستند، بلکه با چهارچوب‌های نظارتی که از حریم خصوصی، امنیت و حقوق اساسی محافظت می‌کنند نیز مطابقت دارند.

استفاده قانونی از هوش مصنوعی اهمیت بالایی داشته و شرکت‌ها باید از به‌کارگیری آن دسته از فناوری‌های هوش مصنوعی به روش‌هایی خودداری کنند که می‌تواند قوانین یا استانداردهای اخلاقی را نقض کنند. برای اطمینان از هم‌سویی با قوانین محلی و معاهدات بین‌المللی، کسب‌وکارها باید انطباق با قوانین را در فرایندهای توسعه و استقرار هوش مصنوعی بگنجانند.

این شامل انجام بررسی‌های قانونی منظم و اطمینان از هم‌سویی فناوری‌های هوش مصنوعی با الزامات معاهدات، کنوانسیون‌ها و سایر چهارچوب‌های نظارتی مرتبط، مانند قانون هوش مصنوعی اتحادیه اروپا می‌شود.