هوش مصنوعی مسئول (Responsible AI) چیست؟

اصول هوش مصنوعی مسئول

مدل‌های هوش مصنوعی و یادگیری ماشین باید از فهرستی از اصولی پیروی کنند که ممکن است از سازمانی به سازمان دیگر متفاوت باشد.

به عنوان مثال، مایکروسافت و گوگل هر دو از فهرست اصول خود پیروی می کنند و موسسه ملی استانداردها و فناوری (NIST) نسخه 1.0 چارچوب مدیریت ریسک هوش مصنوعی را منتشر کرده است که از بسیاری از اصول مشابه موجود در لیست های مایکروسافت و گوگل پیروی می کند. فهرست هفت اصل NIST شامل موارد زیر است:

• پاسخگو و شفاف. افزایش شفافیت به منظور ایجاد اعتماد بیشتر به سیستم هوش مصنوعی است و در عین حال رفع مشکلات مربوط به خروجی های مدل هوش مصنوعی را آسان تر می کند. این همچنین توسعه دهندگان را قادر می سازد تا مسئولیت بیشتری نسبت به سیستم های هوش مصنوعی خود داشته باشند.
• قابل توضیح و تفسیر. قابلیت توضیح و تفسیرپذیری به منظور ارائه بینش عمیق تر در مورد عملکرد و قابل اعتماد بودن یک سیستم هوش مصنوعی است. برای مثال، هوش مصنوعی قابل توضیح، به کاربران توضیح می دهد که چرا و چگونه به خروجی خود رسیده است.
• منصفانه با سوگیری مضر مدیریت شده است. منظور از انصاف رسیدگی به مسائل مربوط به تعصب و تبعیض هوش مصنوعی است. این اصل بر ارائه برابری و برابری تمرکز دارد، که دشوار است زیرا ارزش ها در هر سازمان و فرهنگ متفاوت است.
• حفظ حریم خصوصی. حریم خصوصی به معنای اعمال شیوه هایی است که به حفظ استقلال، هویت و منزلت کاربر نهایی کمک می کند. سیستم های هوش مصنوعی مسئول باید با ارزش هایی مانند ناشناس بودن، محرمانه بودن و کنترل توسعه یافته و به کار گرفته شوند.
• ایمن و مقاوم. سیستم های هوش مصنوعی مسئول باید در برابر تهدیدات احتمالی مانند حملات خصمانه ایمن و انعطاف پذیر باشند. سیستم‌های هوش مصنوعی مسئول باید به گونه‌ای ساخته شوند که از حملات اجتناب کنند، در برابر آن محافظت کنند و به آنها پاسخ دهند و در عین حال بتوانند پس از حمله بازیابی شوند.
• معتبر و قابل اعتماد. سیستم‌های هوش مصنوعی مسئول باید بتوانند عملکرد خود را در شرایط مختلف غیرمنتظره بدون شکست حفظ کنند.
• بی خطر. هوش مصنوعی مسئول نباید جان انسان، دارایی یا محیط زیست را به خطر بیندازد.