منبع: بنیاد طراحی تعامل (IxDF) · بازنویسی آزاد: سپنتا پویا · ترجمه: ۶ شهریور ۱۴۰۵ · زمان مطالعه: حدود ۹ دقیقه

هوش مصنوعی انسان‌محور (Human-Centered AI) چیست؟

💡 این متن «بازنویسی آزاد» است: ایده‌ها و مفاهیم مطلب اصلی با نگارش کاملاً مستقل فارسی و مثال‌های تازه بازگو شده‌اند و ترجمهٔ کلمه‌به‌کلمه نیست. بخش‌های افزودهٔ مترجم در جعبهٔ منبع مشخص شده‌اند.

هوش مصنوعی متعارف می‌پرسد «چه کاری را می‌شود خودکار کرد؟». هوش مصنوعی انسان‌محور می‌پرسد «چه کاری را انسان بهتر انجام می‌دهد، و چطور کمکش کنیم؟»

و همین یک جابه‌جایی در پرسش، تفاوت بنیادی این دو رویکرد است.

تعریف

هوش مصنوعی انسان‌محور یعنی توسعهٔ فناوری‌های هوش مصنوعی‌ای که نیازها و ارزش‌ها و توانایی‌های انسانی را در هستهٔ طراحی و عملکردشان مقدم می‌دارند.

و کارکردش این است که مطمئن شود این سامانه‌ها توانایی و بهزیستی انسان را تقویت می‌کنند، نه جایگزینش می‌شوند. و در همان حال، به پیامدهای اخلاقی و اجتماعی و فرهنگی هم می‌پردازد.

در برابر هوش مصنوعی متعارف

و تفاوتشان صریح گفته شده. هوش مصنوعی متعارف بر خودکارسازی تکلیف برای کارایی تأکید می‌کند، و انسان‌محور نیاز و توانایی انسان را مقدم می‌دارد.

و پنج مصداق، این تفاوت را ملموس می‌کند:

• - آموزش: متعارف روی خودکارکردن نمره‌دهی تمرکز دارد · انسان‌محور سکوی یادگیری سازگارشونده می‌سازد که با الگوی هر دانش‌آموز جور شود.
• - سلامت: متعارف کارایی پردازش را بیشینه می‌کند · انسان‌محور راحتی و حریم خصوصی و بهزیستی احساسی بیمار را در نظر می‌گیرد.
• - خودرو: متعارف دنبال خودگردانی کامل است · انسان‌محور سامانهٔ کمک‌راننده می‌سازد که کنترل راننده را تقویت کند، نه جایگزینش.
• - خدمات مشتری: متعارف چت‌بات کارایی‌محور راه می‌اندازد · انسان‌محور سامانه‌ای طراحی می‌کند که احساسی پاسخگو باشد.
• - خانهٔ هوشمند: متعارف کنترل را خودکار می‌کند · انسان‌محور روتین و ترجیح ساکنان را یاد می‌گیرد و با آن سازگار می‌شود.

و اگر به این پنج‌تا دقت کنید، الگویی در آن هست: در هر جفت، نسخهٔ متعارف یک کار را هدف گرفته و نسخهٔ انسان‌محور یک رابطه را.

و به‌همین دلیل، نسخهٔ انسان‌محور معمولاً گران‌تر و کندتر است — و در بلندمدت پایدارتر.

هفت اصل

• - همدلی و فهم کاربر. فهمیدن نیازها و چالش‌ها و بافت‌ها.
• - ملاحظهٔ اخلاقی و مهار سوگیری. پرداختن به حریم خصوصی و شفافیت و انصاف.
• - درگیرکردن کاربر در فرایند طراحی. مشارکت فعال در طول توسعه.
• - دسترس‌پذیری و شمول. قابل‌استفاده برای جمعیت‌های متنوع، مستقل از توانایی.
• - شفافیت و توضیح‌پذیری. کاربر بفهمد سامانه چطور تصمیم می‌گیرد.
• - بازخورد و بهبود پیوسته. آزمون و پالایش تکرارشونده.
• - و توازن میان خودکارسازی و کنترل انسانی. حفظ عاملیت انسان در تصمیم‌های حیاتی.

و اصل هفتم آنی است که این رویکرد را قابل‌سنجش می‌کند. بقیهٔ اصل‌ها می‌گویند چطور طراحی کنید؛ این یکی می‌گوید کجا توقف کنید.

و چهار اصل اخلاقی پایه هم کنارشان می‌آید: شفافیت · پاسخ‌گویی · انصاف · و حریم خصوصی.

هفت سوگیری

و فهرست سوگیری‌هایی که باید مهار شوند، هفت مورد است:

سوگیری داده · سوگیری الگوریتمی · سوگیری تعامل · سوگیری تأیید · سوگیری فرهنگی · سوگیری جنسیتی · و سوگیری اجتماعی‌اقتصادی.

و در سطح تشخیص، سه سطح سوگیری هم نام برده می‌شود: انسانی‌شناختی، سامانه‌ای، و آماری‌محاسباتی.

و نمونهٔ عینی‌اش هم هست. فناوری بازشناسی چهره نمونهٔ توسعهٔ الگوریتم سوگیرانه است، و فیس‌اپ به‌دلیل بازتولید سوگیری جنسیتی و نژادی در پردازش تصویر نقد شد.

و درس این مورد صریح گفته شده: اهمیت پالایش مستمر، و تأکید بر بازرسی پیوسته و شفافیت و بهبود تکرارشونده.

حریم خصوصی و امنیت

و هشت محافظ برایش برشمرده شده:

• - حریم خصوصی از طراحی — گنجاندن اصول حفاظت داده از ابتدا.
• - اطلاع شفاف به کاربر دربارهٔ استفاده از داده، و گرفتن رضایت.
• - محدودکردن جمع‌آوری داده به ضرورت.
• - رمزنگاری قوی و به‌روزرسانی منظم امنیتی.
• - ناشناس‌سازی.
• - بازرسی امنیتی منظم.
• - انطباق با مقررات — مثل GDPR و HIPAA.
• - و آموزش کاربر دربارهٔ قابلیت‌های امنیتی.

و مورد سوم مؤثرترین است و کمترین اجرا را دارد. داده‌ای که جمع نشده، نه می‌تواند نشت کند و نه می‌تواند سوگیری بسازد.

در جریان کار طراحی

و راه‌های وارد‌کردنش در کار روزمره:

• - پژوهش عمیق کاربر، و تعیین رهنمودهای اخلاقی توسعه.
• - فرایند طراحی تکرارشونده با آزمون منظم کاربر.
• - همکاری با متخصص هوش مصنوعی، برای هم‌راستاکردن توانایی‌ها با هدف طراحی.
• - مقدم‌داشتن دسترس‌پذیری و شمول از همان ابتدا.
• - ارتباط شفاف دربارهٔ نحوهٔ تصمیم‌گیری سامانه.
• - تعهد به یادگیری پیوسته.
• - و ساختن حلقهٔ بازخورد پس از انتشار، تا سامانه بر پایهٔ نیاز کاربر تحول یابد.

و در تفکر طراحی هم در هر گام جا دارد:

• - در همدلی — فهم تعامل کاربر با سامانه.
• - در ایده‌پردازی — راه‌حل‌های اخلاقی.
• - و در نمونه‌سازی و آزمون — پالایش تکرارشونده، با تأکید بر کاربردپذیری و دسترس‌پذیری.

پنج نمونه

• - هوش مصنوعی آی‌بی‌ام برای مد — تحلیل روند همراه با شخصی‌سازی.
• - تجربهٔ کاربری هوش‌مصنوعی‌محور گوگل — دستیار و گوگل فوتوز، با یادگیری ترجیح.
• - طراحی مولد اتودسک — بهینه‌سازی طراحی با چند خروجی.
• - توصیه‌های شخصی‌شدهٔ اسپاتیفای — تحلیل الگوی شنیدن.
• - و هوش مصنوعی سلامت برای مراقبت بیمارمحور — کمک تشخیصی با احترام به پیامدهای بیمار.

و مورد سوم آموزنده‌ترین است. «چند خروجی» به‌جای یک پاسخ، دقیقاً همان چیزی است که کنترل را نزد انسان نگه می‌دارد — و در همان حال، از توان محاسباتی مدل استفاده می‌کند.

مرزی که منبع نمی‌کشد

این بخش افزودهٔ من است، چون این عبارت آن‌قدر خوش‌آهنگ است که به یک برچسب تبدیل شده.

و مسئله این است: «انسان‌محور» را نمی‌شود با نیت اثبات کرد. هر تیمی می‌گوید کاربر را در مرکز گذاشته، و بیشترشان راست می‌گویند — به این معنا که واقعاً چنین قصدی دارند.

و آنچه این ادعا را قابل‌بررسی می‌کند، سه پرسش است.

یک: در کدام تصمیم‌ها، کاربر حرف آخر را می‌زند؟ اگر پاسخ «همه‌جا» است، هیچ‌جا. و اگر پاسخ فهرستی مشخص است، ادعا واقعی است.

دو: چه چیزی را جمع نکردید؟ رویکرد انسان‌محور در آنچه نمی‌کند بیشتر دیده می‌شود تا در آنچه می‌کند.

سه: آخرین بار که خروجی مدل با نظر کاربر تعارض داشت، کدام برنده شد؟ این تنها پرسشی است که پاسخش را نمی‌شود ساخت — چون یا موردی هست یا نیست.

و همان‌طور که در تعامل انسان و هوش مصنوعی نوشتم، «تقویت به‌جای جایگزینی» وقتی معنا دارد که سطح خودمختاری سامانه صریح نوشته شده باشد — نه وقتی در بیانیهٔ مأموریت آمده باشد.

هزینه‌ای که کسی نمی‌گوید

و یک چیز در ادبیات این حوزه غایب است: رویکرد انسان‌محور همیشه گران‌تر است، و کسی نمی‌گوید چقدر.

و هزینه‌اش سه شکل دارد.

یک: هزینهٔ نگه‌داشتن انسان در حلقه. سامانه‌ای که پیش از هر تصمیم مهم تأیید می‌گیرد، کندتر است و آدم لازم دارد. و این آدم، هزینهٔ عملیاتی دائمی است — نه یک بار.

دو: هزینهٔ توضیح‌پذیری. مدل قابل‌توضیح اغلب دقت کمتری دارد از مدل جعبه‌سیاه. پس شفافیت را با عملکرد معاوضه می‌کنید، و این معاوضه واقعی است.

سه: هزینهٔ نجمع‌کردن داده. محدودکردن جمع‌آوری، شخصی‌سازی را ضعیف‌تر می‌کند. و کاربری که تجربهٔ کم‌شخصی‌تر می‌گیرد، اغلب نمی‌داند در ازایش چه چیزی به‌دست آورده.

و گفتن این هزینه‌ها، رویکرد را ضعیف نمی‌کند؛ قابل دفاع‌ترش می‌کند.

چون در جلسه‌ای که کسی می‌پرسد «چرا این‌قدر کند است؟»، پاسخ «به‌خاطر انسان‌محوری» بی‌معنا است — و پاسخ «چون پیش از تغییر مبلغ، تأیید انسانی می‌گیریم، و این تصمیم ما بوده» معنا دارد.

در بافت فارسی

یک: سوگیری فرهنگی و زبانی اینجا پیش‌فرض است، نه استثنا. مدل‌هایی که بیشترشان روی دادهٔ انگلیسی آموزش دیده‌اند، دربارهٔ بافت ما فرض‌های نادرست دارند.

و شکل بروزش ظریف است: نام‌ها را غلط تفکیک می‌کند، تاریخ را میلادی فرض می‌گیرد، و روابط خانوادگی و اداری را با الگوی جای دیگری می‌خواند.

و همین یعنی سوگیری فرهنگی را باید فعالانه آزمود، نه منتظر گزارشش ماند.

دو: مقررات حریم خصوصی اینجا ضعیف‌ترند، و همین مسئولیت را بیشتر می‌کند. نبودِ الزامی مثل GDPR به‌معنای نبودِ آسیب نیست.

و قاعدهٔ عملی‌اش همان مورد سوم فهرست بالاست: جمع‌آوری را به ضرورت محدود کنید — که هم ارزان‌ترین محافظ است و هم مستقل از قانون.

سه: «درگیرکردن کاربر» اینجا سخت‌تر است. جذب مشارکت‌کننده وقت می‌برد و بودجه‌اش اغلب دیده نمی‌شود.

و راه کم‌هزینه‌اش این است که حلقهٔ بازخورد پس از انتشار را جدی بگیرید — که در فهرست بالا آمده و در عمل کمتر اجرا می‌شود. کاربران واقعی محصول، ارزان‌ترین منبع پژوهشی‌اند که دارید.

چهار: «کنترل انسانی» در سامانه‌های دولتی و بانکی معنای دیگری دارد. کاربر معمولاً نه اختیار انتخاب دارد و نه راه اعتراض.

و در آن بافت، انسان‌محوری یعنی چیز مشخصی: راه اعتراض قابل‌دسترس، و انسانی که تصمیم را بازبینی کند. سامانه‌ای که تصمیم خودکار می‌گیرد و راه بازبینی ندارد، هر برچسبی هم که داشته باشد، انسان‌محور نیست.

جمع‌بندی

• - هوش مصنوعی انسان‌محور نیاز و ارزش و توانایی انسان را در هستهٔ طراحی مقدم می‌دارد · و توانایی انسان را تقویت می‌کند نه جایگزین
• - متعارف بر خودکارسازی تکلیف برای کارایی تأکید دارد · و در پنج مصداق آموزش و سلامت و خودرو و خدمات و خانهٔ هوشمند، متعارف یک کار را هدف می‌گیرد و انسان‌محور یک رابطه را · و همین گران‌ترش می‌کند و پایدارترش
• - هفت اصل: همدلی · اخلاق و مهار سوگیری · درگیرکردن کاربر · دسترس‌پذیری · شفافیت · بازخورد پیوسته · و توازن خودکارسازی و کنترل انسانی
• - اصل هفتم می‌گوید کجا توقف کنید · بقیه می‌گویند چطور طراحی کنید
• - چهار اصل اخلاقی: شفافیت · پاسخ‌گویی · انصاف · حریم خصوصی
• - هفت سوگیری، از داده و الگوریتم تا فرهنگی و جنسیتی و اجتماعی‌اقتصادی · با نمونهٔ بازشناسی چهره و نقد فیس‌اپ
• - هشت محافظ حریم خصوصی · و محدودکردن جمع‌آوری، مؤثرترین و کم‌اجراترین است
• - پنج نمونه · و «چند خروجی» اتودسک همان چیزی است که کنترل را نزد انسان نگه می‌دارد
• - سه پرسشی که ادعا را قابل‌بررسی می‌کند: کاربر کجا حرف آخر را می‌زند؟ چه چیزی را جمع نکردید؟ و آخرین بار که مدل با کاربر تعارض داشت، کدام برنده شد؟
• - و در فارسی: سوگیری فرهنگی پیش‌فرض است و باید فعالانه آزموده شود · ضعف مقررات مسئولیت را بیشتر می‌کند · بازخورد پس از انتشار ارزان‌ترین پژوهش است · و در سامانهٔ بی‌راه‌اعتراض، برچسب انسان‌محوری معنا ندارد