منبع: بنیاد طراحی تعامل (IxDF) · بازنویسی آزاد: سپنتا پویا · ترجمه: ۶ شهریور ۱۴۰۵ · زمان مطالعه: حدود ۹ دقیقه

تعامل انسان و هوش مصنوعی (Human-AI Interaction) چیست؟

💡 این متن «بازنویسی آزاد» است: ایده‌ها و مفاهیم مطلب اصلی با نگارش کاملاً مستقل فارسی و مثال‌های تازه بازگو شده‌اند و ترجمهٔ کلمه‌به‌کلمه نیست. بخش‌های افزودهٔ مترجم در جعبهٔ منبع مشخص شده‌اند.

در بیشتر رابط‌ها، سیستم منتظر می‌ماند تا شما کاری کنید. در رابط هوش مصنوعی، سیستم هم پیشنهاد می‌دهد، هم اشتباه می‌کند، و هم گاهی مطمئن است در حالی که نیست.

و همین سه چیز، طراحی این تعامل را از طراحی متعارف جدا می‌کند.

تعریف

تعامل انسان و هوش مصنوعی، مطالعه و طراحیِ این است که انسان‌ها و سامانه‌های هوش مصنوعی چطور با هم ارتباط برقرار می‌کنند و همکاری.

و هدفش ساختن سامانه‌هایی است که کاربرپسند و قابل‌اعتماد و اخلاقی و سودمند باشند — و هوش باریک و عمومی و مولد، هر سه را پوشش می‌دهد.

و یک جملهٔ کوتاه، جهت‌گیری کل حوزه را می‌گوید: «نیت این است که توانایی‌های انسانی تقویت و افزوده شوند، نه جایگزین.»

تاریخچهٔ کوتاه

آلن تورینگ، بنیان‌گذار علوم رایانه و پیشگام هوش مصنوعی، آزمون تورینگ را پیشنهاد داد.

و از دههٔ ۱۹۵۰ تا ۱۹۸۰، این حوزه با مسائل مشخصی دست‌وپنجه نرم می‌کرد:

• - با عدم‌قطعیت و ابهام و پیچیدگی بد کنار می‌آمد.
• - از پس عقل سلیم و موقعیت‌های تازه برنمی‌آمد.
• - مسئلهٔ جعبهٔ سیاه در شبکه‌های عصبی.
• - و مسائل مقیاس‌پذیری و قابلیت اتکا و توضیح‌پذیری.

و اگر این فهرست را کنار مسائل امروز بگذارید، یک چیز جالب می‌بینید: مسئلهٔ جعبهٔ سیاه و توضیح‌پذیری هنوز حل نشده‌اند. آنچه عوض شده، توانایی سیستم است — نه شفافیتش.

چهار حوزهٔ چالش

یک: شفافیت و توضیح‌پذیری. کاربر باید بفهمد سامانه چطور و چرا کار می‌کند، و محدودیت‌ها و عدم‌قطعیت‌هایش چیست.

دو: پاسخگویی و سازگارشوندگی. سامانه باید با نیاز و ترجیح و هدف و بازخورد کاربر تنظیم شود.

سه: انصاف و پاسخ‌گویی. سامانه نباید تبعیض قائل شود، آسیب بزند، یا فریب دهد — و باید به حریم خصوصی و ارزش‌ها و حقوق احترام بگذارد.

چهار: ارزیابی و سنجش اثر. با روش‌ها و سنجه‌های مناسب، برای کاربران و جامعه و محیط زیست.

و در حوزهٔ اول، بخش «عدم‌قطعیت» آنی است که در عمل بیشترین اثر را دارد و کمترین توجه را می‌گیرد.

سامانه‌ای که می‌گوید «پاسخ این است» و سامانه‌ای که می‌گوید «احتمالاً این است، ولی مطمئن نیستم»، دو محصول متفاوت‌اند — حتی اگر مدل زیرشان یکی باشد.

شکل‌های تعامل

و این تعامل شکل‌های شناخته‌شده‌ای دارد:

• - عامل گفت‌وگویی و چت‌بات.
• - سامانهٔ توصیه‌گر.
• - ربات اجتماعی.
• - دستیار صوتی و دستیار مجازی — سیری، الکسا، دستیار گوگل.
• - و رابط‌های پردازش زبان طبیعی.

و این فهرست یک نکتهٔ طراحی در خودش دارد. هرچه رابط انسان‌وارتر باشد، انتظار از توانایی‌اش بالاتر می‌رود — و فاصلهٔ میان انتظار و توانایی، همان جایی است که اعتماد می‌شکند.

چالش‌های امروز

• - کیفیت داده و حریم خصوصی.
• - تهدیدهای امنیتی.
• - سوگیری، در سه سطح: انسانی‌شناختی، سامانه‌ای، و آماری‌محاسباتی.
• - نگرانی‌های اخلاقی.
• - و تشخیص اینکه کِی افزودن هوش مصنوعی به نفع کاربر است و کِی نیست.

و مورد آخر، پرسشی است که در بیشتر تیم‌ها اصلاً پرسیده نمی‌شود.

چهار عدد

۷۸ درصد سازمان‌ها در ۲۰۲۵ هوش مصنوعی را به‌کار گرفتند (گزارش شاخص هوش مصنوعی استنفورد) — در برابر ۵۵ درصد در ۲۰۲۴.

۵۶ درصد صرف دستمزد برای کسانی که مهارت پیشرفتهٔ هوش مصنوعی دارند (گزارش پی‌دبلیوسی، بر پایهٔ تحلیل یک میلیارد آگهی شغلی).

و ۳۹ درصد مهارت‌های اصلی تا ۲۰۳۰ عوض می‌شوند (مجمع جهانی اقتصاد).

و عدد اول و دوم با هم چیزی می‌گویند که ارزش توجه دارد: پذیرش سازمانی از مهارت جلو زده. سازمان‌ها سریع‌تر از آنکه بتوانند خوب استفاده‌اش کنند، آن را به‌کار گرفته‌اند.

پنج الگوی طراحی که کار می‌کنند

این بخش افزودهٔ من است، چون منبع شکل‌های تعامل را نام می‌برد و الگوهای طراحی‌شان را نمی‌گوید.

یک: نمایش اطمینان، نه فقط پاسخ. وقتی مدل مطمئن نیست، رابط باید همین را بگوید — با درجه‌بندی، با «شاید»، یا با نشان‌دادن چند گزینه به‌جای یکی.

و شکل غلطش هم رایج است: نمایش عدد درصد اطمینان به کاربری که نمی‌داند با آن چه کند. «۷۳٪ مطمئن» بدون بافت، اطلاعاتی نمی‌دهد.

دو: ویرایش به‌جای پذیرش یا رد. خروجی هوش مصنوعی به‌ندرت کاملاً درست یا کاملاً غلط است. رابطی که فقط «قبول» و «رد» دارد، کاربر را وامی‌دارد کار نیمه‌درست را دور بریزد.

سه: منبع را نشان دهید. این تنها راهی است که کاربر می‌تواند خودش قضاوت کند — و همان‌طور که در هوش عمومی مصنوعی نوشتم، در حوزه‌هایی که راستی‌آزمایی سخت است، این از خودِ پاسخ مهم‌تر می‌شود.

چهار: راه بازگشت بگذارید. هر کنشی که هوش مصنوعی انجام می‌دهد باید قابل واگرد باشد. و اگر نیست، باید پیش از انجامش تأیید گرفته شود.

پنج: شکست را طراحی کنید، نه فقط موفقیت. مدل قطعاً اشتباه خواهد کرد، و حالت خطا باید همان‌قدر طراحی‌شده باشد که حالت موفق.

و یک اصل مشترک پشت هر پنج‌تاست: کاربر باید بتواند تصمیم نهایی را بگیرد. این همان چیزی است که «تقویت به‌جای جایگزینی» در عمل یعنی.

کِی هوش مصنوعی اضافه نکنیم

و از آن چالش آخر یک پرسش عملی درمی‌آید که ارزش صریح‌گفتن دارد.

هوش مصنوعی وقتی به کاربر کمک می‌کند که مسئله ابهام داشته باشد — یعنی چند پاسخ درست ممکن باشد و انتخاب میانشان قضاوت بخواهد.

و وقتی اضافه‌کردنش غلط است که پاسخ قطعی و قابل‌محاسبه است. جمع دو عدد، تبدیل واحد، یا جست‌وجوی یک مقدار در پایگاه داده، هیچ‌کدام مدل لازم ندارند. و استفاده از مدل در آن‌ها، خطای احتمالی را به کاری اضافه می‌کند که قبلاً قطعی بود.

و یک نشانهٔ ساده هم دارد: اگر می‌توانید خروجی درست را با یک قاعده بنویسید، قاعده را بنویسید.

سه سطح خودمختاری

و یک تصمیم پایه‌ای هست که پیش از همهٔ الگوهای بالا می‌آید: سیستم چقدر اجازه دارد خودش کاری بکند؟

و سه سطح دارد که در عمل کاملاً متفاوت‌اند.

سطح یک — پیشنهاد. سیستم چیزی را نشان می‌دهد و کاربر انتخاب می‌کند. کم‌ریسک‌ترین حالت، و جایی که بیشتر محصول‌ها باید شروع کنند.

سطح دو — انجام با تأیید. سیستم کار را آماده می‌کند و پیش از اجرا تأیید می‌گیرد. مناسب کارهایی که وقت زیادی می‌برند و برگشتشان ممکن است.

سطح سه — انجام خودکار. سیستم بی پرسیدن عمل می‌کند و بعداً گزارش می‌دهد. فقط برای کارهایی که هم برگشت‌پذیرند و هم کم‌اهمیت.

و قاعدهٔ انتخاب میانشان یک چیز است: سطح خودمختاری باید با نرخ خطای مدل و هزینهٔ خطا هم‌زمان تنظیم شود.

مدلی با دقت ۹۵ درصد در کاری که خطایش قابل‌جبران است، می‌تواند خودکار باشد. همان مدل در کاری که خطایش پول یا داده را از بین می‌برد، حتی در سطح دو هم نباید باشد.

و اشتباه رایج، بالابردن سطح خودمختاری با بهترشدن مدل است — بی آنکه هزینهٔ خطا دوباره سنجیده شود. دقت بالاتر، خطا را کمتر می‌کند؛ ارزان‌ترش نمی‌کند.

در بافت فارسی

یک: انتظار از رابط انسان‌وار اینجا بالاتر است. چت‌باتی که فارسی روان حرف می‌زند، بلافاصله توانایی بیشتری از آنچه دارد به آن نسبت داده می‌شود.

و راه‌حلش کم‌کردن کیفیت زبان نیست: روشن‌کردن دامنه است. یک جمله در ابتدای گفت‌وگو که بگوید چه کارهایی از این دستیار برمی‌آید و چه کارهایی نه.

دو: عدم‌قطعیت را باید صریح‌تر گفت. در فارسی، لحن محتاطانه راحت به بی‌کفایتی تعبیر می‌شود — و همین باعث می‌شود تیم‌ها ترجیح دهند سیستم مطمئن حرف بزند.

و این دقیقاً همان اشتباهی است که هزینه‌اش بعداً پرداخت می‌شود. بهتر است عدم‌قطعیت را با ساختار نشان دهید، نه با لحن — مثلاً سه گزینه به‌جای یک پاسخ، که هم محتاطانه است و هم قاطع به‌نظر می‌رسد.

سه: راستی‌آزمایی اینجا سخت‌تر است. منابع فارسی معتبر در بسیاری از حوزه‌ها کم‌اند، و کاربر راه کمتری برای بررسی پاسخ دارد.

و همین، الگوی سوم — نمایش منبع — را از یک ویژگی خوب به یک الزام تبدیل می‌کند.

چهار: پذیرش سازمانی اینجا هم از مهارت جلو زده، ولی جهت دیگری دارد. در بسیاری از سازمان‌های ما، «هوش مصنوعی» به‌عنوان برچسب بازاریابی اضافه می‌شود، پیش از آنکه کاری واقعی انجام دهد.

و همان‌طور که در طراحی خوب نوشتم، این نقض مستقیم اصل صداقت است. و آزمونش ساده است: اگر کاربر بداند این قابلیت دقیقاً چطور کار می‌کند، همچنان تحت‌تأثیر قرار می‌گیرد؟

جمع‌بندی

• - تعامل انسان و هوش مصنوعی، مطالعه و طراحی ارتباط و همکاری انسان و سامانه‌های هوش مصنوعی است
• - هدف: کاربرپسند، قابل‌اعتماد، اخلاقی، سودمند · و نیت، تقویت توانایی انسانی است نه جایگزینی
• - تورینگ و آزمونش · و مسائل دههٔ ۱۹۵۰ تا ۱۹۸۰ که جعبهٔ سیاه و توضیح‌پذیری‌اش هنوز حل نشده
• - چهار حوزهٔ چالش: شفافیت و توضیح‌پذیری · پاسخگویی و سازگارشوندگی · انصاف و پاسخ‌گویی · ارزیابی و سنجش اثر
• - بخش «عدم‌قطعیت» بیشترین اثر و کمترین توجه را دارد · «پاسخ این است» و «شاید این است» دو محصول متفاوت‌اند
• - هرچه رابط انسان‌وارتر باشد، انتظار بالاتر می‌رود — و اعتماد در فاصلهٔ انتظار و توانایی می‌شکند
• - ۷۸٪ سازمان‌ها در ۲۰۲۵ در برابر ۵۵٪ در ۲۰۲۴ · ۵۶٪ صرف دستمزد برای مهارت پیشرفته · ۳۹٪ مهارت‌ها تا ۲۰۳۰ · و پذیرش از مهارت جلو زده
• - پنج الگو: نمایش اطمینان · ویرایش به‌جای قبول و رد · نمایش منبع · راه بازگشت · و طراحی شکست — با اصل مشترک تصمیم نهایی با کاربر
• - اگر می‌توانید خروجی درست را با یک قاعده بنویسید، قاعده را بنویسید
• - و در فارسی: دامنه را روشن کنید · عدم‌قطعیت را با ساختار نشان دهید نه با لحن · نمایش منبع الزام است نه ویژگی · و برچسب «هوش مصنوعی» بی کارکرد، نقض اصل صداقت است