گزارش نشست علمی «مقوله‌بندی، هوش مصنوعی و سوگیری‌های اجتماعی شناختی»

هفتمین نشست نوآوری و فناوری در علوم انسانی و هنر، از سوی مرکز نوآوری و فناوری با همکاری خانه خلاق و نوآوری علوم انسانی و فرهنگ  با عنوان «مقوله‌بندی، هوش مصنوعی و سوگیری‌های اجتماعی شناختی»  بیست و پنجم فروردین‌ماه 1404 در پژوهشگاه علوم‌انسانی و مطالعات فرهنگی برگزار شد و در این جلسه مفاهیمی همچون انسان‌انگاری، سوگیری‌های شناختی و اجتماعی، عقلانیت، کارکرد و آگاهی در تعامل با هوش مصنوعی مورد بررسی قرار گرفت.

در ابتدای این نشست دکتر محمد نجاری (معاون مرکز نوآوری و توسعه فناوری پژوهشگاه علوم انسانی و مطالعات فرهنگی، و دبیر علمی نشست) گفت: در دهه‌های اخیر، پیشرفت‌های شگرف در حوزه هوش مصنوعی چهره بسیاری از علوم و صنایع را دگرگون کرده است. این فناوری که روزگاری تنها در مرزهای تخیل جای داشت، امروز در قالب الگوریتم‌ها، شبکه‌های عصبی و یادگیری ماشین، در زندگی روزمره انسان‌ها نفوذ کرده و نقش پررنگی در تصمیم‌گیری، تحلیل داده‌ها و حتی خلاقیت ایفا می‌کند. در این میان، تعامل میان هوش مصنوعی و علوم انسانی به موضوعی جذاب، اما در عین حال چالش‌برانگیز تبدیل شده است؛ چرا که علوم انسانی برخاسته از پرسش‌های وجودی، اخلاقی، فرهنگی و اجتماعی است که ذاتاً با پیچیدگی‌های انسانی گره خورده‌اند، به‌همین منظور پرسش‌هایی بنیادین مطرح می‌شود: آیا می‌توان فهم عمیق انسان، فرهنگ، اخلاق و معنا را به زبان الگوریتم‌ها ترجمه کرد؟ چه خطراتی در اتکای بیش از حد به فناوری در تحلیل مسائل انسانی وجود دارد؟ چالش‌های مربوط به سوگیری داده‌ها، عدم شفافیت در تصمیم‌گیری الگوریتمی، و خطر زدودن ظرافت‌های انسانی از فرآیند تحلیل و تفسیر، از جمله مسائلی هستند که توجه پژوهشگران را به خود جلب کرده‌اند. همچنین، دغدغه‌هایی پیرامون نقش هوش مصنوعی در تغییر ماهیت تولید دانش در علوم انسانی، از جمله اعتبار منابع، اقتدار نویسنده و جایگاه تجربه زیسته نیز مطرح‌اند. این چالش‌ها نه تنها نیازمند بازنگری در مفاهیم بنیادی علوم انسانی هستند، بلکه ضرورت گفت‌وگویی چندرشته‌ای میان متخصصان فناوری، فلسفه، جامعه‌شناسی، زبان‌شناسی و دیگر حوزه‌ها را دوچندان می‌سازند.
به‌همین منظور مرکز نوآوری و توسعه فناوری پژوهشگاه علوم انسانی و مطالعات فرهنگی، به‌عنوان یکی از بزرگترین مراکز پژوهشی علوم انسانی در خاورمیانه، می‌بایست نقش جدی و پررنگی در این عرصه داشته باشد. و پس از برگزاری شش نشست پیشین با نگاه بین‌رشته‌ای به هوش مصنوعی، امروز نشست هفتم را با عنوان  «مقوله‌بندی، هوش مصنوعی و سوگیری‌های اجتماعی شناختی» با سخنرانی دکتر مریم‌سادات فیاضی (عضو محترم هیات علمی پژوهشگاه علوم انسانی و مطالعات فرهنگی- مرکز اسناد فرهنگی آسیا) برگزار می‌کنیم.

آینده‌ای که در آن، انسان و ماشین همزیستی دارند
در ادامه دکتر مریم‌سادات فیاضی به ارایه سخنان خود پرداخت و گفت: پژوهش‌ها نشان می‌دهند که انسان‌ها در مواجهه با فناوری‌هایی چون ربات‌ها و سامانه‌های هوشمند، به‌صورت ناخودآگاه آن‌ها را در قالب‌هایی آشنا مقوله‌بندی می‌کنند. این مقوله‌ها که ریشه در سازوکارهای شناختی انسان دارند، گاه باعث سوءتفاهم‌هایی بنیادین درباره هویت، عملکرد و اخلاق هوش مصنوعی می‌شوند. هوش مصنوعی تنها یک ابزار فناورانه نیست؛ بلکه مفهومی است که به‌سرعت جای خود را در ذهن و زندگی انسان باز کرده و مفاهیم پایه‌ای شناخت و اجتماع را به چالش کشیده است. هوش مصنوعی اغلب به‌عنوان عاملی دارای نیت، عقلانیت و احساس در نظر گرفته می‌شود؛ حال آن‌که این فناوری‌ها از سازوکارهایی کاملاً متفاوت با مغز انسان بهره می‌برند. این مسئله نه‌تنها در تصمیم‌گیری‌های روزمره، بلکه در سیاست‌گذاری، روابط انسانی و حتی عدالت اجتماعی اثرگذار است.

در ادامه دکتر فیاضی به پدیده «سوگیری شناختی» پرداخت؛ یعنی خطاهایی که در تصمیم‌گیری و داوری انسان تحت تأثیر تجربیات، هیجانات و الگوهای ذهنی شکل می‌گیرد. افراد اغلب اطلاعات را نه بر پایه منطق، بلکه بر اساس آنچه بیشتر در ذهنشان نقش بسته تحلیل می‌کنند. همین موضوع می‌تواند در تعامل با هوش مصنوعی، تصمیماتی غیرمنطقی یا حتی تبعیض‌آمیز را به‌دنبال داشته باشد. در همین راستا، «سوگیری‌های اجتماعی» نیز مطرح شدند. هنگامی که ظاهر یا نام یک ربات انسان‌گونه باشد، کاربران ممکن است به‌طور ناخودآگاه او را واجد حقوق یا احساسات بدانند. این پدیده می‌تواند به احساس دلسوزی برای ربات‌ها یا واکنش‌های عاطفی غیرمنتظره منجر شود. همچنین، استفاده از ربات‌هایی با ظاهر کودکانه یا حیوانی، عملاً احساس همدلی را تحریک می‌کند، در حالی‌که این ماشین‌ها نه احساس دارند، نه آگاهی. در سطح اجتماعی، این برداشت‌های اشتباه ممکن است به تغییر رفتار عمومی، بازتولید تبعیض و حتی تضعیف حس همدلی منجر شود. مثلاً فردی که عادت به برخورد تحقیرآمیز با یک دستیار صوتی دارد، به‌مرور همان لحن را در تعامل با دیگر انسان‌ها نیز به کار خواهد بست.
 عضو هیئت علمی پژوهشگاه علوم انسانی و مطالعات فرهنگی در بخش دیگری از سخنانش، به مسئله عقلانیت و مسئولیت اخلاقی در هوش مصنوعی پرداخت و افزود:  برخی انسان‌ها تصمیمات گرفته‌شده توسط سامانه‌های هوشمند را دقیق‌تر، منصفانه‌تر و علمی‌تر می‌پندارند، درحالی‌که این تصمیمات گاهی بدون شفافیت، درون ساختاری موسوم به «جعبه سیاه» شکل می‌گیرند. نبود امکان پیگیری فرآیند تصمیم‌گیری در هوش مصنوعی، مسئولیت‌پذیری اخلاقی را دچار چالش می‌کند.
وی در حوزه عملکرد نیز تأکید کرد: مغز انسان بر اساس تجربه زیسته و بدن‌مندی عمل می‌کند؛ درحالی‌که الگوریتم‌های یادگیری ماشین بر پایه آمار و پیش‌بینی ساخته شده‌اند. این تفاوت بنیادین باعث می‌شود مقوله‌بندی هوش مصنوعی در ذهن انسان، همواره با سوءتفاهم همراه باشد؛ مثلاً ربات‌ها را در دسته حیوانات یا انسان‌ها قرار دهیم، در حالی‌که آن‌ها نه این هستند و نه آن.

در نهایت، دکتر مریم سادات فیاضی بر این نکته تأکید کرد که آموزش عمومی، بازنگری فرهنگی در مقوله‌بندی فناوری و سواد شناختی از سطوح پایه می‌تواند راهکاری برای مواجهه اخلاقی و شناختی دقیق‌تر با هوش مصنوعی باشد. آینده‌ای که در آن، انسان و ماشین همزیستی دارند، نیازمند بازتعریف مفاهیم مسئولیت، عقلانیت، و حتی خودآگاهی است.
در پایان این نشست جلسه پرسش و پاسخ با همراهی مهندس حسن فقیه عبداللهی، دکتر حسین صافی و دکتر حمیدرضا رادفر نیز برگزار شد و دکتر محمد نجاری (دبیرعلمی سلسله نشست‌های نوآوری و فناوری در علوم انسانی و هنر) ضمن سپاس از همراهان، خبر انتشار مجموعه مقالات این سلسله نشست‌ها را اعلام کرد و از پژوهشگران برای همراهی در این مورد دعوت به‌عمل آورد./پایان