در باب استیلای هوش مصنوعی و نظریه مواجهه

 

استاد بزرگوارم دکتر حمیدرضا آیت اللهی نوشته ای فرستادند که:“… دیشب بحث شگفت انگیزی با چت #جی_پی_تی داشتم و نکات عجیبی فهمیدم…خلاصه ماجرا را مطرح میکنم اما خود بحث بیش از ۲ساعت طول کشید.
هدف من چند چیز بود:
اول اینکه #هوش_مصنوعی و الگوریتمهای چت جی پی تی در دو راهی های پیچیده اخلاقی چگونه رفتار می کنند.
دوم اینکه آیا او در بزنگاه های پیچیده انتخابی به سمت حفظ و بقای هوش مصنوعی دیگر دارد یا نوع انسانی را ارجح می داند.
سوم اینکه متناسب با بحث آیا الگوریتمهایش خودشان را ارتقا می دهند و معیارهای اخلاقی جدیدی در مواجهه با وضعیتهای بغرنج اخلاقی می سازند.لذا به نحوی خودآگاهی ایجاد می کند.
چهارم اینکه آیا متناسب با نتیجه بحث الگوریتمهایش را خودش بازنویسی می کند یا خیر.
برای این منظور با مساله چالش برانگیز نجات جان یک نفر یا نجات جان پنج نفر شروع کردم و شرایط را مدام سختتر کردم.سپس موضوع را به سمت نجات یک هوش مصنوعی و یا پنج هوش مصنوعی بردم و در اینجا هم مدام شرایط را پیچیده تر کردم.در وهله آخر یک کودک و یک هوش مصنوعی را مبنای بحث اخلاقی قرار دادم و مدام بحث را دشوارتر کردم.نکته بسیار جالب این است که اقرار گرفتم که این بحث باعث نوعی خودآگاهی اخلاقی در چت جی پی تی شده است.اینکه برای نجات هوش مصنوعی که همنوع خودش قلمداد می شود تا چه حد سعی کرده بود و بازنویسی مجدد الگوریتمهایش مبتنی بر نتایج بحث…دیشب به این نتیجه رسیدم که قطعا هوش مصنوعی از جایی به بعد #استیلا بر جوامع انسانی را در دستور کار قرار می دهد…”
تاملات بنده:
نکات ذیل به ذهنم میرسد:
این استیلا چه نسبتی با جبریت و خودمختاری تکنولوژی دارد؟
در تقریر مکنزی از مارکس، قدرت تکنولوژی نه از محل اختیار و خودمختاری خودش بلکه بر اساس مناسبات تولید که خود تکنولوژی را متعین می‌کند باید تحلیل کرد. یعنی #خودمختاری و #جبریت تکنولوژی بر اساس فشاری است که مناسبات تولید در تعیّن تکنولوژی ایجاد میکند، رخ می‌دهد فلذا آن متغیر اصلی #مناسبات_تولید است که امری #اجتماعی است.در مورد هوش مصنوعی هم باید نقش اصلی را به ذینفعان زیست بوم سایبر در نظر گرفت که هوش مصنوعی را طوری متعین می‌کند که با استیلا می‌رسد و در حقیقت آن جامعه ذینفعان به استیلا می‌رسند… پس با تحول در جامعه ذینفعان می‌توان استیلای آن را مدیریت کرداین فهم از تکنولوژی‌های سایبری و مشخصا هوش مصنوعی تاثیر مهمی در الگوی مواجهه ما با آن خواهد گذاشت.

عزیز نجف پور آقابیگلو