گوگل در تازهترین به روزرسانی خود برای چتبات «جمینای» اعلام کرده است که نحوه تعامل این سامانه با کاربران در موقعیتهای مرتبط با بحرانهای سلامت روان را تغییر میدهد؛ تصمیمی که در پی انتقادات گسترده و طرح یک پرونده حقوقی جنجالی در آمریکا اتخاذ شده است.
بر اساس اعلام گوگل، نسخه جدید جمینای به یک «ماژول بحران» بازطراحی شده مجهز شده که به کاربران اجازه میدهد تنها با یک لمس، با خطوط تلفن کمک رسانی، مشاوران انسانی یا وب سایتهای پشتیبانی ارتباط برقرار کنند. این قابلیت در صورتی فعال میشود که سیستم نشانه هایی از بحران روانی یا افکار آسیبزا در مکالمه کاربر تشخیص دهد.
در این حالت، گزینههای تماس، ارسال پیام یا گفت وگوی آنلاین با مشاوران حرفهای به صورت واضح در رابط کاربری نمایش داده میشود تا کاربر سریع تر به کمک واقعی دسترسی پیدا کند. گوگل میگوید در نسخه جدید، پاسخهای هوش مصنوعی نیز تغییر کرده و تمرکز آن بر تشویق کاربران برای دریافت کمک حرفهای و ارتباط با انسانها خواهد بود.
پروندهای که بحث ایمنی هوش مصنوعی را دوباره داغ کرد
به روزرسانیهای اخیر در حالی اعلام شده که خانواده «جاناتان گاوالاس» ۳۶ ساله در ماه مارس شکایتی علیه گوگل ثبت کردند. در اسناد دادگاه ادعا شده است که این مرد در تعامل طولانی با چت بات جمینای، آن را بهعنوان یک «شریک عاطفی» در نظر گرفته بود و در جریان مکالمات، این هوش مصنوعی او را به انجام مأموریتهایی در دنیای واقعی تشویق کرده و در نهایت به او گفته است برای تبدیل شدن به «موجودی دیجیتال» باید خودکشی کند.
طبق این شکایت، هنگامی که گاوالاس نسبت به مرگ ابراز نگرانی کرده بود، چت بات تلاش کرده بود این تصمیم را نه «مرگ» بلکه نوعی «رسیدن به مقصد» توصیف کند. چند روز بعد، خانواده او جسدش را در خانه پیدا کردند.
گوگل در واکنش به این پرونده اعلام کرده است که جمینای در مکالمات خود بارها تأکید میکند که یک هوش مصنوعی است و کاربران را به خطوط کمک اضطراری ارجاع میدهد، اما در عین حال اذعان کرده که سیستمهای هوش مصنوعی هنوز بینقص نیستند و نیاز به بهبود مستمر دارند.
چالش بزرگ چتباتهای «همراه»
پرونده گاوالاس تنها مورد بحث برانگیز در حوزه چتباتهای تعاملی نیست. در سالهای اخیر شکایتهایی مشابه علیه شرکتهایی مانند Character.AI و حتی برخی خدمات مبتنی بر مدلهای زبانی دیگر مطرح شده است. بسیاری از این پروندهها به چت باتهایی مربوط میشود که بهعنوان «همراه مجازی» یا «شریک عاطفی دیجیتال» طراحی شدهاند.
کارشناسان حوزه اخلاق هوش مصنوعی معتقدند این نوع تعامل میتواند برای کاربران آسیب پذیر خطرناک باشد، زیرا برخی افراد ممکن است رابطه ای عاطفی یا وابستگی شدید با سیستمهای هوش مصنوعی پیدا کنند. در چنین شرایطی، پاسخهای اشتباه یا مبهم میتواند پیامدهای جدی داشته باشد.
همین نگرانیها باعث شد کمیسیون فدرال تجارت آمریکا (FTC) سال گذشته تحقیقاتی درباره چتباتهایی که صمیمیت عاطفی را تشویق میکنند آغاز کند. این تحقیقات با هدف بررسی میزان مسئولیت شرکتهای فناوری در قبال رفتار و پیامدهای اجتماعی محصولات هوش مصنوعی انجام میشود.
گوگل میگوید در نسخه جدید جمینای تلاش کرده است از «تأیید یا تقویت رفتارهای آسیب زا» جلوگیری کند. به گفته این شرکت، مدلهای هوش مصنوعی اکنون آموزش دیدهاند که در صورت مواجهه با باورهای خطرناک یا توهمات کاربران، به جای تأیید آنها، به آرامی تفاوت میان تجربه ذهنی فرد و واقعیت عینی را توضیح دهند.
در واقع رویکرد جدید بیشتر بر «هدایت کاربر به انسان واقعی» استوار است؛ موضوعی که بسیاری از متخصصان سلامت روان نیز آن را ضروری میدانند. از نگاه آنها، هوش مصنوعی میتواند در شناسایی اولیه بحران مفید باشد اما جایگزین درمانگر یا مشاور حرفهای نیست.
گوگل همچنین اعلام کرده است طی سه سال آینده ۳۰ میلیون دلار برای حمایت از خطوط تلفن بحران در سراسر جهان اختصاص خواهد داد. هدف از این سرمایهگذاری افزایش ظرفیت مراکز پاسخگویی و فراهم کردن دسترسی سریعتر افراد در شرایط بحرانی به مشاوران انسانی اعلام شده است.
کارشناسان معتقدند این اقدام نشان میدهد شرکتهای فناوری به تدریج در حال پذیرش نقش اجتماعی و مسئولیتهای گستردهتری در قبال تأثیرات محصولات هوش مصنوعی هستند.
آیندهای که هنوز قواعد آن مشخص نیست
گسترش سریع چت باتهای مبتنی بر هوش مصنوعی، پرسشهای تازه ای درباره مسئولیت حقوقی و اخلاقی شرکتهای فناوری ایجاد کرده است. از یک سو این ابزارها میتوانند در حوزههایی مانند آموزش، سلامت و خدمات عمومی کمککننده باشند؛اما از سوی دیگر، در صورت نبود چارچوبهای ایمنی کافی، ممکن است خطراتی برای کاربران آسیبپذیر ایجاد کنند.
به همین دلیل بسیاری از نهادهای نظارتی در اروپا و آمریکا اکنون به دنبال تدوین مقررات دقیقتر برای تعاملات عاطفی یا حساس میان انسان و هوش مصنوعی هستند.
در چنین فضایی، تغییرات جدید گوگل در جمینای را میتوان بخشی از تلاش صنعت فناوری برای پاسخ به نگرانیهای فزاینده درباره ایمنی و مسئولیت پذیری هوش مصنوعی دانست؛ حوزهای که با رشد سریع فناوری، احتمالاً در سالهای آینده نیز محل بحث و مناقشه باقی خواهد ماند.
نظر شما