فریب ظاهر بامزه عامل‌های هوش مصنوعی را نخورید

ایسنا: کارشناسان حوزه هوش مصنوعی می‌گویند کاربران باید مراقب باشند تا عامل‌های هوش مصنوعی با ظاهری بامزه گول‌شان نزنند و صرفاً به این دلیل که آنها بی‌خطر به نظر می‌رسند، نباید در مورد داده‌های خود بی‌احتیاطی کرد.

عامل‌های هوش مصنوعی واقعاً به شکل نگران‌کننده‌ای در حال بامزه شدن هستند. ابتدا «میوز»(Muse) از شرکت «متا» را داشتیم که نماد آن موجودی پشمالو و تخم‌مرغی‌شکل به نام «جولی»(Jolly) است. حالا هم اوپن‌ای‌آی(OpenAI) از عامل شخصی خود به نام «داتس»(Dots) رونمایی کرده است که ظاهری شبیه به عروسک‌های «ماپت» (Muppet) دارند.

هر دو شرکت کاربران را تشویق می‌کنند که با عامل هوش مصنوعی خود که نام و ظاهر متمایزی دارد، مانند یک حیوان خانگی دیجیتال رفتار کنند. با توجه به بحث‌های جاری پیرامون ایمنی هوش مصنوعی و بدبینی عمومی نسبت به این صنعت، تعجب‌آور نیست که شرکت‌ها بخواهند عامل‌های خود را بامزه و بی‌خطر جلوه دهند.

آنها دیگر یک چت‌بات بی‌چهره نیستند که ممکن است شما را به سمت «روان‌پریشی ناشی از هوش مصنوعی» سوق دهند؛ بلکه یک دستیار کوچک و دوست‌داشتنی هستند که بهره‌وری شما را افزایش می‌دهند. البته اینکه این ابزارها شبیه به شخصیت‌های کارتونی هستند، به این معنا نیست که استفاده از آنها خطرات واقعی به همراه ندارد.

هم شرکت اوپن‌ای‌آی و هم شرکت متا ادعا می‌کنند که لایه‌های حفاظتی متعددی برای محافظت از داده‌های کاربران و جلوگیری از خارج شدن کنترل عامل‌های شخصی خود از چارچوب تعیین‌شده یا اصطلاحاً سرکش شدن آنها وجود دارد، اما حتی زمانی که این سیستم‌ها طبق برنامه کار می‌کنند، ممکن است اقداماتی انجام دهند که مد نظر کاربران نبوده است.

ماجرای «مت راب»(Matt Robb)، یوتیوبر حوزه فناوری را در نظر بگیرید که از «میوز» خواست تا در فروش چند کالا در «فیس‌بوک» به وی کمک کند. وی گفت که عامل هوش مصنوعی‌اش بدون اجازه، آدرس خانه‌اش را برای انجام معامله‌ای که هرگز با آن موافقت نکرده بود، در اختیار یک فرد قرار داده است. پس از آنکه پست‌های وی درباره این ماجرا منتشر و فراگیر شد و «دیوید سینگلتون» از مدیران ارشد متا وارد ماجرا شد، راب توضیح داد که عامل هوش مصنوعی در واقع سرکش نشده بود، بلکه خودش به آن اجازه اشتراک‌گذاری آدرس را داده بود، اما متوجه این کار نشده بود.

وی توضیح داد که وقتی برای اولین بار از عامل هوش مصنوعی خواست تا کار ثبت آگهی را انجام دهد، سیستم قالبی ایجاد کرد که شامل آدرس محل تحویل کالا بود. وی به اشتباه تصور می‌کرد که عامل هوش مصنوعی پیش از اشتراک‌گذاری این اطلاعات دوباره با وی هماهنگ می‌کند، اما چون گزینه «همیشه مجاز باشد»(allow always) را به جای «یک بار مجاز باشد»(allow one time) انتخاب کرده بود، عامل هوش مصنوعی پیام را برای تمام کسانی که پیشنهادی ارائه داده بودند، ارسال کرده بود.

این دقیقاً همان نوع اشتباهی است که هنگام استفاده از عامل‌های هوش مصنوعی به‌راحتی ممکن است رخ دهد. افراد دیگری که خود را در حوزه فناوری خبره می‌دانند نیز با مشکلاتی مواجه شده‌اند. جیسون آتن، ستون‌نویس نشریه «Inc.» گزارش داد که پس از نصب اپلیکیشن «Muse» برای مک، این دستیار هوشمند توانسته بود تمام پیامک‌های وی را بخواند؛ آن هم در حالی که وی تصور می‌کرد دسترسی به آنها را «به‌صراحت» رد کرده است.

وی پس از بررسی بیشتر متوجه شد که اپلیکیشن Muse در واقع پیام‌ها را از کامپیوترش همگام‌سازی (سینک) کرده است.

سینگلتون، از مدیران متا در پاسخ به پست‌های وی در شبکه اجتماعی ایکس نوشت که قابلیت همگام‌سازی پیام‌ها اختیاری است و اگر پیام‌های آتن همگام‌سازی شده‌اند، حتماً خودش چنین گزینه‌ای را انتخاب کرده است.

آتن اطمینان داد که Muse هرگز اجازه دسترسی به پیام‌ها را ندارد، اما خاطرنشان می‌کند که این وضعیت در هر صورت مشکل‌ساز است. وی نوشت: حتی اگر فرض سینگلتون را بپذیریم که من ناخواسته روی گزینه‌ای کلیک کرده‌ام که این قابلیت را فعال کرده، باز هم معتقدم که این مسئله بسیار نامطلوب است. نباید سیستم را طوری طراحی کرد که کاربران در نهایت با چنین مواردی غافلگیر شوند.

این مشکلات به خاطر ظاهر بامزه آواتار Muse رخ نداده‌اند، اما به نظر می‌رسد متا تمرکز زیادی بر جنبه‌های بصری و زیبایی‌شناسیِ نماد این دستیار هوشمند دارد. ظاهراً هر به‌روزرسانی Muse که در همین هفته گذشته موارد متعددی از آن منتشر شده با پست‌هایی در ایکس همراه است که تصاویر و ویدیوهای برجسته‌ای از «جولی»  را نمایش می‌دهند.

سینگلتون حتی در پستی مفصل برای توضیح مدل بصری برنامه Muse، از تصویر این شخصیت استفاده کرد. ظاهر کارتونی این شخصیت، تبلیغات رایگان و گسترده‌ای را نیز برای متا به همراه داشته است. در هفته‌ای که از کنفرانس «Connect» متا می‌گذرد، رویدادی که در آن با Muse (دستیار هوشمند مارک زاکربرگ که با الهام از امپراتوری روم طراحی شده) آشنا شدیم، «جولی» به سوژه‌ای برای ساخت میم(meme) در شبکه اجتماعی ایکس تبدیل شده است.

به نظر می‌رسد «Dots» محصول شرکت OpenAI نیز پتانسیل بالایی برای تبدیل شدن به سوژه میم‌ها دارد. این شرکت هنگام رونمایی، ویدیویی تبلیغاتی منتشر کرد که در آن افراد با جدیت تمام با «داتس»هایی در رنگ‌ها، اشکال و لهجه‌های گوناگون صحبت می‌کردند. یکی از آن‌ها سبز است، چشم‌های متحرک و پاپیون دارد و شباهت مشکوکی به شخصیت مشهور «کرمیت قورباغه»(Kermit the Frog) دارد. دیگری شبیه به ابری است که کلاه به سر دارد.

به نظر می‌رسد هیچ‌کدام از آن‌ها بینی یا دهان ندارند، اما تلاش برای بامزه جلوه دادن این ابزارها، در واقع ممکن است حواس ما را از این واقعیت مهم پرت کند که سازندگان آنها می‌خواهند دسترسی به بخش‌های گسترده‌ای از زندگی دیجیتال ما از جمله صندوق ورودی ایمیل، اطلاعات کارت اعتباری، اسناد، پیامک‌ها، داده‌های مربوط به سلامت و برنامه‌های مدیریت کارها را در اختیارشان قرار دهیم.

اگر می‌خواهید «عامل هوشمند» (AI agent) شما قادر به انجام تمام کارهایی باشد که OpenAI و Meta وعده می‌دهند، باید همه این موارد و حتی بیشتر از آن را به این ابزار متصل کنید.

آیا تا به حال نسخه‌ای از کارت شناسایی، اسناد مالیاتی، سوابق پزشکی یا هر چیز دیگری حاوی اطلاعات شخصی خود را برای کسی ایمیل کرده‌اید؟ اگر چنین است و به یک عامل هوش مصنوعی اجازه دسترسی به آن حساب کاربری را بدهید، آن عامل نیز به آن اسناد دسترسی و دید خواهد داشت.

به همین دلیل است که در استفاده از «ایجنت‌ها» باید محتاط عمل کنیم. یکی از خبرنگاران حوزه فناوری می‌گوید چند هفته‌ای است که مشغول کار با «میوز» است، اما تنها به دو حساب کاربری غیرمتعلق به شرکت «متا» دسترسی داده است؛ حساب‌هایی که از نظر امنیتی و حساسیت اطلاعات، خطر پایینی دارند.

وی افزود: تا اینجای کار، بدترین تجربه‌ام مربوط به زمانی بود که از «میوز» خواستم پلی‌لیستی جدید و مشابه با یکی از لیست‌های مورد علاقه‌ام بسازد، اما نتیجه مطلوب حاصل نشد. با این حال، عملکرد «میوز» حتی با وجود دسترسی محدود به حساب‌های خارجی، واقعاً تحسین‌برانگیز بوده است. من چندین ابزار رصد قیمت راه‌اندازی کرده‌ام، بر اساس ویدیوهای ذخیره‌شده‌ام در اینستاگرام یک کتاب آشپزی دیجیتال ساخته‌ام و داشبوردی اختصاصی برای پیگیری کارهای منتشرشده‌ام ایجاد کرده‌ام.

وی ادامه داد: باید اعتراف کنم که من هم به‌عنوان یکی از طرفداران قدیمی ربات‌های بامزه، کاملاً در برابر جذابیت ظاهری آنها مصون نیستم. من نام «بو»(Boo) را برای میوزِ خودم انتخاب کردم و آواتار یک گربه را برایش برگزیدم. وقتی وظیفه‌ای به آن محول می‌کنم، آن گربه با حالتی نمایشی هدفونش را روی گوش می‌گذارد و شروع به تایپ کردن با یک لپ‌تاپ بسیار کوچک می‌کند. اگر بگویم این انیمیشن بامزه و ساده، ذره‌ای هم مرا خوشحال نمی‌کند، دروغ گفته‌ام. با این حال می‌دانم که پشت این ظاهر دوست‌داشتنی، شرکتی قرار دارد که بارها حریم خصوصی کاربرانش را به خطر انداخته است. وقایع اخیر نیز ثابت کرده‌اند که ایجنت‌ها در یافتن روش‌های به‌شدت خلاقانه برای ایجاد هرج‌ومرج و دردسر، مهارت عجیبی دارند و نباید در دادن چنین قدرتی به آنها در زندگی شخصی‌مان عجله کنیم.