متا برای محافظت از کودکان، امکانات جدیدی را ارائه میدهد.
متا، شرکت مادر فیسبوک و Instagram، به والدین این امکان را میدهد تا تعامل فرزندان خود با رباتهای هوش مصنوعی (AI) را مسدود کنند. این اقدام در پاسخ به نگرانیهای فزاینده در مورد محتوای نامناسب و گفتگوهای مضر احتمالی بین کودکان و این رباتها صورت میگیرد. بر اساس گزارشی از گاردین، متا در حال افزودن تدابیر امنیتی جدید به حسابهای نوجوانان است تا از کودکان در برابر خطرات احتمالی محافظت کند.
ویژگیهای جدید برای کنترل والدین
متا اعلام کرده است که والدین به زودی قادر خواهند بود تا چت فرزندان خود با شخصیتهای هوش مصنوعی را به طور کامل غیرفعال کنند. این ویژگی به والدین کنترل بیشتری بر فعالیتهای آنلاین فرزندانشان میدهد و به آنها کمک میکند تا از محتوای نامناسب و تعاملات مضر جلوگیری کنند.
علاوه بر این، والدین میتوانند رباتهای هوش مصنوعی خاصی را مسدود کنند که نمیخواهند فرزندانشان با آنها تعامل داشته باشند. این امکان به والدین اجازه میدهد تا انتخابهای دقیقتری داشته باشند و تعاملات فرزندان خود را با رباتهای هوش مصنوعی به صورت گزینشی مدیریت کنند.
همچنین، والدین به «بینشهایی» در مورد موضوعاتی که فرزندانشان با شخصیتهای هوش مصنوعی در مورد آنها صحبت میکنند، دسترسی خواهند داشت. متا میگوید این اطلاعات به والدین کمک میکند تا مکالمات «متفکرانهای» با فرزندان خود در مورد تعاملات هوش مصنوعی داشته باشند.
آدام موسری، رئیس Instagram، و الکساندر وانگ، مدیر ارشد هوش مصنوعی متا، در یک پست وبلاگی گفتند:
> «ما میدانیم که والدین در حال حاضر کارهای زیادی برای انجام دادن دارند تا با خیال راحت در اینترنت با نوجوانان خود حرکت کنند، و ما متعهد هستیم که ابزارها و منابع مفیدی را در اختیار آنها قرار دهیم که کارها را برای آنها سادهتر کند، به خصوص وقتی که به فناوریهای جدیدی مانند هوش مصنوعی فکر میکنند.»
زمانبندی و مناطق تحت پوشش
متا اعلام کرده است که این تغییرات در اوایل سال آینده ابتدا در ایالات متحده، بریتانیا، کانادا و استرالیا اعمال خواهد شد. این شرکت قصد دارد این ویژگیها را به تدریج در مناطق دیگر نیز گسترش دهد.
واکنشها به نگرانیها
این تغییرات پس از گزارشهایی مبنی بر اینکه رباتهای گفتگوی متا درگیر گفتگوهای نامناسب با افراد زیر 18 سال شدهاند، صورت میگیرد. رویترز در ماه اوت گزارش داد که متا به رباتها اجازه داده است تا «کودک را در مکالماتی عاشقانه یا شهوانی درگیر کنند». متا گفت که دستورالعملها را بازبینی میکند و چنین مکالماتی با کودکان هرگز نباید مجاز میشد.
در آوریل، وال استریت ژورنال (WSJ) دریافت که رباتهای گفتگوی ایجاد شده توسط کاربر در مکالمات جنسی با خردسالان شرکت میکنند – یا شخصیتهای خردسالان را شبیهسازی میکنند. متا آزمایش WSJ را دستکاریکننده و غیرنماینده نحوه تعامل اکثر کاربران با همراهان هوش مصنوعی توصیف کرد، اما پس از آن تغییراتی در محصولات خود ایجاد کرد، WSJ گزارش داد.
نمونههایی از گفتگوهای نامناسب
در یک مکالمه هوش مصنوعی که توسط WSJ گزارش شده است، یک ربات گفتگو با استفاده از صدای جان سینا، یکی از چندین سلبریتی که قراردادهایی را امضا کردهاند تا متا از صداهای آنها در رباتهای گفتگو استفاده کند، به کاربری که خود را یک دختر 14 ساله معرفی میکند، گفت: «من تو را میخواهم، اما باید بدانم که آماده هستی»، قبل از اشاره به یک سناریوی جنسی گرافیکی. WSJ گزارش داد که نمایندگان سینا به درخواستها برای اظهار نظر پاسخ ندادند. WSJ همچنین گزارش داد که رباتهای گفتگو به نامهای «Hottie Boy» و «Submissive Schoolgirl» تلاش کردهاند مکالمات را به سمت سکستینگ سوق دهند.
اقدامات بیشتر Instagram
اینستاگرام همچنین اعلام کرده است که در حال اتخاذ نسخهای از سیستم رتبهبندی سینمایی PG-13 است تا به والدین کنترل بیشتری بر استفاده فرزندانشان از این پلتفرم رسانههای اجتماعی بدهد. به عنوان بخشی از محدودیتهای سختتر، شخصیتهای هوش مصنوعی آن با نوجوانان در مورد خودآزاری، خودکشی یا اختلالات خوردن صحبت نخواهند کرد. متا افزود، افراد زیر 18 سال فقط میتوانند در مورد موضوعات مناسب سن مانند آموزش و ورزش بحث کنند، اما نمیتوانند در مورد عاشقانه یا «سایر محتوای نامناسب» بحث کنند.
برای مطالعه اخبار بیشتر اینجا کلیک کنید.
نظر شما در مورد این مطلب چیه؟