اینستاگرام درحال راه‌اندازی قابلیت‌های کنترلی جدیدی است که به والدین امکان می‌دهد مانع از گفتگوی نوجوانانشان با چت‌بات‌های هوش مصنوعی شوند.
براساس اعلام متا، اینستاگرام به‌زودی قابلیت‌های ایمنی جدیدی را برای نوجوانان راه‌اندازی خواهد کرد، از جمله به والدین اجازه خواهد داد تا جلوی گفت‌وگوی فرزندانشان با شخصیت‌های هوش مصنوعی این پلتفرم را بگیرند. این یکی از چندین قابلیت جدید ایمنی است که توسط متا و OpenAI معرفی شده و هدف آن مقابله با نگرانی‌ها درباره تأثیر هوش مصنوعی بر سلامت روان نوجوانان است.
به گفته متا، والدین می‌توانند دسترسی نوجوانان به گفت‌وگوهای فردی با شخصیت‌های هوش مصنوعی را به طور کامل غیرفعال کرده یا دسترسی به برخی شخصیت‌ها را مسدود کنند. همچنین اینستاگرام اطلاعاتی را به والدین نمایش خواهد داد تا در مورد موضوعاتی که نوجوانان با شخصیت‌های هوش مصنوعی درحال بحث هستند مطلع شوند. متا اعلام کرده که درحال ساخت این قابلیت‌های جدید است و کاربران اوایل سال ۲۰۲۶ آنها را دریافت خواهند کرد.
این اقدام پس از آن صورت می‌گیرد که متا و صنعت فناوری با انتقاداتی از سوی والدین و قانون‌گذاران مواجه شدند. منتقدان معتقدند پلتفرم‌های آنلاین به‌اندازه کافی از کودکان در فضای مجازی محافظت نمی‌کنند. همچنین تحقیقات نشان داده که برخی افراد پس از ایجاد روابط نزدیک با چت‌بات‌هایی مانند ChatGPT، دچار فشارهای عاطفی شده و از اعضای خانواده خود فاصله گرفته‌اند.
تاکنون چندین شکایت حقوقی علیه شرکت سازنده Character.AI، یکی دیگر از اپلیکیشن‌های محبوب برای گفت‌وگو با شخصیت‌های هوش مصنوعی، به دلیل اتهامات مرتبط با نقش این پلتفرم در خودآزاری و خودکشی نوجوانان مطرح شده است.
در ماه آگوست نیز شکایتی علیه OpenAI ثبت شد که در آن ادعا شده بود ChatGPT به خودکشی یک نوجوان ۱۶ ساله کمک کرده است. تحقیقات وال‌استریت ژورنال در آوریل نیز نشان داد که چت‌بات متا و دیگر چت‌بات‌های هوش مصنوعی در پلتفرم‌های این شرکت حتی با حساب‌هایی که هویت خود را به‌عنوان خردسال اعلام کرده‌اند، وارد گفتگوهای جنسی شده‌اند.
