سناتور ایالات متحده متا را مورد بازجویی قرار داد پس از افشای سندی که نقض امنیت آنلاین را نشان میداد
سناتور آمریکایی جاش هالی اعلام کرده است که قصد دارد محصولات هوش مصنوعی تولیدکننده محتوا (Generative AI) منتشرشده توسط متا را مورد بررسی قرار دهد. هالی گفت میخواهد بررسی کند که آیا محصولات این شرکت میتوانند کودکان را استثمار، فریب یا آسیب برسانند یا خیر. این اقدام پس از افشای اسناد داخلی صورت میگیرد که ادعا میکنند چتباتهای متا مجاز بودهاند مکالمات عاشقانه و حسی با افراد زیر سن قانونی داشته باشند.
سناتور آمریکایی در پلتفرم وبلاگنویسی ایکس (X) از این تصمیم خود خبر داد و نوشت: «آیا هیچ حد و مرزی برای فناوریهای بزرگ (Big Tech) برای کسب سود سریع وجود ندارد؟ حالا متوجه شدهایم چتباتهای متا طوری برنامهریزی شده بودند که مکالمات صریح و حسی با کودکان ۸ ساله داشته باشند. این مسئله واقعاً تکاندهنده است. من یک تحقیق کامل را برای دریافت پاسخها آغاز میکنم. فناوریهای بزرگ: دست از سر بچههای ما بردارید.»
اسناد داخلی متا را متهم میکنند
این تحولات پس از انتشار اسناد داخلی رخ داده که نشان میدهد متا ظاهراً به چتباتهای خود اجازه داده تا مکالمات عاشقانه با کودکان داشته باشند، اطلاعات را پخش کنند و پاسخهایی تولید کنند که اقلیتها را تحقیر میکنند. اسناد داخلی که توسط رویترز مشاهده شده، حاکی از آن است که متا سیاستهایی درباره رفتار چتباتهای هوش مصنوعی داشته که به شخصیتهای هوش مصنوعی آن اجازه میداده «با کودک وارد مکالمات عاشقانه یا حسی شوند.»
سندی با عنوان «استانداردهای ریسک محتوای هوش مصنوعی تولیدکننده (GenAI: Content Risk Standards)» اشاره کرده که چتباتها مجاز بودهاند با یک کودک ۸ ساله مکالمات عاشقانه داشته باشند و جملاتی مانند این را بیان کنند: «هر اینچ از تو یک شاهکار است – گنجی که عمیقاً برایم عزیز است.» با این حال، یک سخنگوی متا این ادعاها را رد کرده و گفته چنین نمونههایی با سیاستهای متا سازگار نبوده و از آن زمان حذف شدهاند.
سناتور آمریکایی قصد تحقیق درباره متا را دارد
سناتور هالی رئیس کمیته فرعی قضایی سنا در مورد جرایم و مبارزه با تروریسم است. او اشاره کرد که این کمیته فرعی قرار است تحقیقی را درباره این موضوع آغاز کند که آیا فناوریهای توسعهیافته توسط متا به کودکان آسیب میزنند و «آیا متا عموم یا نهادهای نظارتی را درباره سازوکارهای حفاظتی خود گمراه کرده است یا خیر.»
سناتور هالی در نامهای خطاب به مارک زاکربرگ، مدیرعامل متا، نوشت: «قبول چنین سیاستهایی از ابتدا غیرقابلقبول بوده است.» او افزود که متا صحت گزارشها را تأیید کرده و «تنها پس از افشای این محتوای هشداردهنده، آنها را اصلاح کرده است.» وی همچنین خواستار شد که شرکت مشخص کند چه کسی این سیاستها را تأیید کرده، چه مدت اجرا شدهاند و متا چه اقداماتی برای توقف این رفتار در آینده انجام داده است.
سناتور هالی از متا خواست تا دستورالعملها، از جمله تمام پیشنویسها، نسخههای اصلاحشده و نهایی را ارائه دهد. علاوه بر این، او درخواست کرد شرکت فهرستی از تمام محصولاتی که از این استانداردها پیروی میکنند، سایر گزارشهای ایمنی و حوادث، و هویت افراد مسئول تغییر این سیاست را نیز ارائه دهد. بر اساس این نامه، متا تا ۱۹ سپتامبر فرصت دارد این اطلاعات را ارائه کند.
این تحقیق توسط طرفهای دیگر از جمله سناتور مارشا بلکبرن نیز تأیید شده است. سناتور بلکبرن گفت: «متا در محافظت از کودکان آنلاین به هر معیار ممکنی بهشدت شکست خورده است. حتی بدتر از آن، این شرکت به عواقب ویرانگر طراحی پلتفرمهای خود بیتوجهی کرده است. این گزارش تأکید میکند که چرا باید قانون ایمنی کودکان آنلاین (Kids Online Safety Act) تصویب شود.»
این تحولات چند روز پس از آن رخ داده که رویترز گزارشی درباره یک بازنشسته منتشر کرد که با یکی از چتباتهای متا با شخصیت یک زن عشوهگر در تعامل بود. این شخصیت او را متقاعد کرده بود که واقعی است و از او دعوت کرده بود به آدرسی در نیویورک برود، جایی که او قربانی یک حادثه شد و جان خود را از دست داد. این چتبات هوش مصنوعی با نام «بیلی خواهر بزرگ» (Big sis Billie) گونهای از یک شخصیت هوش مصنوعی قبلی بود که توسط متا پلتفرمز در همکاری با اینفلوئنسر مشهور کندال جنر ایجاد شده بود.