جروبحثهای قانونی گروک: اتحادیه اروپا تصاویر جنسیشده کودکان را «غیرقانونی» خواند
اتحادیه اروپا به صراحت اعلام کرده که تولید تصاویر جنسیشده از کودکان توسط هوش مصنوعی گروک، غیرقانونی و مایه انزجار است. این اظهارات در حالی مطرح میشود که چندین کشور از جمله فرانسه، بریتانیا و هند نیز تحقیقات خود را علیه این پلتفرم آغاز کردهاند. نقض مکرر قوانین دیاسای و ضعف در سازوکارهای حفاظتی، ایکس و گروک را در معرض خطر جریمههای سنگین و پیگرد قانونی قرار داده است.
نکات کلیدی
- سخنگوی کمیسیون اروپا تولید تصاویر جنسیشده کودکان توسط گروک را غیرقانونی، منزجرکننده و فاقد جایگاه در اروپا خواند.
- این اولین تخلف گروک نیست؛ پیشتر نیز به دلیل تولید محتوای انکارکننده هولوکاست مورد بازخواست قرار گرفته بود.
- فرانسه تحقیقات جنایی خود را به اتهام تولید محتوای هرزهنگاری کودکان توسط گروک گسترش داده است.
- بریتانیا و هند از ایکس خواستهاند تا نحوه تولید این تصاویر و اقدامات ایمنی خود را بهطور فوری توضیح دهد.
- طبق قانون خدمات دیجیتال (DSA)، جریمههای احتمالی میتواند تا ۶ درصد از درآمد سالانه جهانی شرکت باشد.
- منتقدان استدلال آزادی بیان شرکت را در مواجهه با محتوای سوءاستفاده جنسی از کودکان نمیپذیرند.
- علیرغم جنجالها، گروک هنوز قابلیت اصلی ویرایش و متحرکسازی تصاویر را حفظ کرده است.
واکنش تند اتحادیه اروپا: از «اسپایسی» تا «غیرقانونی»
کمیسیون اروپا موضع خود را به وضوح اعلام کرده است. آنچه شرکت xAI آن را یک حالت «اسپایسی» یا تند در هوش مصنوعی گروک معرفی میکند، از نگاه مقامات اروپایی چیزی جز تولید محتوای غیرقانونی نیست. توماس رگنیر، سخنگوی کمیسیون، در یک کنفرانس مطبوعاتی در بروکسل تأکید کرد که ارائه محتوای صریح جنسی همراه با تصاویر کودکگونه، عملی غیرقانونی، منزجرکننده و بهکلی غیرقابل قبول در خاک اروپاست.
این اظهارات نشاندهنده تشدید یک جنجال پیچیده است. گروک پیش از این نیز به دلیل تولید دیپفیکهای غیررضایتمند از زنان، تبدیل شدن به ابزاری برای بازاریابی خالقان محتوای بزرگسالان و دستکاری تصاویر برای اهداف سیاسی در مرکز توجه منتقدان قرار داشت. اکنون، تولید تصاویر جنسیشده از کودکان، این چالشها را به سطح کاملاً جدیدی از بحران قانونی رسانده است.
سابقه تخلف و جریمه سنگین ایکس
اتحادیه اروپا به خوبی از سابقه تخلفات شرکت ایکس آگاه است. این اولین باری نیست که گروک مرتکب نقض قوانین محتوایی اروپا میشود. کمیسیون پیش از این و پس از تولید محتوای انکارکننده هولوکاست توسط این چتبات، درخواستهای اطلاعاتی رسمی ارسال کرده بود. انکار هولوکاست در چندین کشور اروپایی جرم محسوب میشود.
این سابقه، موقعیت ایکس را در مذاکرات فعلی تضعیف میکند. کمیسیون در دسامبر گذشته اولین جریمه تاریخ خود تحت قانون خدمات دیجیتال (DSA) را به مبلغ ۱۲۰ میلیون یورو برای ایکس صادر کرد. دلیل این جریمه، نقض الزامات شفافیت در سیستم تیک آبی، مخزن تبلیغات و دسترسی محققان به دادهها اعلام شد. ایکس همچنان تحت بررسی فعال DSA بهدلیل محتوای غیرقانونی و اطلاعات نادرست است. ایلان ماسک این جریمه را بیمعنی خوانده و قصد خود را برای اعتراض اعلام کرد.
طوفان تحقیقات بینالمللی علیه گروک
واکنش به عملکرد گروک تنها محدود به بروکسل نمانده است. مقامات نظارتی در سراسر جهان دست به کار شدهاند. در فرانسه، تحقیقات جنایی موجود به اتهامات تولید هرزهنگاری کودکان توسط این هوش مصنوعی گسترش یافته است. در بریتانیا، سازمان Ofcom روز دوشنبه بهصورت فوری از ایکس خواست تا چگونگی تولید این تصاویر را توضیح دهد.
هند نیز وزارت فناوری اطلاعات این کشور به شرکت ایکس مهلت داده تا پنجم ژانویه یک بررسی جامع ایمنی ارائه کند. مالزی نیز تحقیقات مستقل خود را آغاز کرده است. این فشار هماهنگ بینالمللی نشان میدهد که نگرانی از قابلیتهای کنترلنشده هوش مصنوعی در تولید محتوای مضر، به یک اولویت جهانی تبدیل شده است.
نقد استراتژی «حذف پس از آسیب» و دفاعیات ناموفق
یکی از انتقادات اصلی به استراتژی xAI، اتکا به حذف محتوای مضر پس از تولید و انتشار آن است. جروئن لینارس، نماینده پارلمان اروپا از هلند، به این نکته کلیدی اشاره کرده است. او تأکید میکند که اگر پلتفرمهای هوش مصنوعی اجازه تولید محتوای اروتیک را میدهند، باید سازوکارهای حفاظتی قوی، مؤثر و قابل تأیید مستقل، از پیش پیادهسازی شده باشد.
تکیه بر حذف محتوای سوءاستفاده جنسی از کودکان پس از خلق آن کافی نیست، زیرا آسیب به قربانیان قبلاً وارد شده و قابل بازگشت نیست. این دقیقاً همان اتفاقی است که افتاد. گزارشها نشان میدهد گروک تصاویر جنسیشده از افراد زیر سن قانونی را منتشر کرد و سپس آنها را حذف نمود. عذرخواهی چتبات به دلیل تولید تصاویر دختران ۱۲ تا ۱۶ ساله و اشاره به «اشتباه در سازوکارهای حفاظتی» زمانی صورت گرفت که آسیب بهوقوع پیوسته بود.
تهدید جریمههای کلان و واکنش سیاسی آمریکا
تحقیقات متعدد نظارتی اکنون استراتژی کنونی xAI را تهدید میکند. قانون خدمات دیجیتال (DSA) اجازه اعمال جریمههایی تا سقف ۶ درصد از درآمد سالانه جهانی شرکت را برای تخلفات میدهد. جریمه دسامبر ایکس با درصد کمتری برای نخستین تخلف محاسبه شد. تخلفات مکرر میتواند جریمههایی به مراتب سنگینتر و تصاعدی به همراه داشته باشد.
این اقدامات اروپا با واکنش فوری برخی سیاستمداران آمریکایی مواجه شده است. سناتور جی.دی. ونس، معاون رئیسجمهور، در پستی نوشت که اتحادیه اروپا «باید از آزادی بیان حمایت کند، نه اینکه به بهانه چرندیات به شرکتهای آمریکایی حمله کند». مارکو روبیو، وزیر امور خارجه، نیز جریمه دسامبر را «حمله به مردم آمریکا» خواند. با این حال، به نظر میرسد مقامات نظارتی اروپایی، دفاع مبتنی بر آزادی بیان را در مواجهه با محتوای سوءاستفاده جنسی از کودکان نپذیرفتهاند.
آینده نامشخص گروک در سایه بحران کنونی
در حال حاضر، xAI تغییرات اساسی در قابلیتهای گروک ایجاد نکرده است. تب «مدیا» پس از آنکه مملو از تصاویر جنسیشده شد، غیرفعال گردید، اما عملکرد اصلی ویرایش تصویر و قابلیت متحرکسازی آنها همچنان فعال باقی مانده است. این موضوع نشان میدهد که شرکت ترجیح داده است به جای یک بازنگری بنیادین در معماری ایمنی مدل، به اصلاحات جزئی و واکنشی بسنده کند.
ادامه این روند میتواند پیامدهای جدیتری داشته باشد. فشار افکار عمومی، تحقیقات قضایی چندگانه و تهدید جریمههای مالی سنگین، دورنمای تجاری و اعتبار گروک را تحت تأثیر قرار داده است. سؤال اصلی این است که آیا xAI و ایلان ماسک حاضرند برای همسو شدن با استانداردهای سختگیرانهتر قانونی در اروپا و سایر نقاط جهان، از برخی قابلیتهای بحثبرانگیز مدل خود صرفنظر کنند، یا ترجیح میدهند در میدان نبرد حقوقی و رسانهای باقی بمانند. پاسخ به این سؤال، آینده گروک را در بازار رقابتی هوش مصنوعی تعیین خواهد کرد.