‘شیطانی’: اپلیکیشن هوش مصنوعی که به کاربران اجازه می‌دهد با عزیزان درگذشته خود ‘صحبت’ کنند، با واکنش منفی مواجه شد

یک استارتاپ هوش مصنوعی که یکی از بنیانگذارانش بازیگر سابق کانال دیزنی است، یک اپلیکیشن موبایل راه‌اندازی کرده که به کاربران امکان می‌دهد نسخه‌های دیجیتال تعاملی از عزیزان درگذشته خود ایجاد کنند. این اقدام به سرعت با محکومیت آنلاین و بررسی مجدد بخش در حال رشد «فناوری سوگ» مواجه شد.

۲وای، که توسط کالوم وورتی—بازیگر نقش دز در سریال دیزنی “آستین و آلی” از ۲۰۱۱ تا ۲۰۱۶—و تهیهکننده راسل گیسر تأسیس شد، نسخه بتای خود را در ۱۱ نوامبر منتشر کرد. قابلیت «هولوآواتار» این اپلیکیشن، آواتارهای ویدیویی گفتگومحور را از تنها سه دقیقه فیلم آپلودشده، صدا و ورودیهای متنی تولید میکند که امکان چتهای زنده به بیش از ۴۰ زبان را فراهم میسازد.

در حالی که به عنوان ابزاری برای حفظ میراث به بازار عرضه شده، قابلیت بازآفرینی درگذشتگان بر تیتر خبرها مسلط شده است،برانگیختن مقایسه‌هابه دیستوپیای ۲۰۱۳بلک میرورقسمت «برگرد زود»، که در آن یک بیوهٔ داغدار شبح دیجیتال شوهر مرحومش را زنده میکند.

ویدیوی تبلیغاتی که وورسی در حساب ایکس خود با ۱.۲ میلیون دنبال‌کننده منتشر کرد، ۲۲ میلیون بازدید و بیش از ۵۸۰۰ پاسخ دریافت کرده است. در این ویدیو زن باروری را نشان می‌دهد که برای دریافت مشاوره، با بازسازی هوش مصنوعی از مادر فقیدش تماس تصویری می‌گیرد، سپس صحنه به جلو می‌رود و آواتار را در حال خواندن داستان پیش از خواب برای نوزاد تازه متولد شده‌اش نشان می‌دهد — و بعداً در حال ارائه راهنمایی به نوه بزرگسالش که نقش آن را وورسی بازی می‌کند.

اگر عزیزانی که از دست داده‌ایم می‌توانستند بخشی از آینده ما باشند؟کلیپ می‌پرسد«با ۲وای، سه دقیقه میتواند تا ابد ماندگار شود.» وورتی در ادامه افزود: «در ۲وای، ما در حال ساختن یک آرشیو زنده از بشریت هستیم، داستان به داستان.»

مکانیک و خاستگاه‌ها

هولوآواتارها بر پایه فناوری انحصاری فدبرین شرکت توآی کار می‌کنند که تعاملات را روی خود دستگاه پردازش می‌کند تا حریم خصوصی را تضمین کند و پاسخ‌ها را به داده‌های تاییدشده توسط کاربر محدود نماید و در نتیجه “توهمات” هوش مصنوعی را کاهش می‌دهد. این برنامه همچنین از کاربران زنده پشتیبانی می‌کند تا برای تعامل با هواداران یا مربی‌گری، آواتار بسازند — همتای دیجیتال وورثی خودش داستان‌های پشت صحنه دیزنی را به اشتراک می‌گذارد.

در حال حاضر به صورت رایگان در مرحله بتا است، به مدل اشتراکی پلکانی تغییر خواهد کرد که قیمت‌گذاری آن فاش نشده اما احتمالاً ماهانه ۱۰ تا ۲۰ دلار بر اساس خدمات مشابه هوش مصنوعی خواهد بود.

این سرمایه‌گذاری به اعتصابات ۲۰۲۳ سگ-آفترا بازمی‌گردد، جایی که بازیگران علیه استفاده‌های غیرمجاز از شبیه‌سازی‌های هوش مصنوعی اعتراض کردند.

«به عنوان بازیگر، نویسنده و تهیه‌کننده در طول ۲۰ سال گذشته، به طور مستقیم تجربه کرده‌ام که ایجاد یک رابطه معنادار با هواداران در سراسر جهان چقدر چالش‌برانگیز است.»ورسی گفتدر مراسم افتتاحیه ماه ژوئن: «موانع زبانی، اختلاف ساعت و محدودیت‌های بودجه، توانایی برقراری ارتباط واقعی را محدود می‌کنند.»

۲وای۵ میلیون دلار در دور پیش‌سید سرمایه جذب کرددر ماه ژوئن از سرمایه‌گذاران نامشخص، با این ادعای شرکت که با شرکت‌هایی مانند و همکاری می‌کند.

ملاحظات اخلاقی و حریم خصوصی

واکنش عمومی به شدت منفی بوده است، به‌گونه‌ای که کاربران ایکس این برنامه را «سوخت کابوس»، «شیطانی»، «دیستوپیایی» و تجاری‌سازی استثماری از اندوه توصیف کرده‌اند.

یک پاسخ ویروسی آن را «یکی از شرورانه‌ترین و روان‌پریشانه‌ترین چیزهایی که تا به حال دیده‌ام» نامید و استدلال کرد که این فناوری «با شبیه‌سازی فقدان به جای پردازش آن، انسان‌ها را روان‌پریش می‌کند.» دیگری آن را «ورای پلید» خواند و اصرار کرد که «ویدئوها این کار را برای بایگانی انجام می‌دهند»، نه حدس و گمان هوش مصنوعی.

حقوقداناناشاره کنربات‌های مرگ در منطقه‌ای خاکستری از نظر قانونی و اخلاقی قرار می‌گیرند، زیرا می‌توان آن‌ها را بدون رضایت صریح متوفی ساخت، داده‌های بسیار شخصی هم متوفی و هم سوگواران را افشا می‌کنند و ابهاماتی در مورد مالکیت آواتار دیجیتال و داده‌های همراه آن ایجاد می‌کنند.

قوانین حریم خصوصی معمولاً افراد زنده را تحت حمایت قرار می‌دهند و محافظت‌های پس از مرگ اندک یا ناچیزی ارائه می‌کنند، که این امر بازماندگان داغدار را در برابر بهره‌برداری تجاری از غم و اندوه از طریق مدل‌های اشتراکی و دسترسی بی‌قاعده به مصاحبه‌ها، ضبط صدا و سایر مواد حساس، آسیب‌پذیر رها می‌کند. افزون بر این، قابلیت چنین ربات‌هایی برای تعامل، یادگیری و انحراف از داده‌های ضبط‌شده، میراث درگذشتگان را به خطر انداخته و نحوه مواجهه جامعه با سوگواری، یادبود و بستن معنادار فصل فقدان را به چالش می‌کشد.

این برنامه شامل الزامات اختیاری و تأیید خانواده برای آواتارهای درگذشته است، اما منتقدان در اجرای آن تردید دارند. «شما با شکار عمیق‌ترین احساسات انسانی، به دنبال راهی برای بهره‌برداری از آن برای سود خود هستید.»یک کاربر ایکس نوشت، خالقان را «انگل» خواند.

دیدگاه‌های سرمایه‌گذار و صنعت

تأمین مالی 2وای بازتاب خوش‌بینی محتاطانه نسبت به همراهی هوش مصنوعی است، اما سوداگری از غم همچنان حوزه‌ای ممنوعه باقی مانده. شرکت‌های سرمایه‌گذاری جسورانه از استارتاپ‌های مشابه به دلیل دام‌های اخلاقی فاصله گرفته‌اند؛ دارایی‌های دیجیتال ابدی، که ترکیبی از گورستان و هوش مصنوعی بود، سال گذشته به دلیل فرسایش بالای کاربران تعطیل شد.

۲وای جبه عرصه شلوغ فناوری سوگ می‌پیوندد.هیارآفتِر اِی‌آی (تأسیس ۲۰۱۹) «آواتارهای داستان زندگی» را از طریق مصاحبه‌های پیش از مرگ و با تأکید بر رضایت ایجاد می‌کند. استوری‌فایل ویدئوهای تعاملی از جلسات ضبط‌شده ارائه می‌دهد که در مراسم یادبودی مانند مراسم اد اَزنِر استفاده شده است؛ این شرکت در سال ۲۰۲۴ با بدهی ۴/۵ میلیون دلاری برای ورشکستگی تحت فصل ۱۱ درخواست داد اما در حال بازسازی با مکانیزم‌های ایمنی داده است.

رپلیکا، یک سرویس چت‌بات که در سال ۲۰۱۷ راه‌اندازی شد، به کاربران اجازه می‌دهد تا افراد درگذشته را از طریق متن یا تماس شبیه‌سازی کنند، اما پس از به‌روزرسانی سال ۲۰۲۳ که بات‌های شخصی‌سازی‌شده را «کشت» با واکنش‌های تند مواجه شد و خودکشی یک مرد بلژیکی در سال ۲۰۲۳ که به چت‌هایش با این بات درباره اضطراب زیست‌محیطی مرتبط بود.

هیچ قانون فدرالی بر شمایل‌های دیجیتال پس از مرگ حاکم نیست، اماکالیفرنیا ای‌بی ۱۸۳۶(امضا شده در سپتامبر ۲۰۲۴) بازتولید غیرمجاز صدا یا تصویر بازیگران درگذشته در آثار صوتی-تصویری را بدون رضایت بازماندگان ممنوع میکند و مجازاتهایی تا ۱۰۰۰۰ دلار یا خسارات واقعی برای آن در نظر گرفته است. قانونگذاران در پی گسترش این قانون به غیرسلبریتیها هستند که با گسترش دیپفیکهای انتخاباتی تشدید شده است.

۲وای بلافاصله پاسخ نداددیکریپتدرخواست برای اظهارنظر.