با وجود تمام مشکلات و پیامدهای منفی هوش مصنوعی در جهان، از افزایش هزینه حافظه گرفته تا نگرانیهای دیگر، برخی شرکتها در تلاش هستند تا از این فناوری در مسیرهای مثبت استفاده کنند. یکی از نمونههای جالب، پتنت جدید پلی استیشن با شماره 18/314775 است که با عنوان سیستم یکپارچگی اجتماعی مبتنی بر مدل زبانی بزرگ (Large Language Model Powered Social Integrity System) ثبت شده است.
به زبان سادهتر، این فناوری نوعی حساب کاربری جعلی (Pseudo Account) است که برای شناسایی کاربران بالقوه خطرناک طراحی شده است. در توضیحات این پتنت آمده است که این حساب مجازی میتواند:
رفتار پیامرسانی و ویژگیهای جمعیت شناختی یک قربانی بالقوه را شبیهسازی کند و در عین حال برای یک کاربر ضداجتماعی (AS) کاملاً واقعی به نظر برسد.
این سیستم حتی میتواند رفتار پیام رسانی افراد کم سن و سال را شبیهسازی کرده و آن را در محیطهایی که کاربران ضداجتماعی به دنبال چنین تعاملاتی هستند، نمایش دهد. سپس حساب کاربری ضداجتماعی با این حساب جعلی وارد ارتباط میشود. در ادامه توضیحات پتنت آمده است:
حساب کاربری ضداجتماعی ممکن است به عنوان یک حساب مشکوک علامتگذاری شود. سپس سیستم میتواند منتظر بماند تا کاربر ضداجتماعی نخستین اقدام را علیه یک حساب واقعی انجام دهد و پیش از آنکه هرگونه ارتباط نامناسبی شکل بگیرد، این اقدام را گزارش کند.
این حساب جعلی میتواند توسط یک مدل زبانی بزرگ (LLM)، مانند مدلهای مبتنی بر GPT، کنترل شود.
چه رفتارهایی مشکوک محسوب میشوند؟
سیستم موردنظر پلی استیشن طیف گستردهای از فعالیتها را میتواند زیر نظر بگیرد؛ از جمله:
- ارسال پیامهای اسپم
- درخواست اطلاعات شخصی
- ارسال پیامهای نامناسب
- تقلب در بازیها
- کلاهبرداری
- تلاش برای برقراری ارتباط با افراد کم سن و سال
البته این سیستم قرار نیست بلافاصله چنین کاربرانی را مسدود یا جریمه کند و تعاملات معمولی کاربران نیز مشمول این سیستم نخواهند شد. با این حال، حسابهایی که رفتارهای مشکوک داشته باشند، علامتگذاری میشوند و افرادی که با آنها تعامل داشته باشند، هشدار دریافت خواهند کرد.
در واقع، پلی استیشن قصد دارد یک سیستم نظارت و مدیریت محتوا ایجاد کند که یک مزیت مهم دارد: کاربر خطرناک متوجه نمیشود که در حال تعامل با یک حساب کاربری جعلی تحت کنترل هوش مصنوعی است.
از میان کاربردهای مختلف هوش مصنوعی، چنین سیستمی را میتوان یکی از نمونههای نسبتاً مفید این فناوری دانست. البته سؤال اصلی این است که آیا سونی واقعاً این ایده را در پلی استیشن عملی خواهد کرد یا خیر؛ چرا که بسیاری از پتنتهایی که شرکتها در طول سالها ثبت میکنند، هرگز به یک محصول یا قابلیت تجاری تبدیل نمیشوند. بنابراین فعلاً باید منتظر ماند و دید آیا این فناوری واقعاً راه خود را به کنسولهای پلی استیشن باز خواهد کرد یا خیر.
در رابطه با تصمیمات اخیر پلی استیشن نیز، چنین فناوریای میتواند به این شرکت کمک کند تا تجربه امنتری برای کاربران خود ایجاد کند؛ بهخصوص پس از تصمیم بحث برانگیز این شرکت برای توقف تولید دیسکهای فیزیکی بازیهای جدید از ژانویه ۲۰۲۸. با وجود واکنشهای منفی گسترده به این تصمیم، لین تائو (Lin Tao)، مدیر مالی سونی، اعلام کرده است که این شرکت قصد دارد این روند را با احتیاط پیش ببرد.