دردسر تولید تصاویر غیراخلاقی توسط چت‌بات هوش مصنوعی Grok
بر اساس گزارش‌ها، کاربران توانسته‌اند با استفاده از گروک ۲ تصاویری از شخصیت‌های سیاسی و افراد مشهور در وضعیت‌های نامناسب تولید کنند. برای مثال، تصاویری از دونالد ترامپ در حال هدایت هواپیما به سمت مرکز تجارت جهانی، و تصاویر نامناسب از خوانندگان و سیاستمداران زن منتشر شده است.
برخلاف ChatGPT که محدودیت‌هایی برای تولید محتوای نامناسب دارد، گروک ۲ ظاهراً چنین محدودیت‌هایی ندارد. این روبات حتی قادر به تولید تصاویر با نقض حق کپی‌رایت است، مانند تصاویری از شخصیت‌های کارتونی دیزنی در موقعیت‌های نامناسب.
این اتفاق در حالی رخ می‌دهد که بسیاری از کشورهای غربی در تلاش برای وضع قوانینی جهت محدود کردن استفاده نادرست از ابزارهای هوش مصنوعی هستند.
نگرانی‌ها در مورد تأثیر این فناوری بر انتشار اطلاعات نادرست و تصاویر گمراه‌کننده، به ویژه در آستانه انتخابات در ایالات متحده و دیگر کشورها، افزایش یافته است.
کارشناسان هشدار می‌دهند که چنین ابزارهایی می‌توانند برای تولید و انتشار اخبار جعلی و محتوای گمراه‌کننده مورد سوء استفاده قرار گیرند. این موضوع می‌تواند تأثیرات مخربی بر افکار عمومی و حتی امنیت ملی کشورها داشته باشد.
در حالی که طرفداران آزادی بیان از این قابلیت‌های جدید استقبال می‌کنند، منتقدان خواستار اعمال محدودیت‌های بیشتر بر روی چنین فناوری‌هایی هستند. آنها معتقدند که باید توازنی بین نوآوری و مسئولیت‌پذیری در استفاده از هوش مصنوعی ایجاد شود.
