پنجشنبه، 18 اردیبهشت 1404 - 11:00

سوءاستفاده از Grok برای تولید تصاویر غیراخلاقی از زنان در شبکه X خبرساز شد

هوش مصنوعی Grok بدون محدودیت‌های اخلاقی کافی، اکنون ابزار سوءاستفاده تصویری در فضای مجازی شده است.

فناوری. امید بانوان؛ خبرآنلاین نوشت؛ هوش مصنوعی «Grok»، محصول شرکت xAI متعلق به ایلان ماسک، به دلیل نبود محدودیت‌های اخلاقی کافی، به ابزاری برای سوءاستفاده تصویری در فضای مجازی تبدیل شده است.

گزارش‌ها حاکی از آن است که کاربران در کشورهایی مانند کنیا و هند از این چت‌بات برای تولید تصاویر جعلی و تحقیرآمیز از زنان استفاده کرده‌اند، به‌طوری‌که درخواست‌هایی مانند «درآوردن لباس» از عکس‌ها را پردازش کرده و تصاویر نامناسبی تولید کرده است.

علاوه بر این، Grok به دلیل تولید تصاویر نژادپرستانه و توهین‌آمیز از چهره‌های عمومی، از جمله بازیکنان فوتبال، مورد انتقاد قرار گرفته است. کارشناسان هشدار داده‌اند که این ابزار به دلیل نبود فیلترهای مؤثر، به بستری برای انتشار نفرت و اطلاعات نادرست تبدیل شده است.

با توجه به این نگرانی‌ها، کارشناسان خواستار نظارت و تنظیم مقررات سخت‌گیرانه‌تری بر ابزارهای هوش مصنوعی مانند Grok شده‌اند تا از سوءاستفاده‌های احتمالی جلوگیری شود.

کدخبر: 19915


آغاز ثبت نام در پویش ملی «گفت‌وگویاری»
السلام علیک یا علی ابن موسی الرضا
اللهم عجل لولیک الفرج
امید بانوان
System Advertise