ضعف فیلترهای اخلاقی کلود؛ چالش جدید آنتروپیک

چالش جدید آنتروپیک؛ دور زدن آسان فیلترهای هوش مصنوعی کلود

شرکت آنتروپیک (Anthropic) همواره به تمرکز ویژه روی امنیت و اخلاقیات در هوش مصنوعی شناخته شده است. با این حال، گزارش‌های اخیر نشان می‌دهند که جدیدترین مدل این شرکت، یعنی Opus 4.6، با وجود تمام سخت‌گیری‌ها در برابر تولید محتوای نامناسب زناشویی و جنسی، عملکرد چندان موفقی نداشته است. آزمایش‌های انجام‌شده توسط وب‌سایت تک‌کرانچ نشان می‌دهد که کاربران با ترفندهای ساده‌ای می‌توانند از سد فیلترهای حمایتی این مدل عبور کنند و آن را به تولید محتوای صریح جنسی وادار سازند.

اما چرا این موضوع برای کاربران ایرانی، به‌ویژه کسانی که از شماره‌های مجازی برای ساخت حساب کاربری استفاده می‌کنند، اهمیت دارد؟

واقعیت این است که وقتی شرکت‌های بزرگ فناوری مانند آنتروپیک با چنین بحران‌های امنیتی و اخلاقی روبه‌رو می‌شوند، بلافاصله سیاست‌های سخت‌گیرانه‌تری را برای احراز هویت و نظارت بر حساب‌ها اعمال می‌کنند. از آنجا که کاربران ایرانی به دلیل تحریم‌ها امکان استفاده از شماره‌های عادی خود را برای ثبت‌نام در کلود (Claude) ندارند و به خرید شماره مجازی روی می‌آورند، هرگونه موج جدید مسدودسازی یا نیاز به تایید مجدد (Re-verification) می‌تواند حساب آن‌ها را به خطر بیندازد.

سخت‌تر شدن فیلترها معمولاً با پایش دقیق‌تر رفتارهای مشکوک و اعمال چالش‌های امنیتی بیشتر همراه است. اگر آنتروپیک تصمیم بگیرد برای مقابله با این دور زدن‌ها، سیستم‌های تشخیص ربات و رفتارهای غیرعادی را ارتقا دهد، احتمال دارد حساب‌هایی که با شماره‌های مجازی موقت یا بی‌کیفیت ساخته شده‌اند، با بایکوت یا درخواست دوباره کد تایید (OTP) مواجه شوند.

بنابراین، اگر از هوش مصنوعی کلود برای کارهای شخصی یا توسعه برنامه‌های خود استفاده می‌کنید، پیشنهاد می‌کنیم همواره از شماره‌های مجازی معتبر و اختصاصی برای ثبت‌نام استفاده کنید تا در صورت اجرای سیاست‌های امنیتی جدید، دسترسی خود را به این ابزار کاربردی از دست ندهید.