استارتاپ QueryStory؛ گامی نو برای افزایش اعتماد به پاسخ‌های هوش مصنوعی

استارتاپ QueryStory؛ امنیت و اعتبار در دنیای هوش مصنوعی

با رشد سریع هوش مصنوعی، یکی از بزرگ‌ترین چالش‌های کاربران، میزان اعتمادی است که می‌توان به خروجی‌های این فناوری داشت. استارتاپ جدیدی به نام QueryStory به تازگی با جذب سرمایه اولیه ۶ میلیون دلاری فعالیت خود را به طور رسمی آغاز کرده است تا این مشکل را برطرف کند. هدف این استارتاپ، استفاده از تخصص امنیت سایبری برای منطقی‌تر، دقیق‌تر و قابل‌اعتمادتری کردن پاسخ‌هایی است که مدل‌های بزرگ زبانی (LLM) به کاربران ارائه می‌دهند. جزئیات بیشتر این خبر را می‌توانید در وب‌سایت تک‌کرانچ بخوانید.

این فناوری تلاش می‌کند تا با تحلیل دقیق‌تر درخواست‌ها و پاسخ‌ها، جلوی خطاهای رایج هوش مصنوعی (مانند هذیان‌گویی یا اطلاعات ساختگی) را بگیرد. بنیان‌گذاران این مجموعه معتقدند همان‌طور که در امنیت سایبری نیاز به بررسی و تایید مداوم داده‌ها وجود دارد، در تعامل با هوش مصنوعی نیز باید فرآیندی برای اعتبارسنجی پاسخ‌ها برقرار باشد.

چرا این موضوع برای کاربران ایرانی و سرویس‌های تایید هویت مهم است؟

بسیاری از کاربران ایرانی برای ثبت‌نام در پلتفرم‌های بین‌المللی، پیام‌رسان‌ها و سرویس‌های مختلف از شماره مجازی و کدهای تایید (OTP) استفاده می‌کنند. امروزه اکثر این پلتفرم‌ها در حال یکپارچه‌سازی خدمات خود با ابزارهای هوش مصنوعی هستند. برای مثال، ربات‌های پشتیبانی، سیستم‌های احراز هویت خودکار و حتی پیام‌رسان‌هایی مثل تلگرام و واتس‌اپ به مرور از دستیارهای هوشمند استفاده می‌کنند.

اگر هوش مصنوعی بدون فیلترهای امنیتی قوی اقدام به ارائه پاسخ کند، پتانسیل بالایی برای ایجاد کمپین‌های فیشینگ هوشمند، پیام‌های جعلی تایید هویت و کلاهبرداری‌های مهندسی اجتماعی شکل می‌گیرد. فناوری‌هایی شبیه به آنچه QueryStory روی آن کار می‌کند، به پلتفرم‌ها کمک می‌کنند تا امنیت مکاتبات و صحت اطلاعات ارسالی به کاربران را تضمین کنند. این یعنی وقتی شما برای مدیریت حساب خود یا دریافت کدهای OTP با یک سیستم خودکار تعامل دارید، احتمال مواجهه با اطلاعات گمراه‌کننده یا هک‌های مبتنی بر هوش مصنوعی به حداقل می‌رسد. امنیت در دنیای دیجیتال دیگر صرفاً به حفظ پسوردها محدود نیست، بلکه به تایید اصالت هر آن چیزی مربوط می‌شود که یک سیستم هوشمند به ما می‌گوید.