استفاده از هوش مصنوعی (AI) در حال افزایش است و مدل‌های زبان بزرگ (LLMs) به بخش‌های مختلف کسب‌وکار و ابزارهای چت‌باتی که در خدماتی مانند تحویل غذا به کار می‌روند، راه یافته‌اند. اما این رشد سریع، همواره با چالش‌هایی همراه است.
مزایای هوش مصنوعی واضح است: این فناوری می‌تواند فرآیندهای کسب‌وکار را بهینه‌سازی کند، بار کاری دستی را کاهش دهد و به عنوان یک دستیار در تحقیق و تحلیل به کارکنان کمک کند. اما در کنار این مزایا، ما با معضلاتی نیز روبرو هستیم. مدل‌های هوش مصنوعی سرکش، هک‌های دوستانه که شرکت‌های بی‌گناه را هدف قرار می‌دهند و تعداد زیادی از حوادث امنیتی مرتبط با AI که در حال بررسی هستند، نگرانی‌هایی را برای کسب‌وکارها به وجود آورده است.
اما در صورت بروز مشکلات، چه کسی باید پاسخگو باشد؟ طبق تحقیقی که اخیراً توسط PwC منتشر شده، در میان کسب‌وکارها توافقی در این زمینه وجود ندارد. این گزارش، “Digital Trust Insights 2027″، نظر حدود ۴۰۰۰ رهبر کسب‌وکار و فناوری را از ۷۱ کشور گردآوری کرده است. نتایج نشان می‌دهد که هیچ نقش مشخصی برای مدیریت هوش مصنوعی فعال یا امنیت آن وجود ندارد. هرچند آگاهی از مزایا و معایب هوش مصنوعی به سطح هیئت مدیره تقریباً نیمی از شرکت‌ها رسیده است.
در مجموع، ۴۷ درصد از پاسخ‌دهندگان مطرح کردند که امنیت سایبری یک موضوع دائمی در دستور کار هیئت‌هاست، اما این کافی نیست. با این حال، زیربناها وجود دارد: ۹۰ درصد از رهبران کسب‌وکار اعلام کردند که اقداماتی مانند نظارت هیئت مدیره و مسئولیت‌پذیری اجرایی در حال حاضر برقرار است.
در مورد هوش مصنوعی، حدود یک سوم از سازمان‌ها (۳۳ درصد) نیاز به مسئولیت‌پذیری را تشخیص داده و به استخدام افراد برای نقش‌های خاص هوش مصنوعی پرداخته‌اند، از جمله مسئولان ارشد هوش مصنوعی و اعضای هیئت‌مدیره هوش مصنوعی. اما این تحقیق نشان می‌دهد که آیا این نقش‌ها نیز شامل مسئولیت کلی برای امنیت و حکمرانی مربوط به هوش مصنوعی هستند یا خیر.
در مجموع، ۲۹ درصد از مدیران عامل و رهبران امنیت و ریسک گفته‌اند که مسئولیت با CIO، CTO یا نقش‌های مشابه فناوری است. ۱۷ درصد از پاسخ‌دهندگان عنوان کردند که مسئولیت به تیم‌های امنیت سایبری واگذار شده، در حالی که ۲۶ درصد معتقدند که باید به یک رهبر خاص هوش مصنوعی یا تابع هوش مصنوعی سپرده شود. همچنین ۱۱ درصد از پاسخ‌دهندگان اذعان کردند که مسئولیت مشخصی وجود ندارد و بین چندین نقش یا تابع تقسیم شده است.
این تحقیق نشان می‌دهد که در حالی که کسب‌وکارها درک می‌کنند که باید کسی مسئولیت هوش مصنوعی فعال و مسائل امنیتی مربوط به آن را بر عهده بگیرد، زنجیره مسئولیت هنوز تعریف نشده است.
این تحقیق همچنین به یادآوری می‌کند که اولین مسئول ارشد امنیت اطلاعات (CISO) در سال ۱۹۹۴ توسط Citigroup برای مدیریت عواقب حملات سایبری روسیه استخدام شد و اکنون تصور یک کسب‌وکار متوسط بدون آن تقریباً غیرممکن است.
در حالی که کسب‌وکارها در حال تلاش برای تعریف مسئولیت‌های هوش مصنوعی و تقسیم وظایف بین نقش‌های مختلف هستند، تکنولوژی می‌تواند به آنها در حفظ کنترل بر روی عوامل هوش مصنوعی کمک کند. جیم تیلور، رئیس محصول و استراتژی در RSA، به ZDNET گفت که همان کنترل‌های هویتی که برای حفاظت از کاربران انسانی طی دهه‌ها استفاده شده، باید برای مدیریت هوش مصنوعی فعال نیز به کار رود.
هر مدل هوش مصنوعی یا استقرار هوش مصنوعی فعال، دارای هویت خاصی است و به مجموعه‌ای از اعتبارنامه‌ها مرتبط است؛ این مدل‌ها سطح دسترسی متفاوتی به منابع و اطلاعات دارند و می‌توانند وظایفی را انجام دهند یا به نمایندگی از یک کارمند انسانی عمل کنند.
