رفتن به محتوا
پارسیس
وبلاگ پارسیس / مقاله

حریم خصوصی در چت‌بات هوش مصنوعی؛ چه داده‌هایی نباید جمع شود؟

حریم خصوصی در چت‌بات هوش مصنوعی؛ چه داده‌هایی نباید جمع شود؟

حریم خصوصی در چت‌بات هوش مصنوعی با یک تصمیم ساده شروع می‌شود: چت‌بات فقط داده‌ای را بگیرد و نگه دارد که برای پاسخ یا کار مشخص لازم است. نام، شماره تماس، متن کامل مکالمه، فایل‌ها و شناسه‌های فنی را نباید پیش‌فرض و بی‌زمان ذخیره کرد. مسیر داده را از ورود پیام تا لاگ، ابزار جانبی و مدل ارائه‌دهنده رسم کنید؛ برای هر مرحله هدف، دسترسی و زمان حذف داشته باشید.

پاسخ کوتاه: داده‌های حساس، اطلاعات هویتی غیرضروری، رمز عبور، کدهای یک‌بارمصرف، اطلاعات بانکی و جزئیات پزشکی را وارد چت‌بات نکنید مگر اینکه ضرورت، رضایت و کنترل مشخصی وجود داشته باشد. جمع‌آوری حداقلی، اطلاع‌رسانی روشن، حذف زمان‌بندی‌شده، دسترسی محدود و ارجاع انسانی، پایه‌های یک چت‌بات قابل اعتماد هستند. این مطلب راهنمای عملی است، نه مشاوره حقوقی.

چرا حریم خصوصی چت بات هوش مصنوعی با فرم معمولی فرق دارد؟

در یک فرم، معمولاً می‌دانید هر فیلد برای چه کاری ساخته شده است. چت‌بات اما ورودی آزاد دارد و کاربر ممکن است در یک جمله اطلاعاتی بنویسد که اصلاً برای پاسخ لازم نیست. همان متن می‌تواند در تاریخچه گفت‌وگو، لاگ خطا، ابزار جست‌وجو، سامانه تیکت یا گزارش ارزیابی کیفیت کپی شود. اگر این مسیر را نشناسید، حذف پیام از ظاهر چت به معنی حذف همه نسخه‌ها نیست.

مدل زبانی ممکن است به متن مکالمه‌های قبلی، پایگاه دانش یا داده یک سرویس بیرونی دسترسی داشته باشد. پس بپرسید: چه چیزی وارد می‌شود، چه کسی می‌بیند، به کجا ارسال می‌شود و چه زمانی از بین می‌رود؟

داده را قبل از جمع‌آوری به سه دسته تقسیم کنید

یک فهرست ساده برای هر جریان گفت‌وگو بسازید. داده لازم چیزی است که بدون آن پاسخ یا اقدام موردنظر ممکن نیست؛ برای مثال شماره سفارش وقتی کاربر پیگیری همان سفارش را می‌خواهد. داده مفید اما غیرضروری ممکن است تجربه را بهتر کند، اما نبودش نباید کاربر را از خدمت محروم کند. داده ممنوع یا پرریسک هم اطلاعاتی است که چت‌بات نباید درخواست یا ذخیره کند، مگر با فرایند ویژه و دلیل روشن.

برای هر مورد، مالک داده، هدف استفاده، محل ذخیره، افراد یا سرویس‌های دارای دسترسی و زمان حذف را بنویسید. اگر پاسخ‌گویی بدون تاریخ تولد، آدرس کامل یا متن کل مکالمه امکان‌پذیر است، آن‌ها را نگیرید. فیلد اختیاری که در عمل برای ادامه کار اجباری شده، اختیاری نیست؛ رفتار واقعی فرم و ربات را بررسی کنید، نه فقط برچسب کنار آن را.

کدام اطلاعات را نباید در چت‌بات وارد کرد؟

رمز عبور، کد تأیید یک‌بارمصرف، کلید API، شماره کامل کارت و کد امنیتی نمونه‌های روشن‌اند. چت‌بات نباید از کاربر بخواهد این موارد را در متن مکالمه بنویسد. اطلاعات پزشکی، مالی، هویتی، نشانی دقیق منزل، اطلاعات مربوط به پرونده‌های شغلی یا هر داده‌ای که افشای آن می‌تواند به فرد آسیب بزند، حساس‌تر است و باید مسیر جداگانه‌ای داشته باشد.

گاهی کاربر خودش این اطلاعات را می‌فرستد. پاسخ مناسب، تکرار یا نقل‌کردن آن نیست. ربات می‌تواند بگوید «برای حفظ امنیت، لطفاً رمز یا کد را ارسال نکنید» و مکالمه را به مسیر امن یا کارشناس منتقل کند. اگر سامانه امکان دارد، شماره‌ها و شناسه‌های حساس را پیش از رسیدن به مدل ماسک کند. نمونه‌ای مانند «چهار رقم پایانی کارت» هم فقط وقتی منطقی است که واقعاً برای شناسایی لازم باشد.

رضایت و اطلاع‌رسانی باید همان‌جا و قابل فهم باشد

متن طولانی و مبهم کنار دکمه شروع، رضایت آگاهانه ایجاد نمی‌کند. در ابتدای چت، کوتاه توضیح دهید که کاربر با یک سامانه هوش مصنوعی صحبت می‌کند، چه داده‌ای برای چه هدفی پردازش می‌شود، آیا مکالمه برای بهبود خدمت بازبینی می‌شود، چه ارائه‌دهندگان دیگری درگیرند و کاربر چگونه درخواست حذف یا ارتباط با انسان را ثبت کند. لینک سیاست حریم خصوصی را در همان مسیر در دسترس بگذارید، اما اطلاعات اصلی را فقط پشت لینک پنهان نکنید.

رضایت را از پذیرش همه چیز جدا کنید. برای پاسخ‌گویی، ذخیره طولانی‌مدت و ارسال پیام تبلیغاتی الزام یکسان نسازید. اگر کاربر رضایتش را پس گرفت، سیستم باید بداند دقیقاً کدام پردازش متوقف می‌شود و این تغییر در چه سامانه‌هایی اعمال خواهد شد. ثبت زمان، متن اطلاع‌رسانی و نسخه آن، به تیم کمک می‌کند بعداً بفهمد کاربر چه چیزی را دیده است.

لاگ‌ها و مدل ارائه‌دهنده را فراموش نکنید

بسیاری از نشت‌ها از پنل چت رخ نمی‌دهند؛ از لاگ دیباگ، ابزار مانیتورینگ یا خروجی یک سرویس واسط بیرون می‌آیند. در محیط عملیاتی، متن کامل پیام را به‌صورت پیش‌فرض ثبت نکنید. برای عیب‌یابی، شناسه تصادفی، زمان، نوع خطا و بخشی از داده ماسک‌شده معمولاً کافی است. دسترسی به لاگ را نقش‌بندی کنید و لاگ دسترسی‌ها را هم نگه دارید تا معلوم باشد چه کسی چه چیزی را دیده است.

اگر پیام به مدل یا ابزار بیرونی فرستاده می‌شود، نام سرویس، محل پردازش، هدف استفاده، تنظیمات نگهداری و امکان استفاده برای آموزش یا ارزیابی را از مستندات و قرارداد بررسی کنید. به جمله‌ای مثل «امن است» اکتفا نکنید. بدانید آیا داده برای آموزش استفاده می‌شود، چه کسانی پشتیبانی می‌کنند، حذف چگونه درخواست می‌شود و هنگام قطعی سرویس، داده به مسیر دیگری می‌رود یا نه. هر اتصال جدید باید پیش از انتشار در نقشه جریان داده ثبت شود.

حذف واقعی یعنی حذف نسخه‌های اضافه هم

برای هر نوع داده، دوره نگهداری جدا تعیین کنید. نگه‌داشتن دائمی مکالمه فقط چون ذخیره‌سازی آسان است، دلیل کافی نیست. نسخه‌های موجود در پایگاه اصلی، پشتیبان، صف پردازش، خروجی تحلیل و فایل‌های دستی را فهرست کنید. اگر حذف فوری از پشتیبان ممکن نیست، محدودیت دسترسی و زمان حذف را شفاف بنویسید.

کاربر باید بتواند بداند چه اطلاعاتی درباره او نگه‌داری می‌شود و در صورت امکان درخواست اصلاح یا حذف بدهد. برای این درخواست‌ها مالک و زمان پاسخ داخلی تعیین کنید. تست حذف را با یک داده آزمایشی انجام دهید؛ فقط سبزشدن یک دکمه کافی نیست. بررسی کنید داده از جست‌وجو، گزارش کارشناسی و ابزارهای متصل هم خارج شده باشد.

دسترسی، بازبینی و ارجاع انسانی را طراحی کنید

هر کارمند نباید به همه مکالمه‌ها دسترسی داشته باشد. پشتیبان ممکن است خلاصه سفارش را ببیند، اما دیدن متن کامل گفت‌وگوی حساس برای همه نقش‌ها ضروری نیست. داده را کمینه کنید، دسترسی را زمان‌دار کنید و برای خروجی گرفتن یا اشتراک‌گذاری هشدار بگذارید. در بازبینی کیفیت، نمونه‌ها را تا حد امکان ناشناس و ماسک‌شده کنید.

چت‌بات باید در موضوعات حساس، ابهام جدی، تهدید آسیب، اعتراض رسمی یا درخواست صریح کاربر برای انسان، مسیر هندآف داشته باشد. کاربر را در حلقه پاسخ‌های تکراری نگه ندارید. خلاصه‌ای حداقلی و مرتبط به کارشناس بدهید، نه کل تاریخچه بدون فیلتر. اعلام کنید که چه اتفاقی می‌افتد و اگر صف انسانی وجود دارد، انتظار زمانی را بدون وعده ساختگی توضیح دهید.

کودکان، افراد آسیب‌پذیر و سناریوهای پرخطر

در گفت‌وگو با کودک یا فردی که ممکن است در وضعیت آسیب‌پذیر باشد، جمع‌آوری اطلاعات را به حداقل برسانید و از درخواست عکس، نشانی، مدرسه، شماره تماس یا جزئیات خانوادگی غیرضروری خودداری کنید. برای موضوعاتی مانند سلامت، امور مالی، استخدام، امنیت یا تصمیمی که پیامد جدی دارد، چت‌بات نباید نقش تصمیم‌گیرنده نهایی را بازی کند. محدودیت‌هایش را روشن بگوید و کاربر را به انسان یا منبع رسمی هدایت کند.

این موضوع فقط به متن پاسخ مربوط نیست. دسترسی والد، سرپرست یا کارشناس، ثبت رضایت و مسیر گزارش نگرانی باید از ابتدا مشخص باشد. اگر تیم شما درباره سن کاربر یا ریسک یک سناریو مطمئن نیست، جریان را محافظه‌کارانه طراحی و به بررسی انسانی منتقل کنید. این توصیه جایگزین ارزیابی تخصصی یا الزامات قانونی محل فعالیت نیست.

اگر حادثه‌ای رخ داد، چه کار کنیم؟

پیش از حادثه، یک مسیر مشخص بنویسید: چه کسی هشدار را دریافت می‌کند، چه چیزی موقتاً متوقف می‌شود، دامنه داده چگونه بررسی می‌شود و چه کسی با کاربر یا ارائه‌دهنده ارتباط می‌گیرد. هنگام حادثه، دسترسی را محدود کنید، مسیر انتشار را متوقف کنید و دامنه رخداد را با داده‌های موجود مشخص کنید.

بعد از مهار، علت ریشه‌ای و کنترل اصلاحی را ثبت کنید: ماسک‌کردن ورودی، تغییر سطح لاگ، حذف کلید دسترسی، اصلاح متن رضایت یا آموزش تیم. ارتباط با افراد درگیر باید دقیق و متناسب با واقعیت باشد؛ نه کوچک‌نمایی و نه ادعای قطعی پیش از بررسی. برای تعهدهای اطلاع‌رسانی، از مشاور حقوقی یا مسئول حریم خصوصی سازمان کمک بگیرید.

چک‌لیست عملی حریم خصوصی چت‌بات

موضوع کنترل پیشنهادی سؤال بررسی
حداقل‌سازی فقط فیلدهای لازم برای هدف مشخص اگر این داده حذف شود، واقعاً کدام کار متوقف می‌شود؟
اطلاعات حساس ممنوعیت رمز، کد و داده پرریسک؛ ماسک‌کردن خودکار اگر کاربر ناخواسته فرستاد، چه پاسخی و چه مسیری داریم؟
اطلاع‌رسانی اعلام هوش مصنوعی، هدف، نگهداری و راه تماس کاربر قبل از ارسال پیام این موارد را می‌بیند؟
ارائه‌دهندگان فهرست مدل، ابزار، انتقال و تنظیمات نگهداری کدام سرویس نسخه دیگری از داده دارد؟
حذف زمان نگهداری و آزمون حذف برای همه نسخه‌ها داده از لاگ و خروجی‌های جانبی هم خارج می‌شود؟
دسترسی نقش‌بندی، ماسک‌کردن و ثبت بازدید چه کسی واقعاً به متن کامل نیاز دارد؟
هندآف ارجاع روشن برای موضوع حساس یا درخواست انسان کاربر بدون تکرار خسته‌کننده به فرد مناسب می‌رسد؟
حادثه مالک، مسیر توقف، حفظ شواهد و مرور پس از رخداد در یک ساعت اول چه کسی تصمیم می‌گیرد؟

برای طراحی جریان‌هایی که هم پاسخ‌گو باشند و هم داده اضافی جمع نکنند، صفحه اتوماسیون هوش مصنوعی را ببینید. پیش از انتشار، یک مکالمه واقعی را با داده ساختگی شبیه‌سازی کنید: ورودی حساس، درخواست حذف، قطع رضایت، خطای سرویس و درخواست ارتباط با انسان. همین آزمون ساده معمولاً فاصله میان سیاست نوشته‌شده و رفتار واقعی ربات را نشان می‌دهد.

مسیر داده چت‌بات‌تان را قبل از انتشار مرور کنید

اگر نمی‌دانید پیام‌های کاربران در کدام لاگ‌ها، ابزارها یا سرویس‌های مدل ذخیره می‌شوند، جریان گفت‌وگو و هدف کسب‌وکار را بفرستید تا نقاط جمع‌آوری اضافی، دسترسی‌ها و مسیر ارجاع انسانی را با هم مرور کنیم.

درخواست بررسی حریم خصوصی چت‌بات

سؤالات متداول

آیا می‌توان همه مکالمه‌های چت‌بات را برای همیشه ذخیره کرد؟

ذخیره دائمی فقط چون از نظر فنی آسان است، تصمیم مناسبی نیست. هدف، نیاز عملی، سطح حساسیت، دسترسی و زمان حذف هر نوع داده را جدا مشخص کنید و نسخه‌های لاگ و پشتیبان را هم در نظر بگیرید.

اگر کاربر خودش رمز عبور را در چت بفرستد چه کنیم؟

رمز را در پاسخ تکرار نکنید و کاربر را به تغییر رمز یا مسیر امن راهنمایی کنید. ورودی و نسخه‌های لاگ را تا حد امکان ماسک و حذف کنید و رخداد را طبق فرایند داخلی امنیتی ثبت و بررسی کنید.

آیا ناشناس‌سازی متن مکالمه کافی است؟

همیشه نه. ترکیب چند جزئیات می‌تواند دوباره فرد را قابل شناسایی کند. نام، شماره، نشانی، شناسه سفارش و جزئیات نادر را جدا بررسی کنید و پیش از استفاده از داده برای آموزش یا ارزیابی، روش ماسک‌کردن را آزمایش کنید.

چت‌بات چه زمانی باید کاربر را به انسان وصل کند؟

در موضوعات حساس یا پرپیامد، ابهام حل‌نشده، اعتراض رسمی، خطر آسیب و هر زمان که کاربر صریحاً انسان می‌خواهد. هندآف باید خلاصه‌ای حداقلی، دلیل انتقال و مسیر بعدی روشن داشته باشد.

آیا این چک‌لیست جای مشاوره حقوقی را می‌گیرد؟

خیر. چک‌لیست برای پیدا کردن کنترل‌های عملی و سؤال‌های درست است. تعهدهای قانونی به نوع داده، محل فعالیت، قراردادها و وضعیت سازمان بستگی دارد؛ برای تصمیم حقوقی، با متخصص همان حوزه و حوزه قضایی مشورت کنید.

ادامهٔ مطالعه

مقاله‌های مرتبط

از یک گفتگوی روشن شروع کنیم

قدم بعدی کسب‌وکارت
را با هم پیدا کنیم.

ارتباط مستقیم با تیم ↗

دستیار هوشمند پارسیس

برای انتخاب مسیر رشد کنار شماست