حیاتِ پسینِ دادههای شهروندان: شیوههای گنجاندن دادهها در یادگیری ماشین برای رفاه عمومی
بررسی چالشها، ارزشگذاریها و ابعاد اخلاقی بازآفرینی دادههای ثبتشده اداری در مدلهای پیشبینانه خدمات اجتماعی کودکان در دانمارک
۱. چکیده و مسئله اصلی
با پذیرش روزافزون هوش مصنوعی و یادگیری ماشین در بخش عمومی و سیستمهای رفاهی، دادههای اداری و تاریخی ثبتشده از شهروندان، به منبعی پویا برای پیشبینی رفتارهای آتی، حقوق و نیازهای آنها تبدیل شدهاند[cite: 6]. این مقاله با مطالعه پروژه پژوهشی **RISK** در دانمارک (طراحی سامانه پشتیبان تصمیمگیری برای مددکاران اجتماعی جهت ارزیابی خطر بدرفتاری با کودکان)، مفهوم **«حیات پسین دادهها» (Data Afterlives)** را معرفی میکند[cite: 6].
نویسندگان مقاله بررسی میکنند که چگونه پروندهها و ارجاعات قدیمی شهروندان —که زمانی فقط برای حل یک مسئله خاص تدوین شده بودند— در قالب مدلهای الگوریتمی، شیوههای جدیدی از وجود دیجیتال و رابطه میان دولت و شهروندان را شکل میدهند[cite: 6].
۲. انواع سهگانه حیات پسین دادهها (Data Afterlives)
مقاله سه شکل کاملاً متفاوت از حضور و ارزشگذاری دادههای تاریخی شهروندان را در فرآیند ساخت مدلهای یادگیری ماشین شناسایی میکند[cite: 6]:
| نوع حیات پسین (Afterlife) | نقش داده در مدل | توضیح و کارکرد اخلاقی/فنی |
|---|---|---|
| ۱. دادهها به عنوان حقیقت زمینی (Ground Truth) | آموزش و آزمون (Training & Testing) | دادههای اداری گذشته برای ساخت الگوی استنباط آینده استفاده میشوند[cite: 6]. پروندههای جداسازی کودک از خانواده به عنوان متغیر جایگزین (Proxy) برای «بدرفتاری با کودک» عمل میکنند[cite: 6]. |
| ۲. دادهها به عنوان متغیرهای اعتبارسنجی (Post-Validation) | تثبیت استحکام مدل (Robustness) | دادههایی که استفاده مستقیم از آنها در الگوریتم به دلیل قوانین حریم خصوصی غیرقانونی است (مانند دادههای سلامت و شکستگی استخوان)، پس از ساخت مدل برای سنجش دقت و اعتبار استفاده میشوند[cite: 6]. |
| ۳. دادهها به عنوان متغیرهای ارزیابی عدالت (Fairness) | کاهش انحرافات الگوریتمی (Debiasing) | متغیرهایی مانند جنسیت، سن و قومیت در مدل اولیه حذف میشوند اما در مرحله پساتحلیل برای بررسی و خنثیسازی سوگیریهای ناخواسته الگوریتم مجدداً تحلیل میشوند[cite: 6]. |
۳. چالشها و اصطکاکهای پژوهشی (RISK Project)
بررسی فرآیند توسعه در پروژه RISK نشاندهنده چالشهای عمیقی میان متخصصان داده، قانونگذاران و فضای عمومی جامعه است[cite: 6]:
- عدم وجود متغیر مستقیم برای بدرفتاری: «بدرفتاری با کودک» متغیری مستقیم در ثبتهای اداری دانمارک ندارد؛ لذا دانشمندان مجبور به استفاده از «پرونده سپردن کودک به مراکز مراقبتی» به عنوان متغیر جایگزین شدند که خود میتواند حاوی انحرافات ساختاری باشد[cite: 6].
- چالش انحراف سنی (Age Bias):** تحلیلهای عمومی و نقدهای بیرونی نشان داد الگوریتم بهصورت ناخواسته خطرات مربوط به کودکان کمسن را کمتر از کودکان بزرگتر ارزیابی میکند، که منجر به بازنگری در وزندهی به متغیر سن شد[cite: 6].
- محدودیتهای قانونی در ترکیب دادهها:** قوانین دانمارک ترکیب دادههای حوزههای مختلف (مانند بهداشت و آموزش) را برای نظارت بر شهروندان ممنوع کرده است؛ بنابراین دانشمندان داده مجبور به اتخاذ رویکرد «اقل دادهها» (Data Minimization) شدند[cite: 6].
۴. پیامدهای اخلاقی و تقابل با الگوی شرکتهای بزرگ فناوری
- تقابل با گفتمان «داده بزرگتر، بهتر است» (Big Tech vs. Welfare State): بر خلاف شرکتهای بزرگ فناوری که تمام دادههای ممکن را بلع میکنند، دولتهای رفاهی مانند دانمارک نگران حقوق شهروندی بوده و فرآیند ورود دادهها را به شدت محدود و پالایش میکنند[cite: 6].
- روابط جدید میان دولت و شهروند:** حیات پسین دادهها باعث میشود تعاملات قبلی شهروندان با نهادهای حمایتی، تعیینکننده شانسها و ارزیابیهای احتمالی آینده آنها باشد[cite: 6].
- ضرورت شفافیت و نظارت عمومی:** این مقاله نشان میدهد که چگونه نقدهای رسانهای و دانشگاهی بیرونی توانستهاند تصمیمات مربوط به گنجاندن یا حذف دادهها در یادگیری ماشین را تغییر دهند[cite: 6].
۵. دیدگاه تخصصی مِتُد بین (MTOD Insight)
مجموعه مِتُد بین باور دارد که هوش مصنوعی زمانی بیشترین ارزش را ایجاد میکند که از یک فناوری صرفاً محاسباتی فراتر رفته و در خدمت شناخت دقیق مسئله، کشف روابط پنهان، تحلیل دادهها و طراحی راهکارهای مؤثر در دنیای واقعی قرار گیرد.
این مقاله ارزشمند یادآور میشود که دادههای اداری، صرفاً اعداد بیطرفانه نیستند؛ بلکه ردپای زندگی و تعاملات گذشته انسانها هستند. در بهکارگیری هوش مصنوعی برای بخشهای اجتماعی و رفاهی، نه تنها باید بر دقت فنی الگوریتم تمرکز کرد، بلکه باید فرآیند ورود دادهها، سوگیریهای نهفته در متغیرهای جایگزین و حفظ کرامت و حقوق شهروندان را نیز بهصورت دقیق و اخلاقی مدیریت نمود.
نمایش و دانلود مقاله کامل (PDF)
Citizens’ data afterlives: Practices of dataset inclusion in machine learning for public welfareلینک های دانلود این مقاله
Password
www.suncode.irپست های مرتبط
20 اسفند 1402
20 اسفند 1402
