توی رادیو گیک قبلی از برنامه ای حرف زدیم که توی دادگاه در مورد زندان رفتن محکومین نظر می ده و سرش بحث و گفتگو بود که اصولا آیا می شه کسی رو با یک برنامه بسته و انحصاری که از ساز و کارش سر در نمیاریم به زندان بفرستیم یا نه. حالا مساله جنبه جدیدی هم پیدا کرده. دیروز قاضی دادگاه جلوی درخواست اصلاح برنامه احتمالا مشکل دار مورد نظر رو گرفته.
مدعی العموم (که در جهان از حق کلیت مردم دفاع می کنه) می گه که از دسامبر ۲۰۱۶ که این برنامه آپدیت شده، اشتباه هاش بیشتر شده. قبلا یک قاضی درخواست اصلاح برنامه رو رد کرده بود در حالی که مدی العموم می گه بعد از آپگرید آخر، چندین نفر بدون اینکه واقعا نیازی باشه به زندان فرستاده شدن، یا دستگیر شدن یا حتی اشتباها به عنوان مزاحم جنسی شناخته شدن – البته اینجا نرم افزار فقط این رو بر عهده داشته که به قاضی کمک کنه تصمیم بهتری بگیره و مستقیما تصمیم نمیگرفته.
مساله اصلی اینه که وقتی ما کارهای مهمتر و مهمتر رو می دیم دست نرم افزارها اولا باید کاملا از نحوه کار اونها سر در بیاریم و گروهی مشخص باید بتونین در این مورد که این نرم افزار صحیح کار می کنه یا نه اظهار نظر کنن و از اونطرف باید حق تک تک شهروندان و سازمان ها باشه که به سورس و الگوریتم های تشخیصی چنین چیزی دسترسی داشته باشن.