هوش مصنوعی به مقامات کمک می کند تا برخی از افراد را از کانادا دور نگه دارند.

“پروژه کوانتوم”، همانطور که نامگذاری شده است، یک پروژه آزمایشی عمدتا ناشناخته با کمک هوش مصنوعی است که توسط آژانس خدمات مرزی کانادا انجام شده است.

اساساً مسافران هوایی را قبل از پرواز به کانادا بررسی می کند. در هزاران مورد در سال‌های اخیر، CBSA توصیه می‌کند یک مسافر حتی قبل از سوار شدن به پرواز متوقف شود.

مقامات می گویند این برنامه برای پرچم گذاری افرادی است که می توانند تهدیدی برای این کشور باشند.

اما اینکه دولت چه کسی را در فرودگاه های بین المللی متوقف می کند – و معیارهای مورد استفاده برای انتخاب آنها – مشخص نیست. این موضوع باعث شده تا منتقدان این سوال را مطرح کنند که چگونه می دانیم که برنامه به کمک هوش مصنوعی افراد مناسب را هدف قرار می دهد و اینکه تبعیض به نحوی در فرآیند آن گنجانده نشده است.

زبان وب سایت CBSA همچنین می گوید که این برنامه برای رسیدگی به موضوع مهاجرت غیرقانونی است. برخی نگران هستند که این امر باعث شود که پناهندگی در این کشور سخت تر شود – که قبلاً تحت توافقنامه کشور ثالث امن کانادا با ایالات متحده محدود شده است.

مقامات می گویند که ارزیابی ریسک قبل از پرواز، اطلاعات شخصی مسافران از شرکت های هواپیمایی تجاری را با شاخص های از پیش تعیین شده مدل های شناسایی خطر که توسط مقامات مرزی طراحی شده اند، مطابقت می دهد.

آنها می گویند که مدل های شناسایی ریسک بر اساس اطلاعات مسافران ارسال شده از حامل های تجاری به CBSA توسعه یافته اند.

پروژه کوانتوم از زمان آغاز به کار خود در سال 2019 تا پایان سال گذشته، 13863 مسافر را برای ارزیابی بیشتر به افسران رابط خارج از کشور خود ارجاع داد. در مجموع، CBSA به شرکت‌های هواپیمایی توصیه کرد که از سوار شدن به 6182 مسافر در پروازهای کانادا خودداری کنند.

این برنامه در مقابل پس‌زمینه افزایش محدودیت‌های مهاجرت غیرقانونی به کانادا ارائه می‌شود. اوایل سال جاری، اتاوا و واشنگتن توافقنامه دوجانبه ای را برای ممانعت از دسترسی اتباع خارجی به پناهندگی در سراسر مرز کانادا-ایالات متحده – نه فقط در بنادر ورودی رسمی – گسترش دادند. در نتیجه، تعداد مهاجران غیرقانونی به کانادا به شدت کاهش یافته است.

با توجه به جغرافیای منحصربه‌فرد کانادا و نحوه محافظت از آن توسط ایالات متحده، ابزار ممنوعیت جدید علیه مسافران هوایی، گزینه‌های پناهجویان را بیشتر محدود می‌کند.

بنجامین پریمن، استاد حقوق دانشگاه نیوبرانزویک، که نماینده دو خانواده رومی مجارستانی در مبارزه با لغو CBSA است، می گوید: “هدف این استراتژی این است که مرزها را تا جایی که ممکن است، به طور ایده آل خارج از کانادا، به جایی که یک فرد در آن زندگی می کند، براند.” مجوزهای الکترونیکی سفر آنها.

این فناوری جدید با خطرات قابل توجهی از نقض حقوق بشر همراه است. ما این را در مناطق دیگر دیده ایم. وقتی شفافیت و نظارت نداریم، نگرانی‌های بسیار بزرگی ایجاد می‌کند.»

CBSA، که در سال 2003 به عنوان بازوی اجرای مهاجرت تأسیس شد، تنها اداره امنیت عمومی بدون نهاد نظارت غیرنظامی خارجی است، علیرغم قدرت افسران مرزی برای حمل سلاح گرم، دستگیری و بازداشت – مقاماتی مشابه مقامات پلیس.

از زمان انتخاب شدن در سال 2015، دولت لیبرال قول داده است که یک ناظر برای CBSA ایجاد کند، اما هنوز لایحه ای برای ایجاد چنین زیرساختی برای پاسخگویی تصویب نشده است.

ژاکلین رابی، سخنگوی CBSA در ایمیلی به استار گفت که برنامه آزمایشی به دنبال کشف نگرانی‌های مهاجرت غیرقانونی برای مسافران هوایی در اولین نقطه است.

رابی توضیح داد: «این یک رویکرد هدف‌گیری است، یعنی یک روش عملیاتی، که افسران CBSA را برای شناسایی فعالیت‌های غیرقانونی پرخطر و بالقوه پشتیبانی و راهنمایی می‌کند.

او افزود که این فعالیت ها شامل تروریسم یا جنایات مرتبط با ترور، قاچاق انسان یا قاچاق انسان و سایر جنایات جدی فراملی است.

با این حال، مدافعان نگران هستند که شاخص‌های خطر این مدل‌ها مملو از سوگیری‌های ناخواسته باشد و از آن‌ها برای شناسایی و جلوگیری از مسافران نامطلوب، از جمله پناهجویان بالقوه در جستجوی محافظت در کانادا استفاده شود.

“بر اساس ارجاع کوانتومی”

گابور لوکاچ، بنیانگذار و رئیس حقوق مسافران هوایی، یک گروه حمایت از مسافران، می گوید اطلاعات عمومی بسیار کمی در مورد برنامه آزمایشی وجود دارد. او فقط از طریق یک پرونده قضایی اخیر که شامل دو مسافر رم بود که از سوار شدن به هواپیمای Air Transat در لندن خودداری کردند، با پروژه کوانتوم برخورد کرد.

اسناد مهاجرت نشان می دهد که این زوج “بر اساس ارجاع کوانتومی” علامت گذاری شده اند.

این دو قرار بود با یکی از اعضای خانواده خود در کانادا ملاقات کنند که قبلاً وارد کانادا شده و درخواست پناهندگی کرده و اکنون مقیم دائم است. در نتیجه هر دو مسافر مجوز سفر الکترونیکی معتبر خود را لغو کردند – شرط ورود برای بازدیدکنندگان معاف از ویزا -.

از نظر لوکاچ، این پرونده سؤالاتی را مطرح می کند که آیا نام قومیتی مانند روماها یا اطلاعاتی در مورد ارتباط با یک پناهنده سابق در کانادا از جمله شاخص هایی است که توسط برنامه برای پرچم گذاری مسافران استفاده می شود. CBSA از پاسخ دادن به سؤالات در مورد این نگرانی ها خودداری کرد و گفت که انجام این کار می تواند یکپارچگی برنامه را به خطر بیندازد.

مشکل هوش مصنوعی این است که دارای پتانسیل بسیار بالایی برای تعصبات نژادی و قومیتی است. برای من روشن نیست که آیا تمایز مناسبی در آموزش این نرم افزار بین مدعیان پناهندگی و مجرمان وجود دارد یا خیر.

نگرانی لوکاچ تا حدی بر اساس ارائه کتبی در سال 2017 توسط بخش مهاجرت در مورد استفاده از تجزیه و تحلیل پیشرفته و پیش بینی کننده برای شناسایی الگوهایی است که امکان پیش بینی رفتارهای آینده را فراهم می کند، و اینکه چگونه ترکیبی از ویژگی های متقاضی با تایید درخواست، رد و تقلب در ارتباط است.

در سندی که در پاسخ به درخواست دسترسی به اطلاعات توسط پریمن منتشر شد، آمده است: «در آینده، هدف ما پیش‌بینی رفتارهای نامطلوب (مانند جنایت یا ادعای پناهندگی) است.

آژانس مرزی نمی‌گوید که آیا پناهندگان بالقوه پرچم‌گذاری شده‌اند یا خیر، اما می‌گوید پروژه کوانتوم بخشی از برنامه هدف‌گذاری ملی آن است که افراد و کالاهای مقصد کانادا را شناسایی می‌کند که ممکن است تهدیدی برای امنیت و ایمنی کشور باشد.

با کمک هوش انسانی، از منابع اطلاعاتی پیشرفته خودکار از حامل ها و واردکنندگان برای شناسایی این خطرات استفاده می کند.

تعداد ارجاعات کوانتومی برای ارزیابی با تعداد “پرواز”های آزمایش شده با مدل سازی افزایش یافته است – از 18 پرواز در سال 2019 به 32 تا فوریه 2022. آژانس مرزی نمی گوید که آیا “پرواز” به مسیر یا شرکت هواپیمایی مربوط می شود اما گفت که پروژه آزمایشی “در حال انجام است.”

اگر مسافری با معیارهای تعیین شده در مدل‌های شناسایی ریسک مطابقت داشته باشد، مرکز ملی هدف‌یابی به افسر رابط مربوطه CBSA در خارج از کشور هشدار می‌دهد تا ارجاع را ارزیابی کند. افسر، در صورت ضمانت، با متصدی حمل‌ونقل هوایی و/یا مسافر قبل از ارائه توصیه‌های «هواپیمایی» یا «بدون هواپیما» در تماس است.

مرکز هدف‌گیری که در سال 2012 در اتاوا افتتاح شد، در کنار سایر مسئولیت‌ها، شبکه افسران رابط را اداره می‌کند که با بیش از 60 افسر در 40 کشور آغاز شد.

رابی از افشای نحوه انتخاب پروازها یا مسیرها، ارزیابی مدل‌سازی در چه مناطقی یا شاخص‌هایی که مسافران با آنها سنجیده شده‌اند، خودداری کرد و گفت که “یکپارچگی برنامه را به خطر می‌اندازد.”

منتقدان فقدان اطلاعات و شفافیت را نگران‌کننده می‌دانند، با توجه به شکایت‌های ادعایی توهین‌های قومیتی علیه CBSA در سال‌های اخیر، از جمله یک پرونده دادگاه در حال انجام توسط یک زوج مجارستانی، که از سوار شدن به هواپیما برای ملاقات با اعضای خانواده‌ای که قبلاً پناهنده بودند، خودداری کردند.

لوکاچ گفت: «اگر CBSA ارتباط با پناهندگان را نشانه‌ای از شخصی در نظر می‌گیرد که گفته می‌شود قصد انجام کارهای زشتی مانند اقامت بیش از حد یا بدتر از آن را دارد، این خود یک مشکل است.

«مسئله بزرگتر این است که از چه مجموعه داده‌ها و شاخص‌هایی برای آموزش و آموزش الگوریتم‌ها برای تصمیم‌گیری برای پرچم‌گذاری استفاده شده است.»

رابی از CBSA می‌گوید آژانس این نگرانی‌ها را در توسعه ابزار هدف‌گیری جدید برای اطمینان از انطباق با منشور حقوق و آزادی‌های کانادا جدی می‌گیرد.

او گفت: «آژانس برای از بین بردن هرگونه نژادپرستی سیستماتیک یا سوگیری ناخودآگاه در عملیات، کار و سیاست‌های خود کار می‌کند، که شامل رسیدگی به مواردی است که کانادایی‌های نژادپرستانه و تازه واردان با موانع بیشتری مواجه شده‌اند، و تضمین می‌کند که جوامع اقلیت در معرض رفتار ناعادلانه قرار نمی‌گیرند». .

او افزود که مقامات باید دستورالعمل های سختگیرانه ای را برای محافظت از حریم خصوصی مسافران و اعضای خدمه دنبال کنند و داده ها در یک سیستم امن ذخیره می شود که فقط توسط پرسنل مجاز قابل دسترسی است. استفاده از این داده ها تابع یک فرآیند ممیزی است و کاربران مسئول هرگونه سوء استفاده هستند.

با این حال، پروژه کوانتوم تحت نظارت فدرال مورد نیاز تحت دستورالعمل تصمیم گیری خودکار نیست.

«ارزیابی تأثیر الگوریتمی (AIA) هیئت خزانه داری در اینجا اعمال نمی شود. رابی در ایمیلی توضیح داد که CBSA به دانش، آموزش، تخصص و تجربه افسران مرزی برای تصمیم گیری نهایی در مورد اینکه چه چیزی یا چه کسی باید هدف قرار گیرد، متکی است.

CBSA به یک شرکت هواپیمایی مشاوره می دهد، با این حال، تصمیم گیری در مورد پیروی یا عدم پیروی از این توصیه به عهده شرکت هواپیمایی است.

پریمن گفت که این ابتکار همچنین سوالات حقوقی را در مورد اختیارات مقامات کانادایی برای مشارکت در اجرای فراسرزمینی و انطباق آنها با منشور حقوق و قوانین بین المللی حقوق بشر ایجاد می کند.

پریمن گفت که پذیرای ادعاهای مجری قانون است مبنی بر اینکه جنبه‌های خاصی از تکنیک‌های تحقیق CBSA باید محرمانه بماند تا مؤثر باشد، اما گفت که باید شفافیت و نظارت کافی وجود داشته باشد.

«این ادعای پروفایل نژادی به عنوان یک تکنیک مشروع چیزی است که ما شاهد آن بودیم که پلیس در ابتدا در کانادا به آن تکیه می کرد. و هنگامی که طیف کامل آن پروفایل نژادی عمومی شد، ما به عنوان یک جامعه تصمیم گرفتیم که این یک ابزار قانونی اجرای قانون نیست.»

“ما اقداماتی را برای پایان دادن به این نوع پروفایل نژادی در داخل انجام داده ایم. من کاملاً با این بحث مخالف نیستم، اما فکر می‌کنم این بحثی است که باید با درجاتی از دقت و دقت به آن نزدیک شد.»

آژانس مرزی گفت مسافرانی که از سوار شدن آنها امتناع می‌شود، می‌توانند با استفاده از فرم وب CBSA یا از طریق پست به اداره مراجعه خود شکایت کنند.

نیکلاس کیونگ یک خبرنگار ساکن تورنتو است که موضوع مهاجرت را برای استار پوشش می دهد. او را در توییتر دنبال کنید: @nkeung

اشتراک گذاری: