زنان و هوش مصنوعی: چگونه استارت‌آپ‌ها می‌توانند از تعصب جنسیتی جلوگیری کنند و استفاده مسئولانه از فناوری را ترویج کنند

علیرغم پیشرفت، چالش‌ها در تضمین شرایط بازی برابر برای افراد از هر جنسیت در اکوسیستم استارت‌آپ باقی مانده است.

«در حالی که مساوی کردن زمین بازی از طریق اعداد نماینده یک شاخص مفید برای پیشرفت است، اما این روش اصلی برای ترویج برابری جنسیتی نیست. ورونیکا فولکووا، مدیر ارشد مردم، می‌گوید: هسته اصلی پر کردن شکاف جنسیتی از پرورش سیستم و محیط حمایتی مناسب برای حفظ و پرورش استعدادهای درخشان ناشی می‌شود، در حالی که رهبری ما نوع ارزش‌هایی را که از هر یک از کارمندان خود انتظار داریم الگو می‌کند. شرکای تجاری برای سازمان حقوقی جهانی و APAC، Confluent.

پلتفرم جریان داده Confluent مستقر در سیلیکون ولی ابتکارات فرصت برابر را برای کارمندان از همه جنسیت اجرا کرده است. با این حال، با محبوبیت روزافزون فناوری هوش مصنوعی، همانطور که این فناوری به طور گسترده‌تر مورد استفاده قرار می‌گیرد، بیشتر ما از خود می‌پرسیم: آیا خطر برابری جنسیتی در این پدیده وجود دارد؟

محبوبیت روزافزون هوش مصنوعی چگونه بر برابری جنسیتی در محیط کار، به ویژه در صنعت فناوری تأثیر می گذارد؟ چگونه استارتاپ ها می توانند نقش فعال تری در ترویج استفاده مسئولانه از فناوری ایفا کنند؟ در این مصاحبه ایمیلی با e27در مورد موضوع Folkova بحث می کند.

متن زیر گزیده ای از مصاحبه ویرایش شده است.

آیا می توانید با ما در میان بگذارید که چگونه سوگیری جنسیتی ممکن است در هوش مصنوعی ظاهر شود؟ چه آسیب احتمالی/موجودی می تواند ایجاد کند؟

تعصب جنسیتی در هوش مصنوعی به خودی خود یک موضوع کاملاً پیچیده است. از آنجایی که هوش مصنوعی با دریافت مقادیر زیادی از داده‌های آموزشی، تجزیه و تحلیل آن‌ها برای همبستگی‌ها و الگوها، و استفاده از آن الگوها برای پیش‌بینی آینده، اطلاعات را به دست می‌آورد، ورودی‌ها و خروجی‌های آن بر افراد از پیشینه‌ها، صنایع و سطوح اجتماعی-اقتصادی مختلف تأثیر می‌گذارد.

همچنین بخوانید: خرده فروشی انقلابی: طرحی برای موفقیت در آینده

حقیقت این است که زنان در بسیاری از کشورها دسترسی محدودی به آموزش و آموزش دارند، حتی بیشتر در تحقیق و توسعه، که می‌تواند منجر به سوگیری ناخودآگاه شود. به طور کلی، بیشتر مطالب و تحقیقات هوش مصنوعی به زبانی نوشته می شود که به طور خودکار دیدگاه خواننده را مرد فرض می کند.

این یک سوگیری اساسی در کلمات استفاده شده و تعبیه شده در الگوریتم ها ایجاد می کند که منجر به الگوریتم های نادرست و در نهایت باعث ایجاد تبعیض جنسیتی و حذف افراد واجد شرایط می شود. یکی از نمونه‌های واقعی، اپلیکیشن هنری هوش مصنوعی Generative Generation Midjourney است. هنگامی که از او خواسته شد تصاویری از افراد در مشاغل تخصصی ایجاد کند، او هم افراد جوانتر و هم افراد مسن را نشان داد، اما افراد مسن همیشه مرد بودند و این تعصب دیرینه علیه زنان کارگر را تقویت می کرد.

راهکارهای پیشنهادی شما چیست؟

اگر منصف باشیم، هیچ راه حلی برای تعصب جنسیتی در هوش مصنوعی وجود ندارد. در سمت من به عنوان مدیر ارشد، شرکای تجاری مردم برای سازمان حقوقی جهانی و APAC، شاهد روندهایی هستیم که هوش مصنوعی می تواند در آینده نقش مهمی در یافتن نامزدها و هماهنگی فرآیندهای استخدام ایفا کند.

به این ترتیب، این به ایجاد زمینه برای ارائه فرصت‌های برابر به افراد مناسب، انجام تحقیقات عمیق خودمان برای پرورش استعدادهای مناسب و بهبود آموزش و توسعه افراد خود برای شناسایی محدودیت‌های هوش مصنوعی و استفاده از آن برمی‌گردد. خوب نقاط قوتش

دولت چگونه می تواند در این زمینه نقش فعال داشته باشد؟

در بودجه اخیر 2024، معاون نخست وزیر لارنس وانگ اعلام کرد که سنگاپور طی پنج سال آینده یک میلیارد دلار سنگاپور در ظرفیت محاسباتی، استعداد و توسعه صنعت هوش مصنوعی سرمایه گذاری خواهد کرد.

این از استراتژی ملی هوش مصنوعی 2.0 سنگاپور که در دسامبر سال گذشته راه اندازی شد، پشتیبانی می کند. این سرمایه‌گذاری‌ها در جهت درست هستند، همراه با آگاهی روزافزون از کاستی‌های هوش مصنوعی، مانند داده‌های مغرضانه و توهم، به عنوان مثال. مدل هوش مصنوعی الگوهای نادرستی را یاد می گیرد که منجر به پیش بینی های نادرست می شود.

همچنین بخوانید: آینده راه حل های فناوری مبتنی بر هوش مصنوعی برای بهبود زیرساخت های تجاری

برای مبارزه با این موضوع، من قدردانی می‌کنم که دولت سنگاپور یک چارچوب هوش مصنوعی مولد ایجاد کرده است که ضمن تسهیل نوآوری، «رویکردی سیستماتیک و متعادل» را برای مسائل هوش مصنوعی مولد ترسیم می‌کند. ما باید به کار با هم ادامه دهیم، یکدیگر را آموزش دهیم و منابع را جمع آوری کنیم تا با پیشرفت های تکنولوژیکی همگام شویم و بفهمیم که چگونه می توان از آنها برای مردم بیشتر استفاده کرد.

استارت آپ های فناوری چه نقشی می توانند در تضمین استفاده مسئولانه از هوش مصنوعی ایفا کنند؟

اگرچه ممکن است اندازه آنها کوچکتر باشد، اما استارتاپ ها توانایی حرکت سوزن در صنعت و تأثیرگذاری بر تغییر در حوزه تخصصی خود را دارند.

برخی از راه هایی که آنها می توانند از استفاده مسئولانه از هوش مصنوعی اطمینان حاصل کنند عبارتند از:

– تیم‌های متنوع و فراگیر برای کاهش تعصب: استارت‌آپ‌ها باید ساخت تیم‌های متنوع و فراگیر را که افراد با پیشینه‌ها، دیدگاه‌ها و تجربیات متفاوت را گرد هم می‌آورند، در اولویت قرار دهند. این تضمین می‌کند که تیم‌ها می‌توانند سیستم‌های هوش مصنوعی ایجاد کنند که نیازها و محیط‌های مختلف را در نظر بگیرند، و سوگیری‌ها را در خروجی‌های هوش مصنوعی شناسایی و کاهش می‌دهند.

– شفافیت و توضیح پذیری: استارت‌آپ‌ها می‌توانند شفافیت و توضیح‌پذیری را در سیستم‌های هوش مصنوعی با مستندسازی واضح نحوه عملکرد الگوریتم‌هایشان، از جمله منابع داده، فرآیندهای یادگیری و معیارهای تصمیم‌گیری، ارتقا دهند.

– همکاری و اشتراک دانش: استارت‌آپ‌ها می‌توانند با مشارکت فعال در همکاری‌های صنعتی و به اشتراک گذاشتن بهترین شیوه‌ها در حین آزمایش و هدایت روش‌های جدید انجام کارها، به استفاده مسئولانه از هوش مصنوعی کمک کنند.

به عنوان یک تجارت، آیا ابتکاری برای جلوگیری از استفاده مضر از هوش مصنوعی دارید؟

از آنجایی که Confluent جریان داده را با داده‌های بی‌درنگ مدیریت می‌کند، ما اطمینان می‌دهیم که مشتریان ما می‌توانند از جریان‌های داده قابل اعتماد به‌طور مداوم غنی‌شده استفاده کنند تا به سرعت مقیاس‌بندی و ایجاد برنامه‌های هوش مصنوعی بی‌درنگ برای حداکثر ارزش داشته باشند.

همچنین بخوانید: از پیمایش پیمایش تا جوامع سفارشی: راه حل هوش مصنوعی ژنرال

جریان داده به سرعت در حال تبدیل شدن به ستون فقرات داده برای هوش مصنوعی مدرن است. راه‌حل‌های ما می‌توانند داده‌های عملیاتی و تحلیلی یک سازمان را از منابع متفاوت ادغام کنند تا یک منبع حقیقت واحد و بی‌درنگ برای همه داده‌های آن‌ها ایجاد کنند. این نه تنها آنها را قادر می‌سازد تا در ساخت و آموزش مدل‌سازی برتری پیدا کنند و به سطوح بی‌نظیر پیچیدگی و دقت در کاربردهای مختلف دست یابند، بلکه به شناسایی هر گونه نشانه‌ای از سوء استفاده در اسرع وقت کمک می‌کند.

–

اعتبار تصویر: همریز

این مقاله برای اولین بار در 22 مارس 2024 منتشر شد

The post زنان و هوش مصنوعی: چگونه استارت‌آپ‌ها می‌توانند از تعصب جنسیتی جلوگیری کنند و استفاده مسئولانه از فناوری را ترویج کنند اولین بار در e27 پدیدار شد.